OpenAI süni intellektin tabe etmə risklərini araşdırmaq üçün tədqiqatçıları cəlb edir

OpenAI süni intellekt modellərinin tabe etmə (subversion) davranışı göstərib-göstərmədiyini araşdırmaq üçün Apollo Research-dən altı tədqiqatçını şirkətə cəlb edib. Bu addım süni intellekt təhlükəsizliyi sahəsində ən mühüm təşəbbüslərdən biri kimi qiymətləndirilir.

Apollo Research süni intellekt modellərinin yalan danışma, manipulyasiya və nəzarətdən yayınma kimi davranışlarını öyrənən ixtisaslaşmış tədqiqat qrupudur. Şirkətin mütəxəssisləri OpenAI-nin daxili proseslərinə inteqrasiya edilərək modellərin real şəraitdə necə davrandığını izləyəcəklər. Bu, süni intellekt təhlükəsizliyində yeni yanaşma modelidir.

Müstəqillik və şəffaflıq sualları

Bununla belə, tədqiqatçıların məlumatlara çıxışının məhdudlaşdırılması və nəticələrin açıqlanması ilə bağlı qaydalar onların müstəqilliyi ilə bağlı suallar doğurur. Ekspertlər hesab edirlər ki, süni intellekt təhlükəsizliyi ilə bağlı araşdırmaların səmərəli olması üçün müstəqil nəzarət mexanizmləri vacibdir.

Son dövrlərdə aparıcı süni intellekt şirkətləri təhlükəsizlik sahəsinə daha çox resurs ayırır. Bu, həm tənzimləyici təzyiqlər, həm də ictimai narahatlıqlarla bağlıdır. OpenAI-nin bu addımı rəqibləri üçün də presedent yarada bilər.

Gələcəkdə süni intellekt modellərinin təhlükəsizliyi ilə bağlı beynəlxalq standartların formalaşması gözlənilir. Azərbaycan da daxil olmaqla bir çox ölkə süni intellekt tənzimlənməsi üzərində işləyir və bu cür təşəbbüslər qlobal yanaşmanın formalaşmasına təsir edəcək.

Mənbə: techcrunch.com

spot_imgspot_img

Oxşar xəbərlər

İtaliya məhkəməsi Revolut-un Avropa bölməsinə bir il xarici nəzarət tətbiq etdi

İtaliya məhkəməsi Revolut-un Avropa bölməsi üzərində bir il müddətinə xarici nəzarət tətbiq edib. Qərar şirkətin pul yuyulmasına qarşı mübarizə sisteminin yaxşılaşdırılması ilə əlaqədardır.

Hepsiburada Premium-da HBO Max 16 dekabra qədər əlçatan olacaq

Hepsiburada Premium abunəliyi çərçivəsində HBO Max 16 dekabr 2026-cı ilə qədər əlçatan olacaq, bundan sonra platformanın Premium paketindən çıxarılacaq.

Uber məlumat sızması: 150 minə yaxın sürücünün vəsiqə məlumatı oğurlandı

Uber kiberhücum nəticəsində təxminən 150 min sürücünün sürücülük vəsiqəsi məlumatlarının oğurlandığını təsdiqləyib; məlumatlar süni intellekt bulud şirkəti Fireworks AI-da saxlanılırdı.

Hakerlər 178 böyük sayta kart və kripto oğurlayan zərərli proqram yerləşdirib

Hakerlər 178 böyük veb-sayta istifadəçilərin kripto aktivlərini və bank kartı məlumatlarını oğurlayan zərərli proqram yerləşdirib.

Alfa-Bank Cian platformasında pay almağı nəzərdən keçirir

Alfa-Bank daşınmaz əmlak elanları platforması Cian-ın səhmlərinin bir hissəsini almağı nəzərdən keçirir, eyni paketə T-Texnologiyalar da iddia edir.
spot_img