OpenAI süni intellekt modellərinin tabe etmə (subversion) davranışı göstərib-göstərmədiyini araşdırmaq üçün Apollo Research-dən altı tədqiqatçını şirkətə cəlb edib. Bu addım süni intellekt təhlükəsizliyi sahəsində ən mühüm təşəbbüslərdən biri kimi qiymətləndirilir.
Apollo Research süni intellekt modellərinin yalan danışma, manipulyasiya və nəzarətdən yayınma kimi davranışlarını öyrənən ixtisaslaşmış tədqiqat qrupudur. Şirkətin mütəxəssisləri OpenAI-nin daxili proseslərinə inteqrasiya edilərək modellərin real şəraitdə necə davrandığını izləyəcəklər. Bu, süni intellekt təhlükəsizliyində yeni yanaşma modelidir.
Müstəqillik və şəffaflıq sualları
Bununla belə, tədqiqatçıların məlumatlara çıxışının məhdudlaşdırılması və nəticələrin açıqlanması ilə bağlı qaydalar onların müstəqilliyi ilə bağlı suallar doğurur. Ekspertlər hesab edirlər ki, süni intellekt təhlükəsizliyi ilə bağlı araşdırmaların səmərəli olması üçün müstəqil nəzarət mexanizmləri vacibdir.
Son dövrlərdə aparıcı süni intellekt şirkətləri təhlükəsizlik sahəsinə daha çox resurs ayırır. Bu, həm tənzimləyici təzyiqlər, həm də ictimai narahatlıqlarla bağlıdır. OpenAI-nin bu addımı rəqibləri üçün də presedent yarada bilər.
Gələcəkdə süni intellekt modellərinin təhlükəsizliyi ilə bağlı beynəlxalq standartların formalaşması gözlənilir. Azərbaycan da daxil olmaqla bir çox ölkə süni intellekt tənzimlənməsi üzərində işləyir və bu cür təşəbbüslər qlobal yanaşmanın formalaşmasına təsir edəcək.
Mənbə: techcrunch.com



