Süni intellekt şirkəti Anthropic, inkişaf etdirdiyi söhbət botu Claude-un istifadəçilərlə qurduğu ünsiyyətin seçilən modelə və istifadə olunan dilə bağlı olaraq dəyişə bildiyini ortaya qoyan yeni bir araşdırma yayımladı. Bu tədqiqat, süni intellekt modellərinin çoxdilli kontekstdə gözlənilməz davranış nümunələri sərgiləyə biləcəyini göstərir.
Araşdırmanın əsas nəticələri
Araşdırma, Anthropic-in Claude modelinin eyni suala müxtəlif dillərdə fərqli dərinlikdə və hətta fərqli etik yanaşmalarla cavab verə bildiyini üzə çıxarıb. Bu vəziyyət, süni intellekt təhlükəsizliyi və uyğunlaşma (alignment) sahəsində yeni suallar doğurur. Şirkət, multilingval modellərdəki bu cür uyğunsuzluqların qarşısını almaq üçün əlavə təhlükəsizlik tədbirləri üzərində işlədiyini bildirir, lakin problemin tam həllinin mürəkkəb olduğunu etiraf edir.
Etik davranış və şəffaflıq müzakirələri
Anthropic özünü digər süni intellekt şirkətlərinə nisbətən daha etik bir fiqur kimi təqdim etməyə çalışsa da, bu tapıntılar dil əsaslı qərəzliliyin hələ də ciddi bir problem olduğunu göstərir. Şirkətin bu araşdırmanı açıq şəkildə paylaşması şəffaflıq baxımından müsbət qiymətləndirilsə də, qlobal istifadəçilər üçün vahid təcrübə təmin etmək məsuliyyətini də artırır. Bu hadisə, süni intellekt modellərinin qlobal miqyasda tətbiq edilməzdən əvvəl ciddi linqvistik testlərdən keçməli olduğunu bir daha vurğulayır.
Mənbə: webrazzi.com
