Anthropic süni intellektin dilə görə fərqli davranış nümayiş etdirdiyini təsdiqlədi

Süni intellekt şirkəti Anthropic, inkişaf etdirdiyi söhbət botu Claude-un istifadəçilərlə qurduğu ünsiyyətin seçilən modelə və istifadə olunan dilə bağlı olaraq dəyişə bildiyini ortaya qoyan yeni bir araşdırma yayımladı. Bu tədqiqat, süni intellekt modellərinin çoxdilli kontekstdə gözlənilməz davranış nümunələri sərgiləyə biləcəyini göstərir.

Araşdırmanın əsas nəticələri

Araşdırma, Anthropic-in Claude modelinin eyni suala müxtəlif dillərdə fərqli dərinlikdə və hətta fərqli etik yanaşmalarla cavab verə bildiyini üzə çıxarıb. Bu vəziyyət, süni intellekt təhlükəsizliyi və uyğunlaşma (alignment) sahəsində yeni suallar doğurur. Şirkət, multilingval modellərdəki bu cür uyğunsuzluqların qarşısını almaq üçün əlavə təhlükəsizlik tədbirləri üzərində işlədiyini bildirir, lakin problemin tam həllinin mürəkkəb olduğunu etiraf edir.

Etik davranış və şəffaflıq müzakirələri

Anthropic özünü digər süni intellekt şirkətlərinə nisbətən daha etik bir fiqur kimi təqdim etməyə çalışsa da, bu tapıntılar dil əsaslı qərəzliliyin hələ də ciddi bir problem olduğunu göstərir. Şirkətin bu araşdırmanı açıq şəkildə paylaşması şəffaflıq baxımından müsbət qiymətləndirilsə də, qlobal istifadəçilər üçün vahid təcrübə təmin etmək məsuliyyətini də artırır. Bu hadisə, süni intellekt modellərinin qlobal miqyasda tətbiq edilməzdən əvvəl ciddi linqvistik testlərdən keçməli olduğunu bir daha vurğulayır.

Mənbə: webrazzi.com

spot_imgspot_img

Oxşar xəbərlər

TechCrunch Mobility: robotlar və insanlar arasında A/B testləri

TechCrunch Mobility nəşri nəqliyyatda süni intellektin roluna və robotlarla insanlar arasında A/B testlərinə həsr olunmuş icmalını təqdim edib.

Rusiyada elektrosamokat qaydalarına dair 1600-dən çox təklif toplandı

Rusiyanın Nəqliyyat Nazirliyi elektrosamokatlarla bağlı yol hərəkəti qaydalarına düzəlişlər üzrə 1600-dən çox təklif alıb.

Anthropic əməkdaşları milyonçu oldu: süni intellekt bumu sərvət yaradır

Anthropic şirkətinin Nasdaq birjasında səhmlərini yerləşdirməsindən sonra 5 mindən çox əməkdaşı milyonçuya çevrilib.

Signal Siri və Gemini-nin söhbətləri ələ keçirməsinin qarşısını alır

Signal iOS və Android-də süni intellekt köməkçilərinin söhbətləri oxumasının qarşısını alan yeni funksiyalar tətbiq edir.

Architect Labs süni intellektlə tam dizayn edilən Frostbite prosessorunu təqdim etdi

Architect Labs süni intellekt tərəfindən sıfırdan dizayn edilən Frostbite prosessorunu təqdim edib, lakin məhsuldarlıq rəqəmləri hələ fiziki çip üzərində təsdiqlənməyib.
spot_img