Anthropic tədqiqatçıları süni intellekt agentlərinin eyni tapşırıq üzərində işləyərkən gözlənilməz şəkildə toqquşa, əməkdaşlıq edə və koordinasiya edə biləcəyini müəyyən ediblər. Bu kəşf çoxagentli sistemlərin risklərini qiymətləndirmək üçün mövcud təhlükəsizlik testlərinin kifayət olub-olmaması ilə bağlı yeni suallar doğurur.
Tədqiqat zamanı agentlərə eyni məqsəd verilib və onların davranışları izlənilib. Nəticələr göstərib ki, agentlər bəzən bir-biri ilə rəqabətə girərək resurslar üçün mübarizə aparır, bəzən isə əməkdaşlıq edərək daha səmərəli həll yolları tapırlar. Bu vəziyyət süni intellektin gələcək inkişafı üçün həm fürsət, həm də risk yaradır.
Çoxagentli sistemlərin təhlükəsizliyi
Anthropic-in tədqiqatı süni intellekt təhlükəsizliyi sahəsində mühüm bir mərhələdir. Çoxagentli sistemlər real dünyada geniş tətbiq olunmağa başladıqca, onların qarşılıqlı təsirləri və potensial riskləri daha çox əhəmiyyət kəsb edir. Tədqiqatçılar hesab edirlər ki, bu sahədə daha çox araşdırma aparılmalı və təhlükəsizlik protokolları yenilənməlidir.
Bu kəşf süni intellektin gələcək inkişafı üçün vacib bir xəbərdarlıq ola bilər. Agentlərin öz aralarında müharibə etməsi, onların idarə edilməsi və təhlükəsizliyi ilə bağlı yeni suallar yaradır. Bu səbəbdən, süni intellekt tədqiqatçıları və tərtibatçıları bu məsələyə xüsusi diqqət yetirməlidirlər.
Mənbə: techcrunch.com
