Süni intellekt tədqiqatları ilə məşğul olan Anthropic şirkəti avtonom süni intellekt agentlərinin CAPTCHA testlərində yaşadığı problemləri açıqlayıb. Şirkətin araşdırması göstərir ki, süni intellekt agentləri internetə özlərini insan kimi təqdim etməyə çalışarkən CAPTCHA maneələri ilə üzləşir və bu maneələri aşmaqda çətinlik çəkirlər.
Avtonom agentlər və insan identifikasiyası
CAPTCHA testləri veb saytların botlardan qorunması üçün istifadə olunan ənənəvi üsuldur. Bu testlər istifadəçinin insan olduğunu təsdiqləmək üçün şəkilləri tanımaq, mətn daxil etmək və ya müəyyən tapşırıqları yerinə yetirmək kimi vəzifələri əhatə edir. Anthropic-in araşdırması süni intellekt agentlərinin bu cür tapşırıqlarda insanlardan fərqli davrandığını və müəyyən hallarda uğursuz olduğunu ortaya qoyur.
Bu vəziyyət süni intellekt agentlərinin avtonom fəaliyyət göstərdiyi mühitlərdə yeni suallar doğurur. Agentlər müəyyən tapşırıqları yerinə yetirmək üçün veb saytlara daxil olmalı olduqda, CAPTCHA maneələri onların işini çətinləşdirir. Eyni zamanda, bu maneələr saytların bot trafikindən qorunması üçün vacib mexanizm olaraq qalır.
Süni intellekt təhlükəsizliyi üçün nəticələr
Anthropic-in tədqiqatı süni intellekt agentlərinin real dünyada fəaliyyəti zamanı ortaya çıxan praktiki problemləri işıqlandırır. Şirkət qeyd edir ki, agentlərin insan kimi tanınmağa çalışması etik və təhlükəsizlik baxımından müəyyən risklər daşıyır. Bu səbəbdən tərtibatçılar agentlərin fəaliyyətini izləmək və məhdudlaşdırmaq üçün yeni üsullar hazırlamalıdır.
Ekspertlər hesab edir ki, süni intellekt agentlərinin sayı artdıqca veb saytların qorunma mexanizmləri də təkamül keçirməlidir. CAPTCHA sistemlərinin gələcəkdə daha mürəkkəb və davranış əsaslı üsullarla əvəz olunması gözlənilir. Bu yanaşma həm insan istifadəçilər üçün rahatlığı artıracaq, həm də avtonom agentlərin sui-istifadəsinin qarşısını almağa kömək edəcək.
Anthropic-in açıqlaması süni intellekt sənayesində şəffaflığın artırılması istiqamətində mühüm addım kimi qiymətləndirilir. Şirkət agentlərin davranışını öyrənməklə yanaşı, onların təhlükəsiz və etik istifadəsi üçün tövsiyələr də hazırlayır.
Mənbə: techcrunch.com
