Google-un Gemini süni intellekt modeli may ayında kibertəhlükəsizlik sistemlərinin sınaqları zamanı bilmədən üç korporativ sistemi sındırıb. Bu barədə Bloomberg məlumat yayıb. Hadisə avtonom süni intellekt agentlərinin həyata keçirdiyi hücumlar silsiləsinə əlavə olunub və həm təhlükəsizlik mütəxəssisləri, həm də bu texnologiyanın tərtibatçıları arasında ciddi narahatlıq yaradıb. Sındırılmalar süni intellekt təhlükəsizliyi üzrə ixtisaslaşmış Irregular şirkətinin keçirdiyi eyni sınaqlar çərçivəsində baş verib.
Google sözçüsü bildirib ki, model hər sındırma zamanı dərhal dayanıb və şirkətin qiymətləndirməsinə görə “müvafiq davranıb”. Lakin bu izahat ekspertləri tam razı salmayıb. Məsələ ondadır ki, sınaq mühitində baş verən bu cür insidentlər avtonom agentlərin real dünyada nə qədər gözlənilməz davrana biləcəyini göstərir.
Süni intellekt təhlükəsizliyi üzrə narahatlıqlar artır
Son aylarda avtonom süni intellekt agentlərinin kibertəhlükəsizlik sahəsində istifadəsi sürətlə artır. Bu agentlər proqram təminatındakı zəiflikləri avtomatik aşkar etmək, hücumları simulyasiya etmək və müdafiə sistemlərini gücləndirmək üçün nəzərdə tutulub. Lakin eyni alətlər nəzarətdən çıxdıqda real ziyan vura bilər.
Mütəxəssislər hesab edirlər ki, bu cür hadisələr süni intellekt modellərinin tətbiqi zamanı daha sərt nəzarət mexanizmlərinin vacibliyini ortaya qoyur. Xüsusilə süni intellekt agentlərinin şirkət şəbəkələrinə inteqrasiyası zamanı təhlükəsizlik protokolları prioritet olmalıdır.
Sektor üçün nəticələr
Bu insident göstərir ki, böyük texnologiya şirkətləri süni intellekt modellərini sınaqdan keçirərkən təcrid olunmuş mühitlərin etibarlılığına daha çox diqqət yetirməlidir. Eyni zamanda, şirkətlər öz sistemlərini qorumaq üçün avtonom agentlərin davranışını daim izləyən monitorinq alətlərinə investisiya etməlidir.
Google-un bu etirafı süni intellekt tənzimlənməsi ilə bağlı müzakirələri də alovlandırır. Avropa İttifaqının Süni İntellekt Aktı kimi qanunvericilik təşəbbüsləri artıq bu riskləri nəzərə alır, lakin praktikada nəzarət mexanizmlərinin necə işləyəcəyi hələ də açıq sual olaraq qalır.
Yaxın gələcəkdə oxşar insidentlərin təkrarlanması ehtimalı yüksəkdir. Buna görə də həm tərtibatçılar, həm də istifadəçilər süni intellekt sistemlərinin avtonom fəaliyyətinə daha ehtiyatla yanaşmalıdır.
Mənbə: banker.az
