Süni intellekt təhlükəsizliyi sahəsində diqqətçəkən bir hadisə baş verdi: tədqiqatçılar Anthropic şirkətinin Claude modelindən istifadə edərək OpenAI sistemlərində boşluqları aşkar edib və istifadə ediblər. Nəticədə tədqiqatçılar şirkətin işçi hesablarını ələ keçirib və daxili kod repozitoriyasına çıxış əldə ediblər. Bu hadisə süni intellekt əsaslı kibertəhlükəsizlik alətlərinin nə qədər güclü olduğunu və eyni zamanda nə qədər ciddi risk yarada biləcəyini göstərir.
Məlumata görə, tədqiqatçılar aşkar etdikləri boşluqları dərhal OpenAI komandasına bildiriblər və şirkət problemləri aradan qaldırmaq üçün addımlar atıb. Bu cür məsuliyyətli açıqlama modeli kibertəhlükəsizlik sahəsində geniş yayılmış təcrübədir və şirkətlər arasında əməkdaşlığın vacibliyini vurğulayır.
Süni intellekt agentlərinin təhlükəsizlik riskləri
Bu hadisə süni intellekt agentlərinin təhlükəsizlik sahəsində yaratdığı yeni problemləri gündəmə gətirir. Şirkətlər getdikcə daha uzun və mürəkkəb tapşırıqları süni intellekt agentlərinə həvalə edirlər, lakin bu agentlər insanların nəzarət edə biləcəyindən daha sürətli, daha uzun müddət və daha böyük həcmdə fəaliyyət göstərə bilirlər. Bu da nəzarət problemini yaradır.
Ekspertlər hesab edirlər ki, süni intellekt agentlərinin yaratdığı risklərin qarşısını almaq üçün yeni nəzarət mexanizmləri, o cümlədən süni intellekt əsaslı monitorinq sistemləri tətbiq edilməlidir. Bəzi mütəxəssislər isə hesab edirlər ki, bu yanaşma özü də əlavə risklər yarada bilər.
Bu hadisə həm də süni intellekt sahəsində rəqabətin nə qədər kəskin olduğunu göstərir. Anthropic və OpenAI kimi şirkətlər arasında texnoloji liderlik uğrunda mübarizə gedir və bu mübarizə təhlükəsizlik məsələlərini də əhatə edir.
Azərbaycan və region üçün nəticələr
Azərbaycanda da süni intellekt texnologiyalarının tətbiqi genişlənir. Bu cür hadisələr yerli şirkətlər üçün vacib dərs ola bilər: süni intellekt alətlərindən istifadə edərkən təhlükəsizlik tədbirlərinə xüsusi diqqət yetirilməlidir. Xüsusilə maliyyə, səhiyyə və dövlət sektorunda fəaliyyət göstərən qurumlar üçün bu məsələ daha da aktuallaşır.
Gələcəkdə süni intellekt əsaslı kiberhücumların artacağı gözlənilir. Buna görə də şirkətlər həm müdafiə sistemlərini gücləndirməli, həm də beynəlxalq əməkdaşlığı genişləndirməlidir.
Mənbə: techcrunch.com
