Anthropic şirkəti yayımladığı hesabatda Claude süni intellekt modelinin kiberhücumlar və kütləvi nəzarət sistemləri yaratmaq üçün istifadə olunduğunu açıqlayıb. Şirkətin məlumatına görə, rusdilli operator 20-dən çox təşkilata qarşı hücum həyata keçirib, Malidən olan bir məsləhətçi isə Claude-dan kütləvi nəzarət platforması qurmaq üçün istifadə edib. Bu hadisələr süni intellektin təhlükəsizlik sahəsində yaratdığı riskləri yenidən gündəmə gətirir.
Süni intellektin sui-istifadəsi genişlənir
Anthropic-in hesabatı göstərir ki, qabaqcıl süni intellekt modelləri təkcə qanuni biznes və tədqiqat məqsədləri üçün deyil, həm də zərərli fəaliyyətlər üçün istifadə olunur. Şirkət bildirir ki, bu cür sui-istifadə hallarını aşkar etmək və qarşısını almaq üçün təhlükəsizlik sistemlərini gücləndirir. Lakin bu hadisələr süni intellekt şirkətlərinin məsuliyyəti və tənzimləmə ehtiyacı ilə bağlı suallar doğurur.
Bu yaxınlarda Anthropic həmçinin Çinli süni intellekt şirkətlərinin Claude üzərindən istifadəçi məlumatlarını icazəsiz topladığını və damıtma (distillation) metodlarından istifadə etdiyini iddia etmişdi. Şirkətin hesabatı göstərir ki, süni intellekt modellərinin təhlükəsizliyi və etik istifadəsi qlobal səviyyədə ciddi müzakirə mövzusuna çevrilib.
Tənzimləmə və gələcək perspektivlər
Süni intellektin kibertəhlükəsizlik sahəsində istifadəsi artdıqca, hökumətlər və beynəlxalq təşkilatlar bu sahədə tənzimləmə çərçivəsini gücləndirməyə çalışırlar. Avropa İttifaqının Süni İntellekt Aktı və digər tənzimləmə təşəbbüsləri bu cür risklərin idarə olunmasına yönəlib. Lakin texnologiyanın sürətli inkişafı tənzimləyicilərin qabaqlayıcı tədbirlər görməsini çətinləşdirir.
Azərbaycan və region üçün bu hadisə süni intellekt təhlükəsizliyinin vacibliyini vurğulayır. Rəqəmsal transformasiya prosesində olan ölkələr süni intellekt sistemlərini tətbiq edərkən təhlükəsizlik və məlumatların qorunması məsələlərinə xüsusi diqqət yetirməlidir. Süni intellekt sahəsində fəaliyyət göstərən şirkətlər üçün etik standartlara riayət etmək getdikcə daha vacib olur.
Mənbə: cointelegraph.com
