ABŞ-ın süni intellekt nəhəngi Anthropic rəsmi hesabat yayımlayaraq Çinli süni intellekt şirkətlərinin Claude modelinə qarşı məqsədli kiberhücumlar təşkil etdiyini açıqlayıb. Şirkətin yaydığı məlumata görə, bir neçə kampaniya aşkar edilib və dərhal qarşısı alınıb. Bu hadisə süni intellekt sənayesində model təhlükəsizliyi və məlumatların qorunması mövzusunu yenidən gündəmin mərkəzinə gətirib.
Süni intellekt modellərinə hücumların mahiyyəti
Anthropic-in araşdırmasına əsasən, hücumların əsas məqsədi Claude modelinin qabiliyyətlərini “damıtma” (distillation) yolu ilə oğurlamaq olub. Bu üsulda rəqib tərəf minlərlə sorğu göndərərək modelin cavablarını toplayır və sonradan öz sistemini bu məlumatlar əsasında öyrədir. Belə yanaşma həm əqli mülkiyyət hüquqlarını pozur, həm də modelin təhlükəsizlik filtrlərini zəiflədir. Şirkət bildirib ki, aşkar edilən kampaniyalar bir neçə Çin mənşəli süni intellekt şirkəti ilə əlaqəlidir və onların fəaliyyəti dayandırılıb.
Bu cür hücumlar təkcə texnoloji deyil, həm də geosiyasi xarakter daşıyır. ABŞ ilə Çin arasında süni intellekt yarışı getdikcə daha kəskinləşir və hər iki tərəf model üstünlüyünü əldə etmək üçün müxtəlif üsullara əl atır. Süni intellekt sahəsində təhlükəsizlik standartlarının formalaşdırılması isə hələ də beynəlxalq səviyyədə tam həllini tapmayıb.
Sektor üçün nəticələr
Hadisə süni intellekt şirkətləri üçün bir neçə mühüm nəticə yaradır. Birincisi, model təhlükəsizliyinə investisiyalar artırılmalıdır — sorğu axınlarının monitorinqi, anomaliyaların aşkarlanması və API səviyyəsində müdafiə mexanizmləri artıq lüks deyil, zərurətdir. İkincisi, müəssisə müştəriləri öz məlumatlarının hansı modeldə və hansı yurisdiksiyada emal edildiyini daha diqqətlə qiymətləndirməlidir. Üçüncüsü, tənzimləyicilər üçün bu hadisə süni intellekt modellərinin transsərhəd istifadəsinə dair yeni qaydaların hazırlanması üçün əsas verir.
Azərbaycan kontekstində isə bu proses xüsusi əhəmiyyət kəsb edir. Ölkədə rəqəmsal transformasiya və “ağıllı şəhər” layihələri genişləndikcə, xarici süni intellekt xidmətlərindən asılılıq artır. Bu baxımdan yerli müəssisələrin hansı provayderlə işlədiyini, məlumatların harada saxlandığını və təhlükəsizlik zəmanətlərinin nə olduğunu dəqiqləşdirməsi vacibdir. Süni intellektə əsaslanan xidmətlərin davamlılığı birbaşa kibertəhlükəsizlik səviyyəsindən asılıdır.
Ekspertlər hesab edir ki, yaxın illərdə model damıtma və digər oxşar hücum üsulları daha da mürəkkəbləşəcək. Buna görə süni intellekt şirkətləri təhlükəsizlik komandalarını gücləndirməli, beynəlxalq əməkdaşlığı genişləndirməli və istifadəçiləri şəffaf şəkildə məlumatlandırmalıdır. Anthropic-in addımı bu istiqamətdə mühüm presedent yaradır.
Mənbə: sostav.ru
