Kibertəhlükəsizlik şirkəti Dragos süni intellekt provayderlərinin məlumatların qorunması ilə bağlı vədlərini sınaqdan keçirib. Şirkət süni intellekt xidmətlərinə təqribən 2 milyon istem göndərib və nəticələr narahatlıq doğurub: ən azı üç provayderdə saldırğan istifadəçilərin “sıfır məlumat saxlama” ayarlarını da aşağı sala bilib.
ShiftDelete-in məlumatına görə, Dragos sözdə “kanareyka” testindən istifadə edib. Bu üsulun mahiyyəti ondan ibarətdir ki, sistemə xüsusi izlənə bilən məlumatlar (marker) yerləşdirilir və sonra həmin məlumatların harada görünməsi yoxlanılır. Əgər marker gözlənilməz yerdə — məsələn, başqa istifadəçinin cavabında və ya ictimai məkanda — ortaya çıxırsa, bu, məlumat sızması deməkdir.
Sıfır saxlama niyə əhəmiyyətlidir?
Bir çox süni intellekt provayderi istifadəçilərə “sıfır məlumat saxlama” (zero data retention) seçimi təklif edir. Bu ayar aktiv olduqda provayder istifadəçinin sorğularını və cavablarını modelin təlimi üçün saxlamamalıdır. Korporativ müştərilər üçün bu, həssas məlumatların qorunmasında əsas zəmanətlərdən biridir.
Dragos-un nəticələri göstərir ki, bu zəmanət hər halda etibarlı deyil. Əgər istemlər sızırsa, o zaman həssas biznes məlumatları, hüquqi sənədlər və ya şəxsi məlumatlar üçüncü tərəflərin əlinə keçə bilər. Bu, xüsusilə maliyyə, səhiyyə və dövlət sektorunda süni intellektdən istifadə edən təşkilatlar üçün ciddi risk yaradır.
İstem sızması nə deməkdir?
“İstem” (prompt) süni intellekt modelinə verilən sorğudur. Korporativ istifadədə bu sorğuların içində müştəri məlumatları, daxili sənədlər, kod fraqmentləri və ya strateji qərarlar ola bilər. İstem sızması yalnız məxfilik pozuntusu deyil, həm də rəqabət kəşfiyyatı üçün fürsət yaradır.
Ekspertlər hesab edir ki, provayderlər təkcə ayar səviyyəsində deyil, arxitektura səviyyəsində təcrid mexanizmləri tətbiq etməlidir. Həmçinin müştərilər özləri də süni intellekt xidmətlərinə göndərdikləri məlumatların həssaslığını qiymətləndirməli və lazım gəldikdə daxili filtrasiya sistemlərindən istifadə etməlidir.
Bu hadisə süni intellekt bazarında etimad məsələsini yenidən gündəmə gətirir. Provayderlər arasında rəqabət gücləndikcə məlumatların qorunması vədləri daha çox yoxlanılacaq və müstəqil auditlər standart tələbə çevrilə bilər.
Mənbə: shiftdelete.net



