Dragos testi: süni intellekt istemləri sızır, sıfır saxlama ayarları da qorxmur

Kibertəhlükəsizlik şirkəti Dragos süni intellekt provayderlərinin məlumatların qorunması ilə bağlı vədlərini sınaqdan keçirib. Şirkət süni intellekt xidmətlərinə təqribən 2 milyon istem göndərib və nəticələr narahatlıq doğurub: ən azı üç provayderdə saldırğan istifadəçilərin “sıfır məlumat saxlama” ayarlarını da aşağı sala bilib.

ShiftDelete-in məlumatına görə, Dragos sözdə “kanareyka” testindən istifadə edib. Bu üsulun mahiyyəti ondan ibarətdir ki, sistemə xüsusi izlənə bilən məlumatlar (marker) yerləşdirilir və sonra həmin məlumatların harada görünməsi yoxlanılır. Əgər marker gözlənilməz yerdə — məsələn, başqa istifadəçinin cavabında və ya ictimai məkanda — ortaya çıxırsa, bu, məlumat sızması deməkdir.

Sıfır saxlama niyə əhəmiyyətlidir?

Bir çox süni intellekt provayderi istifadəçilərə “sıfır məlumat saxlama” (zero data retention) seçimi təklif edir. Bu ayar aktiv olduqda provayder istifadəçinin sorğularını və cavablarını modelin təlimi üçün saxlamamalıdır. Korporativ müştərilər üçün bu, həssas məlumatların qorunmasında əsas zəmanətlərdən biridir.

Dragos-un nəticələri göstərir ki, bu zəmanət hər halda etibarlı deyil. Əgər istemlər sızırsa, o zaman həssas biznes məlumatları, hüquqi sənədlər və ya şəxsi məlumatlar üçüncü tərəflərin əlinə keçə bilər. Bu, xüsusilə maliyyə, səhiyyə və dövlət sektorunda süni intellektdən istifadə edən təşkilatlar üçün ciddi risk yaradır.

İstem sızması nə deməkdir?

“İstem” (prompt) süni intellekt modelinə verilən sorğudur. Korporativ istifadədə bu sorğuların içində müştəri məlumatları, daxili sənədlər, kod fraqmentləri və ya strateji qərarlar ola bilər. İstem sızması yalnız məxfilik pozuntusu deyil, həm də rəqabət kəşfiyyatı üçün fürsət yaradır.

Ekspertlər hesab edir ki, provayderlər təkcə ayar səviyyəsində deyil, arxitektura səviyyəsində təcrid mexanizmləri tətbiq etməlidir. Həmçinin müştərilər özləri də süni intellekt xidmətlərinə göndərdikləri məlumatların həssaslığını qiymətləndirməli və lazım gəldikdə daxili filtrasiya sistemlərindən istifadə etməlidir.

Bu hadisə süni intellekt bazarında etimad məsələsini yenidən gündəmə gətirir. Provayderlər arasında rəqabət gücləndikcə məlumatların qorunması vədləri daha çox yoxlanılacaq və müstəqil auditlər standart tələbə çevrilə bilər.

Mənbə: shiftdelete.net

spot_imgspot_img

Oxşar xəbərlər

Google ana səhifəsindən “Ara” düyməsini çıxarır: Gemini önə çıxır

Google ana səhifədəki “Ara” düyməsini kaldırır və süni intellekt əsaslı Gemini funksiyalarını ön plana çıxarır. Yenilik hələ Türkiyədə yoxdur.

Ukraynalı Skyfall Almaniyada drone istehsalı üçün birgə müəssisə qurur

Ukraynalı Skyfall və Auterion Almaniyada Ukrayna üçün yüksək həcmli drone istehsal edəcək birgə müəssisə qurur.

Tatyana Kim Wildberries rəhbərliyindən getdi: vəzifəni Aleksey Qulikov tutdu

Tatyana Kim Wildberries baş direktoru vəzifəsindən gedib, onun yerinə Aleksey Qulikov təyin edilib. Dəyişiklik Aİ sanksiyaları fonunda baş verib.

Bitcoin iki illik minimumdan sonra 60 min dolları keçdi: 1,8 milyardlıq likvidasiya dalğası

Bitcoin əvvəlcə iki illik minimuma düşdü, sonra 9 faiz bərpa ilə 60 min dolları keçdi. Satış dalğası 1,8 milyard dollarlıq leverecli mövqeləri silib-süpürdü.

OpenAI-ın süni intellekt telefonunun montajı Foxconn-a verildi

OpenAI-ın süni intellekt telefonunun montajı Foxconn-a verildi, cihazın 2027-2028-ci illərdə təqdim olunması gözlənilir.
spot_img