Epoch AI tədqiqatçıları açıq mənbəli GLM 5.3 süni intellekt modelinin Firefox brauzerində hələ istifadəçilərə çatdırılmamış təhlükəsizlik yamalarından istifadə edərək sandbox müdafiəsini aşdığını nümayiş etdirib. Bu nəticə süni intellekt modellərinin kibertəhlükəsizlik sahəsində yaratdığı potensial risklər barədə ciddi suallar doğurur.
Təcrübənin detalları
Tədqiqatçılar modelin yalnız ictimaiyyətə açıq məlumatlarla deyil, həm də hələ tətbiq olunmamış düzəlişlərin məzmununu analiz edərək müdafiə mexanizmlərini keçə bildiyini göstərib. Bu, süni intellekt agentlərinin getdikcə daha mürəkkəb tapşırıqları yerinə yetirmə qabiliyyətinin artdığını ortaya qoyur.
Sandbox texnologiyası proqram təminatının təcrid olunmuş mühitdə işləməsini təmin edərək potensial zərərli əməliyyatların sistemə təsirinin qarşısını almaq üçün istifadə olunur. Modelin bu müdafiəni aşa bilməsi süni intellekt təhlükəsizliyi sahəsində yeni yanaşmaların zəruriliyini göstərir.
Sektor üçün nəticələr
Bu cür tədqiqatlar göstərir ki, süni intellekt modellərinin imkanları artdıqca onların nəzarəti və təhlükəsizliyi məsələsi daha da mürəkkəbləşir. Proqram təminatı istehsalçıları üçün yama idarəetməsi proseslərinin təkmilləşdirilməsi, açıq mənbəli modellərin isə məsuliyyətli şəkildə yerləşdirilməsi vacibdir.
Ekspertlər hesab edir ki, gələcəkdə süni intellekt agentlərinin təhlükəsizlik testləri standart prosedura çevrilməlidir. Azərbaycanda da süni intellekt həllərini tətbiq edən şirkətlər üçün bu cür beynəlxalq təcrübəni nəzərə almaq faydalı olar.
Mənbə: shiftdelete.net
