OpenAI şirkətinin yeni süni intellekt modeli Astra, istifadə etdiyi innovativ “təkrarlanan dərinlik” (recurrent depth) texnikası ilə süni intellekt təhlükəsizliyi sahəsində çalışan mütəxəssislərin narahatlığına səbəb olub. Bu texnika modelin əksər düşünmə modellərini xarakterizə edən ardıcıl düşünmə prosesindən kənarda işləməsinə imkan verir və bu, potensial riskləri artırır.
OpenAI-ın açıqlamasına görə, Astra modeli Preparedness Framework çərçivəsində kritik kibertəhlükəsizlik testlərindən keçirilib. Lakin mütəxəssislər qeyd edirlər ki, modelin qeyri-ardıcıl düşünmə qabiliyyəti onun davranışını proqnozlaşdırmağı çətinləşdirir və nəzarət mexanizmlərinin effektivliyini azalda bilər.
Texniki detallar və risklər
Astra modelində istifadə olunan “təkrarlanan dərinlik” metodu, modelin hər bir addımda eyni neyron şəbəkə qatını təkrar-təkrar işə salmasını nəzərdə tutur. Bu, modelin hesablama gücünü artırmaqla yanaşı, onun düşünmə prosesini daha qeyri-şəffaf edir. Təhlükəsizlik tədqiqatçıları hesab edirlər ki, bu cür yanaşma modelin arzuolunmaz davranışlarını aşkar etməyi çətinləşdirir və “qara qutu” effekti yaradır.
Bundan əlavə, modelin geniş istifadəyə verilməsi ərəfəsində, onun sosial mühəndislik hücumları, dezinformasiya yayılması və ya digər zərərli məqsədlər üçün istismar edilmə riski də müzakirə olunur. OpenAI şirkəti isə bildirir ki, Astra modeli ən ciddi təhlükəsizlik standartlarına uyğun hazırlanıb və onun buraxılışı mərhələli şəkildə həyata keçiriləcək.
Sektor üçün nəticələr
Bu hadisə süni intellekt sahəsində təhlükəsizlik məsələlərinin nə qədər vacib olduğunu bir daha göstərir. OpenAI kimi aparıcı şirkətlərin yeni modelləri təqdim edərkən təhlükəsizlik protokollarına ciddi əməl etməsi, sektorun davamlı inkişafı üçün şərtdir. Eyni zamanda, bu vəziyyət tənzimləyici orqanların diqqətini də artırır və süni intellekt sahəsində qanunvericiliyin təkmilləşdirilməsi zərurətini ortaya qoyur.
Mənbə: techcrunch.com
