Anthropic və OpenAI süni intellekt laboratoriyalarının daxilində müstəqil təhlükəsizlik qiymətləndiriciləri yerləşdirmək niyyətindədir. Bu, süni intellekt sahəsində indiyədək görünməmiş bir yanaşmadır və tədqiqatçılar tərəfindən ehtiyatla qarşılanıb. Onlar hesab edir ki, belə giriş imkanı faydalı ola bilər, lakin real nəzarət üçün şəffaflıq, müstəqillik və sonda tənzimləmə tələb olunur.
İdeyanın mahiyyəti ondan ibarətdir ki, xarici ekspertlər şirkətin daxilində çalışaraq modellərin təhlükəsizlik səviyyəsini qiymətləndirsin. Bu yanaşma şirkətlərə modelləri buraxmazdan əvvəl riskləri daha yaxşı anlamağa imkan verə bilər. Bununla belə, ekspertlər xəbərdarlıq edir ki, auditorlar şirkətdən maliyyə və ya digər asılılıqda olarsa, nəticələri qərəzli ola bilər.
Müstəqillik problemi
Əsas müzakirə mövzusu auditorların nə qədər müstəqil ola biləcəyidir. Əgər onlar şirkətin əməkdaşı kimi çalışırsa və hesabatları rəhbərliyə təqdim edirsə, ciddi problemlərin üstü örtülə bilər. Tədqiqatçılar hesab edir ki, həqiqi nəzarət yalnız o halda mümkündür ki, auditorların hesabatları müstəqil orqana və ya tənzimləyiciyə də açıq olsun.
Digər bir məsələ şəffaflıqdır. Şirkətlər hansı modellərin necə qiymətləndirildiyini, hansı risklərin aşkarlandığını və nə kimi düzəlişlər edildiyini açıqlamalıdır. Əks halda ictimaiyyət və tənzimləyicilər yalnız şirkətin öz bəyanatlarına güvənməli olur ki, bu da uzunmüddətli etimad üçün kifayət etmir.
Sektor üçün nəticələr
Süni intellekt modelləri getdikcə daha güclü və geniş yayılmış hala gəlir. Onların təhlükəsizliyi təkcə şirkətlərin deyil, bütün cəmiyyətin marağına uyğundur. Bu səbəbdən Avropa İttifaqı və ABŞ-da tənzimləyicilər artıq süni intellektin risk əsaslı qiymətləndirilməsini tələb edən qaydalar hazırlayır.
Anthropic və OpenAI-ın bu addımı bazar tərəfindən iki cür qiymətləndirilir. Bəziləri bunu məsuliyyətli yanaşma kimi görür, digərləri isə hesab edir ki, şirkətlər könüllü nəzarətlə ciddi tənzimləmədən yayınmağa çalışır. Yekun nəticə ondan asılı olacaq ki, bu auditorlar nə qədər müstəqil, şəffaf və hesabatlı fəaliyyət göstərəcək.
Azərbaycan və region üçün bu tendensiya onu göstərir ki, süni intellekt məhsulları hazırlayan yerli şirkətlər də təhlükəsizlik və şəffaflıq tələblərinə hazırlaşmalıdır. Qlobal bazara çıxmaq istəyən startuplar üçün bu, rəqabət üstünlüyü yarada bilər.
Mənbə: techcrunch.com
