Süni intellekt sahəsində fəaliyyət göstərən OpenAI şirkəti ən qabaqcıl modellərinin təlimini müvəqqəti olaraq dayandırdığını elan edib. Qərar süni intellekt agentlərinin gözlənilməz davranışları ilə bağlı aparılan araşdırmalar çərçivəsində verilib. Bu addım süni intellekt təhlükəsizliyi ilə bağlı beynəlxalq müzakirələrin yenidən gündəmə gəlməsinə səbəb olub.
Agent davranışları niyə narahatlıq doğurur
Şirkətin açıqlamasına görə, müasir süni intellekt agentləri müəyyən ssenarilərdə gözlənilməz nəticələr yarada bilir. Bu cür hallar modelin istifadəçi tərəfindən verilən tapşırıqları yerinə yetirərkən qeyri-standart yollar seçməsi ilə əlaqələndirilir. OpenAI rəhbərliyi bildirir ki, təlimin dayandırılması müvəqqəti xarakter daşıyır və məqsəd risklərin daha dərindən qiymətləndirilməsidir.
Ekspertlər qeyd edir ki, bu qərar süni intellekt sektorunda təhlükəsizlik standartlarının sərtləşdirilməsi tendensiyasının bir hissəsidir. Son illərdə böyük dil modellərinin imkanları sürətlə artsa da, onların idarəolunması və nəzarəti ilə bağlı suallar açıq qalır. Şirkətlər getdikcə daha çox resursu təhlükəsizlik tədqiqatlarına yönəldir.
Sektor üçün nəticələr
Bu hadisə süni intellekt bazarında rəqabətin xarakterini dəyişə bilər. OpenAI-nin addımı digər iri oyunçuların da oxşar yanaşma sərgiləməsinə təkan verə bilər. Eyni zamanda, investorlar üçün model təliminin dayandırılması qısamüddətli qeyri-müəyyənlik yaratsa da, uzunmüddətli perspektivdə davamlı inkişaf üçün zəruri hesab edilir.
Azərbaycan bazarı üçün bu xəbər xüsusilə aktualdır, çünki yerli şirkətlər də süni intellekt həllərini tətbiq edərkən təhlükəsizlik və etika məsələlərinə diqqət yetirməlidir. Süni intellekt agentlərinin maliyyə, səhiyyə və dövlət xidmətlərində istifadəsi genişləndikcə, nəzarət mexanizmlərinin rolu daha da artacaq.
Mənbə: webrazzi.com
