OpenAI süni intellekt təhlükəsizliyi sahəsində mühüm addım ataraq yeni modellərini internetə çıxışı olmayan, təcrid olunmuş mühitdə öyrətmək qərarına gəlib. Şirkət bununla bağlı rəsmi elan verib və bildirib ki, bu dəyişiklik bir sıra təhlükəsizlik insidentlərindən sonra həyata keçirilir. Yeni yanaşma çərçivəsində modellər yalnız əvvəlcədən qeydə alınmış və yoxlanılmış məzmun üzərində təlim keçəcək. Bu qərar süni intellekt sənayesində model təlimi proseslərinin şəffaflığı və nəzarəti ilə bağlı müzakirələri yenidən gündəmə gətirib.
Təhlükəsizlik narahatlıqları qərarın əsasını təşkil edir
Məlumata görə, OpenAI-nin bu addımı model təlimi zamanı yarana biləcək nəzarətsiz məlumat axını risklərini minimuma endirmək məqsədi daşıyır. İnternetə açıq mühitdə öyrədilən modellər potensial olaraq zərərli məzmun, dezinformasiya və ya arzuolunmaz davranış nümunələri mənimsəyə bilər. Təcrid olunmuş mühit isə tərtibatçılara hər bir məlumat mənbəyini əvvəlcədən yoxlamaq və təlim prosesinə nəzarət etmək imkanı verir. Bu yanaşma xüsusilə böyük dil modellərinin təhlükəsizliyi üzrə çalışan tədqiqatçılar tərəfindən müsbət qiymətləndirilir.
Sənaye ekspertləri qeyd edirlər ki, bu cür dəyişiklik OpenAI kimi aparıcı şirkətlərin məsuliyyətli süni intellekt inkişafı sahəsində artan təzyiqlərə cavabıdır. Son dövrlərdə bir neçə süni intellekt şirkəti model davranışı ilə bağlı gözlənilməz nəticələrlə üzləşib və bu, tənzimləyicilərin diqqətini cəlb edib. Avropa İttifaqının Süni İntellekt Aktı və digər regional qaydalar da model təlimi proseslərinə daha sərt tələblər qoyur.
Sektor üçün nəticələr
Bu qərar süni intellekt bazarında rəqabət mühitinə təsir göstərə bilər. Təcrid olunmuş təlim mühiti daha çox resurs və vaxt tələb etdiyindən, kiçik startuplar üçün bu cür yanaşmanı tətbiq etmək çətin ola bilər. Digər tərəfdən, böyük şirkətlər üçün bu, etimad qazanmaq və tənzimləyicilərlə münasibətləri yaxşılaşdırmaq üçün fürsət yaradır. Ekspertlər hesab edir ki, yaxın dövrlərdə digər aparıcı süni intellekt şirkətləri də oxşar tədbirlər görə bilər.
Azərbaycan kontekstində də süni intellekt sahəsində təhlükəsizlik və etika məsələləri getdikcə aktuallaşır. Yerli süni intellekt ekosistemi inkişaf etdikcə, beynəlxalq təcrübənin tətbiqi və model təlimi proseslərində şəffaflığın təmin edilməsi vacib amilə çevrilir. Bu cür qlobal dəyişikliklər yerli tərtibatçılar üçün də örnək ola bilər.
OpenAI-nin bu addımı həm də süni intellekt modellərinin auditə açıqlığı ilə bağlı müzakirələri gücləndirir. Gələcəkdə modellərin hansı məlumatlar əsasında öyrədildiyinin sənədləşdirilməsi standart tələbə çevrilə bilər. Bu isə öz növbəsində bütün sənaye üçün yeni normalar formalaşdıracaq.
Mənbə: shiftdelete.net
