Süni intellekt təhlükəsizliyi sahəsində fəaliyyət göstərən Goodfire şirkəti agentlərin fəaliyyətini izləmək üçün yeni və daha sərfəli həll təqdim edib. Şirkətin ‘içəridən xaricə’ adlandırdığı monitorlar agentin hər addımını ayrıca süni intellekt modeli ilə yoxlamaq əvəzinə, modelin daxili işinə nəzər salır və yalnız şübhəli hallarda əlavə yoxlama işə salır.
Xərc baxımından üstünlük
Ənənəvi yanaşmada hər bir agentin fəaliyyətini yoxlamaq üçün ikinci bir süni intellekt modeli işə salınır ki, bu da ciddi hesablama xərci yaradır. Goodfire-ın təklif etdiyi üsul isə modelin daxili siqnallarını analiz edərək yalnız riskli görünən hallarda əlavə resurs sərf edir. Şirkət iddia edir ki, bu yanaşma nəzarət xərclərini əhəmiyyətli dərəcədə azaldır.
Bu yenilik xüsusilə müəssisələr üçün vacibdir, çünki şirkətlər getdikcə daha çox süni intellekt agentini biznes proseslərinə inteqrasiya edir və onların nəzarətsiz davranması ciddi risklər yarada bilər. Süni intellekt agentlərinin yanlış qərar verməsi, məlumat sızması və ya zərərli hərəkətlər etməsi halları son dövrlərdə tez-tez müzakirə olunur.
Azərbaycan və region üçün əhəmiyyəti
Azərbaycanda da bank və fintex sektoru süni intellekt agentlərindən istifadəni artırır. Belə monitorların daha əlçatan olması yerli müəssisələrə agentləri təhlükəsiz şəkildə tətbiq etməyə imkan verəcək. Ekspertlər hesab edir ki, yaxın illərdə süni intellekt agentlərinin idarə edilməsi ayrıca bir bazar seqmentinə çevriləcək və bu sahədə rəqabət güclənəcək.
Goodfire-ın həlli hələlik yalnız seçilmiş müştərilər üçün əlçatandır, lakin şirkət yaxın aylarda daha geniş istifadəyə açmağı planlaşdırır.
Mənbə: techcrunch.com
