SaferAI təşkilatının yeni hesabatına görə, Z.ai şirkətinin açıq çəkili GLM-5.2 modeli, ön sərhəd süni intellekt modellərinə yaxınlaşır, lakin əsas təhlükəsizlik mexanizmlərindən məhrumdur. Bu vəziyyət, güclü açıq modellərin idarəetmə və təhlükəsizlik tədbirlərindən daha sürətli inkişaf edə biləcəyi ilə bağlı narahatlıqları artırır.
Hesabatda qeyd olunur ki, GLM-5.2, bir çox benchmark testlərində qapalı modellərlə rəqabət apara bilir, lakin onun təhlükəsizlik zəiflikləri, xüsusilə zərərli istifadə hallarına qarşı həssaslığı, onu təhlükəli edə bilər. SaferAI, açıq modellərin inkişafını izləyən və onların təhlükəsizlik standartlarını qiymətləndirən bir təşkilatdır.
Açıq çəkili modellər, hər kəsin yükləyə biləcəyi və dəyişdirə biləcəyi modellərdir. Bu, innovasiyanı sürətləndirsə də, sui-istifadə risklərini də artırır. Son dövrlərdə bir çox şirkət, açıq modellərin təhlükəsizlik problemlərinə diqqət çəkib. SaferAI-nin hesabatı, bu narahatlıqları təsdiqləyir.
Təhlükəsizlik boşluğu və gələcək təsirlər
GLM-5.2 kimi modellərin ön sərhədə yaxınlaşması, süni intellektin tənzimlənməsi ilə bağlı sualları gündəmə gətirir. Qapalı modellər, şirkətlər tərəfindən idarə edilir və təhlükəsizlik tədbirləri ilə təchiz olunur. Lakin açıq modellərdə bu tədbirlər məhduddur. Bu, süni intellektin mənfi istifadəsi riskini artırır.
SaferAI, açıq modellərin təhlükəsizlik standartlarının yüksəldilməsi üçün çağırış edir. Təşkilat, həmçinin hökumətlərin və tənzimləyici orqanların bu məsələyə diqqət yetirməsini istəyir. Süni intellektin sürətli inkişafı, təhlükəsizlik və etik məsələlərin də sürətlə həll edilməsini tələb edir.
Bu hesabat, süni intellekt sahəsində çalışan şirkətlər üçün vacib bir xəbərdarlıqdır. Süni intellekt modellərinin təhlükəsizliyi, gələcəkdə daha çox diqqət mərkəzində olacaq. Süni intellekt kateqoriyasındakı inkişaflar, bu sahədəki riskləri anlamaq üçün əhəmiyyətlidir.
Mənbə: techcrunch.com
