Süni intellekt sistemində baş verən halüsinasiya ABŞ ordusunda ciddi təhlükə yaradıb. Məlumata görə, böyük dil modelinin yaratdığı yanlış məlumat hərbi əməliyyatın başlamasına az qalmış vəziyyət yaradıb. Bu hadisə süni intellektin kritik sahələrdə tətbiqi ilə bağlı narahatlıqları yenidən gündəmə gətirib.
Süni intellekt halüsinasiyası nədir?
Halüsinasiya böyük dil modellərinin (LLM) reallığa uyğun olmayan, lakin inandırıcı görünən məlumat yaratması hadisəsidir. Bu cür səhvlər adi söhbətlərdə nisbətən zərərsiz ola bilər, lakin hərbi, tibbi və maliyyə kimi kritik sahələrdə fəlakətli nəticələrə səbəb ola bilər.
Hadisə ilə bağlı GovAI tədqiqatçısı bildirib ki, hərbçilərin LLM-lərə xas olan qeyri-müəyyənliyi başa düşməsi son dərəcə vacibdir. Süni intellekt sistemləri yüksək dəqiqliklə işləyə bilər, lakin onların nəticələri həmişə yoxlanılmalıdır. Xüsusilə qərar qəbul edən şəxslər avtomatik nəticələrə kor-koranə etibar etməməlidirlər.
Süni intellektin kritik sahələrdə tətbiqi
Bu hadisə süni intellektin müdafiə və təhlükəsizlik sahələrində tətbiqinin mürəkkəbliyini göstərir. Hərbi sistemlərdə süni intellekt qərar dəstəyi, kəşfiyyat təhlili və logistika kimi sahələrdə istifadə olunur. Lakin bu sistemlərin yaratdığı məlumatların dəqiqliyi həmişə insan tərəfindən yoxlanılmalıdır.
Ekspertlər hesab edirlər ki, süni intellekt sistemləri ilə işləyən hərbi qulluqçular üçün xüsusi təlim proqramları hazırlanmalıdır. Bu təlimlərdə modellərin məhdudiyyətləri, potensial səhvləri və nəticələrin yoxlanılması metodları öyrədilməlidir. Yalnız bu yanaşma ilə süni intellektin faydalarından təhlükəsiz şəkildə istifadə etmək mümkündür.
Hadisə süni intellekt sahəsində tənzimləmə müzakirələrini də gücləndirib. Bir çox ölkələr kritik infrastrukturda süni intellektin tətbiqi üçün xüsusi qaydalar hazırlamağa başlayıb. Bu qaydalar modelin şəffaflığı, hesabatlılığı və insan nəzarətinin təmin edilməsini nəzərdə tutur.
Texnoloji şirkətlər də bu cür hadisələrdən nəticə çıxarır. Onlar modellərin dəqiqliyini artırmaq və halüsinasiya hallarını azaltmaq üçün yeni üsullar hazırlayırlar. Lakin tamamilə sıfır səhvə nail olmaq hazırda mümkün görünmür, buna görə də insan nəzarəti əsas təminat olaraq qalır.
Mənbə: techcrunch.com
