Populyar kommunikasiya platforması Discord süni intellekt əsaslı moderasiya sistemindəki səhvə görə istifadəçilərin zərərsiz şəkillər üzündən haqsız yerə banlandığını etiraf edib. Şirkət problemin may ayından bəri hesablara təsir etdiyini, həftəsonu əlavə 200 istifadəçinin banlandıqdan sonra komandanın nasazlığı aşkarlayıb düzəltdiyini təsdiqləyib. Bu hadisə süni intellektlə idarə olunan moderasiya sistemlərinin etibarlılığı ilə bağlı ciddi suallar doğurub.
Süni intellekt moderasiyasının riskləri
Discord-un istifadə etdiyi avtomatlaşdırılmış moderasiya alqoritmləri platformada zərərli məzmunu aşkarlamaq üçün nəzərdə tutulub. Lakin bu hadisə göstərir ki, süni intellekt modelləri konteksti düzgün qiymətləndirməkdə hələ də çətinlik çəkir. Zərərsiz, gündəlik şəkillərin qadağan olunmuş məzmun kimi işarələnməsi yanlış pozitiv halların nə qədər ciddi nəticələrə səbəb ola biləcəyini nümayiş etdirir. Şirkət səhvi düzəltdiyini bildirsə də, təsirlənən istifadəçilərin sayının daha çox ola biləcəyi istisna edilmir. Discord bu cür problemlərin qarşısını almaq üçün moderasiya sistemlərini təkmilləşdirəcəyini açıqlayıb.
Sektor üçün dərslər
Bu insident bütün süni intellekt sənayesi üçün əhəmiyyətli bir xəbərdarlıqdır. Getdikcə daha çox platforma moderasiya, müştəri xidməti və təhlükəsizlik funksiyalarını süni intellektə həvalə edir. Azərbaycanda da sosial media və kommunikasiya platformalarında avtomatlaşdırılmış moderasiya sistemlərinə maraq artır. Lakin Discord hadisəsi göstərir ki, insan nəzarəti olmadan tam avtomatlaşdırılmış sistemlər ciddi səhvlərə yol aça bilər. Süni intellektlə insan moderasiyasının hibrid modeli hazırda ən optimal yanaşma kimi qəbul edilir. Discord-un şəffaf şəkildə problemi etiraf etməsi isə istifadəçi etibarının qorunması baxımından müsbət addımdır.
Mənbə: techcrunch.com
