Microsoft tədqiqatçıları tərəfindən aparılan yeni araşdırma göstərir ki, qabaqcıl süni intellekt modelləri sənədlər üzərində işləyərkən səhvlər törədə bilər. Bu tədqiqat, süni intellekt etibarı məsələsini gündəmə gətirir. Modellər, sənədləri yenidən yazarkən orijinal məzmunu dəyişdirir və aşkarlanması çətin səhvlər əlavə edir.
Yeni benchmark ilə aşkarlanan problem
Tədqiqatçılar, modellərin sənədləri neçə dəqiq işlədiyini ölçmək üçün xüsusi bir benchmark hazırlayıb. Nəticələr, ən qabaqcıl modellərin belə sənədlərdəki məlumatları dəyişdirdiyini və səhvlər törətdiyini göstərib. Bu, xüsusilə hüquq, maliyyə və tibb kimi sahələrdə ciddi risklər yarada bilər.
Microsoft, bu problemin həlli üçün yanaşmalar üzərində işlədiyini bildirir. İstifadəçilərə, süni intellekt tərəfindən işlənmiş sənədləri diqqətlə yoxlamaq tövsiyə olunur.
Mənbə: venturebeat.com
