Amazon adından göndərilən dələduzluq mesajlarını tanıma qabiliyyəti üzrə aparılan testdə aparıcı süni intellekt modelləri fərqli nəticələr göstərib. Sınaq çərçivəsində Gemini, ChatGPT və Claude modellərinə 20 dələduzluq mesajı təqdim edilib və hər üç model bütün mesajları düzgün müəyyən edib. Lakin real Amazon e-poçtunun sınağa daxil edilməsi ilə nəticələr kəskin şəkildə dəyişib.
E-ticarət üçün təhlükəsizlik məsələsi
Dələduzluq mesajlarının artması e-ticarət platformaları üçün ən ciddi problemlərdən birinə çevrilib. Saxta bildirişlər, yalançı çatdırılma xəbərdarlıqları və hesabın bloklanması barədə təhdidlər istifadəçilərin şəxsi məlumatlarını və ödəniş kartı məlumatlarını ələ keçirmək məqsədi daşıyır. Bu cür hücumlar həm müştərilərə, həm də platformanın reputasiyasına ciddi ziyan vurur.
Süni intellekt modellərinin dələduzluğu aşkarlama qabiliyyəti getdikcə daha çox müzakirə olunur. Bir tərəfdən, modellər açıq-aşkar saxta mesajları asanlıqla tanıyır. Digər tərəfdən, real və saxta mesaj arasındakı incə fərqləri ayırd etmək hələ də çətinlik yaradır. Testin nəticələri göstərir ki, modellər “hər şeyi dələduzluq kimi qiymətləndirməyə” meylli ola bilər və bu, real bildirişlərin də şübhəli sayılmasına səbəb olur.
Ekspertlər qeyd edir ki, süni intellekt əsaslı təhlükəsizlik həlləri yalnız avtomatik filtr kimi deyil, həm də insan nəzarəti ilə birləşdirilmiş sistem kimi qurulmalıdır. Yanlış müsbət nəticələr müştərilərin vacib bildirişləri görməməsinə gətirib çıxara bilər ki, bu da xidmət keyfiyyətinə mənfi təsir edir.
Sektor üçün nəticə ondan ibarətdir ki, süni intellekt dələduzluqla mübarizədə güclü alət olsa da, təkbaşına həll kimi təqdim edilməməlidir. E-ticarət platformaları çoxqatlı yoxlama sistemləri, istifadəçi təhsili və sürətli reaksiya mexanizmlərini birlikdə qurmalıdır. Modellərin dələduzluq aşkarlama qabiliyyətinin müntəzəm sınaqdan keçirilməsi isə bu sahədə standart təcrübəyə çevrilməlidir.
Mənbə: shiftdelete.net



