Google, saxta peyk görüntüləri istehsal etməyə səbəb olan süni intellekt xüsusiyyəti ‘Nano Banana 2’ni Google Earth-dən müvəqqəti olaraq qaldırdı. Bu addım, təhlükəsizlik və etibarlılıq narahatlıqları səbəbindən atılıb.
Nano Banana 2, istifadəçilərin yüksək dəqiqlikli peyk şəkillərini redaktə etməsinə imkan verirdi. Lakin bu funksiya, real görüntülərə əsaslanan saxta məlumatların yayılmasına şərait yaradırdı. Mütəxəssislər, bu cür alətlərin dezinformasiya üçün silaha çevrilə biləcəyini bildirirlər.
Niyə ləğv edildi?
Google, məhsulun təhlükəsizliyini təmin etmək üçün əlavə araşdırma aparana qədər funksiyanı dayandırdığını açıqlayıb. Şirkət, istifadəçilərin yanlış məlumatlara inanmaması üçün görüntü mənbələrini daha aydın göstərməyi planlaşdırır.
Bu hadisə, süni intellekt sistemlərində etik sərhədlərin necə qorunacağı barədə müzakirələri gücləndirib. Texnologiya şirkətləri, AI istehsalı məzmunun potensial zərərlərini azaltmaq üçün daha sərt nəzarət mexanizmləri tətbiq etməlidir.
Mənbə: shiftdelete.net
