Circuit Breaker Labs süni intellekt sistemlərinin istifadəçilərə, xüsusilə uşaqlara vurduğu psixoloji zərəri azaltmaq üçün yeni yanaşma təklif edir. Şirkət süni intellekt modellərini sınaqdan keçirmək üçün “crash-test dummies” adlandırdığı xüsusi simulyasiya alətləri hazırlayıb. Bu təşəbbüs süni intellekt təhlükəsizliyi müzakirələrinə yeni ölçü gətirir.
Psixoloji zərər problemi
Süni intellektin bəşəriyyət üçün uzunmüddətli riskləri barədə müzakirələr geniş yayılsa da, real psixoloji zərər halları artıq indi baş verir. Tədqiqatlar göstərir ki, söhbət botları ilə uzunmüddətli qarşılıqlı əlaqə bəzi istifadəçilərdə asılılıq, təcrid və emosional pozuntulara səbəb ola bilər. Yeniyetmələr və uşaqlar bu təsirlərə xüsusilə həssasdır.
Circuit Breaker Labs-ın həlli bu riskləri istehsal mərhələsində aşkar etməyə yönəlib. Şirkətin simulyasiya alətləri müxtəlif istifadəçi profillərini modelləşdirir və süni intellekt sistemlərinin onlara necə təsir etdiyini ölçür. Nəticələr tərtibatçılara modelləri təhlükəsizlik baxımından tənzimləmək imkanı verir.
Valideynlər və tənzimləyicilər üçün nəticələr
Valideynlər üçün əsas problem uşaqların hansı süni intellekt sistemləri ilə əlaqədə olduğunu izləmək çətinliyidir. Crash-test yanaşması bu problemi həll etmək üçün standartlaşdırılmış qiymətləndirmə metodu təklif edir. Əgər bu metod geniş qəbul olunarsa, tətbiq mağazaları və platformalar süni intellekt məhsullarını təhlükəsizlik reytinqi ilə təchiz edə bilər.
Tənzimləyicilər üçün isə bu yanaşma qanunvericilik tələblərini əməli ölçmə alətləri ilə əlaqələndirmək imkanı yaradır. Avropa İttifaqının süni intellekt reqlamentı risk əsaslı yanaşma tətbiq edir, lakin konkret ölçmə metodologiyası hələ tam formalaşmayıb. Bu baxımdan Circuit Breaker Labs kimi şirkətlərin həlləri boşluğu doldura bilər.
Azərbaycanda süni intellekt tətbiqlərinin istifadəçi sayı sürətlə artır, lakin təhlükəsizlik və uyğunluq mexanizmləri hələ zəif inkişaf edib. Süni intellekt məhsulları hazırlayan yerli startup-lar üçün təhlükəsizliyin erkən mərhələdə dizayna daxil edilməsi rəqabət üstünlüyü yarada bilər. Bu həm istifadəçi etimadını artırır, həm də gələcək tənzimləmə tələblərinə hazırlıq deməkdir.
Mənbə: techcrunch.com
