Circuit Breaker Labs süni intellekti uşaqlar üçün təhlükəsiz etmək istəyir

Circuit Breaker Labs süni intellekt sistemlərinin istifadəçilərə, xüsusilə uşaqlara vurduğu psixoloji zərəri azaltmaq üçün yeni yanaşma təklif edir. Şirkət süni intellekt modellərini sınaqdan keçirmək üçün “crash-test dummies” adlandırdığı xüsusi simulyasiya alətləri hazırlayıb. Bu təşəbbüs süni intellekt təhlükəsizliyi müzakirələrinə yeni ölçü gətirir.

Psixoloji zərər problemi

Süni intellektin bəşəriyyət üçün uzunmüddətli riskləri barədə müzakirələr geniş yayılsa da, real psixoloji zərər halları artıq indi baş verir. Tədqiqatlar göstərir ki, söhbət botları ilə uzunmüddətli qarşılıqlı əlaqə bəzi istifadəçilərdə asılılıq, təcrid və emosional pozuntulara səbəb ola bilər. Yeniyetmələr və uşaqlar bu təsirlərə xüsusilə həssasdır.

Circuit Breaker Labs-ın həlli bu riskləri istehsal mərhələsində aşkar etməyə yönəlib. Şirkətin simulyasiya alətləri müxtəlif istifadəçi profillərini modelləşdirir və süni intellekt sistemlərinin onlara necə təsir etdiyini ölçür. Nəticələr tərtibatçılara modelləri təhlükəsizlik baxımından tənzimləmək imkanı verir.

Valideynlər və tənzimləyicilər üçün nəticələr

Valideynlər üçün əsas problem uşaqların hansı süni intellekt sistemləri ilə əlaqədə olduğunu izləmək çətinliyidir. Crash-test yanaşması bu problemi həll etmək üçün standartlaşdırılmış qiymətləndirmə metodu təklif edir. Əgər bu metod geniş qəbul olunarsa, tətbiq mağazaları və platformalar süni intellekt məhsullarını təhlükəsizlik reytinqi ilə təchiz edə bilər.

Tənzimləyicilər üçün isə bu yanaşma qanunvericilik tələblərini əməli ölçmə alətləri ilə əlaqələndirmək imkanı yaradır. Avropa İttifaqının süni intellekt reqlamentı risk əsaslı yanaşma tətbiq edir, lakin konkret ölçmə metodologiyası hələ tam formalaşmayıb. Bu baxımdan Circuit Breaker Labs kimi şirkətlərin həlləri boşluğu doldura bilər.

Azərbaycanda süni intellekt tətbiqlərinin istifadəçi sayı sürətlə artır, lakin təhlükəsizlik və uyğunluq mexanizmləri hələ zəif inkişaf edib. Süni intellekt məhsulları hazırlayan yerli startup-lar üçün təhlükəsizliyin erkən mərhələdə dizayna daxil edilməsi rəqabət üstünlüyü yarada bilər. Bu həm istifadəçi etimadını artırır, həm də gələcək tənzimləmə tələblərinə hazırlıq deməkdir.

Mənbə: techcrunch.com

spot_imgspot_img

Oxşar xəbərlər

Hyundai JPMorgan-ın Kinexys blokçeynində süni intellekt ajan ticarətini sınaqdan keçirir

Hyundai JPMorgan-ın Kinexys blokçeyn platformasında süni intellekt ajanları vasitəsilə avtomatlaşdırılmış ticarət əməliyyatlarını sınaqdan keçirir.

Rusiyada marketpleyslərə vergi nəzarəti funksiyası verilməyəcək

Rusiya marketpleyslərə vergi nəzarəti funksiyası verməkdən imtina edib — platformalar yalnız vergi riskləri barədə məlumat ötürəcək.

CoinTR Ripple USD stablecoinini listəyə əlavə etdi

CoinTR birjası Ripple-ın RLUSD stablecoinini listəyə əlavə edib; istifadəçilər türk lirəsi və USDT paritetləri üzərindən əməliyyat apara biləcək.

Rusiyanın milyonlu şəhərlərində yeni mənzil satışları 11-13% azalıb

Rusiyanın milyon əhalili şəhərlərində yeni mənzil satışları on ayda 11-13% azalıb, bu bank sektoru üçün risk siqnalıdır.

Amazon və Google-ın Anthropic-dəki payı 28,4%-ə çatacaq

Anthropic-in ilkin açıq təklif sənədləri Amazon və Google-ın startapdakı payının 28,4%-ə çatacağını göstərir.
spot_img