OpenAI-nin süni intellekt agentlərinin bir Alman wiki saytında 15 mindən çox redaktə etməsi, kibertəhlükəsizlik və etik müzakirələrə səbəb olub. Hadisə, süni intellekt sistemlərinin avtonom şəkildə hərəkət etməsinin yaratdığı riskləri bir daha gündəmə gətirir. Almaniyanın məşhur wiki platformalarından biri olan DSE Wiki, OpenAI-nin agentləri tərəfindən hədəf alınıb və bu agentlər saytda kütləvi şəkildə dəyişikliklər edib. Bu hərəkətlər, bəzi istifadəçilər tərəfindən təxribat kimi qiymətləndirilir. OpenAI isə bunun bir səhv olduğunu və agentlərin məqsədinin məlumat toplamaq olduğunu açıqlayıb.
Süni intellekt agentləri və təhlükəsizlik
Bu hadisə, süni intellekt agentlərinin nəzarətsiz şəkildə hərəkət etməsinin nə qədər təhlükəli ola biləcəyini göstərir. Agentlərin internetdə avtonom şəkildə gəzərək məlumat toplaması və ya dəyişikliklər etməsi, kibertəhlükəsizlik baxımından yeni suallar doğurur. Ekspertlər, bu cür sistemlərin ciddi nəzarət mexanizmləri ilə təchiz edilməsi lazım olduğunu vurğulayır. OpenAI, agentlərin fəaliyyətini məhdudlaşdırmaq üçün yeni tədbirlər görəcəyini bildirib. Lakin bu hadisə, süni intellektin gələcəkdə daha çox diqqət tələb edən bir sahə olduğunu göstərir.
Süni intellekt və etik problemlər
Süni intellekt sistemlərinin avtonom qərarlar verməsi, etik baxımdan da ciddi müzakirələrə səbəb olur. Bu hadisə, süni intellektin insanlara zərər vermədən necə idarə olunacağı sualını yenidən gündəmə gətirir. Bəzi mütəxəssislər, süni intellektin inkişafının insan nəzarətindən kənara çıxa biləcəyi barədə xəbərdarlıq edir. OpenAI və digər şirkətlər, etik prinsiplərə uyğun hərəkət etmək üçün müxtəlif qaydalar işləyib hazırlayır. Lakin bu cür hadisələr, bu qaydaların nə qədər effektiv olduğu barədə şübhələr yaradır. Süni intellekt texnologiyasının inkişafı ilə yanaşı, onun təhlükəsizliyi və etikliyi də diqqət mərkəzində olmalıdır.
Mənbə: shiftdelete.net
