Süni intellekt təhlükəsizliyi sahəsində mühüm addım atan Anthropic şirkəti, süni intellekt modellərinin kimliyini təsdiqləməyə imkan verən yeni sistem üzərində işləyir. FlashProve adlanan sistem istənilən şəxsə süni intellekt cavabının həqiqətən iddia edilən modeldən gəldiyini yoxlamaq imkanı verəcək. Bu təşəbbüs süni intellekt sektorunda şəffaflıq və etibarlılıq məsələlərini yeni müstəviyə daşıyır.
Niyə bu sistemə ehtiyac var
Son illərdə süni intellekt modellərinin sayı sürətlə artıb və istifadəçilər üçün hansı cavabın hansı modeldən gəldiyini müəyyən etmək getdikcə çətinləşir. Şirkətlər tez-tez öz məhsullarının müəyyən bir modelə əsaslandığını iddia edir, lakin bunu təsdiqləyən müstəqil mexanizm mövcud deyil. Bu boşluq həm etimad problemləri, həm də saxtakarlıq riskləri yaradır.
FlashProve bu problemi həll etməyi hədəfləyir. Sistem kriptoqrafik sübut mexanizmi vasitəsilə modelin öz cavabına “rəqəmsal imza” qoymasını təmin edəcək. Beləliklə, istənilən istifadəçi cavabın həqiqi mənbəyini yoxlaya biləcək. Bu yanaşma xüsusilə müəssisələr üçün vacibdir, çünki onlar süni intellekt təchizatçılarının iddialarını müstəqil şəkildə təsdiqləmək istəyirlər.
Sektor üçün nəticələr
Anthropic-in bu təşəbbüsü rəqabət mühitində fərqləndirici faktor ola bilər. Şirkət son dövrlərdə təhlükəsizlik və şəffaflıq yönümlü yanaşması ilə tanınır və bu addım onun mövqeyini gücləndirir. Digər tərəfdən, belə bir sistemin sənaye standartına çevrilməsi üçün digər iri oyunçuların da ona qoşulması tələb olunacaq.
Ekspertlər qeyd edir ki, model kimliyinin təsdiqlənməsi süni intellektin tənzimlənməsi gündəmində də mühüm yer tutur. Avropa İttifaqının süni intellekt qaydaları və ABŞ-da davam edən müzakirələr şəffaflıq tələblərini artırır. FlashProve kimi alətlər bu tələblərə uyğunluğu asanlaşdıra bilər.
Hələlik sistemin nə vaxt hazır olacağı və açıq mənbəli olub-olmayacağı barədə dəqiq məlumat yoxdur. Lakin bu istiqamətdə işlərin davam etməsi süni intellekt ekosistemində etimad infrastrukturunun formalaşmasına töhfə verəcək.
Mənbə: techcrunch.com
