Tədqiqatçılar keçmişə yol açdı
27 aprel 2026-cı ildə tədqiqatçılar Nik Levin, Devid Düveno və Alek Redford (OpenAI-nin keçmiş əməkdaşı, ChatGPT-nin yaranmasına səbəb olan generativ modellərin işi haqqında məqalənin aparıcı həmmüəllifi) Talkie adlı dil modelini nəşr etdilər. Bu model 13 milyard parametrə malikdir və yalnız 1931-ci il yanvarın 1-dək nəşr olunmuş sənədlər əsasında öyrədilib: kitablar, qəzetlər, jurnallar, patentlər və məhkəmə aktları. Model Hugging Face platformasında Apache 2.0 azad lisenziyası altında mövcuddur, ona sualları tərtibatçıların saytında vermək olar.
Tərtibatçılar modeli “zaman kapsulu” adlandırırlar: Talkie müasir, bizə tanış olan söz və anlayışları bilmir. Məsələn, o, mobil telefonu meqafon hesab edir. Bu, onu adi LLM-lərdən fərqləndirir, çünki adi modellər internetdən götürülmüş məlumatlar üzərində öyrədilir.
Müəlliflər Talkie-nin öyrədildiyi məlumatları müasirlikdən tamamilə təcrid edə bilməyiblər, çünki köhnə mətnlərin təkrar nəşrlərində sonrakı dövrə aid ön sözlər və ya qeydlərə rast gəlinirdi. Nəticədə model “zaman sızmasından” əziyyət çəkir. Testlərdə məlum olub ki, Talkie 1930-cu ildən sonra baş vermiş bəzi faktları bilir — məsələn, Franklin Ruzveltin 1933-cü ildə prezident olmasını.
Bu niyə vacibdir?
Talkie sadəcə əyləncə və ya sırf təcrübə üçün edilmiş eksperiment deyil. Layihənin bir neçə elmi tətbiq sahəsi var.
Birincisi, bu, dil modellərinin qiymətləndirilməsinin əsas problemlərindən biri olan “test çirklənməsi” ilə mübarizə üsuludur. Müasir modellər çox vaxt sadəcə olaraq təlim zamanı düzgün cavabları gördükləri üçün meyarlar üzrə yüksək bal toplayır. Talkie bunu edə bilməzdi: çünki 1931-ci ilə qədər heç bir müasir test mövcud deyildi.
İkincisi, bütün təlim nümunələri ictimai mülkiyyətdədir — bu mətnlərə olan müəllif hüquqlarının müddəti bitmişdir. Süni intellektin öyrədilməsi üçün başqalarının əsərlərindən istifadənin qanuniliyi ilə bağlı mübahisələrin qızğın vaxtında Talkie alternativ bir yol nümayiş etdirir.
Üçüncüsü, layihə birbaşa 2026-cı ilin fevralında Google DeepMind-ın rəhbəri Demis Hassabis tərəfindən ifadə olunmuş çağırışa cavab verir: yalnız 1911-ci ilə qədərki məlumatlar üzərində öyrədilmiş model Eynşteyn kimi ümumi nisbilik nəzəriyyəsini müstəqil şəkildə çıxara bilərmi? Talkie bu cür eksperimentlər üçün bir vasitədir.
Mənbə: facebook.com
