NVIDIA yerli şəraitdə çalışan səsli köməkçilər, oyun personajları və robotlar üçün nəzərdə tutulmuş yeni kiçik dil modelini açıq istifadəyə verib. Nemotron 3.5 Bolt E4B 4GB adlı model internet bağlantısı olmadan işləyə bilir və təxminən 4 GB yaddaşla fəaliyyət göstərmək üçün dizayn edilib. Bu barədə şirkətin rəsmi açıqlaması yayılıb.
Modelin əsas xüsusiyyəti ondan ibarətdir ki, o, söhbət zamanı alətləri çağıra və müəyyən tapşırıqları yerinə yetirə bilir. Yəni istifadəçi sadəcə sual vermir, model həm də konkret əməliyyatları icra edə bilir. Bu, xüsusilə lokal cihazlarda işləyən avtonom agentlər üçün vacibdir.
Kiçik modellər niyə aktuallaşır
Son dövrdə süni intellekt sahəsində əsas tendensiyalardan biri böyük modellərdən kiçik və səmərəli modellərə keçiddir. Böyük dil modelləri əhəmiyyətli hesablama resursları və enerji tələb edir, bu da onların geniş tətbiqini məhdudlaşdırır. Kiçik modellər isə daha az resursla işləyərək lokal cihazlarda tətbiq imkanı yaradır.
NVIDIA-nın bu addımı şirkətin avadanlıq istehsalçısı kimi mövqeyini proqram təminatı sahəsinə doğru genişləndirməsinin göstəricisidir. Şirkət son illərdə süni intellekt çipləri bazarında dominant mövqe tutur və indi model ekosistemi ilə bu üstünlüyü möhkəmləndirməyə çalışır.
Ekspertlər qeyd edir ki, açıq modellərin yayılması tərtibatçılar üçün yeni imkanlar açır. Xüsusilə məhdud resurslu cihazlarda işləyən tətbiqlər üçün belə modellər kritik əhəmiyyət kəsb edir. Nemotron 3.5 Bolt-un açıq lisenziya ilə təqdim edilməsi isə onun geniş yayılmasına şərait yarada bilər.
Mənbə: shiftdelete.net
