ZML adlı fransız startup-ı, Turing mükafatı laureatı Yann LeCun tərəfindən dəstəklənən şirkət, süni intellekt inferensını sürətləndirmək üçün pulsuz proqram təminatı buraxıb. ZML/LLMD adlı bu məhsul, çoxlu sayda AI çiplərində modellərin işləməsini optimallaşdırmağa imkan verir. Şirkət, bu alətin AI xərclərini əhəmiyyətli dərəcədə azalda biləcəyini iddia edir. ZML, xüsusilə böyük dil modelləri və digər mürəkkəb AI sistemləri üçün nəzərdə tutulub. Startup, bu məhsulu açıq mənbə olaraq təqdim edib, beləliklə, tərtibatçılar onu pulsuz yükləyib istifadə edə bilərlər. Bu addım, AI sahəsində kiçik şirkətlər və tədqiqatçılar üçün böyük imkanlar yaradır.
AI inferensında inqilab
AI modellərinin inferens mərhələsi, xüsusilə böyük modellər üçün yüksək hesablama gücü tələb edir. ZML/LLMD, bu prosesi birdən çox çip arasında paylaşdıraraq sürəti artırır və xərcləri azaldır. Startup, bu texnologiyanın məlumat mərkəzləri, bulud xidmətləri və edge cihazları üçün uyğun olduğunu bildirir. Yann LeCun-un dəstəyi, ZML-nin texnoloji etibarlılığını artırır. Şirkət artıq bir sıra iri müştərilərlə əməkdaşlıq edir. Pulsuz buraxılış, AI inkişafında demokratikləşməyə töhfə verəcək və startupların daha sürətli inkişaf etməsinə şərait yaradacaq. ZML-nin bu hərəkəti, böyük texnologiya şirkətlərinə qarşı rəqabətdə kiçik oyunçulara üstünlük qazandıra bilər.
Mənbə: techcrunch.com
