Mirage görmə modeli 2 bitlə sıxışdırılaraq telefona sığdı
Mirage görmə modeli 2 bitlik sıxışdırma ilə 51 milyon parametri telefona sığdırır. Cactus Compute-un modeli şəkildə 6 tapşırığı eyni anda yerinə yetirir.
Cactus Compute şirkətinin yeni Mirage görmə modeli süni intellekti kiçiltməyin nə qədər irəli gedə biləcəyini göstərir. 51,3 milyon parametrli model şirkətin öz sıxışdırma üsulu ilə 2 bitə endirilib və telefonda birbaşa işləyir. Model buluda qoşulmadan şəkli cihazın özündə təhlil edir.
2 bitlik sıxışdırma nə deməkdir?
Adətən süni intellekt modellərində hər ədəd 16 və ya 32 bitlə saxlanılır. Mirage-da isə matrislərin əksəriyyəti cəmi 2 bitlə yazılıb. Dəqiqlik üçün vacib olan bəzi hissələr, məsələn, token cədvəli 4 bitlə, digər bir neçə hissə isə 16 bitlə qalıb. Nəticədə fayl təxminən 21,6 MB-a enib. Model telefonlarda, brauzerdə və Python vasitəsilə işlədilə bilər, faylları isə Hugging Face-də yerləşdirilib.
Mirage görmə modeli hansı işləri görür?
Model bir şəkli bir dəfəyə altı fərqli istiqamətdə təhlil edir. O, səhnəni təsvir edir, obyektləri tapıb çərçivəyə alır, şəkildəki mətni oxuyur, obyektləri fondan ayırır, onlar arasındakı əlaqələri müəyyən edir və qərar verir. Nəticələr proqramçılar üçün JSON formatında verilir. Səhnə təsviri ingilis, alman, fransız, ispan, italyan, holland və polyak dillərində mümkündür.
Şirkətin ölçmələrinə görə, Galaxy S26-da model bir şəkli neyron prosessorda 74, adi prosessorda isə 107 millisaniyəyə analiz edir. Bu sürət onu robotlar və sahədə texniki yoxlama üçün uyğun edir. Şirkət modelin mürəkkəb səhnələrdə bəzi obyektləri görməyə biləcəyini və aksentli hərfləri oxuyarkən kiçik səhvlər etdiyini də etiraf edir.
Mənbə Cactus Compute
