NVIDIA süni intellekt sahəsində yeni addım ataraq Nemotron 3.5 Lightning adlı açıq modelini təqdim edib. Şirkətin məlumatına görə, yeni model xüsusilə süni intellekt agentləri üçün hazırlanıb və kifayət qədər optimallaşdırıldığı üçün tək bir GPU üzərində işləyə bilir.
NVIDIA-nın baş icraçı direktoru Jensen Huang ötən ay verdiyi açıqlamada son dövrlərdə xüsusilə Çin şirkətləri arasında geniş yayılan açıq modellərin süni intellekt sənayesinin gələcəyi üçün mühüm rol oynayacağını bildirmişdi. Nemotron 3.5 Lightning-in təqdimatı şirkətin bu istiqamətdə strategiyasını daha aydın göstərir.
Nemotron 3.5 Lightning 30 milyard parametrə malik Mixture-of-Experts (MoE) arxitekturasından istifadə edir. Bu yanaşmada modelin bütün parametrləri hər sorğu zamanı eyni vaxtda aktivləşdirilmir. Əvəzində tapşırığın xüsusiyyətindən asılı olaraq yalnız uyğun “ekspert” hissələri işə salınır. Bu üsul böyük modellərin imkanlarını qoruyarkən hesablama resurslarına tələbatı və modelin işlədilməsi xərclərini azaltmağa imkan verir.
NVIDIA-nın açıqlamasına əsasən, Nemotron 3.5 Lightning eyni kateqoriyadakı bəzi modellərlə müqayisədə 4 dəfəyə qədər daha sürətli nəticə yarada bilir. Şirkət həmçinin agent əsaslı tapşırıqların yerinə yetirilməsində 30 faizə qədər sürət artımı əldə olunduğunu bildirir.
Modelin əsas üstünlüklərindən biri onun geniş şəkildə fərdiləşdirilə bilməsidir. Şirkətlər Nemotron 3.5 Lightning-i öz məlumatları əsasında əlavə öyrədə və konkret iş proseslərinə uyğunlaşdıra bilərlər. Bu xüsusiyyət modelin proqramlaşdırma, məlumatların emalı, avtomatlaşdırılmış iş axınları və müxtəlif agent sistemlərində istifadəsinə imkan yaradır.
NVIDIA bunun real tətbiqinə nümunə kimi CodeRabbit şirkətini göstərir. Bildirilir ki, şirkət Nemotron 3.5 Lightning-dən istifadə edərək təxminən iki saat ərzində və cəmi 85 dollar xərc çəkməklə öz yönləndirici agentini hazırlayıb. CrowdStrike və Harvey kimi şirkətlərin də modeli sınaqdan keçirdiyi və öz ehtiyaclarına uyğunlaşdırdığı qeyd olunur.
Nemotron 3.5 Lightning istifadəçilərə ödənişsiz təqdim olunur və model NVIDIA-nın platformaları ilə yanaşı Hugging Face üzərindən də əldə edilə bilər. Tərtibatçılar və şirkətlər modeli öz sistemlərində işlədə, dəyişdirə və konkret istifadə ssenarilərinə uyğunlaşdıra bilərlər.
NVIDIA-nın açıq süni intellekt modellərinə marağının arxasında şirkətin əsas biznesi ilə bağlı iqtisadi səbəblər də dayanır. Açıq və lokal şəkildə işlədilə bilən modellərin yayılması şirkətlərin yalnız bulud əsaslı qapalı xidmətlərdən istifadə etmək əvəzinə modelləri öz infrastrukturlarında işlətməsinə şərait yaradır. Bunun üçün isə daha çox hesablama gücünə və nəticədə daha çox GPU-ya ehtiyac yaranır.
Jensen Huang da bu strategiyanı daha əvvəl “Pulsuz süni intellekt avadanlıq üçün böyük fürsətdir” fikri ilə ifadə etmişdi. Başqa sözlə, NVIDIA üçün açıq modellərin geniş yayılması yalnız süni intellekt ekosisteminin böyüməsi deyil, eyni zamanda şirkətin əsas gəlir mənbəyi olan GPU-lara tələbatın artması deməkdir.
Nemotron 3.5 Lightning bu baxımdan NVIDIA-nın həm süni intellekt modelləri bazarında daha fəal iştirak etmək, həm də açıq modellərin geniş yayılması vasitəsilə hesablama infrastrukturu bazarını böyütmək strategiyasının bir hissəsi kimi qiymətləndirilə bilər.
