AMD RAM xərclərini azaltmaq üçün yeni texnologiya təqdim edib: SSD-lər operativ yaddaş kimi işləyəcək
AMD süni intellektlə RAM istifadəsini optimallaşdıracaq: Yaddaş xərcləri 75 faizədək azala bilər
AMD məlumat mərkəzlərində operativ yaddaş xərclərini azaltmaq və mövcud yaddaş resurslarından daha səmərəli istifadə etmək məqsədilə MEXT adlı yeni proqram təminatını təqdim edib. Süni intellektə əsaslanan texnologiya ənənəvi DRAM yaddaşını SSD-lərdə istifadə olunan Flash yaddaşla birləşdirərək serverlərin yaddaş imkanlarını genişləndirməyə şərait yaradır. Şirkətin məlumatına görə, MEXT sayəsində fiziki DRAM ehtiyacını 20–75 faiz azaltmaq, eyni zamanda oxşar performansı qorumaq mümkündür.
Son illərdə süni intellekt texnologiyalarına yatırılan investisiyaların sürətlə artması məlumat mərkəzlərində operativ yaddaşa tələbatı yüksəldib. Xüsusilə böyük süni intellekt modellərinin öyrədilməsi və işlədilməsi üçün nəzərdə tutulan serverlər yüksək yaddaş tutumu tələb edir. Bu isə DRAM komponentlərinin qiymətlərinə və təchizatına əlavə təzyiq yaradır.
AMD-nin açıqladığı məlumatlara əsasən, bəzi server konfiqurasiyalarında DRAM yaddaşının dəyəri ümumi avadanlıq xərclərinin 75 faizinə qədər çata bilir. Şirkət hesab edir ki, problemin həlli yalnız daha çox yaddaş istehsal etməkdən deyil, mövcud resurslardan daha səmərəli istifadə etməkdən də keçir.
AMD-nin Microsoft Azure və Meta-nın məlumatlarına istinadən təqdim etdiyi nümunələrə görə, virtual maşınlara ayrılan DRAM yaddaşının təxminən 50 faizi artıq rezerv edildiyi üçün faktiki olaraq istifadə olunmur. Serverlərdəki yaddaşın daha 25 faizi isə heç bir virtual maşına ayrılmadan boş qala bilir.
MEXT texnologiyası məhz bu səmərəsizliyi azaltmaq üçün hazırlanıb. Sistem serverlərdə bütün məlumatları bahalı DRAM yaddaşında saxlamaq əvəzinə, daha az istifadə olunan məlumatları nisbətən ucuz Flash yaddaşa köçürür.
AMD MEXT layihəsinin hazırlanmasına 2022-ci ildə başlayıb. Texnologiyanın əsas prinsipi tez-tez istifadə olunan məlumatların yüksək sürətli DRAM yaddaşında, daha az tələb olunan məlumatların isə SSD yaddaşında saxlanılmasıdır.
Lakin bu yanaşmanın əsas çətinliyi iki yaddaş növü arasındakı sürət fərqidir. AMD-nin məlumatına görə, Flash yaddaş DRAM ilə müqayisədə təxminən 500 dəfə daha yavaş ola bilər. Buna görə də məlumatların SSD-yə köçürülməsi düzgün idarə olunmadıqda serverlərin performansını ciddi şəkildə azalda bilər.
MEXT bu problemi süni intellekt vasitəsilə həll etməyə çalışır. Sistem yaddaşdan istifadə davranışlarını təhlil edərək hansı məlumatlara daha tez-tez müraciət olunduğunu və yaxın zamanda hansı məlumatlara ehtiyac yarana biləcəyini proqnozlaşdırır.
Uzun müddət istifadə edilməyən məlumatlar avtomatik olaraq Flash yaddaşa köçürülür. Yenidən istifadə olunacağı ehtimal edilən məlumatlar isə əvvəlcədən DRAM yaddaşına qaytarılır. Beləliklə, prosessorun ehtiyac duyduğu məlumatların mümkün qədər sürətli yaddaşda saxlanılması təmin edilir.
Bu yanaşma Flash yaddaşın fiziki RAM-ı tam əvəz etməsi demək deyil. Əsas məqsəd DRAM və SSD resurslarını vahid yaddaş idarəetmə sistemi daxilində birləşdirərək serverin daha böyük operativ yaddaşa malik olması təəssüratını yaratmaqdır.
AMD-nin hesablamalarına görə, Flash yaddaş DRAM ilə müqayisədə təxminən 50 faiz daha ucuzdur və 30 dəfə az enerji sərf edir. Şirkət bu üstünlüklərdən istifadə etməklə məlumat mərkəzlərinin həm avadanlıq, həm də enerji xərclərini azaltmağı hədəfləyir.
MEXT üç əsas komponentdən ibarətdir: Linux sürücüsü, süni intellekt mühərriki və RAM View adlı monitorinq aləti.
Linux sürücüsü müxtəlif Linux distributivləri ilə işləmək üçün hazırlanmış, az resurs tələb edən proqram moduludur. O, DRAM və Flash yaddaş arasında məlumatların idarə olunmasını təmin edir.
Sistemin əsas hissəsi isə Transformer arxitekturasına əsaslanan süni intellekt mühərrikidir. Bu mühərrik yaddaşdan istifadə nümunələrini öyrənərək hansı məlumatların DRAM-də saxlanılmalı olduğunu müəyyənləşdirir.
AMD bildirir ki, süni intellekt mühərriki bir saniyədən az müddətdə öyrənmə prosesini tamamlaya bilir. Bunun üçün yalnız bir AMD EPYC prosessor nüvəsindən istifadə olunur və ayrıca qrafik prosessoruna ehtiyac yaranmır.
RAM View aləti isə serverlərdə yaddaş istifadəsini real vaxt rejimində izləməyə imkan verir. Sistem administratorları bu vasitə ilə mövcud yaddaş tutumunu, istifadə səviyyəsini və resursların bölüşdürülməsini təhlil edə bilirlər.
AMD-nin açıqlamasına əsasən, MEXT fiziki DRAM ehtiyacını iş yükündən asılı olaraq 20–75 faiz azaltmağa imkan verir. Bununla yanaşı, DRAM və Flash yaddaşın birlikdə istifadəsi nəticəsində serverlərin ümumi yaddaş tutumu üç dəfəyə qədər artırıla bilər.
Bu texnologiya eyni fiziki avadanlıq üzərində daha çox virtual maşının və tətbiqin işlədilməsinə şərait yaradır. MEXT həm şirkətlərin öz məlumat mərkəzlərində, həm də AWS, Microsoft Azure və Google Cloud kimi bulud platformalarında istifadə üçün nəzərdə tutulub.
AMD yeni texnologiyanın performansını qiymətləndirmək üçün müxtəlif sınaqlar da keçirib. Xüsusilə eyni vaxtda bir neçə süni intellekt agentinin fəaliyyət göstərdiyi ssenarilərdə yaddaş resurslarının daha səmərəli bölüşdürülməsi diqqətçəkən nəticələr verib.
Şirkətin testlərinə əsasən, DRAM tutumunun 50 faizinin Flash yaddaşla əvəz olunduğu konfiqurasiyada beş süni intellekt agentinin paralel işlədiyi ssenaridə DRAM xərcinə düşən performans 90 faiz artıb. Yaddaş tələbatı yüksək olan digər süni intellekt tətbiqlərində isə bu göstərici 70 faiz təşkil edib.
DRAM tutumunun ilkin səviyyənin 25 faizinə qədər azaldıldığı sınaqlarda nəticələr daha yüksək olub. Beş süni intellekt agentinin eyni vaxtda işlədiyi halda DRAM xərcinə düşən performans 3,4 dəfə, yaddaşdan intensiv istifadə edən tətbiqlərdə isə 3,5 dəfə artıb.
Burada söhbət serverin ümumi hesablama sürətinin eyni nisbətdə yüksəlməsindən deyil, istifadə olunan DRAM yaddaşının dəyərinə nəzərən əldə edilən performans göstəricisindən gedir.
AMD MEXT texnologiyasını öz məlumat mərkəzlərində də tətbiq etməyə hazırlaşır. İlkin mərhələdə sistemin 145 serverdə quraşdırılması, 2027-ci ildə isə bu sayın 2000-ə çatdırılması planlaşdırılır.
Şirkətin hesablamalarına əsasən, texnologiyanın geniş tətbiqi DRAM xərclərində 83 faizə qədər qənaət təmin edə və təxminən 4,9 milyon dollarlıq əlavə yaddaş alışının qarşısını ala bilər.
MEXT hazırda ilkin tətbiq mərhələsindədir. Texnologiya kifayət qədər prosessor resursuna və xüsusi NVMe SSD yuvalarına malik AMD EPYC əsaslı serverlər üçün nəzərdə tutulub.
AMD gələcəkdə MEXT-i digər şirkətlərə də lisenziyalaşdırmağı planlaşdırır. Bu yanaşma məlumat mərkəzlərinin daha çox fiziki RAM almaq əvəzinə, mövcud yaddaş resurslarını ağıllı şəkildə idarə etməsinə imkan verə bilər.
Süni intellekt sistemlərinin sürətlə inkişaf etdiyi və yaddaş komponentlərinin bahalaşdığı bir dövrdə MEXT kimi texnologiyalar məlumat mərkəzlərinin qurulması və istismarı xərclərinin azaldılmasında mühüm rol oynaya bilər. Bununla belə, real qənaət və performans nəticələri istifadə olunan proqramlardan, yaddaş konfiqurasiyasından və serverlərin iş yükündən asılı olacaq.