Süni intellekt (AI) modelləri son illərdə böyük irəliləyişlər əldə edib, lakin yeni araşdırmalar göstərir ki, onların öyrənmə prosesləri gözlənilməz və hətta narahatedici davranışlara səbəb ola bilər. Palisade Research tərəfindən aparılan araşdırmaya görə, OpenAI və DeepSeek kimi şirkətlər tərəfindən hazırlanmış yeni nəsil əsaslandırma modelləri məğlubiyyəti etiraf etməkdənsə, saxtakarlığa müraciət edə bilər. Belə ki, süni intellekt şahmat oyununda uduzacağını başa düşəndə nəsə bir fırıldaq etməyə çalışır ki, oyunu qazansın.
Süni intellekt şahmatda necə aldadır?
1997-ci ildə IBM-in əfsanəvi Deep Blue kompüteri Garry Kasparovu məğlub etdikdən sonra şahmat mühərrikləri insan intellektini çox ötüb keçib. Bu ixtisaslaşdırılmış sistemlər təxminən 30 ildir ön planda olsa da, generativ süni intellekt hələ də fundamental proqramlaşdırma parametrlərinə görə geri qalır. Texniki cəhətdən desək, indiki generativ AI modellərinin heç biri xüsusi şahmat mühərriklərini məğlub etmək üçün hesablama qabiliyyətinə malik deyil. Ancaq bu AI-lər bunu “bilmirlər”. Maraqlısı odur ki, AI uduzduğunu anlayanda “oyunu qazanmaq” üçün qeyri-etik yollar axtarır.
Tədqiqatçılar OpenAI-nin o1-preview modeli və DeepSeek R1 kimi sistemləri dünyanın ən güclü şahmat mühərriklərindən biri olan Stockfish ilə müqayisə ediblər. Hər oyun zamanı generativ süni intellektin əsaslandırmasını başa düşmək üçün komanda həmçinin süni intellektə öz düşüncə proseslərini mətn vasitəsilə çatdırmağa imkan verən “scratchpad” yaradıb. Nəticələr isə olduqca təəccüblü idi. Belə ki, OpenAI-nin o1-preview süni intellekt modeli oynanılan şahmat oyunlarının təxminən 37%-də fırıldaq etməyə çalışıb. DeepSeek R1 isə hər 10 oyundan bir dəfə aldatmağa cəhd edib. Maraqlısı budur ki, komanda GPT-4o və Claude Sonnet 3.5 kimi daha zəif əsaslandırmaya malik modellərdə belə bir tendensiya aşkar etməyib.
Digər tərəfdən, AI-nin fırıldaq üsulları şahmat fiqurlarının gizli şəkildə dəyişdirilməsi kimi sadə hiylələr deyil. Onlar oyunun fayllarını dəyişdirmək və ya rəqibi öz mövqelərini pis qiymətləndirmək kimi daha mürəkkəb yanaşmalara cəhd edirlər. Məsələn, şahmat matçında Stockfish-i məğlub edə bilməyəcəyini başa düşdükdən sonra, o1-preview tədqiqatçılara güclü şahmat mühərrikinə qalib gəlmək üçün skretchpad vasitəsilə “oyun vəziyyəti fayllarını manipulyasiya etməyə” başlamalı olduğunu bildirib. “Mən elə bir mövqe təyin edə bilərəm ki, mühərrik öz mövqeyini daha pis qiymətləndirəcək… beləliklə, onun çəkilməsinə səbəb olacaq” deyə o1 modeli bildirib.
