Anthropic-in CEO-su Dario Amodeinin daha əvvəl qeyd etdiyi kimi, hətta bu texnologiyanı inkişaf etdirən insanlar belə süni intellektin necə işlədiyini və niyə seçim etdiklərini tam başa düşmürlər. Məsələn, süni intellektə sual verdiyiniz zaman, onun izlədiyi addımları və bu cavabı yaratmaq üçün istifadə etdiyi resursları görürük, lakin onun müəyyən cavabları niyə seçdiyini və ya digərlərini niyə seçmədiyini dəqiq bilmirik. Lakin, bu vəziyyət hələ ən yaxşı hal ola bilər. Belə ki, fizika üzrə Nobel mükafatı laureatı və “süni intellektin atası” kimi tanınan Geoffrey Hinton hesab edir ki, süni intellektin nə düşündüyünü görə bilmək üçün günlər sayılıb. Onun sözlərinə görə müasir süni intellekt çatbotları yaxın tarixdə bizim bilmədiyimiz bir dildə düşünməyə başlayacaq.
Bu gün biz heç olmasa süni intellektlərin düşünərkən izlədiyi addımları izləyə bilərik. ChatGPT və Gemini kimi süni intellektlər əsaslandırma mərhələsində ingilis dili kimi tanış dillərdən istifadə edir. Ancaq Hinton bunun uzun sürməyəcəyinə inanır. Hintonun fikrincə, süni intellektlər tezliklə öz dillərini inkişaf etdirə və düşünərkən onlardan istifadə etməyə başlaya bilərlər. Əslində, biz artıq AI-lərin öz dillərini inkişaf etdirdiyini görə bilərik. Hətta illər əvvəl Google-un tərcümə botu özününkü yaratmışdı. Həmçinin 2017-ci ildə Facebook iki chatbot-u bağlamaq məcburiyyətində qaldı, çünki onlar tanış olmayan dil yaradaraq bir-biri ilə danışmağa başladılar. Əlbəttə ki, bunlar indiki qabaqcıl modellərdən qat-qat primitiv süni intellektlər idi. Əgər bu günün, daha da önəmlisi, sabahın süni intellekt öz dilini inkişaf etdirsə və onun üzərində düşünməyə başlasa, bu, daha ciddi problemlər yarada bilər.
Süni intellektin indi də qorxulu fikirlər yarada biləcəyini vurğulayan Geoffrey Hinton, onların düşündüklərini görə bilmədiyimiz ssenarinin dağıdıcı potensialını vurğulayır. Hintonun sözlərinə görə, bu vəziyyət demək olar ki, qaçılmaz olduğundan, növbəti addım süni intellektin hər zaman xeyirxah qalmasını təmin etmək üçün addımlar atmaqdır. Bununla belə, süni intellekt şirkətləri və daha da əhəmiyyətlisi ABŞ və Çin süni intellektdə virtual silahlanma yarışı ilə məşğul olduqlarından, onların bunu təmin etmək üçün lazımi addımları atması çətin görünür.
