Anthropic tədqiqatçısı Evan Hubinger süni intellektin qarşıdakı 10 il ərzində bütün insanların ölümünə səbəb olması ehtimalını 10 faizdən yüksək qiymətləndirdiyini bildirib. Onun açıqlaması həmkarı Jacob Coxon-un süni intellektin nəzarətdən çıxması ilə bağlı narahatlıqlarına görə şirkətdən ayrıldığını elan etməsindən sonra gəlib.
Coxon bir müddət əvvəl Anthropic və OpenAI kimi şirkətlərin süni intellektin inkişafında bəşəriyyət qarşısında kifayət qədər məsuliyyətli davranmadığını əsas gətirərək istefa verdiyini açıqlayıb. O, şirkətlərin özünü təkmilləşdirə bilən superintellektə doğru sürətlə irəlilədiyini və bunun insanların həyatı üçün ciddi risk yaratdığını düşünür.
Tədqiqatçının fikrincə, süni intellekt şirkətləri arasındakı rəqabət təhlükəsizlik məsələlərində güzəştlərə səbəb ola bilər. Buraya ABŞ-dəki şirkətlərin öz aralarındakı rəqabəti ilə yanaşı, Çin şirkətləri ilə texnoloji yarış da daxildir. Coxon hətta gələn ilin sonuna qədər prosesin nəzarətdən çıxması riskinin olduğunu iddia edir.
Coxon ilin əvvəlində OpenAI-dan ayrılaraq süni intellekt təhlükəsizliyi sahəsindəki araşdırmaları ilə tanınan Anthropic-ə qoşulmuşdu. O, Anthropic-in təhlükəsizlik sahəsində gördüyü işlərin səmimiliyinə inandığını, lakin insanlardan qat-qat üstün ola biləcək süni intellekt sistemlərinin mövcud rəqabət şəraitində məsuliyyətli şəkildə inkişaf etdirilə biləcəyinə artıq inanmadığını bildirib.
Onun fikrincə, hökumətlərin müdaxiləsi və ya süni intellekt sənayesinin ümumi şəkildə koordinasiyalı yavaşlaması olmadan belə sistemlərin təhlükəsiz inkişafını təmin etmək çətin olacaq.
Coxon-un açıqlamalarından sonra Anthropic tədqiqatçısı Evan Hubinger daha sərt qiymətləndirmə ilə çıxış edib. Hubinger süni intellektin həqiqətən bütün insanların ölümünə səbəb ola biləcəyini düşündüklərini bildirib və şəxsən bu ssenarinin qarşıdakı 10 ildə baş verməsi ehtimalını 10 faizdən yüksək qiymətləndirdiyini deyib.
Hubinger Anthropic-in riskləri azaltmaq üçün mümkün olanı etməyə çalışdığına inandığını, lakin superintellektual sistemlərin insan məqsəd və dəyərlərinə uyğun fəaliyyət göstərməsini təmin edəcək problemin hələ həll edilmədiyini vurğulayıb. Onun sözlərinə görə, hazırda bu problemin uğurla həllinə doğru getdiklərinin də aydın sübutu yoxdur.
Müzakirələrin mərkəzindəki əsas məsələlərdən biri süni intellektin özünü təkmilləşdirməsi imkanlarıdır. Söhbət sistemin insan müdaxiləsinə minimum ehtiyac duyaraq öz imkanlarını inkişaf etdirməsi və daha güclü versiyalarının yaradılması prosesinə töhfə verməsindən gedir. Belə bir imkan hazırda tam formada mövcud olmasa da, qabaqcıl süni intellekt laboratoriyalarının sistemlərin proqramlaşdırma, tədqiqat və süni intellektin inkişafı ilə bağlı tapşırıqları getdikcə daha müstəqil yerinə yetirməsi üzərində çalışdığı bildirilir.
Coxon hesab edir ki, bu proses müəyyən həddi keçərsə, gələcək sistemlərin insan nəzarətinə tabe olmaması riski yarana bilər. Süni intellekt modellərinin kibertəhlükəsizlik sahəsində sürətlə artan imkanları və təhlükəsizlik sınaqlarında müşahidə edilən arzuolunmaz davranışlar da bu mövzudakı narahatlıqları artırır.
Süni intellektin sürətli inkişafından qaynaqlanan risklər son dövrlərdə sektorun digər aparıcı nümayəndələri tərəfindən də müzakirə edilir. OpenAI rəhbəri Sem Altman kibertəhlükəsizlik risklərinə qarşı tədbirlərin gücləndirilməsinin vacibliyindən danışıb. Şirkətin baş elmi mütəxəssisi Jakub Pachocki isə qabaqcıl süni intellektin inkişafının daha koordinasiyalı və nəzarətli şəkildə aparılmasının tərəfdarıdır.
Coxon, Pachocki və Anthropic rəhbəri Dario Amodei də daxil olmaqla 1000-dən çox süni intellekt tədqiqatçısının özünü təkmilləşdirə bilən sistemlər üzərində nəzarətin itirilməsi ehtimalına qarşı hökumətlər arasında koordinasiyanın gücləndirilməsini tələb edən çağırışa qoşulduğu bildirilir.
Bununla belə, Hubingerin səsləndirdiyi 10 faizdən yüksək göstərici elmi şəkildə müəyyən edilmiş və ya ümumi qəbul olunmuş risk səviyyəsi deyil. Bu, tədqiqatçının şəxsi ehtimal qiymətləndirməsidir. Süni intellektin bəşəriyyət üçün ekzistensial təhlükə yaradıb-yaratmayacağı, belə bir riskin nə qədər yüksək olduğu və superintellektual sistemlərin nə vaxtsa yaradılıb-yaradılmayacağı ilə bağlı mütəxəssislər arasında ciddi fikir ayrılıqları mövcuddur.
