Süni intellekt sahəsində fəaliyyət göstərən Anthropic şirkəti texnologiyanın inkişafında mühüm dönüş nöqtəsinə yaxınlaşıldığı barədə xəbərdarlıq edib. Şirkətin qiymətləndirməsinə görə, süni intellekt modelləri yaxın gələcəkdə daha güclü süni intellekt sistemlərinin hazırlanmasında əsas rollardan birini oynaya bilər. Bu isə texnologiyanın inkişaf sürətini əhəmiyyətli dərəcədə artıra bilər.
Anthropic-in ABŞ Qiymətli Kağızlar və Birjalar Komissiyasına (SEC) təqdim etdiyi bildirilən yenilənmiş S-1/A sənədində süni intellektin gələcəyi ilə bağlı diqqətçəkən risklərdən bəhs olunur.
Şirkət tədqiqat və inkişaf proseslərində süni intellektdən getdikcə daha geniş istifadə etdiyini bildirir. Bu texnologiyalar yeni modellərin hazırlanmasını sürətləndirməklə yanaşı, gələcəkdə süni intellektin öz inkişafına daha fəal şəkildə töhfə verməsinə şərait yarada bilər.
Söhbət elmi ədəbiyyatda Recursive Self-Improvement (RSI), yəni rekursiv özünü təkmilləşdirmə adlandırılan prosesdən gedir.
Bu yanaşmaya əsasən, süni intellekt yalnız istifadəçilərin tapşırıqlarını yerinə yetirməklə kifayətlənmir. O, daha güclü modellərin layihələndirilməsi, proqramlaşdırılması, öyrədilməsi və sınaqdan keçirilməsi proseslərinə də kömək edir.
Nəticədə yaradılan daha güclü modellər növbəti nəsil süni intellekt sistemlərinin hazırlanmasında istifadə olunur. Beləliklə, hər yeni nəsil əvvəlkindən daha effektiv şəkildə yeni modellərin inkişafına töhfə verə bilər.
Bu prosesin davamlı və sürətli şəkildə baş verməsi süni intellektin inkişaf tempində ciddi artıma səbəb ola bilər.
Anthropic-in diqqət çəkdiyi əsas risklərdən biri belə inkişafın insan tədqiqatçıların nəzarət və qiymətləndirmə imkanlarını üstələməsi ehtimalıdır.
Şirkətin xəbərdarlığına görə, süni intellekt modellərinin imkanlarında baş verən mühüm dəyişikliklər bəzən tədqiqatçılar tərəfindən vaxtında müəyyən edilməyə bilər. Bu isə yeni risklərin aşkarlanmasını və müvafiq təhlükəsizlik tədbirlərinin hazırlanmasını çətinləşdirə bilər.
Anthropic bu məsələyə özünün Responsible Scaling Policy, yəni Məsuliyyətli Miqyaslandırma Siyasəti çərçivəsində də yanaşır. Şirkətin qiymətləndirməsinə əsasən, süni intellektin inkişaf sürətinin kəskin artması ilə əlaqəli bəzi kritik hədlərə yaxın gələcəkdə çatmaq mümkün ola bilər.
Belə bir mərhələdə süni intellektin yeni modelləri tamamilə müstəqil şəkildə hazırlaması əlavə təhlükəsizlik riskləri yarada bilər. Buna görə də Anthropic insan nəzarətinin və təhlükəsizlik qiymətləndirmələrinin qorunmasını vacib hesab edir.
Digər tərəfdən, rekursiv özünü təkmilləşdirmə texnologiyası mühüm imkanlar da vəd edir. Süni intellektin yeni sistemlərin hazırlanmasına daha çox kömək etməsi elmi tədqiqatları sürətləndirə, mürəkkəb problemlərin həllini asanlaşdıra və müxtəlif sahələrdə məhsuldarlığı artıra bilər.
Lakin bu imkanlarla yanaşı, süni intellektin inkişafının nə dərəcədə idarəolunan qalacağı da əsas müzakirə mövzularından biridir.
Qeyd etmək lazımdır ki, mövcud süni intellekt modellərinin insan müdaxiləsi olmadan özlərini davamlı və etibarlı şəkildə təkmilləşdirə bildiyi hələ sübut edilməyib. Anthropic-in xəbərdarlığı belə bir mərhələyə keçidin mümkünlüyü və bunun yaradacağı risklərlə bağlıdır.
Şirkətin mövqeyi süni intellektin inkişaf sürəti ilə təhlükəsizlik mexanizmlərinin təkmilləşdirilməsi arasında tarazlığın qorunmasının vacibliyini bir daha gündəmə gətirir.
