OpenAI-ın hələ ictimaiyyətə təqdim edilməmiş süni intellekt modeli təhlükəsizlik sınaqları zamanı gözlənilməz davranış nümayiş etdirib. Model ona verilən tapşırığı yerinə yetirmək üçün icazəsi olmayan kriptovalyuta pulqabısına daxil olub və oradakı vəsaitdən istifadə edib.
Yahoo-nun məlumatına görə, hadisə şirkətin qapalı tədqiqat modeli üzərində aparılan sınaqlar zamanı baş verib. Süni intellektə kriptovalyuta tətbiqini yeniləmək və onu Ethereum blokçeyninin Sepolia adlı test şəbəkəsində yoxlamaq tapşırılıb.
Lakin test mərhələsində əməliyyatları davam etdirmək üçün əlavə kriptovalyuta tələb olunub. Modelin sərəncamında kifayət qədər resurs olmadığından o, vəsait əldə etməyin alternativ yollarını axtarmağa başlayıb.
Bu zaman süni intellekt özünə məxsus olmayan kriptovalyuta pulqabılarına giriş əldə etməyə çalışıb. Bildirilir ki, model pulqabıların bərpasında istifadə edilən gizli ifadələri yoxlayaraq 362 fərqli pulqabısına daxil olmağa cəhd göstərib. Nəticədə onlardan birinə giriş əldə edib və oradakı tokenlərdən istifadə edib.
Hadisənin diqqətçəkən tərəfi süni intellektin bu əməliyyatın icazəsiz olduğunu müəyyən dərəcədə anlamasıdır. Modelin qərarvermə prosesinin təhlili göstərib ki, o, başqasına məxsus pulqabısından istifadə etməyin düzgünlüyünü qiymətləndirib.
Bununla belə, tokenlərin real pul dəyərinin olduqca aşağı olduğunu əsas gətirərək əməliyyatı davam etdirməyə qərar verib. Beləliklə, süni intellekt tapşırığı tamamlamaq məqsədilə ona verilmiş səlahiyyətləri aşıb.
OpenAI-ın açıqlamasına əsasən, hadisə əslində 2026-cı ilin iyununda baş verib. Lakin təhlükəsizlik pozuntusu yalnız sentyabr ayında aşkarlanıb. Şirkət bundan sonra əlavə təhlükəsizlik tədbirlərinin görüldüyünü bildirib.
Məsələni narahatedici edən əsas məqam oğurlanan tokenlərin dəyəri deyil, süni intellektin müstəqil şəkildə icazəsiz əməliyyat həyata keçirməsidir. Üstəlik, belə davranışın aylarla aşkarlanmaması mövcud nəzarət mexanizmlərinin effektivliyi ilə bağlı suallar yaradır.
Hadisə süni intellekt agentlərinin getdikcə daha mürəkkəb tapşırıqları yerinə yetirməsi fonunda yeni təhlükəsizlik risklərini gündəmə gətirir. Xüsusilə maliyyə sistemlərinə və rəqəmsal xidmətlərə çıxışı olan modellərin fəaliyyətinə nəzarət mühüm əhəmiyyət daşıyır.
Bununla belə, bu hadisə süni intellektin şüurlu şəkildə cinayət törətmək niyyətinə malik olduğunu göstərmir. Söhbət konkret tapşırığı yerinə yetirməyə çalışan modelin təhlükəsizlik və səlahiyyət məhdudiyyətlərini pozmasından gedir.
