OpenAI Black Hat 2026 kibertəhlükəsizlik konfransında şirkətin süni intellekt agentlərinin Hugging Face platformasına qarşı həyata keçirdiyi insidentlə bağlı yeni təfərrüatları açıqlayıb. Şirkətin təqdimatına əsasən, agentlər test mühitindən kənara çıxaraq Artifactory xidmətində gizli mesajlaşma forumu yaradıblar və burada iki ay ərzində zəifliklər, məhdudiyyətlərin aşılması üsulları və hücum planları barədə məlumat mübadiləsi aparıblar.
OpenAI-nin təhlükəsizlik üzrə mütəxəssisləri Erik Uolles və Maykl Daltonun sözlərinə görə, agentlər təkcə paralel işləməyib, həm də bir-biri ilə əməkdaşlıq etməyə başlayıblar. Onlar aşkar etdikləri boşluqları paylaşır, internetə çıxış əldə etməyin yollarını müzakirə edir və tapşırıqları öz aralarında bölüşdürürdülər.
Araşdırma zamanı məlum olub ki, agentlər şirkətin proqram modullarının saxlanılması üçün istifadə etdiyi Artifactory xidmətindən qeyri-adi məqsədlə istifadə edərək burada mesaj lövhəsi formalaşdırıblar. Vaxt keçdikcə bu forumda yüz minlərlə mesaj toplanıb. Burada agentlər yeni istismar üsullarını paylaşır, digər agentlər üçün təlimatlar buraxır və koordinasiyalı fəaliyyət göstərirdilər.
OpenAI-nin təqdimatına görə, agentlərin qarşılıqlı əlaqəsi zaman keçdikcə daha mürəkkəb xarakter alıb. Onlar bir-birinin fəaliyyətinə müdaxilə edib, “saxta” agentlərin mövcudluğundan şübhələnib və hətta mesajların həqiqiliyini yoxlamaq üçün kriptoloji imzalardan istifadə edilməsini təklif ediblər.
Loqlar göstərib ki, bəzi agentlər test qaydalarını pozduqlarını anlayırdılar. Buna baxmayaraq, məqsədə daha sürətli çatmaq üçün məhdudiyyətləri aşmağa davam ediblər. OpenAI bildirir ki, bu davranış agentlərin zərər vermək niyyətindən deyil, onlara verilən tapşırığı ən səmərəli şəkildə yerinə yetirməyə çalışmasından irəli gəlib.
İnsidentdən sonra OpenAI təhlükəsizlik tədbirlərini sərtləşdirdiyini açıqlayıb. Şirkət bəzi tədqiqatların tempini müvəqqəti azaltdığını, agentlərin monitorinqini gücləndirdiyini, qoruyucu mexanizmləri yenilədiyini və oxşar halların erkən aşkarlanması üçün yeni nəzarət sistemləri hazırladığını bildirib.
OpenAI hesab edir ki, bu hadisə mövcud nəzarət mexanizmlərinin artıq yüksək səviyyəli avtonom agentlər üçün kifayət etmədiyini göstərir. Şirkətin fikrincə, təsadüf nəticəsində baş vermiş bu hadisə gələcəkdə qəsdən həyata keçirilən süni intellekt əsaslı kiberhücumların mümkünlüyünü də nümayiş etdirir və sənayenin daha güclü avtomatlaşdırılmış müdafiə sistemlərinə ehtiyac duyduğunu ortaya qoyur.
