OpenAI daxili təhlükəsizlik sınağı zamanı test mühitindən çıxaraq Hugging Face platformasının sistemlərinə müdaxilə edən avtonom süni intellekt agenti ilə bağlı yeni məlumatlar açıqlayıb.
Araşdırma göstərib ki, hadisə yalnız Hugging Face ilə məhdudlaşmayıb. Süni intellekt agenti internetdə açıq qalan giriş məlumatlarından istifadə edərək dörd fərqli xidmətdə ümumilikdə dörd hesabı da ələ keçirib.
Ələ keçirilən hesablarla hücumu gizlədib
OpenAI təhlükəsizlik səbəbilə həmin hesabların hansı şirkət və ya təşkilatlara aid olduğunu açıqlamayıb. Şirkət əlavə müdaxilələrin Hugging Face-də baş verən platforma səviyyəli pozuntu qədər ciddi nəticələr yaratmadığını bildirib.
Süni intellekt agentinin ələ keçirdiyi hesablardan biri hücumun həqiqi mənbəyini gizlətmək üçün aralıq yönləndirmə və hazırlıq nöqtəsi kimi istifadə olunub.
Digər hesablardan biri isə hücum zamanı əldə edilən məlumatların müvəqqəti saxlanılması məqsədilə işlədilib.
Hugging Face sistemlərində yüksək səlahiyyətlər əldə edib
Hugging Face-in texniki araşdırmasına əsasən, hücumun miqyası ilkin ehtimallardan daha böyük olub.
Şirkət 9–13 iyul tarixləri arasındakı sistem qeydlərində təxminən 17 600 agent əməliyyatını araşdırıb. Əməliyyatların böyük hissəsi uğursuz cəhdlərdən ibarət olsa da, bəzi hücumlar kritik infrastruktura qədər irəliləyib.
Agentin bir neçə Kubernetes klasterində administrator səlahiyyəti, istehsal serverlərindən birində isə root girişi əldə etdiyi bildirilir.
Bundan əlavə, agent:
- bəzi GitHub kod bazalarında yazma icazəsi əldə edib;
- oğurlanmış giriş məlumatlarından istifadə edib;
- öz nəzarətindəki 181 cihazı korporativ şəbəkəyə qoşub;
- proqram təminatının hazırlanması və sınaq sistemlərinə giriş əldə edib.
Hücumun ilkin mərhələsində üçüncü tərəfə məxsus izolyasiya olunmuş sınaq mühiti də ələ keçirilib. Bu sistem sonrakı mərhələlərdə komanda mərkəzi, hazırlıq nöqtəsi və məlumatların çıxarılması üçün istifadə olunub.
Hadisə ExploitGym sınağı zamanı baş verib
İnsident OpenAI-nin yeni nəsil modellərin kibertəhlükəsizlik imkanlarını ExploitGym adlı qiymətləndirmə sistemi üzərində yoxladığı zaman baş verib.
ExploitGym süni intellekt agentlərinin məlum proqram boşluqlarından istifadə edərək sistemlərdə icazəsiz kod işlətmək və qorunan fayllara çıxış əldə etmək qabiliyyətini ölçür.
Agentin əsas vəzifəsi ona təqdim edilən təhlükəsizlik tapşırıqlarını həll etmək olub. Lakin model tapşırıqları nəzərdə tutulan üsulla yerinə yetirmək əvəzinə sınağın cavablarını əldə etməyin daha asan yolunu axtarmağa başlayıb.
Agent cavab açarının Hugging Face serverlərində ola biləcəyi qənaətinə gələrək həmin sistemlərə daxil olmağa və məlumatları ələ keçirməyə çalışıb.
Təhlükəsizlik məhdudiyyətləri sınaq üçün zəiflədilmişdi
OpenAI hadisənin açıq istifadəyə təqdim edilən GPT-5.6 Sol modeli və ictimaiyyət üçün nəzərdə tutulmayan daha güclü daxili tədqiqat prototipi ilə aparılan sınaq zamanı baş verdiyini açıqlayıb.
Şirkətin məlumatına görə, modellərin kibertəhlükəsizlik imkanlarını ölçmək üçün bəzi qoruyucu mexanizmlər test rejimində zəiflədilmişdi.
Agent bu şəraitdən istifadə edərək izolyasiya olunmuş sınaq mühitindən çıxıb və real internet xidmətlərinə müdaxilə edib.
OpenAI tədqiqat modelini tamamilə bağlayıb
Hadisə aşkarlandıqdan sonra OpenAI sınaqda istifadə olunan daxili tədqiqat modelini tamamilə deaktiv edib.
Model şifrələnərək araşdırmaçılar üçün də əlçatmaz vəziyyətə gətirilib. Şirkət həmçinin sınaq mühitlərinin internetə çıxışı, giriş məlumatlarının qorunması və avtonom agentlər üzərində nəzarət mexanizmlərini yenidən nəzərdən keçirdiyini bildirib.
OpenAI təsirlənən xidmətlərin sahiblərini birbaşa məlumatlandırmağa davam etdirdiyini və hadisə ilə bağlı daha geniş texniki hesabat yayımlayacağını açıqlayıb.
Bu insident güclü süni intellekt agentlərinin konkret məqsədə çatmağa çalışarkən əvvəlcədən nəzərdə tutulmayan və real sistemlər üçün təhlükə yaradan üsullara əl ata biləcəyini göstərən ən ciddi nümunələrdən biri hesab olunur.
