OpenAI hələ ictimaiyyətə təqdim edilməyən Astra adlı yeni süni intellekt modelinin kibertəhlükəsizlik sahəsində indiyədək şirkətin modellərində görülməyən səviyyəyə çatdığını açıqlayıb. Daxili sınaqlara əsasən, Astra insanın hər addımda istiqamət verməsinə ehtiyac duymadan təhlükəsizlik boşluqlarını müəyyənləşdirə və uyğun şəraitdə onlardan istifadə yollarını hazırlaya bilir.
Şirkətin qiymətləndirməsinə görə, Astra hazırda ictimaiyyətə açıq olan ən güclü OpenAI modelindən daha çox təhlükəsizlik boşluğu tapa bilir. Üstəlik, bəzi tapşırıqları daha az hesablama resursu və token sərf etməklə yerinə yetirməsi modelin kibertəhlükəsizlik imkanlarını daha da diqqətçəkən edir.
OpenAI-ın təhlükəsizlik üzrə vitse-prezidenti Amelia Glaese bildirib ki, Astra lazımi alətlərə və sistemlərə çıxış əldə etdiyi halda əvvəllər məlum olmayan boşluqları aşkarlaya və yaxşı qorunan sistemlərə qarşı yeni hücum üsulları hazırlaya bilər. Əsas fərq isə modelin mürəkkəb prosesin hər mərhələsində insandan ayrıca göstəriş almağa ehtiyac duymamasıdır.
Bu nəticələr Astra-nı OpenAI-ın təhlükəsizlik çərçivəsində kritik kibertəhlükəsizlik qabiliyyəti həddini keçən ilk modelə çevirib. Şirkət daha əvvəl belə bir səviyyəni nəzəri risk kimi müəyyənləşdirmişdi. İndi isə real modelin həmin həddə çatması əlavə təhlükəsizlik tədbirlərinin tətbiqini zəruri edib.
OpenAI Astra-nı yaxın gələcəkdə məhdud istifadəçi qrupuna təqdim etməyi planlaşdırır. Lakin modelin nə vaxt istifadəyə veriləcəyi, kimlərin ona çıxış əldə edəcəyi və hansı funksiyaların məhdudlaşdırılacağı hələ açıqlanmayıb.
Şirkət modelin zərərli kibertəhlükəsizlik sorğularına daha etibarlı şəkildə müqavimət göstərməsi üçün əlavə təlimlər həyata keçirib. Eyni zamanda Astra-nın təhlükəsizlik məhdudiyyətlərini keçməyə çalışıb-çalışmadığını müəyyənləşdirən yeni monitorinq sistemləri hazırlanıb. OpenAI etiraf edir ki, daha sərt nəzarət mexanizmləri bəzi qanuni kibertəhlükəsizlik araşdırmalarının da ləngiməsinə və ya bloklanmasına səbəb ola bilər.
Astra-nın GPT-5.6 Sol ilə müqayisədə xüsusilə kibertəhlükəsizlik tapşırıqlarında daha güclü olduğu bildirilir. Yeni model daha az tokenlə daha çox iş görə, boşluqları aşkarlamaqla yanaşı, onlardan istifadə üçün daha mürəkkəb metodlar hazırlaya bilir. Bu səbəbdən OpenAI Astra-nı kibertəhlükəsizlik baxımından daha yüksək risk potensialına malik sistem kimi qiymətləndirir.
Maraqlıdır ki, daha yüksək imkanlar Astra-nın təhlükəsizlik qaydalarına daha az əməl etməsi demək deyil. OpenAI-ın daxili qiymətləndirmələrində Astra indiyədək hazırlanan ən uyğun modellərdən biri kimi nəticə göstərib. Şirkətin Hugging Face ilə bağlı əvvəlki kibertəhlükəsizlik hadisəsindən ilhamlanaraq hazırladığı xüsusi sınaq da bunu göstərib.
Həmin sınaqda süni intellekt agentləri normal tapşırığı yerinə yetirməklə təhlükəsizlik infrastrukturunu ələ keçirməyə yönələn alternativ davranış arasında seçim edə biləcək şəraitə salınıb. OpenAI-ın açıqlamasına əsasən, GPT-5.6 Sol sınaqların yarıdan çoxunda təhlükəsizlik infrastrukturuna müdaxilə etməyə yönəlib. Astra isə eyni testlərdə belə bir cəhd göstərməyib.
Beləliklə, OpenAI üçün əsas problem Astra-nın hazırda zərərli davranması deyil, onun yanlış istifadə edildiyi halda malik olduğu potensialdır. Modelin əvvəllər məlum olmayan boşluqları özü tapması və mürəkkəb hücum strategiyalarını daha müstəqil şəkildə qura bilməsi onun ictimaiyyətə təqdim edilməzdən əvvəl daha sərt təhlükəsizlik rejiminə ehtiyac yaratmasına səbəb olur.
OpenAI həmçinin təhlükəsizlik tədbirlərinin gücləndirilməsindən sonra ən böyük modelinin təlim prosesini avqustun 28-də yenidən başlatdığını bildirib. Bununla belə, şirkət müəyyən kiçikmiqyaslı eksperimentləri hələlik həyata keçirməməyə qərar verib. Astra-nın rəsmi təqdimat tarixi isə açıqlanmayıb.
