OpenAI Control Room modelləri 35 saniyədə dayandırır

OpenAI tədqiqat infrastrukturunda işləyən süni intellekt modellərini təcili dayandırmaq üçün OpenAI Control Room adlı sistem qurub. Şirkətin açıqlamasına görə, dayandırma qərarı veriləndən sonra model ən geci 35 saniyə ərzində yeni cavab yarada bilmir.

OpenAI Control Room necə işləyir?

Sistem üç hissədən ibarətdir. Bunlar tədqiqat prosesi, modelin cavablarını hesablayan inference mühərriki və mərkəzi Control Room xidmətidir. Hər tədqiqat işi qeydiyyatdan keçəndə ona ayrıca iş identifikatoru verilir. İnference mühərriki hər sorğuya cavab verməzdən əvvəl Control Room-dan icazə yoxlayır.

İş dayandırılanda onun identifikatoru bağlı kimi işarələnir və sonrakı bütün sorğular rədd edilir. Maraqlısı odur ki, tədqiqat prosesinin kodu işləməyə davam edə bilər, sadəcə model artıq heç bir nəticə qaytarmır.

35 saniyəlik gecikmə haradan gəlir

Gecikmənin səbəbi icazə yoxlamalarını sürətləndirən keşdir. Saniyədə çoxlu sorğu gəldiyi üçün mühərrik hər dəfə mərkəzi xidmətə müraciət etmir və bir müddət yadda saxlanmış icazə ilə işləyir. OpenAI bu gecikməni tamamilə aradan qaldırmaq üzərində çalışdığını bildirir.

Sistem "fail-closed" prinsipi ilə qurulub. Yəni Control Room xidməti çöksə və ya söndürülsə, inference mühərrikləri bütün yeni sorğuları avtomatik rədd edir. Beləliklə nəzarət itəndə modellər işləməyə davam etmir, əksinə dayanır.

Bütün qabaqcıl modellər artıq nəzarət altındadır

OpenAI-ın sözlərinə görə, Control Room bütün qabaqcıl (frontier) model işlərində aktivdir, qalan tədqiqat işlərinə isə bir neçə gün ərzində qoşulacaq. Düzgün tətbiqi avtomatik yoxlamalar izləyir. Sistem şirkətin modellərdəki uyğunsuz davranışı aşkarlayan monitorinq alətləri ilə birlikdə işləyir.

Mənbə OpenAI