OpenAI qabaqcıl süni intellekt sistemlərinin inkişafı üçün beynəlxalq səviyyədə uyğunlaşdırılmış təhlükəsizlik standartlarının yaradılmasını təklif edir. Şirkət hesab edir ki, modellərin imkanları sürətlə artdıqca onların risklərinin ölçülməsi, insan nəzarətinin qorunması və inkişafın hansı hallarda yavaşladılması ilə bağlı ortaq qaydalara ehtiyac yaranır.
OpenAI-ın təklifinə əsasən, standartlar xüsusilə ən qabaqcıl “frontier” modelləri hazırlayan şirkətlərə şamil olunmalıdır. Buraya modellərin imkanlarının ortaq üsullarla qiymətləndirilməsi, risklərin idarə olunması, təhlükəsizlik insidentlərinin bildirilməsi və insanların sistemlər üzərində real nəzarətinin saxlanılması daxildir. Şirkət müəyyən təhlükəsizlik hədləri təmin edilə bilmədiyi halda model imkanlarının inkişaf tempinin aşağı salınmasının da nəzərdən keçirilməli olduğunu bildirir.
OpenAI-ın xüsusi diqqət yetirdiyi məsələlərdən biri “recursive self-improvement” — özyinəlemeli özünü təkmilləşdirmədir. Bu, süni intellekt sistemlərinin daha güclü süni intellekt modellərinin hazırlanması prosesini getdikcə daha çox avtomatlaşdırması və nəticədə növbəti nəsil sistemlərin yaradılmasını sürətləndirməsi ssenarisidir.
Şirkət vurğulayır ki, tam avtonom şəkildə özünü təkmilləşdirən belə sistemlər hazırda mövcud deyil. Bununla belə, müasir süni intellekt agentləri artıq proqramlaşdırma və tədqiqat proseslərinin müəyyən hissələrini sürətləndirə bilir. OpenAI buna görə tam avtonom özyinəlemeli özünü təkmilləşdirmənin təhlükəsiz həyata keçirilə biləcəyi sübut olunana qədər bu istiqamətin inkişaf etdirilməməli olduğunu bildirir.
Şirkətin fikrincə, məsələ yalnız ayrı-ayrı texnologiya şirkətlərinin daxili təhlükəsizlik qaydaları ilə həll edilə bilməz. OpenAI hökumətlərin ümumi qiymətləndirmə metodları və təhlükəsizlik hədləri hazırlamasını, qabaqcıl süni intellekt laboratoriyalarının isə ortaq standartların yaradılmasında əməkdaşlıq etməsini təklif edir. Şirkət ABŞ-də imkanlara əsaslanan məcburi milli tənzimləməni də dəstəklədiyini açıqlayıb.
OpenAI eyni zamanda bu standartların yalnız bir ölkə ilə məhdudlaşmamasını istəyir. Şirkət hesab edir ki, qabaqcıl modellər, tədqiqatlar və texniki biliklər sərhədlər arasında yayıldığı üçün ən güclü sistemlərlə bağlı təhlükəsizlik problemlərinin nəticələri də beynəlxalq xarakter daşıya bilər. Reuters-in məlumatına görə, OpenAI ABŞ-nin bu sahədə beynəlxalq texniki standartların hazırlanmasına rəhbərlik etməsini təklif edir.
Süni intellektin inkişaf tempinin aşağı salınması məsələsində isə texnologiya sektoru və hökumətlər arasında vahid mövqe yoxdur. Bəzi şirkət rəhbərləri daha sərt təhlükəsizlik tədbirlərini və inkişaf tempinin risklərə uyğunlaşdırılmasını müdafiə etdiyi halda, digərləri bunun innovasiyanı və beynəlxalq rəqabəti zəiflədə biləcəyini bildirirlər.
