OpenAI ChatGPT istifadəçiləri üçün yeni təhlükəsizlik tədbirləri tətbiq etməyə hazırlaşır. Şirkət xüsusilə yeniyetmələrin silahlar və zorakılıqla bağlı məlumatlara çıxışını məhdudlaşdıracaq. Bundan başqa, zorakılıq mövzularına təhlükəli şəkildə yönələn söhbətlərin avtomatik dayandırılması və bəzi istifadəçi hesablarının müvəqqəti məhdudlaşdırılması nəzərdə tutulur.
Reuters agentliyinin məlumatına görə, yeni qaydalar real həyatda baş verə biləcək zorakılıq hadisələrinin qarşısını almaq məqsədi daşıyır.
Dəyişikliklər ilk növbədə 18 yaşdan kiçik istifadəçilərə təsir göstərəcək. ChatGPT yeniyetmələrə silahlar, onların istifadəsi və təhlükəsizlik sistemləri barədə sui-istifadə oluna biləcək praktiki məlumatları təqdim etməyəcək.
Məhdudiyyətlər istifadəçinin sualında zorakılıq niyyəti aşkar edilmədiyi hallarda da qüvvədə olacaq. Beləliklə, zahirən zərərsiz görünən bəzi sorğulara da əvvəlkindən daha məhdud cavablar veriləcək.
OpenAI bütün istifadəçiləri əhatə edən əlavə təhlükəsizlik mexanizmləri də hazırlayıb. Yeni sistem istifadəçinin zorakılıq mövzusuna təhlükəli şəkildə həddindən artıq fokuslandığını müəyyən edərsə, ChatGPT həmin söhbəti avtomatik dayandıra biləcək.
Belə hallar dəfələrlə təkrarlanarsa, istifadəçi hesabının fəaliyyəti müvəqqəti məhdudlaşdırıla bilər.
Şirkət həmçinin keçmişdə baş vermiş kütləvi hücumlarla bağlı təqdim olunan məlumatların təfərrüatlarını azaldacaq. Xüsusilə bu hadisələrdə istifadə edilmiş silahların növləri və onların necə əldə olunması barədə məlumatlara əlavə məhdudiyyətlər tətbiq ediləcək.
Yeniliklərdən biri də istifadəçilərin yaşının müəyyənləşdirilməsi sistemi ilə bağlıdır. OpenAI yaş proqnozlaşdırma mexanizmini təkmilləşdirərək 18 yaşdan kiçik olduğunu ehtimal etdiyi istifadəçiləri avtomatik olaraq yeniyetmələr üçün nəzərdə tutulan ChatGPT rejiminə keçirəcək.
Bu rejimdə daha sərt təhlükəsizlik qaydaları tətbiq olunur.
Valideyn nəzarəti ilə bağlı mexanizmlər də genişləndiriləcək. Yeniyetmənin hesabı zorakılıq mövzularında təkrarlanan təhlükəli söhbətlər səbəbindən müvəqqəti dayandırılarsa, OpenAI bu barədə valideynləri məlumatlandırmağı planlaşdırır.
Yeni tədbirlər süni intellekt çatbotlarının uşaqlar və yeniyetmələr üçün yaratdığı potensial risklərlə bağlı müzakirələrin artdığı bir dövrdə elan edilib.
OpenAI oktyabrın əvvəlində yeniyetmələrin ChatGPT-dən istifadəsi ilə bağlı ilk hesabatını yayımlamışdı. Şirkətin məlumatına görə, yeniyetmələr platformada gündəlik orta hesabla 15 dəqiqədən az vaxt keçirirlər.
Bununla belə, müstəqil araşdırmalar təhlükəsizlik sistemlərinin effektivliyi ilə bağlı müəyyən suallar ortaya qoyur.
Common Sense Media qeyri-kommersiya təşkilatının oktyabr ayında dərc etdiyi hesabatda ChatGPT-nin yeniyetmələr üçün nəzərdə tutulan versiyasının bəzi hallarda valideynləri vaxtında xəbərdar etmədiyi bildirilir.
Araşdırmada intihar, özünə zərərvermə və qidalanma pozuntuları ilə bağlı söhbətlər zamanı xəbərdarlıqların gecikdiyi və ya ümumiyyətlə göndərilmədiyi hallar müəyyən edilib.
OpenAI yeni təhlükəsizlik mexanizmlərinin qarşıdakı bir neçə həftə ərzində mərhələli şəkildə istifadəyə veriləcəyini açıqlayıb. Şirkət sistemlərin effektivliyini izləyərək məhdudiyyətləri təkmilləşdirməyə davam edəcəyini bildirib.
Beləliklə, ChatGPT-də tətbiq olunacaq yeniliklər yalnız yeniyetmələrin müəyyən məlumatlara çıxışını məhdudlaşdırmaqla kifayətlənməyəcək. Platforma təhlükəli hesab edilən söhbətləri avtomatik dayandırmaq və təkrarlanan hallarda istifadəçi hesablarına müvəqqəti məhdudiyyət qoymaq imkanına da malik olacaq.
