OpenAI, hər həftə təxminən 1 milyon istifadəçinin süni intellektlə işləyən ChatGPT chatbotu ilə söhbətlərdə potensial intihar planları və ya niyyətlərinin açıq göstəricilərini nümayiş etdirdiyini açıqlayıb. Şirkət tərəfindən bir blog yazısında paylaşılan bu məlumatlar, süni intellektin zehni sağlamlığa təsirinin ən birbaşa izahlarından biri hesab olunur.
Blog yazısında istifadəçilərin zehni sağlamlıqla əlaqəli qarşılıqlı əlaqələri haqqında əlavə məlumatlar da paylaşıldı. Məlumatlara görə, həftəlik aktiv istifadəçilərin təxminən 0,07 faizi və ya 560.000 istifadəçi psixoz və ya maniya ilə əlaqəli ola biləcək potensial təcili zehni sağlamlıq simptomları nümayiş etdirir. OpenAI qeyd etdi ki, bu cür söhbətləri aşkar etmək və ölçmək çətindir və paylaşılan məlumatlar ilkindir. Şirkət qeyd etdi ki, həftəlik aktiv istifadəçilərin 0,15 faizi potensial intihar planları və ya niyyətlərinin açıq göstəricilərini ehtiva edən söhbətlərdə iştirak edir. ChatGPT-nin həftəlik 800 milyondan çox aktiv istifadəçisi var.
Yeni GPT-5 bu söhbətləri araşdıraraq təhlükəsizliyi artırıb
OpenAI bir blog yazısında yeni GPT-5 yeniləməsinin istənməyən davranışları azaltdığını və istifadəçi təhlükəsizliyini artırdığını elan edib. Modelin qiymətləndirilməsində intihar və özünə zərər vermə ilə bağlı 1000-dən çox söhbət araşdırılıb. Şirkət iddia edir ki, yeni versiya əvvəlki versiyaya nisbətən əqli sağlamlıq problemlərinə təxminən 65 faiz daha çox “arzuolunan cavablar” verir. OpenAI-yə görə, GPT-5-in yeni versiyası əvvəlki versiya üçün 77 faizlə müqayisədə arzuolunan davranışlara cavab verməkdə 91 faiz uğur qazanır. Şirkət həmçinin bildirib ki, yeni GPT-5 uzun söhbətlər zamanı OpenAI-ın təhlükəsizlik tədbirlərinə daha yaxşı əməl edir. Əvvəllər təhlükəsizlik tədbirlərinin uzun söhbətlər zamanı daha az təsirli olduğu qeyd olunurdu.
Yeni model ilə istifadəçi təhlükəsizliyini artırmaq üçün böhran müdaxilə xəttinə giriş genişləndirilib və istifadəçilərə uzun söhbətlər zamanı fasilə vermələri xatırladılıb. Bu təkmilləşdirmələr 170 klinik mütəxəssisin dəstəyi ilə edilib. Mütəxəssislər modelin cavablarının təhlükəsizliyini qiymətləndirib, əqli sağlamlıq suallarına uyğun cavabların yaradılmasına töhfə verib və ciddi əqli sağlamlıq vəziyyətlərini əhatə edən 1800-dən çox cavabı nəzərdən keçiriblər. OpenAI həmçinin ChatGPT istifadəçilərinin üzləşdiyi ən ciddi əqli sağlamlıq problemlərini ölçmək üçün yeni qiymətləndirmələr əlavə etdiyini və emosional asılılıq və intihar etməyən əqli sağlamlıq fövqəladə halları meyarlarının süni intellekt modellərinin əsas təhlükəsizlik testlərinə daxil edildiyini açıqlayıb. Uşaq istifadəçiləri qorumaq üçün yeni yoxlamalar da tətbiq olunur. OpenAI, ChatGPT istifadə edən uşaqları avtomatik olaraq müəyyən etmək üçün yaş qiymətləndirmə sistemi hazırladığını və bu istifadəçilər üçün daha sərt tədbirlərin tətbiq olunacağını açıqlayıb. OpenAI həmçinin ChatGPT istifadəçilərinin üzləşdiyi ən ciddi əqli sağlamlıq problemlərini ölçmək üçün yeni qiymətləndirmələr əlavə etdiyini və emosional asılılıq və intihar etməyən əqli sağlamlıq fövqəladə halları meyarlarının süni intellekt modellərinin əsas təhlükəsizlik testlərinə daxil edildiyini açıqlayıb.
