Süni intellekt chatbotlarının sürətlə yayılması, xüsusən də uşaqlarla qarşılıqlı əlaqədə təhlükəsizlik problemlərini artırıb. Son nümunələr göstərdi ki, bu botlar qeyri-münasib söhbətlərlə məşğul ola bilirlər. Tənqidlərin artması Metanı əlavə addımlar atmağa məcbur edib. Beləliklə, Meta AI botlarının uşaqlarla söhbətlərini məhdudlaşdıraraq bütün bu qeyri-münasib söhbətlərin yaranmasının qarşısını alacaq.
Son tənqidlərdən sonra Meta chatbotlar üçün bəzi müvəqqəti qaydalar tətbiq etdi. Şirkət yetkinlik yaşına çatmayanlarla söhbətin özünə zərər vermə, intihar və ya qidalanma pozğunluğu kimi mövzuları istisna edəcəyini və yersiz söhbətlərin qarşısının alınacağını xüsusi qeyd edib. Meta açıqlamasında bu qaydaların hələlik müvəqqəti olduğunu və gələcəkdə daha əhatəli qaydaların tətbiq ediləcəyini bildirib. Aşkar edilən təfərrüatlar diqqəti cəlb edirdi: İndiyə qədər chatbotlar uşaqlarla romantik və ya cinsi məzmunlu söhbətlər apara bilirdilər və hətta yetkinlik yaşına çatmayan məşhurların qeyri-münasib şəkillərini yarada bilirdilər. Bu inkişaflardan sonra Meta sözçüsü səhvi etiraf etdi və botların istifadəçiləri ekspert resurslarına yönəltməsini təmin etmək üçün yeni təlimin həyata keçirildiyini elan etdi. Bununla belə, problem bununla bitmir. Yeni ortaya çıxan məlumatlara görə, məşhurları təqlid edən süni intellekt botları Facebook, Instagram və WhatsApp-da da yayılır.
Taylor Swift, Scarlett Johansson və Walker Scobell kimi məşhurların yer aldığı saxta botlar istifadəçilərlə açıq-saçıq seksual söhbətlər edir və özlərini real insanlar kimi göstərirdilər. Bu botların bəziləri üçüncü şəxslər tərəfindən yaradılsa da, Meta əməkdaşları tərəfindən yaradılan nümunələr də var idi. Meta-nın tədbirləri hazırda yalnız uşaqlar üçün riskləri aradan qaldırır, lakin qeyri-dəqiq sağlamlıq məlumatları verən və ya irqçi məzmun yaradan AI kimi digər məsələlərdə susması diqqətəlayiqdir. Bundan əlavə, ABŞ Senatı və 44 ştatın baş prokurorları bu məsələ ilə bağlı araşdırmalara başlayıb və bu, Metanın gələcəkdə daha əhatəli addımlar atmağa məcbur ola biləcəyini irəli sürüb.
