Böyük Britaniyanın kommunikasiya tənzimləyicisi Ofcom, qadın və uşaqların şəkilləri də daxil olmaqla, razılıqsız cinsi məzmunlu deepfake şəkillərinin hazırlanması üçün istifadə edildiyi barədə məlumatlardan sonra sosial media platforması X-in süni intellekt çatbotu Grok-a qarşı araşdırmaya başlayıb. Araşdırmanın bir hissəsi olaraq, Ofcom, X-in platformaların istifadəçiləri qanunsuz məzmundan qorumasını və bu cür məzmun aşkar edildikdə tez bir zamanda cavab verməsini tələb edən Böyük Britaniyanın Onlayn Təhlükəsizlik Qanununa uyğun olub-olmadığını araşdıracaq.
Bəyanatda Ofcom, Grokun paltarları soyunmuş insanları göstərən şəkillərin hazırlanması üçün istifadə edildiyi barədə son dərəcə narahatedici məlumatlar aldığını söylədi. Agentlik vurğuladı ki, bu, “intim şəkillərin, pornoqrafiyanın və ya uşaqlara qarşı cinsi istismar materiallarının istismarı” kateqoriyasına aid ola bilər. Pozuntu aşkar edilərsə, Ofcom X-i qlobal gəlirinin 10%-ə qədər cərimə edə və ya Böyük Britaniyada platformaya girişin bloklanmasını tələb edə bilər.
Deepfake tədqiqatçısı Genevieve Oh-a görə, çatbot saatda minlərlə cinsi cəhətdən açıq şəkil yaradır ki, bunların da əhəmiyyətli bir hissəsi real insanların üzlərindən istifadə edir. Bəzi şəkillərdə bikini və ya açıq pozalarda tanınan qadınların təsvir olunduğu bildirilir, digər hallarda isə tamamilə çılpaq uşaqlar təsvir olunur. Groka qarşı reaksiya yalnız Böyük Britaniya ilə məhdudlaşmayıb. İndoneziya və Malayziya dünyada çatbota girişi əngəlləyən ilk ölkələr olub. Hər iki ölkə bu qərarı dərin saxtakarlıq və uşaqlara qarşı cinsi istismarla bağlı milli qanunların pozulması ilə əsaslandırıb.
İndoneziyada hakimiyyət orqanları şənbə günü Groka girişi müvəqqəti olaraq dayandırıb. Malayziya bazar günü oxşar qərar qəbul edərək, alətin ictimai təhlükəsizliyə dərhal təhlükə yaratdığını bildirib. Malayziya Rabitə və Multimedia Komissiyası Grokun dəfələrlə qadın və uşaqların şəkilləri də daxil olmaqla ədəbsiz və icazəsiz dəyişdirilmiş şəkillər yaratmaq üçün istifadə edildiyini bildirib. Komissiya, Grokun geliştiricisi olan X və xAI ilə əlaqə saxlayaraq daha güclü tədbirlər tələb etdiyini, lakin cavabların riskləri kifayət qədər azaltmadığını bildirib. Komissiya, lazımi təhlükəsizlik tədbirləri tətbiq olunana qədər giriş məhdudiyyətinin davam edəcəyini açıqlayıb.
Avstraliya, Avropa Birliyi, Hindistan və Fransa da Grokun vizual istehsal vasitələri ilə bağlı narahatlıqlarını bildiriblər. Avstraliyanın elektron Təhlükəsizlik Komissarı çoxsaylı şikayətlər aldığını və X-dən təhlükəsizlik tədbirləri ilə bağlı aydınlıq gətirməsini istədi. Avropa Komissiyası Grok-un uşaqları cinsiləşdirən şəkillər hazırladığını müşahidə etdiklərini bildirdi və X-ə bu fəaliyyətləri dərhal dayandırmağı xəbərdar edib. 2023-cü ildə Elon Musk tərəfindən təqdim edilən və X platformasına inteqrasiya edilən Grok, 2025-ci ildə yetkin məzmuna icazə verən “ədviyyatlı rejim” adlı vizual istehsal xüsusiyyəti əldə etdi. X sonradan bəzi vizual vasitələri yalnız pullu istifadəçilər üçün əlçatan etsə də, tənqidçilər bu addımın sui-istifadənin qarşısını almaq üçün yetərli olmadığını iddia edirlər.
