Anthropic-in AI, Claude, indi cinsi məzmun tələbləri və ya genişmiqyaslı zorakılıq və terror aktları haqqında məlumat tələbləri ilə bağlı söhbətləri bitirə bilər. Beləliklə, Claude bu yenilik ilə AI çatbotlar tarixində ilk dəfə artıq istifadəçidən soruşmadan söhbəti sonlandıracaq ilk çatbot adını qazanır.
Anthropic, Claude AI modellərinin tarixinə düşəcək radikal bir xüsusiyyət açıqlayıb. Claude Opus 4 və 4.1 artıq istifadəçilərlə söhbətləri bitirmək imkanına malikdir. Şirkətdən verilən məlumata görə, bu funksiya yalnız “istifadəçilərin davamlı olaraq zərərli və ya sui-istifadə edən qarşılıqlı əlaqəsi” hallarında aktivləşdiriləcək. Qısacası, ekstremal hallarda, məsələn, uşaq cinsi məzmunu üçün sorğular və ya genişmiqyaslı zorakılıq və terror aktları haqqında məlumat tələb etmək cəhdləri kimi, bütün digər istiqamətləndirmə cəhdləri uğursuz olarsa, Klod söhbəti birtərəfli qaydada dayandıra bilər.
Əlbəttə ki, Anthropic vurğulayır ki, istifadəçilər bu xüsusiyyəti heç vaxt yaşamayacaqlar. İndi söhbət dayandırıldıqda, sözügedən söhbət tamamilə bağlanır və heç bir yeni mesaj göndərilə bilməz. Bununla belə, istifadəçi dərhal yeni söhbətə başlaya və ya əvvəlki mesajları yönləndirmək üçün redaktə edə bilər. Başqa sözlə desək, sistem “cəza”dan daha çox təhlükəsizlik yönümlü bir həll təklif edir. Süni intellektə insan xüsusiyyətlərinin aşılanmasının mübahisəli bir mövzu olduğunu qəbul edən şirkət, Klodun “dağıdıcı qarşılıqlı əlaqədən imtina etmək” hüququnun aşağı qiymətli, lakin effektiv risklərin idarə edilməsi tədbiri olduğunu iddia edir. Hazırda eksperimental mərhələdə olan bu funksiya istifadəçi rəyi əsasında təkmilləşdiriləcək.
