Hal-hazırda süni intellekt insan resursları proseslərindən müştəri xidmətlərinə qədər bir çox sahədə istifadə olunmağa başlayıb. Bununla belə, McDonald’s-ın işə qəbul prosesində istifadə etdiyi AI ilə işləyən chatbot Olivia, bu sürətli inteqrasiyanın təhlükəsizlik baxımından nə qədər riskli ola biləcəyini ortaya qoyub. Paradox.ai adlı süni intellekt platformasında işləyən sistemdə 64 milyondan çox ərizəçinin şəxsi məlumatlarını risk altında qoyan ciddi boşluq var.
Paradox.ai-yə əsaslanan Olivia, McDonald’s’ın virtual işə qəbul üzrə köməkçisi idi. Bu, namizədlərə yaxınlıqlarında açıq mövqeləri göstərdi, onlara müraciət prosesində bələdçilik etdi və hətta daha insana bənzər bir təcrübə yaratmaq üçün bir insan işçinin fotoşəkilini təqdim etdi. Bununla belə, texniki cəhətdən diqqətəlayiq olmayan bu chatbot, daha dərindən yoxlamadan sonra kibertəhlükəsizlik mütəxəssisləri üçün zəifliklərin xəzinəsinə çevrilib. Wired tərəfindən aşkar edilən məlumatlara görə, təhlükəsizlik tədqiqatçıları Ian Carroll və Sam Curry sistemin arxa hissəsinə daxil olmaq üçün sadə istifadəçi adı və parol birləşməsindən, sadəcə 123456 istifadə etdilər. Bu sadə giriş vasitəsilə onlar təkcə sistemin demo versiyasına deyil, həm də milyonlarla insanın adlarına, ünvanlarına, e-poçtlarına, telefon nömrələrinə və işə müraciət tarixçəsinə tam giriş əldə ediblər.
Carroll prosesi ətraflı şəkildə bloqunda paylaşıb. O, Paradox-un test mühitində restoran meneceri roluna çıxış əldə etdiklərini və daha sonra tətbiq sisteminin daxili strukturunu təhlil etməyə başladıqlarını qeyd etdi. Onlar kodu araşdırdıqda, hər bir tətbiq üçün nömrələrə və fərdi məlumat axınına birbaşa baxa bildilər. Xüsusilə, sistemdə 64 milyondan çox müraciət nömrəsinin ardıcıl mövcudluğu sistem zəifliyinin ən bariz göstəricisi idi. Carroll, bu zəiflikləri gördükdən sonra vəziyyəti Paradox səlahiyyətlilərinə bildirdiklərini, lakin rəsmi təhlükəsizlik bildiriş kanalına çatmaqda çətinlik çəkdiklərini bildirib. Baş verən hadisələrdən sonra sistemdəki boşluq bağlanıb və zəif parol yenilənib. Lakin bu hadisələr bizə süni intellektin şirkət infrastrukturlarına inteqrasiyası zamanı nə qədər diqqətli olmağımız lazım olduğunu bir daha xatırladıb.
