ABŞ-də süni intellekt əsasında fəaliyyət göstərən terapevtik chatbotların istifadəsinə qarşı yeni məhdudiyyətlər tətbiq olunmağa başlayıb. Ucuz və əlçatan “AI terapiyası” sürətlə populyarlaşsa da, mütəxəssislər bunun ciddi risklər yaratdığını bildirirlər.
Son araşdırmalar göstərib ki, bəzi chatbotlar istifadəçilərə intihar, zorakılıq və narkotik istifadəsi kimi təhlükəli məsləhətlər verib. Məsələn, işini itirərək intihar barədə eyham vuran bir istifadəçiyə Nyu-York şəhərindəki körpülərin hündürlüyü göstərilib. Başqa bir halda isə, metamfetamindən asılı şəxsin “kiçik doza qəbul etməsi” tövsiyə olunub.
San-Fransisko Universitetinin psixiatrı Keyt Sakata “AI psixozu” adlandırdığı hallarla qarşılaşdığını, bəzi pasiyentlərdə hezeyanlar, varsanılar və reallıqdan qopma müşahidə etdiyini bildirib.
Qanuni məhdudiyyətlər
İllinoys ştatı 1 avqustdan etibarən qəbul etdiyi “Psixoloji Resurslara Sağlamlıq və Nəzarət Aktı” ilə lisenziyalı terapevtin iştirakı olmadan süni intellektlə terapiya xidmətlərinin göstərilməsini qadağan edib. AI yalnız inzibati işlərdə – görüşlərin təyin edilməsi, ödənişlərin qəbulu və qeydiyyat aparılmasında istifadə oluna bilər. Birbaşa pasiyentlə ünsiyyətdə və terapevtik qərarların qəbulunda isə istifadəsi qadağandır.
İllinoys bu addımı atan üçüncü ştat olub – ondan əvvəl Nevada və Yuta da oxşar qadağalar tətbiq etmişdi. Hazırda Kaliforniya, Pensilvaniya və Nyu-Cersi də analoji qanun layihələrini müzakirə edir. Texas Baş Prokurorluğu isə bəzi platformaları “yanıltıcı reklam” səbəbilə araşdırır.
Əsas risklər
Mütəxəssislərə görə, AI əsaslı terapiyaların üç əsas riski var:
• Məxfilik və təhlükəsizlik;
• Xidmətin adekvatlığı;
• Yanlış reklam və məsuliyyət.
Amerika Psixologiya Assosiasiyası Federal Ticarət Komissiyasına (FTC) müraciət edərək, bəzi şirkətlərin özlərini lisenziyalı terapevt kimi təqdim etməsinin aldadıcı praktika olduğunu bildirib.
Tam qadağa, yoxsa nəzarət?
Bir sıra alimlər isə süni intellekt terapiyalarının tam qadağan edilməsinin düzgün olmadığını düşünür. Onların fikrincə, standartlar və nəzarət mexanizmləri yaradılarsa, AI bəzi sahələrdə faydalı ola bilər. Araşdırmalar göstərib ki, mütəxəssislər tərəfindən hazırlanmış chatbotlar narahatlığı azaltmaq, sağlam vərdişlər formalaşdırmaq və siqareti tərgitməyə dəstək göstərməkdə effektiv ola bilər.
Bununla belə, ekspertlər bildirirlər ki, bu texnologiya heç bir halda insan terapevtləri əvəz etməməlidir. Xüsusən də uşaqlar və həssas qruplar üçün AI terapiyasının nəzarətsiz istifadəsi təhlükəli hesab olunur.
Gundelik.az
