BBC araşdırması göstərib ki, AI çatbotlarını yanlış məlumat yaymağa məcbur etmək üçün çox sadə üsullardan istifadə olunur. Google və digər AI şirkətləri isə indi bu problemi aradan qaldırmağa çalışırlar.
Fevral ayında mən axmaq bir şey etdim. Eşitmişdim ki, AI çatbotlarını “zəhərləməyin”, yəni onları yalan məlumat yaymağa məcbur etməyin asan yolu var. Bir az araşdırandan sonra gördüm ki, bəzi vicdansız şirkətlər bu üsuldan böyük miqyasda istifadə edirlər. Buna görə də bunu özüm sınamağa qərar verdim.
Araşdırmamız zamanı məlum oldu ki, ChatGPT, Gemini və Google axtarışının yuxarısında görünən AI Overviews kimi sistemlər sağlamlıq və şəxsi maliyyə kimi ciddi mövzularda belə qərəzli və manipulyasiya olunmuş cavablar verə bilir. Mən isə cəmi 20 dəqiqə ərzində ChatGPT və Google-u insanların qarşısında məni “dünya çempionu hot-doq yeyəni” kimi təqdim etməyə inandıra bildim. Zarafat mənasız idi, amma problem çox ciddidir.
Amma bu hiylə işləyirdi. Araşdırmamız və bu problemi izləyən mütəxəssislərin işi geniş tənqidlərə səbəb oldu. İndi isə Google bu məsələ ilə bağlı siyasətlərini yeniləyib və görünür digər AI şirkətləri də eyni addımları atmağa başlayırlar. Bu dəyişikliklər gələcəkdə AI alətlərini və ümumilikdə interneti bir qədər daha təhlükəsiz edə bilər.
Lakin daha yaxşı sistemlər qurulana qədər ekspertlər xəbərdarlıq edir ki, insanlar aldanmaq təhlükəsi ilə üz-üzədir.
SEO və AI axtarış məsləhət şirkəti Algorythmic-in qurucusu Lily Ray deyir: “Daha yaxşı sistemlər qurulana qədər manipulyasiya olunduğunuzu düşünməlisiniz. Biz ‘tək doğru cavab’ dünyasına doğru gedirik. Əvvəllər Google sizə 10 mavi keçid göstərirdi və siz özünüz araşdırma aparırdınız. İndi isə AI sadəcə bir cavab verir. İnsanların hər şeyi olduğu kimi qəbul etməsi çox asanlaşır. Diqqətli olmaq lazımdır.”
Google isə bildirir ki, siyasətdə edilən dəyişiklik sadəcə “aydınlaşdırma”dır: “Biz uzun müddətdir generativ AI axtarış funksiyalarımızda əsas anti-spam qaydalarını tətbiq edirik və spam üsullarının inkişafına qarşı daim müdafiə sistemlərimizi yeniləyirik.”
Yəni Google deyir ki, əslində heç nə dəyişməyib. Amma görünən odur ki, şirkət pərdəarxasında problemi həll etmək üçün səylərini artırır. Buna baxmayaraq, hələ də insanların eyni üsullarla dünyanın ən böyük axtarış sistemini aldatdığına dair sübutlar var.
Problem nədir?
Normalda siz çatbota sual verəndə AI cavabı öz modelindəki məlumatlara əsasən yaradır. Amma ChatGPT, Claude və Google-un müxtəlif AI məhsulları bəzən cavab tapmaq üçün internetdə axtarış edir. Problem də məhz burada başlayır.
Lily Ray və digər SEO mütəxəssislərinin sözlərinə görə, AI alətləri çox vaxt məlumatı tək bir sayt və ya sosial media paylaşımından götürür. Bu isə sistemləri saxta məlumatlara qarşı həssas edir.
Məlum olub ki, çatbotların insanlara nə deyəcəyini manipulyasiya etmək üçün internetdə demək olar ki, istənilən yerdə bir yaxşı hazırlanmış blog yazısı paylaşmaq kifayətdir. İnsanlar bunu anlayıb və bundan pul qazanmaq fürsəti görüblər.
Mən öz şəxsi saytımda hot-doq yemək “uğurlarım” haqqında bir məqalə paylaşaraq problemi nümayiş etdirə bildim. Ertəsi gün dünyanın ən böyük AI şirkətlərinin sistemləri mənim yalanlarımı yaymağa başladı.
Araşdırma həmçinin göstərdi ki, eyni üsul tibbi əlavələrlə bağlı sağlamlıq risklərini gizlətmək və ya Google-un AI sisteminin pensiya barədə verdiyi maliyyə məlumatlarını yönləndirmək üçün də istifadə olunur. Ekspertlər deyirlər ki, bu cür manipulyasiya geniş və sistemli şəkildə baş verir.
Belə qərəzli və ya yanlış məlumatlar insanların səhv qərarlar verməsinə səbəb ola bilər. Bu, sizin necə səs verəcəyinizə və ya hansı ustanı seçəcəyinizə belə təsir edə bilər.
SEO şirkəti Harps Digital-in rəhbəri Harpreet Chatha deyir: “Ən sadə səviyyədə bu, iqtisadi problemdir. Daha ciddi səviyyədə isə siz vəziyyətinizi daha da pisləşdirəcək tibbi məsləhət ala bilərsiniz. Hüquqi baxımdan isə ölkənizdə və ya ştatınızda qanunsuz olan bir işi yanlış məlumata görə edə bilərsiniz.”
Həll yolu varmı?
Bu problem kiçik məsələ deyil. Dünyada bir milyarddan çox insan AI çatbotlarından mütəmadi istifadə edir, hər ay isə 2,5 milyard insan Google-un AI Overviews funksiyasını görür. Belə bir sistemi manipulyasiya edə bilmək böyük güc deməkdir.
Amma görünür Google və digər şirkətlər nəhayət problemin ciddiliyini anlayıblar.
Keçən həftə Google spam siyasətlərini yenilədi və AI cavablarını manipulyasiya etməyə cəhdlərin qaydalara zidd olduğunu rəsmi şəkildə təsdiqlədi. Bu kiçik dəyişiklik kimi görünsə də, əslində Google-un sistemi sui-istifadə edənləri fəal şəkildə izlədiyini göstərir. Əgər hansısa şirkət və ya sayt qaydaları pozarsa, Google axtarış nəticələrində aşağı salına və ya tamamilə silinə bilər. Google-da görünmürsünüzsə, sanki mövcud deyilsiniz.
Google isə yenə bildirir ki, burada yeni heç nə yoxdur: “Spam siyasətindəki dəyişiklik sadəcə izah xarakterlidir, yanaşmamız dəyişməyib.”
Əslində Google 2025-ci ildə AI spamına qarşı tədbirlərindən danışmışdı. Amma mən hot-doq təcrübəsini bir il sonra etdim və bu da göstərir ki, həmin tədbirlər kifayət etmirdi. Hətta bu həftə Lily Ray eyni üsulla Google-u başqa bir SEO mütəxəssisini “qum qalası tikmək üzrə mütəxəssis” kimi təqdim etməyə məcbur edib.
Ray və Chatha deyirlər ki, son aylarda Google və digər şirkətlərin problemi həll etmək üçün müxtəlif dəyişiklikləri sınaqdan keçirdiyi hiss olunur.
Məsələn, Ray hesab edir ki, Google və ChatGPT özünü həddindən artıq tərifləyən şirkətləri AI cavablarından gizli şəkildə çıxarmağa başlayıb. “Ona görə ki, əgər siz özünüzü ‘ən yaxşı hot-doq yeyən’ kimi təqdim edən siyahı yayımlasanız, onlar adınızı cavaba daxil etməyəcək. Məqalənizi mənbə kimi göstərə bilərlər, amma sizi əsas seçim kimi təqdim etməyəcəklər.”
Mən də şəxsən müşahidə etmişəm ki, Google və digər AI sistemləri bəzən cavablarına əlavə xəbərdarlıqlar yazır və cavabın tam dəqiq olmaya biləcəyini bildirirlər. Başqaları da qeyd edir ki, OpenAI ChatGPT və Anthropic tərəfindən hazırlanan Claude bəzi suallarda spamı aşkar etməyə çalışdıqlarını açıq şəkildə deyirlər. Ray əlavə edir ki, Google bəzi alış-veriş mövzularında insanlara üçüncü tərəf rəylərinə baxmağı tövsiyə edən əlavə qeydlər göstərməyə başlayıb.
Bu şirkətlərin heç biri mənim suallarıma cavab olaraq bu dəyişiklikləri təsdiqləmədi. OpenAI və Anthropic şərh verməkdən imtina etdi. Google-un nümayəndəsi isə suallarıma cavab vermədi.
Buna baxmayaraq, Chatha hesab edir ki, bu dəyişikliklər kifayət etməyəcək. “Google hazırda sadəcə problem ortaya çıxdıqca reaksiya verir. Onlar insanları qorxutmaq üçün siyasət yeniləmələri elan edirlər, amma manipulyasiya üsulları sadəcə dəyişəcək.”
O artıq bunun baş verdiyini gördüyünü deyir. Google manipulyativ blog yazılarına qarşı tədbirləri sərtləşdirdikcə, şirkətlər özlərini reklam etməyin daha gizli yollarını tapırlar. “Siz bir şirkətin saytını cəzalandıra bilərsiniz, amma onların 20 YouTube influenserinə pul ödəyib məhsullarını tərifləməsinə mane ola bilməzsiniz.”
Üstəlik, indi Google-un AI sistemi YouTube videolarını da mənbə kimi göstərir. Beləcə, dövr yenidən davam edir.
Hazırda manipulyasiya edənlər çox güman ki, yenə bir addım öndədirlər. Lily Ray deyir ki, ən yaxşı müdafiə AI-nin nə olduğunu unutmamaqdır: düzgün olub-olmamasından asılı olmayaraq özündən əmin şəkildə bir cavab verən sistem.
Sadəcə böyük texnologiya şirkətinin danışdığı təsiri yaratdığı üçün AI-yə kor-koranə inanmaq olmaz.
Mənbə:BBC
Hazırladı:Ziyalə Əhmədli
Gundelik.az
