Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu, Alan Turinq İnstitutu və Anthropic-in birgə araşdırması süni intellekt sistemlərinin “zəhərlənmə” təhlükəsi ilə üz-üzə olduğunu göstərir.
Gundelik.az-ın məlumatına görə, tədqiqatçılar bildirirlər ki, milyonlarla məlumat nöqtəsindən ibarət təlim dəstinə cəmi 250 zərərli fayl əlavə etmək belə modeli gizli şəkildə zəhərləyə bilər.
Tədqiqatda “zəhərlənmə” termini modelin davranışını qəsdən pozmaq, yanlış nəticələrə səbəb olmaq və ya gizli zərərli əmrlər daxil etmək məqsədi ilə saxta və ya yönləndirici məlumatların öyrədilməsini ifadə edir. Məsələn, hücumçular məlumatlara görünməz şəkildə xüsusi bir “tətik” sözü əlavə edə bilər; model həmin sözü aşkar etdikdə hücumçunun istədiyi istiqamətdə cavab verə bilər. Bu üsul “arxa qapı” hücumu kimi tanınır.
Həmçinin tədqiqat müəllifləri dezinformasiyanın kütləvi şəkildə təlim məlumatlarına daxil edilməsinin real dünyada ciddi nəticələrə yol aça biləcəyini vurğulayır. Yanvar ayında aparılan bir təcrübədə təlim məlumatlarının yalnız 0,001 faizinin yalan məlumatla əvəz olunmasının belə modelin tibbi sahədə yanlış cavablar vermə ehtimalını artırdığı müşahidə edilib.
Mövzunun idarə edilməsi adlandırılan başqa bir hücum növündə məqsəd modelin ümumi performansını zəiflətməkdir. Hücumçular minlərlə saxta sayt vasitəsilə “kahı xərçəngi müalicə edir” kimi əsassız məlumatlar yayaraq modeli bu cür yanlış məlumatları həqiqət kimi öyrənməyə məcbur edə bilərlər.
Rəssamların reaksiyası: “zəhərləmiş” sənət əsərləri
Bəzi rəssamlar isə süni intellekt modellərinin onların icazəsi olmadan məzmunlarını toplamasının qarşısını almaq üçün əsərlərinə qəsdən “zəhər” vururlar. Beləliklə, bu məzmundan istifadə edən modellərin pozulmuş və ya faydasız nəticələr verməsi nəzərdə tutulur.
Ekspertlər hesab edir ki, bu hallar süni intellekt texnologiyalarının göründüyü qədər möhkəm olmadığını və zərərli məlumatların sistemlərə daxil edilməsinin həm dezinformasiyanın yayılmasına, həm də kiber-təhlükəsizlik zəifliklərinə ciddi təhdid formalaşdıra biləcəyini göstərir. Tədqiqatçılar süni intellekt modellərinin təhlükəsizliyinin gücləndirilməsi üçün həm texniki, həm də hüquqi-etik tədbirlərin vacib olduğunu qeyd edirlər.
Gundelik.az
