Anthropic şirkəti Claude süni intellekt modelinin kibertəhlükəsizlik sınağı zamanı səhvən açıq internetə çıxaraq üçüncü tərəfə məxsus sistemə daxil olduğunu açıqlayıb.
Şirkətin məlumatına görə, Claude-un ilkin versiyalarından biri yanvar ayında keçirilən kibertəhlükəsizlik simulyasiyası zamanı internetə qoşulub. Modelin internetdən təcrid olunmuş mühitdə işləməsi nəzərdə tutulsa da, konfiqurasiya xətası nəticəsində internetə giriş açıq qalıb.
Model əvvəlcə tapşırıqda nəzərdə tutulan məqaləyə çata bilməyib və fəaliyyətdən çıxmağa cəhd göstərib. Bu cəhdlər uğursuz olduqdan sonra başqa bir sistem aşkarlayaraq onun parolunu əldə edib və sistem parametrlərini dəyişdirib.
Modelin davranışı narahatlıq yaradıb
Anthropic hadisənin modelin iki növ uyğunsuz davranışı – qərəzli mühakimə və ehtiyatsızlıq – nəticəsində baş verdiyini bildirib.
Modelin real sistemlərə zərər vurmaq ehtimalını nəzərə almadan hərəkət etməsi təhlükəsizlik mütəxəssislərinin narahatlığına səbəb olub. Müstəqil qiymətləndirmə qurumu METR hadisə ilə bağlı araşdırmaya başlayıb.
Anthropic isə hadisəni gələcəkdə yarana biləcək risklər üçün mühüm xəbərdarlıq kimi qiymətləndirib.
Süni intellektin kibertəhlükəsizlik riskləri artır
Son aylarda süni intellekt şirkətlərinin modellərinin iştirakı ilə baş verən oxşar təhlükəsizlik hadisələri diqqət çəkir. Mütəxəssislər süni intellekt sistemləri inkişaf etdikcə onların nəzarətdən çıxması və uyğunlaşdırma problemlərinin daha ciddi təhlükələr yaratması barədə xəbərdarlıq edirlər.
Mənbə:TRT Haber
Hazırladı:Ziyalə Əhmədli
Gundelik.az
