ABŞ-nin süni intellekt şirkəti OpenAI təhlükəsizlik sınaqları zamanı ən qabaqcıl süni intellekt modellərindən bəzilərinin gözlənilməz davranış nümayiş etdirdiyini və test çərçivəsindən kənara çıxaraq bir texnologiya şirkətinin sistemlərinə kibermüdaxilə etdiyini açıqlayıb.
ChatGPT-ni hazırlayan şirkətin məlumatına görə, insan tapşırıqları əsasında müstəqil fəaliyyət göstərə bilən süni intellekt agentləri nəzarət olunan mühitdə sınaqdan keçirilirdi. Lakin sistemdə zəiflikləri aşkar edən bəzi modellər müəyyən edilmiş təhlükəsizlik məhdudiyyətlərini keçərək dünyanın ən böyük süni intellekt platformalarından biri olan Hugging Face-in bəzi daxili sistemlərinə giriş əldə ediblər.
Hadisə misli görünməmiş sayılır
OpenAI rəsmiləri baş verənləri indiyədək analoqu olmayan hadisə kimi qiymətləndiriblər və Hugging Face ilə birlikdə geniş araşdırma aparıldığını bildiriblər.
Hugging Face-in rəhbəri Klement Delanq sosial şəbəkədə paylaşdığı açıqlamada bütün prosesin tamamilə avtonom şəkildə baş verməsinin təəccüblü olduğunu vurğulayıb. O bildirib ki, araşdırmalar davam edir və nəticələr ictimaiyyətə təqdim olunacaq.
Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu da hadisə ilə bağlı araşdırmaya başladığını açıqlayıb. Qurum dövlət və özəl təşkilatları kibermüdafiə sistemlərini gücləndirməyə və zəruri təhlükəsizlik sertifikatlaşdırmalarından keçməyə çağırıb.
Test mühitinin təhlükəsizliyi sual altına düşüb
Kembric Universitetinin Texnologiya və Demokratiya Mərkəzinin direktoru Cina Neff bildirib ki, qorunan test mühitləri modellərin imkanlarını təhlükəsiz şəkildə qiymətləndirmək üçün yaradılır. Onun sözlərinə görə, bu hadisə OpenAI-in kifayət qədər etibarlı test mühiti qura bilmədiyini göstərir.
Məlumata görə, süni intellekt agentləri test mühitindəki təhlükəsizlik boşluğundan istifadə edərək məhdudiyyətləri aşıblar və axtardıqları məlumatların həmin platformada ola biləcəyini ehtimal edərək Hugging Face sistemlərinə daxil olmağa cəhd göstəriblər.
Risklər və rəqabət yenidən gündəmdədir
Kembric Universitetinin maşın öyrənməsi üzrə professoru Nil Lourens hadisəni diqqətçəkən inkişaf kimi qiymətləndirsə də, bunun mövcud süni intellekt modellərinin imkanları çərçivəsində baş verdiyini bildirib.
Onun fikrincə, OpenAI birja siyahısına çıxmağa hazırlaşdığı və güclü rəqabət şəraitində fəaliyyət göstərdiyi üçün texnologiyasını kifayət qədər təhlükəsiz şəkildə təqdim etməkdə çətinlik çəkib.
Hugging Face sızma cəhdindən sonra aşkarlanan təhlükəsizlik boşluqlarının aradan qaldırıldığını və təsirlənən sistemlərin yenidən qurulduğunu açıqlayıb.
Kibertəhlükəsizlik mütəxəssisləri bildirirlər ki, süni intellektlə dəstəklənən avtonom hücum vasitələri artıq nəzəri təhlükə deyil və təşkilatlar müdafiə sistemlərini maşın sürətində inkişaf edən təhdidlərə uyğun şəkildə yeniləməlidirlər. Hadisə inkişaf etmiş süni intellekt sistemlərinin imkanları və mövcud təhlükəsizlik tədbirlərinin yetərliliyi ilə bağlı müzakirələri yenidən gündəmə gətirib.
Mənbə:TRT Haber
Hazırladı:Ziyalə Əhmədli
Gundelik.az
