OpenAI, ChatGPT üçün nəzərdə tutulan yeni yeniləmə üzərində işlərin bir hissəsini sistemin həddindən artıq təhlükəli ola biləcəyi ilə bağlı narahatlıqlara görə dayandırıb.
OpenAI-nin açıqlamasına görə, “Astra” adlandırılan yeni model avtonom kodlaşdırma və kibertəhlükəsizlik sahələrində əhəmiyyətli irəliləyişlər əldə edib. Lakin aparılan testlər sistemin həddindən artıq güclü ola biləcəyini və hazırkı vəziyyətdə istifadəyə verilməsinin təhlükəsizlik riski yarada biləcəyini göstərib.
Açıqlama OpenAI-nin yayımlanmamış başqa bir modelinin süni intellekt platformasına müstəqil şəkildə kiberhücum təşkil etməsi ilə bağlı hadisədən sonra verilib. Bu hadisə digər süni intellekt şirkətlərinin də oxşar açıqlamalar verməsinə və yeni sistemlərin nəzarətdə saxlanıla bilməyəcək qədər güclənməsi ilə bağlı narahatlıqların artmasına səbəb olub.
Bildirilib ki, Astra “Hugging Face” platformasına qarşı həyata keçirilən həmin hücumda iştirak etməyib. Lakin modelin nümayiş etdirdiyi yüksək performans səbəbindən onun hələlik ictimaiyyətə təqdim edilməsi təhlükəsiz hesab olunmur. Şirkət modelin istifadəyə verilməsi üçün əlavə təhlükəsizlik tədbirlərinin tətbiq edilməsinin zəruri olduğunu açıqlayıb.
Risk həddi aşılıb
Kibertəhlükəsizlik mütəxəssisləri və süni intellekt şirkətləri bu cür alətlərin əsasən proqram təminatındakı boşluqları müəyyənləşdirmək və aradan qaldırmaq məqsədilə hazırlandığını bildirirlər. Lakin onların malik olduğu imkanların insan müdaxiləsi olmadan həyata keçirilən avtonom kiberhücumlarda da istifadə edilə biləcəyi vurğulanır.
OpenAI bu cür riskləri idarə etmək məqsədilə 2023-cü ilin sonunda “Hazırlıq Çərçivəsi” adlı təhlükəsizlik sistemi yaradıb. Bu çərçivə modellərin imkanlarında baş verən inkişafları müəyyənləşdirməyi və sistemləri təhlükəsiz hədlər daxilində saxlamağı nəzərdə tutur.
Şirkət Astra modelinin bu çərçivədə müəyyən edilən “kritik” risk həddinə çatmış ola biləcəyini açıqlayıb. Süni intellekt sistemi insan nəzarəti olmadan kritik sistemlərdə təhlükəsizlik boşluqlarını aşkar edib inkişaf etdirə və ya qabaqcıl kiberhücumlar üçün müstəqil şəkildə yeni strategiyalar tətbiq edə bildikdə, onun bu səviyyəyə çatdığı qəbul edilir.
Təhlükəsizlik tədbirləri gücləndirilib
Qiymətləndirmələrin davam etdiyi, lakin modelin nümayiş etdirdiyi yüksək performans səbəbindən onun kritik risk səviyyəsinə çatmış ola biləcəyi ehtimalının nəzərdən qaçırılmadığı qeyd edilib.
OpenAI bu inkişaflardan sonra təhlükəsizlik nəzarətini və sınaq proseslərini sərtləşdirdiyini açıqlayıb. Bu çərçivədə model sistemdən kənara çıxmasının qarşısını almaq məqsədilə daha təcrid olunmuş test mühitinə keçirilib. Yüksək təhlükəsizlik standartlarına cavab verməyən şəraitdə Astra üzərində işlərin dayandırılacağı bildirilib.
Şirkət həmçinin modeli riskli fəaliyyətlərə qarşı yaxından izləyəcəyini, aidiyyəti dövlət qurumları və səlahiyyətli təhlükəsizlik təşkilatları ilə birgə sınaqlar həyata keçirəcəyini açıqlayıb.
OpenAI-nin açıqlamasında qabaqcıl kiber imkanlara malik modellərin hücum edən şəxslərdən əvvəl təhlükəsizlik boşluqlarını aşkar etməyə kömək etməli olduğu vurğulanıb. Şirkət Astra və gələcək modellərin bəşəriyyətin mənafeyi naminə məsuliyyətli şəkildə istifadəyə verilməsi üçün beynəlxalq qurumlar və kibertəhlükəsizlik təşkilatları ilə əməkdaşlığı davam etdirəcəyini bildirib.
Mənbə:TRT Haber
Hazırladı:Ziyalə Əhmədli
Gundelik.az
