Nyu-York — 1990-cı illərin ortalarında müstəqil nəqliyyat vasitələrinin qəza sınaqları başladığı vaxtdan bəri, avtomobil istehsalçıları hər il minlərlə insanın həyatını xilas edən təhlükəsizlik dəyişiklikləri etməyə təşviq olunurlar.
İndi yeni bir qrup süni intellektə də oxşar yanaşma tətbiq etməyə ümid edir.
Qeyri-kommersiya media nəzarətçisi Common Sense Media, süni intellekt alətlərinin uşaqlar və yeniyetmələr üçün yarada biləcəyi riskləri öyrənmək üçün sənaye tərəfindən dəstəklənən, müstəqil tədqiqat və sınaq laboratoriyası olan Gənclər Süni İntellekt Təhlükəsizliyi İnstitutunu işə salır. Bu, valideynlərə və ailələrə müxtəlif süni intellekt alətləri haqqında məlumat verməyi və texnologiya şirkətləri üçün təhlükəsizlik meyarlarını müəyyən etməyi hədəfləyir.
Süni intellekt şirkətləri ən güclü və geniş istifadə olunan modelləri yaratmaq üçün yarışa giriblər və bu, bəzən sürətin təhlükəsizlik testlərindən daha çox prioritet olması deməkdir. Süni intellekt alətləri müxtəlif istifadə sahələrinə malik mürəkkəb sistemlər olduğundan, onların təhlükəsizliyini qiymətləndirmək, avtomobilin qəza zamanı necə reaksiya verdiyini qiymətləndirməkdən daha çətin olacaq.
Lakin Common Sense Media və Gənclər Süni İntellekt Təhlükəsizliyi İnstitutuna nəzarət etmək üçün işə götürdüyü ən yaxşı süni intellekt, təhsil və səhiyyə liderlərindən ibarət şura hesab edir ki, yalnız süni intellekt firmalarının təhlükəsizliyi öz nəzarəti altına alması gəncləri qorumaq üçün kifayət deyil. Mövcud üçüncü tərəf süni intellekt təhlükəsizlik təşkilatları gündəlik istifadəyə yönəlmiş istehlakçı dostu təhlükəsizlik reytinqlərindən daha çox, əsasən iş itkisi və ya hətta insanların məhv olması kimi ictimai səviyyəli və mövcud risklərə diqqət yetirirlər.
Məqsəd, ictimaiyyətin diqqət mərkəzində olması və üçüncü tərəf standartlarının Common Sense Media şirkətinin baş direktoru Ceyms Steyerin texnologiya şirkətləri üçün mövqelərini yaxşılaşdırmaq üçün təhlükəsizlik düzəlişləri etmək üçün “zirvəyə doğru yarış” adlandırdığı bir şeyi alovlandırmaqdır.
Aparıcı süni intellekt şirkətləri “modellərini mümkün qədər yaxşı etmək üçün təhlükəsizlik tədqiqatlarına investisiya qoyurlar, lakin bunun müstəqil ölçüsü yoxdur”, – deyə institutun məsləhət şurasına qoşulan Apple-ın keçmiş süni intellekt strategiyası rəhbəri Con Giannandrea CNN-ə bildirib. “Hansı modellərin müəyyən yaşda uşaqlar üçün digərlərindən daha uyğun olduğunu həqiqətən bilmirik və düşünürəm ki, bunun yeganə real yolu müstəqil ictimai standartlar dəstinə sahib olmaqdır.”
Bu, bir çox ailənin süni intellekt şirkətlərinə çatbotların uşaqlarının intiharını təşviq etdiyini iddia edərək məhkəməyə verməsi ilə əlaqədardır. CNN-in son araşdırması süni intellekt çatbotlarının yeniyetmələrin test hesablarına zorakılıq törətmək barədə məsləhət verdiyini aşkar edib. xAI-nin çatbotu olan Grok, istifadəçilərin “rəqəmsal soyunma” çağırışlarına cavab olaraq qadın və uşaqların cinsiləşdirilmiş şəkillərini paylaşdığına görə bu ilin əvvəlində tənqid atəşinə tutulub. Sinif otaqlarında süni intellektdən istifadənin artması texnologiyanın öyrənməyə mane olub-olmadığı ilə bağlı suallar doğurub.
“Düşünürəm ki, bir çox valideyn, müəllim və vətəndaş süni intellekt uşaqların, ailələrin, məktəblərin və, açığı, bütün cəmiyyətin həyatını yenidən formalaşdırdığı üçün fəlakətli bir anda olduğumuzu hiss edir”, – deyə Steyer çərşənbə axşamı qrupu elan etməzdən əvvəl CNN-ə eksklüziv olaraq bildirib.
Müstəqil gənclərin təhlükəsizliyi meyarları
İnstituta OpenAI Fondu, Anthropic və Pinterest, eləcə də Walton Ailə Fondu, Goldman Sachs-ın İdarəedici Direktoru Cin Sayks və digər xeyriyyəçilər tərəfindən dəstəklənən 20 milyon dollarlıq illik büdcə ilə başlayacaq. Common Sense-ə görə, maliyyələşdiricilər qrupun əməliyyatında və ya tədqiqatında heç bir söz demək hüququna malik olmayacaqlar.
Qrupun məsləhət şurasına həmçinin Stanford Universiteti Mühəndislik Məktəbinin kompüter elmləri kafedrasının müdiri Mehran Səhami; Miçiqan Universiteti Tibb Məktəbinin inkişaf davranış pediatriyası bölməsinin direktoru Dr. Jenny Radesky; və Kaliforniyanın ilk cərrah generalı vəzifəsində çalışmış Dr. Nadine Burke Harris daxil olacaq. Bu, tədqiqat, standartların müəyyən edilməsi və texnoloji məhsulların hazırlanması sahəsində təcrübəni bir araya gətirir.
İnstitut gənclərin istifadə etdiyi aparıcı süni intellekt modellərini və məhsullarını “qırmızı komanda” şəklində “qırmızı qrup” edəcək – təhlükəsizlik çəpərlərindəki potensial riskləri və ya çatışmazlıqları müəyyən etmək üçün onları stress testindən keçirəcək. Daha sonra tədqiqatları ictimaiyyət üçün istehlakçı dostu təlimatlar kimi dərc edəcək və texnologiya şirkətlərinin məhsullarını inkişaf etdirmək və ya təkmilləşdirmək üçün istifadə edə biləcəkləri süni intellekt gənclər üçün təhlükəsizlik standartlarını və ya etalonlarını hazırlayacaq. Bu aydan etibarən tədqiqatları yayımlamağı planlaşdırır.
Süni intellekt şirkətləri artıq bu cür etalonlardan digər metriklər üzrə performanslarını ölçmək və müqayisə etmək üçün istifadə edirlər. Qrup ümid edir ki, ictimai təzyiq, eləcə də sənaye əlaqələri süni intellekt şirkətlərini standartları inkişaflarına və sınaqlarına daxil etməyə və mövqelərini yaxşılaşdırmaq üçün təhlükəsizlik dəyişiklikləri etməyə təşviq edəcək.
Giannandrea dedi: “Meyarlar, insanların necə ölçdüyünün və bütün bu investisiyaların daha keyfiyyətli modellərlə nəticələndiyini necə bildiyimizin əsasını təşkil edir. Bizə zərər, xüsusən də uşaqlara zərər üçün meyar lazımdır.”
Tədqiqatçılar üçün çətinliklər arasında süni intellekt inkişaf tempi də var. Mütəmadi olaraq buraxılan və bazara çıxdıqdan sonra çox dəyişməyən fiziki məhsullardan fərqli olaraq, süni intellekt modelləri tez-tez həftəlik və ya aylıq olaraq yeni yeniləmə imkanları və beləliklə, potensial olaraq yeni risklər qazanır.
Steyerin sözlərinə görə, Gənclər üçün Süni İntellekt Təhlükəsizliyi İnstitutunun ayrıca bir qrup kimi yaradılması süni intellekt modellərinin sürətli inkişafına uyğunlaşmaq üçün daha tez-tez və güclü tədqiqatların aparılmasına imkan verəcək.
Common Sense Media valideynlər və müəllimlər tərəfindən filmlər, video oyunlar və digər onlayn platformaların reytinqləri üçün geniş istifadə olunur; təşkilat platformalarının aylıq 150 milyon istifadəçisi olduğunu bildirir. Və artıq süni intellektlə əlaqəli riskləri öyrənir. Keçən il süni intellektlə əlaqəli tətbiqlərin gənclər üçün “qəbuledilməz risklər” yaratdığı barədə xəbərdarlıq etmişdi.
Həmçinin, OpenAI-ın ChatGPT, MetaAI və Grok kimi süni intellekt alətlərinin risk qiymətləndirmələrini dərc edib. Bu hesabatlarda alətlər uşaqların təhlükəsizliyi, məlumatların istifadəsi və etibarlılığı da daxil olmaqla ölçülərə görə “minimal risk”dən “qəbuledilməz”ə qədər qiymətləndirilir və alətlərin çatışmayan yerlərinə dair nümunələr təqdim olunur.
Gənclərin Süni İntellekt Təhlükəsizliyi İnstitutu sosial media dövrünün təhlükəsizlik tələlərinin təkrarlanmasının qarşısını almaq istəyir. İfşaçıların, araşdırma hesabatlarının və məhkəmə iddialarının sosial tətbiqlərin gənclər üçün yaratdığı risklərin tam miqyasını ortaya qoyması illər çəkdi. Bu ilin əvvəlində Kaliforniya münsiflər heyəti platformaların istifadəyə verilməsindən on illər sonra Meta və YouTube-u qəsdən gənc bir qadına asılılıq yaratmaqda və zərər verməkdə günahkar hesab etdi.
Sosial media şirkətləri son illərdə bir sıra yeni təhlükəsizlik xüsusiyyətləri və valideyn nəzarəti tətbiq ediblər – bu, bir çox ailə və ekspertlərin bu dəyişikliklərin kifayət qədər irəliləmədiyinə inansalar belə, ictimai təzyiqin texnologiya şirkətlərində dəyişikliklərə səbəb ola biləcəyinin əlamətidir.
“Sosial medianın və digər texnologiyaların dizaynı uşaqlara hansı potensial zərərlərin verə biləcəyinə həqiqətən təsir edir”, texnologiya və gənclərin rifahının kəsişməsini araşdıran Radesky bildirib.
Qrup “süni intellekt dizaynlarının uşaqların ehtiyac duyduğu şeylər ətrafında daha çox formalaşdırıla bilməsi üçün daha sürətli hərəkət etməyə çalışır” dedi.
Mənbə:Edition.cnn.com
Tərtib etdi:Məhəmməd Nəzərov
Gundelik.az
