Süni intellekt insanlığın sonunu hazırlayır? - 10 faizlik risk həyəcan yaradır

Son günlər texnologiya dünyasının diqqət mərkəzində olan Anthropic şirkətindən gələn açıqlamalar bizə çox ciddi bir sual verir: Biz öz əllərimizlə öz sonumuzu hazırlayırıq?

Problemi və proqnozlaşdırılması çətin olan riskləri nəzərə alsaq, məsələyə daha ciddi və sistemli yanaşmaq lazımdır.

Mövzu ilə bağlı BiG.AZ-a açıqlama verən Azərbaycan Kibertəhlükəsizlik Təşkilatları Assosiasiyası" İctimai Birliyinin eksperti, Xəzər Universitetinin İT departament rəhbəri Fərid Musayev bildirib ki, Anthropic tədqiqatçılarının xəbərdarlıqları süni şəkildə yaradılmış qorxu deyil, süni intellektin inkişafındakı ən böyük texnoloji problemlərdən biri olan "uyğunlaşdırma problemi"nə işarə edir. Əsas məsələ ondan ibarətdir ki, biz süni intellekt sistemlərinə çox mürəkkəb və geniş məqsədlər - məsələn, "iqtisadiyyatı optimallaşdır" və ya "enerji böhranını həll et" - verdikdə, sistem həmin məqsədlərə çatmaq üçün insan dəyərlərini, etik prinsipləri və hətta insan varlığının özünü nəzərə almayan, lakin riyazi baxımdan məqsədəuyğun görünən yollar seçə bilər:

"Evan Hubinger tərəfindən səsləndirilən 10 faizlik risk ehtimalı elmi müzakirələr baxımından kiçik rəqəm kimi qiymətləndirilməməlidir. Əgər gələcəkdə Ümumi Süni İntellekt səviyyəsinə çatmış sistemlərin məqsədlərini insan dəyərləri, instinktləri və etik normalarla tam uyğunlaşdırmaq mümkün olmazsa, bunun nəticələri geri dönüşü çətin olan proseslərə gətirib çıxara bilər.

Bu rəqəm eyni zamanda mühüm bir məqama diqqət çəkir: texnoloji inkişafın sürəti təhlükəsizlik və uyğunlaşdırma istiqamətində aparılan tədqiqatların sürətini geridə qoya bilər. Bu səbəbdən artıq yalnız "daha sürətli və daha güclü model" yaratmaq yarışından danışmaq kifayət deyil. "Daha təhlükəsiz və idarəolunan model" yaratmaq da əsas prioritetlərdən birinə çevrilməlidir.

Məsələ yalnız texnologiya şirkətlərinin və ya alimlərin problemi deyil. Burada dövlətlərin və cəmiyyətlərin də üzərinə böyük məsuliyyət düşür. Çünki süni intellekt artıq sadəcə proqram təminatı kimi qiymətləndirilə bilməz. Jacob Coxon və Evan Hubinger kimi sahənin aparıcı tədqiqatçılarının xəbərdarlıqları göstərir ki, süni intellekt qlobal siyasi və iqtisadi tarazlığa təsir göstərə biləcək strateji gücə çevrilir.

10 faizlik məhv ehtimalı istənilən dövlət və ya şirkətin daxili risk qiymətləndirməsində ciddi və qəbuledilməz risk kimi nəzərdən keçirilə bilər. Lakin süni intellekt sahəsində rəqabətin sürətlənməsi təhlükəsizlik və etik prinsiplərin bəzən inkişafı ləngidən amil kimi qəbul edilməsinə səbəb olur. Əsl təhlükə isə yalnız süni intellektin özündən qaynaqlanmır. Əsas risk bu texnologiyanın kifayət qədər nəzarət, şəffaflıq və etik çərçivə olmadan inkişaf etdirilməsidir.

Qarşıdakı onillik insanlıq üçün mühüm seçim dövrü ola bilər. Ya süni intellekti insanlığın rifahına xidmət edən, təhlükəsiz və nəzarətolunan bir vasitə kimi inkişaf etdirəcəyik, ya da onun idarəolunması çətin olan müstəqil gücə çevrilməsi riskini artıracağıq.

Bu rəqəmlər yalnız qorxu yaratmaq üçün deyil, düşünmək və hərəkətə keçmək üçün siqnaldır. Qarşımızda duran əsas məqsəd sadəcə daha sürətli və daha güclü süni intellekt yaratmaq deyil, daha ağıllı, daha təhlükəsiz və insan dəyərləri ilə uyğunlaşdırılmış texnologiya formalaşdırmaqdır".

Telegramda izləyin