ChatGPT niyə hərdən yalan uydurur? - Alimlər səbəbi izah edir
Yeni OpenAI araşdırması ChatGPT və digər süni intellekt dil modellərinin bəzən faktları "uydurmasının" səbəblərini izah edir. Məqalə göstərir ki, bu, sadəcə təlim səhvləri deyil, mətn generasiyasının riyazi cəhətdən qaçılmaz nəticəsidir. Hətta ideal təlim məlumatları olduqda belə, modellər söz proqnozlaşdırma üsulu və səhvlərin yığılması səbəbilə səhv edə bilər.
Lent.az bu barədə ətraflı xarici mediaya istinadla xəbər verir.
Süni intellekt niyə səhv cavablar verir?
Araşdırma göstərir ki, hallüsinasiyalar problemi müasir təlim alqoritmlərinin yan təsiri deyil, riyazi cəhətdən qaçılmaz bir haldır. İdeal təlim məlumatları belə bu problemi tamamilə aradan qaldırmır.
Əsas səbəb dil modellərinin mətni necə yaratmasındadır. Onlar hər sözü bir-bir proqnozlaşdırır və bunu ehtimallara əsasən edirlər. Bu isə o deməkdir ki, səhvlər cümlə ərzində yığılır və uzun cavablar yaradarkən səhv ehtimalı sadə "bəli/xeyr" tipli suallardan ən azı iki dəfə çox ola bilər.
Təlim məlumatlarının keyfiyyəti niyə həlledicidir?
Model təlim zamanı nə qədər az məlumat görürsə, səhv ehtimalı bir o qədər artır.
Məsələn, əgər məşhur şəxslərin doğum günləri yalnız 20% hallarda təlim məlumatlarında varsa, model sorğuların ən azı 20%-də səhv edəcək.
Qiymətləndirmə tələsi
Tədqiqatçılar göstərirlər ki, Google və OpenAI də daxil olmaqla, mövcud süni intellekt meyarları modelləri qeyri-müəyyənlik əvəzinə təxmin etməyə təşviq edir.
Model "bilmirəm" deyəndə səhv cavabla eyni bal alır. Buna görə də optimal strategiya həmişə təxmin etməkdir ki, bu da hallüsinasiyaların artmasına səbəb olur.
OpenAI-nin təklif etdiyi həll yolları
OpenAI təklif edir ki, modellər cavab verməzdən əvvəl öz inam səviyyəsini nəzərə alsınlar. Məsələn, yalnız 75%-dən yüksək əminlik olduqda cavab versinlər, çünki səhvlər doğru cavablardan daha çox cəzalandırılır.
Riyazi analiz göstərir ki, bu yanaşma modellərə təxmin etmək əvəzinə qeyri-müəyyənliyi göstərməyə imkan verəcək və hallüsinasiyaları azaldacaq. Lakin istifadəçilər buna alışmamış ola bilərlər: əgər ChatGPT halların 30%-də "bilmirəm" deməyə başlasa, bu auditoriyanı məyus edə bilər.
Süni intellektdə qaçılmaz reallıq
OpenAI məqaləsi əsas ziddiyyəti vurğulayır. Biznes motivləri sürətli və inamlı cavabları təşviq edir, dəqiqliyi yox.
Bu stimullar dəyişmədikcə, dil modellərində hallüsinasiyalar qaçılmaz olaraq qalacaq.
BiG.Az
Telegramda izləyin
Xəbərlər Baxılıb: 708 Tarix: 21 oktyabr 2025
Şikayətiniz varsa Whatsapp: 077 7125666
Facebookda Paylaş
Bakı sakini Lənkəranda maşını aşırdı: Özü və arvadı yaralandı - biri reanimasiyadadır
Lənkəranda iki nəfərin yaralanması ilə nəticələnən yol-nəqliyyat hadisəsi baş verib. -ın APA-ya istinadən verdiyi xəbərə görə, qəza yeni Ələt-Astara magistralının 161-ci kilometrliyində, Lənkəran rayonun Girdəni kəndi ərazisində qeydə alınıb. Bakı şəhər sakini 35 yaşlı Faiq Məmmədlinin idarə etdiyi "Hyunda
15:30 287 Ronaldo ilə evlənmək üçün imzalatdırdığı müqavilənin şərtləri inanılası kimi deyil
Məşhur futbolçu Kriştiano Ronaldo ilə nişanlısı Corcina Rodriqes arasında bağlanmış nikah müqaviləsinin təfərrüatları ortaya çıxıb. xarici mediaya istinadən bildirir ki, iddialara görə, müqavilədə Ronaldonun Rodriqesə ömürlük ayda 144.00 dollar ödəməsi və 5,6 milyon dollarlıq malikanənin mülkiyyət sənədini
20:30 76 Sevgilisini başından güllələyib öldürdü
Diyarbəkirın Yenişehir rayonunda bir evdə baş verən mübahisə qətllə nəticələnib. Cafer B. sevgilisi Aleyna Yarayı tapança ilə başından vuraraq öldürüb. -ın Türkiyə mətbuatına istinadən xəbərinə görə, hadisə axşam saatlarında Yenişehir rayonunun Üçkuyu məhəlləsində yerləşən evdə baş verib. Cafer B. il
16:30 255 Sakit okeanda güclü seysmik aktivlik: Tonqa akvatoriyasında 7.6 ballıq zəlzələ oldu
Sakit okeanda, Tonqa Krallığı akvatoriyasında 7.3 ballıq güclü zəlzələ baş verib. xəbər verir ki, bu barədə Rusiya Elmlər Akademiyasının Vahid Geofizika Xidməti məlumat yayıb. Məlumata görə, Bakı vaxtı ilə saat 08:38-də qeydə alınan zəlzələnin episentri Tonqanın ikinci ən çox əhalisi olan Neiafu adasında
12:00 248 Maksim Medvedev: "Bir oyunçu necə 30 metrdən tüpürə bilər?"
"Oyunda hakimdən qaynaqlanan problemlər var idi. Çünki o, matçın əvvəlindən etibarən bizim əleyhimizə xırda follar (qayda pozuntusu) verirdi. Səkkizinci dəqiqədə isə daha ciddi problem yaşandı və rəqib qol vurdu. Rəqibin vurduğu qoldan əvvəl həm yan hakim bayrağını qaldırdı, həm də baş hakim fi
17:30 210 İran Hörmüz boğazından tranzit keçid üçün gəmilərdən ödəniş toplamağa başlayıb
İran hakimiyyəti Hörmüz boğazından tranzit keçid üçün gəmi heyətlərindən ödəniş toplamağa başlayıb. bildirir ki, bu barədə "Bloomberg" agentliyi mənbələrə istinadən xəbər verir. "Mövzu ilə tanış olan şəxslərin sözlərinə görə, hər gəmi üçün iki milyon dollar məbləğində ödəniş konkret hallarda
19:44 104 Sabahdan BEŞ GÜN bəzi yerlərdə yağıntılar intensivləşəcək - XƏBƏRDARLIQ
Azərbaycanın rayonlarının bəzi yerlərində martın 25-dən 30-u səhərədək hava şəraitinin fasilələrlə yağıntılı olacağı gözlənilir. xəbər verir ki, bu barədə Milli Hidrometeorologiya Xidməti məlumat yayıb. Yağıntıların ayrı-ayrı yerlərdə intensivləşəcəyi, şimşək çaxacağı, dolu düşəcəyi, dağlıq ərazilərd
18:15 221 Mahsun Kırmızıgüldən Özcan Denizə DƏSTƏK: "Çox incitdilər, mən də bunun fərqindəyəm"
Bayram zamanı Mahsun Kırmızıgül və Özcan Deniz səhnədə olublar. -ın Türkiyə mediasına istinadən xəbərinə görə, Kırmızıgül Şişlidəki Günayda, Özcan Dəniz isə Kiprdəki Les Ambassadeurs otelində səhnəyə çıxıb. Ailə problemlərini arxada qoyan Dənizin əhvalı çox yaxşı görünüb. Mahsun Kırmızıgül yaxın dost
12:30 356 Avstraliya və Avropa İttifaqı yeni müdafiə tərəfdaşlığı sazişi imzaladı
Avstraliya Baş naziri Entoni Albaneze və Avropa Komissiyasının (AK) prezidenti Ursula fon der Lyayen müdafiə tərəfdaşlığı sazişinin imzalandığını elan ediblər. xəbər verir ki, bu barədə Avstraliya hökumətinin saytında məlumat verilib. Bildirilib ki, sazişi Avstraliya baş nazirinin müavini və müdafi
13:30 258 
