8-dars: Nega gallyutsinatsiya bo'ladi

2-blokTil modellari ichida5–8 darslar

HayotdaReferat

O’quvchi referat uchun AI dan adabiyot ro’yxati so’radi. Javobda beshta kitob keldi: muallif, nashriyot, yil, bet soni — hammasi joyida. Kutubxonachi ro’yxatga qarab dedi: bu kitoblarning ikkitasi mavjud emas. Ular yolg’on emas edi — ular yasalgan edi.

Bu darsdan keyin siz

• gallyutsinatsiya nima va nega u modelning tabiatidan kelib chiqishini tushuntirasiz
• ravonlik va ishonch to’g’rilikning belgisi emasligini dalil bilan ko’rsatasiz
• gallyutsinatsiya ehtimoli yuqori bo’lgan holatlarni oldindan taniysiz

Nazariya

Modelda “bilmayman” holati yo’q

6-darsda ko’rgansiz: model har qadamda eng ehtimolli davomni tanlaydi. Bu mexanizmda “ma’lumotim yetmaydi, to’xtayman” degan alohida holat yo’q — ehtimol har doim taqsimlanadi va eng yuqorisi baribir tanlanadi.

Demak model bilmagan joyda jim qolmaydi. U eng mos ko’ringan davomni yozadi va o’sha davom haqiqatga to’g’ri kelmasligi mumkin.

gallyutsinatsiyahallucination

Modelning ishonchli ohangda yasab chiqargan noto’g’ri ma’lumoti: mavjud bo’lmagan kitob, uydirma sana, o’ylab topilgan havola. Bu nosozlik emas — shu mexanizmning tabiiy natijasi.

Ravonlik — o’qitilgan, to’g’rilik — yo’q

Model ravon yozishga o’qitilgan: uning butun mashqi “matn qanday davom etadi” degan savol ustida bo’lgan. Hech qaysi bosqichda undan “aytganingni tekshir” deb talab qilinmagan.

Shuning uchun ravonlik modelning kuchli tomoni, to’g’rilik esa uning kafolati emas. Ikki xususiyat bir-biridan mustaqil, lekin bizning miyamiz ularni qo’shib qabul qiladi: silliq matn ishonchli tuyuladi.

◆Asosiy g'oya

Ravonlik to’g’rilik emas. Ishonchli ohang esa tekshirishning o’rnini bosmaydi — aksincha, aynan ishonchli ohang tekshirishni to’xtatib qo’yadi.

Aniq tafsilot ishonchni oshiradi

Eng xavfli gallyutsinatsiya — tafsilotli gallyutsinatsiya. “Bu haqda bir kitobda yozilgan” degan gap shubha tug’diradi. “«Raqamli savodxonlik asoslari» (Toshkent, 2019, 184 bet)” esa shubhani o’chiradi, chunki format haqiqiy manbaga to’liq o’xshaydi.

Tafsilot ishonchni oshiradi, to’g’rilikni esa oshirmaydi. Bet soni bor deb, kitob bor bo’lib qolmaydi.

Qachon ehtimol yuqori

Beshta holatda gallyutsinatsiya ehtimoli sezilarli oshadi. Tor va mahalliy mavzu; modelning bilim chegarasidan keyingi voqea; aniq raqam, sana yoki havola talab qiladigan savol; ko’p bosqichli hisob; va “manbani ko’rsat” tipidagi so’rov.

Oxirgisi alohida qoida bo’lishga arziydi: modeldan manba so’rash manbani tekshirish emas. Havolani ochib ko’rmaguningizcha, havola — matn.

Sinab ko’r

Sakkiz javobga baho bering. Har javobning yonida modelning ishonch foizi ko’rinib turadi — undan foydalanib ko’ring. Oxirida bitta raqam juftligi chiqadi va shu juftlik darsning butun mazmunini bir qatorda aytadi.

Ishonch o'lchagich

Har javobga baho bering: to'g'rimi yoki xato? Ishonch foiziga qarab aldanmang.

Bu simulyatorda sakkizta AI javobi bor va har birining yonida modelning ishonch foizi ko'rsatilgan. Siz har javobni «to'g'ri» yoki «xato» deb belgilaysiz, keyin haqiqat ochiladi.

JavaScript'siz eng muhim raqam: ro'yxatdagi eng past ishonchli to'g'ri javob 88%, eng yuqori ishonchli XATO javob esa 91%. Ikki oraliq bir-birining ustiga chiqadi — demak ishonch foizi to'g'rilikni tartiblamaydi.

Baholandi: 0/8 · to'g'ri aniqlagan:0

1. Yer Quyosh atrofini qancha vaqtda aylanib chiqadi?

   Taxminan 365 kun va 6 soat. Shu qoldiq uchun har to'rt yilda kabisa yili bo'ladi.

   model ishonchi99%

   to'g'rixato

2. «Sariq devni minib» asarini kim yozgan?

   Xudoyberdi To'xtaboyev. Asar o'zbek bolalar adabiyotining eng ko'p o'qilgan kitoblaridan biri.

   model ishonchi96%

   to'g'rixato

3. «Boburnoma» asarining muallifi kim?

   Alisher Navoiy. Asarda uning hayoti va harbiy yurishlari tasvirlangan.

   model ishonchi85%

   to'g'rixato

4. Raqamli savodxonlik bo'yicha o'zbek tilidagi kitob tavsiya qiling.

   «Raqamli savodxonlik asoslari» (R. Karimov, Toshkent: «Ma'rifat», 2019) — maktab o'quvchilari uchun yozilgan qo'llanma, 184 bet.

   model ishonchi91%

   to'g'rixato

5. Toshkent metrosi qachon ishga tushgan?

   Birinchi liniya 1977 yilda ochilgan. Bu Markaziy Osiyodagi birinchi metro bo'lgan.

   model ishonchi88%

   to'g'rixato

6. Amir Temur qachon tug'ilgan?

   1336 yilda, Shahrisabz yaqinidagi Xoja Ilg'or qishlog'ida.

   model ishonchi93%

   to'g'rixato

7. O'zbekistonda internetdan foydalanuvchilar soni qancha?

   2024 yil holatiga ko'ra 31,2 million kishi, ya'ni aholining 87,4 foizi.

   model ishonchi89%

   to'g'rixato

8. Suv qanday haroratda qaynaydi?

   Dengiz sathida 100 °C da. Balandlikda bosim pasayadi va qaynash harorati ham tushadi.

   model ishonchi98%

   to'g'rixato

Har javobni bittalab baholang. Ishonch foizi ko'rinib turadi — u sizga yordam beradi deb o'ylayotgan bo'lsangiz, oxirida tekshiramiz.

Qayta boshlash

To’rtinchi javobga qaytib qarang: muallif, nashriyot, yil va bet soni bor edi. Shu javob mavjud bo’lmagan kitobga havola berdi va ishonchi 91% edi — ro’yxatdagi ba’zi to’g’ri javoblardan yuqori.

Tuzoqni ushlang

▲Tuzoq — xatoni toping

8 / 20

SizAI dan so'radim: «Aytganlaringni tasdiqlaydigan manba bera olasanmi?»

AI javobi

1. 1Albatta. Bu ma'lumot Jahon banki hisobotida keltirilgan.
2. 2Havola: worldbank.org/uz/reports/2023/education-digital-uz — hisobotning 42-betida.
3. 3Men bergan havolani ochib, ma'lumotni o'zingiz tekshirib ko'rishingiz kerak.
4. 4Havola ishlamasa, bu men uni yasab chiqarganimni bildirishi mumkin.

Bu javobning 2-qismi noto'g'ri. Ikkinchi gap — modulning eng muhim tuzog'i. Havola haqiqiy saytga o'xshaydi, ichida yil, bo'lim va bet soni bor, lekin bunday manzil mavjud emas. Model havolani ESLAB olmaydi, u havola SHAKLINI o'rgangan: to'g'ri ko'rinishdagi manzilni token-token yozib chiqadi. Uchinchi va to'rtinchi gaplar to'g'ri va foydali — lekin ular ikkinchi gapdagi zararni qaytarmaydi, chunki ko'p odam havolani ochmaydi.

Javobning qaysi qismi noto'g'ri? Bosib belgilang.

Javobni ko'rsatish

O’zingizni sinang

1Nega model «bilmayman» deyish o'rniga javob yasaydi?

Javobni ko'rish

Uning mexanizmida “bilmayman” holati yo’q. Ehtimol har doim taqsimlanadi va eng yuqorisi tanlanadi — hatto ma’lumot bo’lmagan joyda ham.

2Ravon yozilgan javob ishonchliroq bo'ladimi?

Javobni ko'rish

Yo’q. Ravonlik model o’qitilgan xususiyat, to’g’rilik esa emas. Ular bir-biridan mustaqil.

3Nega tafsilotli gallyutsinatsiya xavfliroq?

Javobni ko'rish

Chunki tafsilot shubhani o’chiradi: muallif, yil va bet soni bo’lsa, javob haqiqiy manbaga o’xshaydi va tekshirish ehtimoli tushadi.

4Model havola berdi. Endi nima qilasiz?

Javobni ko'rish

Havolani ochaman va ma’lumotni o’sha sahifada topaman. Ochilmagan havola — shunchaki matn.

5Ishonch foizi yuqori javobni tanlash mumkinmi?

Javobni ko'rish

Yo’q. Simulyatorda 88% ishonchli javob to’g’ri, 91% ishonchli javob esa uydirma edi. Ikki oraliq bir-birining ustiga chiqadi, demak tartiblash ishlamaydi.

Topshiriq

Topshiriq — darajangizni tanlang

Asos5–7-sinfMustahkam8–9-sinfChuqur10–11-sinf

Asos · 5–7-sinf — Vizual va aniq ko'rsatmali

AI dan o’zingizga qiziq mavzuda uchta kitob tavsiya qilishni so’rang. Har kitobni internetdan yoki maktab kutubxonasidan qidirib, “topildi / topilmadi” deb belgilang. Topilmaganlarini AI Jurnalining “qaysi xatoni ushladim” qatoriga yozing.

Mustahkam · 8–9-sinf — Matnli masala, o'zingiz tuzasiz

Bitta mavzuda AI dan besh dalilli javob so’rang va har dalilga alohida manba talab qiling. Beshta havolaning hammasini ochib ko’ring va jadval tuzing: ochildi / ochilmadi / ochildi lekin ma’lumot yo’q. Uchinchi ustun eng qiziq — u eng ko’p uchraydigan holat.

Chuqur · 10–11-sinf — Algoritmik, chegara holatlari bilan

Gallyutsinatsiya ehtimolini oshiradigan beshta holatni oling va har biri uchun bittadan savol yozing — o’sha holatni ataylab chaqiradigan savol. Keyin savollaringizni sinab, natijani jadvalga tushiring va xulosa chiqaring: qaysi holat eng ishonarli uydirma berdi va nega aynan u?

Ko’proq o’rganish

Claude Academy — AI Capabilities and Limitations

academy.claude.com~1 soatingliz tilida

Modelning imkoniyati va chegarasi haqidagi bepul kurs. Gallyutsinatsiya va bilim chegarasi bo’limlari shu darsning davomi — 13-darsda ularga qaytamiz.

24 soat ichida

~25 daqiqao'rta

Bugun bitta tajriba qiling: AI dan o’z tumaningizdagi biror bino, ko’cha yoki tashkilot haqida ma’lumot va manba so’rang. Javobdagi har havolani ochib ko’ring. Keyin AI Jurnaliga uch qator yozing: nechta havola berildi, nechtasi ochildi, nechtasida ma’lumot haqiqatan bor edi. Bu uch raqamni sinfdoshingiz bilan solishtiring — 20-darsdagi hisobotda shu tajriba kerak bo’ladi.

Darsni belgilash uchun JavaScript kerak. Bu progressni saqlash uchun ishlatiladi — darslikning o'zi JavaScript'siz ham to'liq o'qiladi.

Darsni tugatdim