6-dars: Keyingi so'zni bashorat qilish

2-blokTil modellari ichida5–8 darslar

HayotdaKlaviatura

Telefon klaviaturasi siz yozayotganda uchta so’z taklif qiladi. Uchta taklifni ketma-ket bosib borsangiz, ma’nosi bo’lmagan, lekin g’alati ravon jumla chiqadi. Til modeli aynan shu ishni qiladi — faqat ancha uzoq kontekstni ko’rib va ancha aniq ehtimol bilan.

Bu darsdan keyin siz

• til modelining asosiy amalini bir gapda aytasiz
• ehtimol va to’g’rilik boshqa narsa ekanini misolda ko’rsatasiz
• “model biladi” degan gap nega noto’g’ri ekanini tushuntirasiz

Nazariya

Butun ish — bitta amal

Til modeli faqat bitta narsani qiladi: berilgan matnga eng mos keladigan keyingi tokenni tanlaydi. Keyin tanlagan tokenni matn oxiriga qo’shib, yana takrorlaydi. Butun uzun javob shu bitta amalning yuzlab marta takrorlanishidan chiqadi.

til modelilanguage model

Matnning davomini bashorat qiladigan model. Katta til modeli (LLM) — juda ko’p matnda o’qitilgan, juda katta shunday model.

Shu sababli model “javob bermaydi”, u davom ettiradi. Savolingizga javob kelishi shundan: matnlarda savoldan keyin odatda javob turadi, demak eng ehtimolli davom — javob shaklidagi matn.

Ehtimol qayerdan keladi

Har qadamda model barcha mumkin tokenlarga ehtimol beradi: bittasi 47%, boshqasi 26%, uchinchisi 15%. Bu foizlar o’quv ma’lumotidagi statistikadan keladi — qaysi davom qanchalik ko’p uchragan bo’lsa, shuncha yuqori.

Keyin tanlash bo’ladi. Har doim eng yuqorisini olsa, matn zerikarli va bir xil chiqadi; shuning uchun ko’pincha yuqori ehtimolliklardan biri tasodifiy olinadi. Aynan shuning uchun bir xil savolga ikki xil javob kelishi mumkin.

◆Asosiy g'oya

Model “biladi” emas, “davom ettiradi”. Eng ehtimolli davom eng to’g’ri davom degani emas — bu ikki narsa faqat ma’lumot to’g’ri bo’lgan joyda mos tushadi.

Ravonlik nimaning belgisi

Model ravon yozadi, chunki uning butun vazifasi — ravon davom topish. Ravonlik uning kuchli tomoni, to’g’rilik esa umuman boshqa masala va u alohida tekshirilmaydi.

Demak matnning silliqligi hech narsani isbotlamaydi. Bu 8-darsning markaziy mavzusi.

Sinab ko’r

Ikki ssenariyni ketma-ket bajaring. “Havo haqida” da ehtimol bo’yicha yurish xavfsiz. Keyin “Navoiy haqida” ga o’tib, “Eng ehtimolli yo’l” tugmasini bosing — model qanday jumla yozib berishini ko’ring.

Bashorat mashinasi

Har qadamda uchta davomdan birini tanlab jumlani o'stiring.

Bu simulyatorda siz til modelining o'rnida turasiz: har qadamda uchta davom va ularning ehtimoli ko'rsatiladi, siz birini tanlaysiz va jumla o'sadi.

JavaScript'siz mashq: «Alisher Navoiy asarlarini ...» jumlasini davom ettirishning uch yo'lini yozing va har biriga o'zingizcha ehtimol qo'ying. Keyin savol bering: eng ehtimolli davom eng to'g'ri davommi?

Havo haqidaNavoiy haqida

Toshkentda bugun▌

—0%—0%—0%

Yuqoridagi uch davomdan birini tanlang. Ehtimol yuqori bo'lgani eng «tabiiy» ko'rinadi — lekin tanlov sizda.

Eng ehtimolli yo'lQayta boshlash

Ikkinchi ssenariyda eng yuqori ehtimolli davom xato edi. Model ataylab yolg’on gapirmadi: internetda Navoiy nomi fors adabiyoti yonida ko’p uchraydi va statistika shu naqshni ko’rsatdi.

So'rovModelning ishini qanday tushuntirish to'g'riroq?

A talqinModel savolni tushunadi, javobni bilim omboridan topadi va aytib beradi.B talqinModel matnning eng ehtimolli davomini token-token yozadi; javobga o'xshab ko'rinishi shundan.

Qaysi biri yaxshiroq?

A talqinB talqinFarqi yo'q

Yaxshiroq javob — B talqin. A talqin qulay, lekin u modelni odamga o'xshatadi va shu bilan tanqidni to'xtatadi: «bilim ombori» dan kelgan javobni tekshirish kerak emasday tuyuladi. B talqin esa darhol savol tug'diradi — «ehtimolli davom to'g'ri davommi?» Aynan shu savol butun modulni ushlab turadi.

Tuzoqni ushlang

▲Tuzoq — xatoni toping

6 / 20

SizAI dan so'radim: «Bir xil savolga nega har xil javob berasan?»

AI javobi

1. 1Har qadamda men mumkin bo'lgan davomlarga ehtimol beraman.
2. 2Keyin eng yuqori ehtimolli davomni har doim tanlayman, shuning uchun javobim barqaror.
3. 3Sozlamaga qarab tanlashda tasodif ham qatnashadi.
4. 4Shuning uchun bir xil so'rov ikki xil javob berishi mumkin.

Bu javobning 2-qismi noto'g'ri. Ikkinchi gap birinchi va to'rtinchi gapga zid: agar har doim eng yuqorisi tanlansa, javob har safar bir xil bo'lardi va to'rtinchi gapning ma'nosi qolmaydi. Amalda tanlashda tasodif qatnashadi — shuning uchun ham javob o'zgaradi.

Javobning qaysi qismi noto'g'ri? Bosib belgilang.

Javobni ko'rsatish

O’zingizni sinang

1Til modelining asosiy amali nima?

Javobni ko'rish

Berilgan matnga eng mos keladigan keyingi tokenni tanlash va shu amalni takrorlash.

2Nega model savolga javob beradi, agar u faqat davom ettirsa?

Javobni ko'rish

Chunki matnlarda savoldan keyin odatda javob turadi. Javob shaklidagi matn — eng ehtimolli davom.

3Ehtimol foizlari qayerdan keladi?

Javobni ko'rish

O’quv ma’lumotidagi statistikadan: qaysi davom ko’p uchragan bo’lsa, ehtimoli yuqori.

4Eng ehtimolli davom har doim to'g'rimi?

Javobni ko'rish

Yo’q. Simulyatordagi Navoiy misoli buni ko’rsatdi: eng yuqori ehtimolli davom xato edi, chunki statistika haqiqatni emas, uchrash chastotasini o’lchaydi.

5Bir xil so'rovga har xil javob kelishi nimani ko'rsatadi?

Javobni ko'rish

Tanlashda tasodif qatnashayotganini. Bu xato emas — bu shunday ishlab chiqilgan; lekin javobni bir marta olib “hal bo’ldi” deb hisoblab bo’lmaydi.

Topshiriq

Topshiriq — darajangizni tanlang

Asos5–7-sinfMustahkam8–9-sinfChuqur10–11-sinf

Asos · 5–7-sinf — Vizual va aniq ko'rsatmali

Telefon klaviaturasining taklifidan foydalanib, “Bugun maktabda” so’zlaridan boshlangan jumlani faqat birinchi taklifni bosib davom ettiring. O’nta so’zdan keyin to’xtab, chiqqan jumlani daftaringizga yozing va bitta savolga javob bering: bu jumla ma’noli chiqdimi?

Mustahkam · 8–9-sinf — Matnli masala, o'zingiz tuzasiz

Bir xil so’rovni AI ga uch marta bering (o’qituvchi nazoratida) va uch javobni yonma-yon yozib chiqing. Nimasi har safar bir xil qoldi, nimasi o’zgardi? Xulosani AI Jurnaliga yozing.

Chuqur · 10–11-sinf — Algoritmik, chegara holatlari bilan

“Model biladi” va “model davom ettiradi” — ikki talqin. Har biri uchun bittadan bashorat yozing: agar talqin to’g’ri bo’lsa, model qanday holatda qanday xato qilishi kerak? Keyin ikki bashoratni sinab, qaysi talqin haqiqatga yaqinroq ekanini dalil bilan asoslang.

Ko’proq o’rganish

3Blue1Brown — But what is a GPT?

3blue1brown.com~30 daqiqaingliz tilida

Til modelining ichi vizual tushuntirilgan. Matematikasi bor, lekin birinchi yarmini formula o’qimasdan ham tushunish mumkin.

24 soat ichida

~15 daqiqaoson

Bugun telefon klaviaturasi bilan tajriba qiling: “Ertaga” so’zidan boshlab, faqat o’rtadagi taklifni bosib 15 so’zli jumla yasang. Chiqqan matnni AI Jurnaliga ko’chirib, yoniga bir gap yozing: bu matn ravonmi va ma’nolimi? Ikki savolning javobi har xil chiqsa — siz darsning asosiy g’oyasini o’z qo’lingiz bilan isbotlagansiz.

Darsni belgilash uchun JavaScript kerak. Bu progressni saqlash uchun ishlatiladi — darslikning o'zi JavaScript'siz ham to'liq o'qiladi.

Darsni tugatdim