7-dars: Ma'no fazosi

2-blokTil modellari ichida5–8 darslar

HayotdaDo'kon

Do’konda mahsulotlar tasodifiy turmaydi: non non bilan, sut sut bilan bir rastada. Kerakli narsani topish shu joylashuv tufayli tez bo’ladi. Model ham so’zlarni shunday joylashtiradi — faqat rastalar emas, minglab o’lchovli faza.

Bu darsdan keyin siz

• so’z modelda qanday saqlanishini raqam tilida aytasiz
• yaqinlik va ma’no orasidagi bog’liqni misolda ko’rsatasiz
• “xarita — haqiqat emas” degan chegarani tushuntirasiz

Nazariya

So’z — raqamlar ro’yxati

Model harf bilan ishlamaydi. Har token uzun raqamlar ro’yxatiga aylantiriladi: zamonaviy modellarda bitta so’zga bir necha yuz yoki bir necha ming son to’g’ri keladi.

vektorembedding

So’zni ifodalovchi raqamlar ro’yxati. Yaqin ma’noli so’zlar yaqin vektor oladi — bu yaqinlik o’qitish jarayonida o’z-o’zidan hosil bo’ladi.

Bu raqamlarni odam qo’ymaydi. Model matnlarni o’qib chiqadi va bir xil kontekstda uchraydigan so’zlarga yaqin raqamlar beradi: “ona” va “ota” bir xil gaplarda uchraydi, demak ular yaqin tushadi.

Yaqinlik nimani beradi

Vektorlar yaqin bo’lsa, model ular bilan bir xil ishlashi mumkin. Shuning uchun u ko’rmagan gapni ham tushuna oladi: “avtobus kutdim” ni ko’rgan bo’lsa, “trolleybus kutdim” ni ham to’g’ri ishlaydi.

Tarjima ham shu ustiga qurilgan. Turli tillardagi bir ma’noli so’zlar bir-biriga yaqin joyga tushadi, chunki ular bir xil kontekstlarda ishlatiladi. Model esa “ona” dan “mother” ga o’tishni masofa hisobi orqali topadi.

◆Asosiy g'oya

Model ma’noni bilmaydi — u masofani biladi. “Yaqin” va “bir xil” esa boshqa narsa: aynan shu farq modelning eng nozik xatolarini tug’diradi.

Xarita — haqiqatning soyasi

Simulyatordagi ikki o’lchovli xarita tushunish uchun qulay, lekin u haqiqiy fazoning juda qo’pol soyasi. Ikki o’lchovda “non” va “osh” yonma-yon turadi, haqiqiy fazoda esa ular o’nlab boshqa o’lchov bo’yicha ham farq qiladi.

Yana bir chegara: bir so’zning bir necha ma’nosi bo’ladi. “Olma” — meva ham, buyruq ham. Zamonaviy modellar buni kontekstga qarab hal qiladi, ya’ni bir so’z har gapda boshqa vektor oladi.

Sinab ko’r

So’zlarni bittalab tanlab, koordinatalari va uch qo’shnisini ko’ring. Keyin chegarada turgan so’zlarni izlang — qo’shnisi boshqa to’dadan chiqadigan so’zlarni. Model xatolari aynan shu joyda tug’iladi.

So'z xaritasi

So'zni tanlang: uning koordinatalari va eng yaqin uch qo'shnisi ko'rinadi.

Bu simulyatorda 18 so'z ikki o'lchovli fazoga qo'yilgan. So'z tanlanganda uning raqamlari va eng yaqin uch qo'shnisi hisoblanadi — yaqin ma'no yaqin nuqtada turadi.

JavaScript'siz mashq: daftaringizga katakli koordinata chizib, «ona», «dars», «osh» va «metro» so'zlarini joylashtiring. Keyin «buvi» so'zini qo'shing — u qaysi to'daga yaqin tushadi va nega?

onaotasingilakadarso'qituvchidaftarimtihonnonoshchoysabziavtobusmetromashinavelosipedtushlikyo'l

So'z tanlanmadi—

1. ——
2. ——
3. ——

Har so'z ikkita son bilan yozilgan. Haqiqiy modelda esa har so'zga mingdan ortiq son to'g'ri keladi — bu xarita shu fazoning soyasi.

Qayta boshlash

Xaritada ikkita shunday so’z bor: “tushlik” va “yo’l”. Ikkalasi ham to’dalar orasida turadi va qo’shnilari orasiga boshqa to’dadan so’z tushadi. Model uchun bu hech qanday muammo emas — u faqat masofa ko’radi. Xato ham shu joyda tug’iladi.

Tuzoqni ushlang

▲Tuzoq — xatoni toping

7 / 20

SizAI dan so'radim: «So'zlar modelda qanday saqlanadi?»

AI javobi

1. 1Har so'z raqamlar ro'yxati — vektor — sifatida saqlanadi.
2. 2Yaqin ma'noli so'zlar yaqin vektorlar oladi.
3. 3Bu vektorlar ikki o'lchovli xaritada joylashgan, shuning uchun ularni chizib ko'rsatish mumkin.
4. 4Vektorlarni odam qo'ymaydi, ular o'qitish jarayonida hosil bo'ladi.

Bu javobning 3-qismi noto'g'ri. Ikki o'lchov — bu bizning tushuntirish uchun yasagan soyamiz, modelning o'zi emas. Haqiqiy vektorda yuzlab yoki minglab o'lchov bor va uni qog'ozga chizib bo'lmaydi. Chizmani haqiqat deb qabul qilish — soddalashtirishning eng tipik xatosi: model haqidagi rasm modelning o'zi emas.

Javobning qaysi qismi noto'g'ri? Bosib belgilang.

Javobni ko'rsatish

O’zingizni sinang

1So'z modelda qanday ko'rinishda saqlanadi?

Javobni ko'rish

Raqamlar ro’yxati (vektor) sifatida. Bitta so’zga yuzlab yoki minglab son to’g’ri keladi.

2Vektorlarni kim qo'yadi?

Javobni ko'rish

Hech kim qo’lda qo’ymaydi. Ular o’qitish jarayonida matnlardagi kontekstga qarab hosil bo’ladi.

3Nega model ko'rmagan gapni ham to'g'ri ishlashi mumkin?

Javobni ko'rish

Gapdagi so’z ko’rgan so’ziga yaqin vektorda bo’lsa, model u bilan xuddi shunday ishlaydi. “Avtobus” va “trolleybus” shunga misol.

4Tarjima bu tuzilishda qanday ishlaydi?

Javobni ko'rish

Turli tillardagi bir ma’noli so’zlar bir xil kontekstlarda uchraydi, demak yaqin vektor oladi. Tarjima — shu yaqinlikni topish.

5«Yaqin» va «bir xil» farqi qayerda ko'rinadi?

Javobni ko'rish

Chegaradagi so’zlarda: model yaqin, lekin boshqa ma’noli so’zni almashtirib yuborishi mumkin. “Sabzi” va “non” bir to’dada, lekin bir narsa emas.

Topshiriq

Topshiriq — darajangizni tanlang

Asos5–7-sinfMustahkam8–9-sinfChuqur10–11-sinf

Asos · 5–7-sinf — Vizual va aniq ko'rsatmali

Daftaringizga katta kvadrat chizing va o’n ikkita so’zni joylashtiring: to’rttasi oila, to’rttasi maktab, to’rttasi ovqat haqida. Keyin “buvi”, “ruchka” va “choy” so’zlarini qo’shing — har biri qaysi to’daga tushdi va nega?

Mustahkam · 8–9-sinf — Matnli masala, o'zingiz tuzasiz

Ikki ma’noli beshta o’zbekcha so’z toping (masalan “olma”, “yoz”, “bor”). Har biri uchun ikki gap yozing — har gapda boshqa ma’noda. Keyin izohlang: modelga bu so’zning qaysi ma’nosi kerakligini nima aytib beradi?

Chuqur · 10–11-sinf — Algoritmik, chegara holatlari bilan

Vektor yaqinligi tarjimani izohlaydi. Endi teskari savolga javob bering: qaysi holatda bu mexanizm tarjimani buzadi? Uch holat yozing (ibora, madaniy tushuncha, atama) va har biriga bitta misol toping. Keyin taklif qiling: tarjimani tekshirish uchun qanday savol berish kerak?

Ko’proq o’rganish

Embedding Projector

projector.tensorflow.org~20 daqiqaingliz tilida

Haqiqiy so’z vektorlarini uch o’lchovda aylantirib ko’rsatadigan vosita. Bir so’zni izlab, qo’shnilarini ko’ring.

24 soat ichida

~20 daqiqao'rta

Bugun Embedding Projector’da uchta so’zni izlang: school, bread, bus. Har biri uchun eng yaqin beshta so’zni yozib oling. Keyin bitta savolga javob yozing va AI Jurnaliga qo’shing: qo’shnilar orasida sizni hayron qoldirgan so’z bo’ldimi va nega u o’sha yerda turgan bo’lishi mumkin?

Darsni belgilash uchun JavaScript kerak. Bu progressni saqlash uchun ishlatiladi — darslikning o'zi JavaScript'siz ham to'liq o'qiladi.

Darsni tugatdim