บทที่ 1 · AI เดาคำถัดไปยังไง หน้า 1/11 ~2 นาที

ทำไมถามซ้ำแล้วได้คำตอบไม่เหมือนเดิม

พี่มดตอบไม่ได้ และคนส่วนใหญ่ที่ใช้ AI ทุกวันก็ตอบไม่ได้เหมือนกัน

ความลับข้อแรกคือ โมเดลภาษาขนาดใหญ่ (โมเดลภาษาขนาดใหญ่ (Large Language Model, LLM)โปรแกรมที่ถูกฝึกจากข้อความจำนวนมหาศาลให้เดาคำถัดไปได้เก่งมาก ChatGPT, Claude และ Gemini คือ LLMดูคำศัพท์ทั้งหมด) อย่าง ChatGPT หรือ Claude ไม่ได้เปิดฐานข้อมูลหาคำตอบสำเร็จรูป มันเขียนคำตอบขึ้นมาใหม่ทีละชิ้นเล็กๆ ที่เรียกว่า โทเคน (token)ชิ้นข้อความที่ AI มองเห็นจริงๆ อาจเป็นทั้งคำ ส่วนของคำ หรือตัวอักษรเดียว แต่ละชิ้นมีเลขประจำตัวดูคำศัพท์ทั้งหมด

LLM ไม่ได้ "ค้นคำตอบ" แต่ "เดาคำถัดไป" ทีละคำ ซ้ำไปเรื่อยๆ จนจบประโยค

และเพราะมัน "เดา" ไม่ใช่ "ค้น" การถามซ้ำจึงได้คำตอบไม่เหมือนเดิม และบางครั้งก็เดาผิดอย่างมั่นใจ

Primer นี้จะตอบคำถามของหัวหน้าพี่มดใน 2 บท:

  1. มันเลือกคำยังไง และทำไมบางทีถึงมั่ว (บทที่ 1) — จากคะแนนดิบ สู่ความน่าจะเป็น สู่การสุ่ม
  2. มันเข้าใจความหมายยังไง และทำให้เชื่อได้มากขึ้นยังไง (บทที่ 2) — จากตัวเลข สู่ "แผนที่ความหมาย" สู่การค้นเอกสาร
แผนที่ Primer 2 บทบทที่ 1 AI เลือกคำยังไง: token, logit, softmax, temperature, top-p, hallucination บทที่ 2 AI เข้าใจความหมายยังไง: embedding, cosine, attention, context window, RAGบทที่ 1AI เลือกคำยังไงบทที่ 2AI เข้าใจความหมายยังไงtokenlogit → softmaxtemperature · top-phallucinationembeddingcosine similarityattentioncontext window · RAG

ทุกตัวเลขในนี้กดเล่นได้ คณิตที่ใช้ไม่เกิน ม.ปลาย และใช้เวลาราว 30 นาทีต่อบท (ไม่รวมหน้าเสริมสำหรับคนอยากลงลึก)

มังคุด มาสคอตมังคุด

มังคุด

เดี๋ยวนะ มันเดาเหรอ? แล้วทำไมมันตอบเก่งจัง?