AI มั่ว (Hallucination) คืออะไร ทำไมเกิด และรับมืออย่างไรในงานจริง

AI hallucination คือคำตอบที่ฟังดูมั่นใจแต่ไม่ตรงกับหลักฐาน จึงต้องออกแบบการตรวจ ไม่ใช่ดูจากน้ำเสียง

นิยามและ mental model

โมเดลภาษาสร้างลำดับข้อความที่น่าจะเป็น ไม่ได้มีฐานความจริงในตัวเอง จึงอาจแต่งชื่อ แหล่งอ้างอิง วันที่ หรือคำนวณผิดได้ ความมั่นใจในสำนวนไม่ใช่ความน่าเชื่อถือของข้อเท็จจริง

ขั้นตอนลด hallucination

1. กำหนดคำถามและช่วงข้อมูล
2. แนบ source ที่เชื่อถือได้และสั่งให้ cite
3. ให้โมเดลแยก fact, inference และ unknown
4. ตรวจ claim สำคัญกับต้นฉบับ
5. ส่งต่อคนเมื่อไม่มีหลักฐานหรือผลกระทบสูง

ตัวอย่าง SME

เจ้าของร้านถาม AI ว่าทำไมยอดขายลด AI อาจเสนอว่าเป็นฤดูกาล แต่ถ้าไฟล์มีเพียงยอดรายสัปดาห์ก็ยังพิสูจน์ไม่ได้ ทีมควรขอให้ AI แสดงช่วงที่เปลี่ยนและระบุข้อมูลที่ขาด แทนการรับเหตุผลนั้นทันที

Checklist และ prompt

prompt นี้บังคับให้ระบบแสดงขอบเขตความรู้ จึงเหมาะกับงานที่ต้องส่งต่อให้คนตรวจหลักฐาน

ใช้บันทึกนี้เพื่อชี้ว่าคำตอบส่วนใดต้องค้นเพิ่ม ไม่ใช่เพื่อให้คะแนนความมั่นใจแทนหลักฐาน

ตอบจาก source เท่านั้น อ้างอิงแถวหรือหน้าให้ทุก claim แยก “พบในข้อมูล”, “อนุมานได้”, “ยังตอบไม่ได้” หากไม่มีหลักฐานให้เขียนว่าไม่ทราบ

ข้อจำกัดและ human review

การใช้ retrieval หรือ citation ช่วย trace ได้แต่ไม่รับประกันว่า source ถูกหรือการตีความถูก คนต้องเปิดแหล่งต้นฉบับ ตรวจหน่วย วันที่ และตัดสินใจว่าจะเผยแพร่หรือไม่