AWS AI Practitioner· ~5 นาที
Hallucination (AI มโน)
ปัญหาที่ AI มั่นใจในคำตอบที่ผิดๆ และวิธีลดความเสี่ยง
การรับมือกับ Hallucination
คำศัพท์ที่ต้องรู้: - Hallucination: อาการหลอนหรืออาการ "มโน" ของ AI ที่พ่นข้อมูลที่ไม่มีจริงแต่เขียนให้ดูน่าเชื่อถือมากๆ
Hallucination เหมือน "ลูกน้องขี้โม้ที่อยากเอาใจเจ้านาย" AI ถูกสร้างมาให้พยายามสร้างคำตอบ (Generate) ให้ดีที่สุด เมื่อมันไม่รู้ข้อมูลจริงๆ มันเลยไม่กล้าบอกว่า "ไม่รู้" แต่เลือกที่จะด้นสดและแต่งเรื่องขึ้นมาเองอย่างเป็นตุเป็นตะเพื่อให้คำตอบนั้นดูสมบูรณ์แบบ
วิธีแก้ไขที่มักจะออกสอบคือ การตั้งค่า Temperature ให้ต่ำลง หรือใช้เทคนิค RAG เพื่อบังคับให้มันตอบตามเอกสารอ้างอิงเท่านั้น
สรุป Key Takeaways
- Hallucination คือการที่ AI สร้างข้อมูลเท็จขึ้นมาอย่างแนบเนียนและมั่นใจ
- ลดได้โดยการใช้ RAG (แนบข้อมูลจริงไปให้), ปรับ Temperature ต่ำๆ
- ลดได้ด้วยการใช้ Prompt ให้บอกว่า "ถ้าไม่รู้ ให้ตอบว่าไม่รู้ ห้ามแต่งเรื่องเอง"
อ่านจบแล้วอย่าลืมทำเครื่องหมาย