AWS AI Practitioner· ~6 นาที
Bias และ Toxicity
การจัดการกับความลำเอียงและข้อความที่ไม่เหมาะสม
อคติและความเป็นพิษของข้อมูล
คำศัพท์ที่ต้องรู้: - Bias (ความลำเอียง/อคติ): การที่ AI ตัดสินใจเอนเอียงเข้าข้างหรือเลือกปฏิบัติ เกิดจากการที่ชุดข้อมูล (Dataset) ที่นำมาสอนมันไม่สมดุล - Toxicity (ความเป็นพิษ): ภาษาที่สร้างความเกลียดชัง คุกคาม หรือรุนแรง
Bias เกิดจากการสอน AI เปรียบเหมือน "เด็กน้อยที่เติบโตมาโดยสวมแว่นตาสีแดงตลอดเวลา" ถ้าเราให้ข้อมูลที่มีอคติกับเด็ก (เช่น รูปผู้บริหารมีแต่ผู้ชาย) เด็กก็จะมองโลกผ่านเลนส์นั้นและเชื่อว่าผู้บริหารต้องเป็นผู้ชายเท่านั้น การแก้ปัญหาคือเราต้องใช้เครื่องมืออย่าง Amazon SageMaker Clarify เพื่อมาคอยตรวจสอบว่าแว่นตาที่ AI ใส่อยู่มันเพี้ยนสีอะไรไปบ้าง
เครื่องมือจัดการ Bias บน AWS
สรุป Key Takeaways
- Bias เกิดขึ้นจากข้อมูลที่นำมา Train ที่มีความลำเอียง (เช่น ข้อมูลรับสมัครงานที่มีแต่เพศชาย)
- Toxicity คือข้อความที่เป็นพิษ เกลียดชัง หรือรุนแรง
- Amazon SageMaker Clarify เป็นเครื่องมือหลักที่ใช้ตรวจจับ Bias และอธิบายโมเดล (Explainability)
อ่านจบแล้วอย่าลืมทำเครื่องหมาย