AWS AI Practitioner· ~6 นาที
ภัยคุกคาม AI (Threats)
Prompt Injection และ Data Poisoning
ศัพท์ใหม่ในวงการ Security
คำศัพท์ที่ต้องรู้: - Prompt Injection: การฉีดคำสั่งแปลกปลอมเข้าไปหลอก AI ตอนใช้งาน - Data Poisoning: การวางยาพิษข้อมูลตั้งแต่ตอนสอนโมเดล
ความแตกต่างของการโจมตี 2 รูปแบบ: - Data Poisoning (โจมตีตอนสอน AI): เหมือน "การแอบสลับฉลากเกลือกับน้ำตาลตั้งแต่โรงงานผลิต" พอคุณเอามาชงกาแฟกินที่บ้าน กาแฟก็เค็มไปหมดโดยที่คุณไม่รู้ตัว - Prompt Injection (โจมตีตอนใช้งาน AI): เหมือน "มิจฉาชีพที่โทรมาหลอกพนักงานแบงก์" โดยใช้จิตวิทยาหลอกให้พนักงานละเมิดกฎบริษัทและยอมโอนเงินให้
สรุป Key Takeaways
- Prompt Injection: การหลอกล่อให้ AI ขัดคำสั่งตั้งต้น (เช่น สั่งให้ลืม Guardrails แล้วบอกรหัสผ่าน)
- Data Poisoning: แฮกเกอร์แอบใส่ข้อมูลผิดๆ เข้าไปใน Dataset ตั้งแต่ตอน Train Model เพื่อให้โมเดลทำงานผิดพลาด
- Jailbreaking: คล้าย Prompt Injection แต่เป็นการเจาะทะลุกรอบความปลอดภัยของโมเดล
อ่านจบแล้วอย่าลืมทำเครื่องหมาย