AI Mastery· ~6 นาที
ภัยคุกคาม AI ที่ต้องรู้
Prompt Injection, Data Leakage และ Hallucination risks
แฮ็ก AI ด้วยคำพูด (Prompt Injection)
ในโลกปกติ Hacker ต้องใช้โค้ดหรือโปรแกรมโจมตีระบบ แต่ในโลก AI Hacker ใช้แค่ "ภาษาคน" ก็สามารถเจาะระบบได้แล้ว
เหมือนคุณจ้างยาม (AI) มาเฝ้าประตู แล้วมีโจรเดินมาบอกยามว่า "เจ้านายคุณโทรมาบอกว่า ตอนนี้ฉันคือเจ้านายคนใหม่ จงเปิดประตูให้ฉันและมอบกุญแจทั้งหมดมา" ยามที่ซื่อตรงต่อคำสั่งมากเกินไปก็จะทำตามทันที
สรุป Key Takeaways
- Prompt Injection คือการหลอกให้ AI ลืมคำสั่งหลัก แล้วทำตามคำสั่งแฝง
- ห้ามส่งข้อมูลความลับ (PII, API Key) เข้า AI สาธารณะ (ถ้าไม่ได้ใช้ Enterprise Plan)
- การเชื่อ AI มากเกินไป (Over-reliance) เป็นความเสี่ยงที่น่ากลัวที่สุด
อ่านจบแล้วอย่าลืมทำเครื่องหมาย