Cognitive Bias ใน AI คืออะไร?

Cognitive Bias ใน AI หมายถึงรูปแบบความเบี่ยงเบนอย่างเป็นระบบจากความมีเหตุผลในการตัดสินและการตัดสินใจ ที่อาจถูกฝังอย่างไม่ตั้งใจ จำลอง หรือขยายโดยระบบ AI ผ่านข้อมูลฝึกที่มีอคติหรือการออกแบบอัลกอริทึม

การเข้าใจ Cognitive Bias มีความสำคัญอย่างยิ่งต่อการสร้างระบบ AI ที่ยุติธรรมและไม่มีอคติ โดยระบุและบรรเทารูปแบบอคติทั้งในข้อมูลฝึกและกระบวนการตัดสินใจของอัลกอริทึม

Cognitive Bias ใน AI ปรากฏเมื่อโมเดลเรียนรู้จากข้อมูลที่สะท้อนอคติของมนุษย์ สืบสานรูปแบบการเลือกปฏิบัติในการทำนาย การแนะนำ หรือการจำแนกประเภท

ระบบ AI สำหรับการจ้างงานที่แสดงอคติต่อผู้สมัครชายเพราะถูกฝึกด้วยข้อมูลการจ้างงานในอดีต หรือระบบจดจำใบหน้าที่ทำงานได้แย่กว่ากับผู้มีผิวคล้ำ