¿Qué es Cognitive Bias en IA?

Cognitive Bias o Sesgo Cognitivo en IA se refiere a patrones sistemáticos de desviación de la racionalidad en el juicio y la toma de decisiones que pueden ser inadvertidamente incorporados, replicados, o amplificados por sistemas de inteligencia artificial a través de datos de entrenamiento sesgados o diseño algorítmico.

Entender los sesgos cognitivos es crucial para construir sistemas de IA justos e imparciales, identificando y mitigando patrones de sesgo tanto en datos de entrenamiento como en procesos de toma de decisiones algorítmicos.

Los sesgos cognitivos en IA se manifiestan cuando los modelos aprenden de datos que reflejan sesgos humanos, perpetuando patrones discriminatorios en predicciones, recomendaciones, o clasificaciones de formas que pueden ser sistemáticamente injustas para ciertos grupos.

Un sistema de IA de contratación que muestra sesgo hacia candidatos masculinos porque fue entrenado con datos históricos de contratación, o un sistema de reconocimiento facial que funciona peor con personas de piel más oscura debido a conjuntos de datos de entrenamiento no diversos.

Conectado con AI Fairness, Algorithmic Bias, Data Quality, Ethical AI, Bias Mitigation, y Responsible AI Development.