AI에서 인지 편향이란 무엇인가요?

AI에서의 인지 편향(Cognitive Bias)은 편향된 훈련 데이터나 알고리즘 설계를 통해 AI 시스템에 의도치 않게 내재화, 복제 또는 증폭될 수 있는 판단과 의사결정에서의 체계적 편향 패턴을 의미합니다.

인지 편향을 이해하는 것은 공정하고 편견 없는 AI 시스템을 구축하는 데 중요하며, 훈련 데이터와 알고리즘적 의사결정 과정 모두에서 편향 패턴을 식별하고 완화합니다.

AI에서 인지 편향은 인간의 편향을 반영하는 데이터에서 모델이 학습할 때 나타나며, 특정 그룹에 체계적으로 불공정할 수 있는 방식으로 예측, 추천 또는 분류에서 차별적 패턴을 영속시킵니다.

과거 채용 데이터로 학습되어 남성 후보를 선호하는 AI 채용 시스템이나, 다양하지 않은 훈련 데이터셋으로 인해 피부가 어두운 사람에게 성능이 떨어지는 얼굴 인식 시스템이 있습니다.