Co to jest Wyjaśnialność?

Wyjaśnialność (Explainability) to zdolność systemu sztucznej inteligencji do przedstawienia i uzasadnienia swojego procesu podejmowania decyzji w sposób zrozumiały dla ludzi, umożliwiając wgląd w to, jak model dochodzi do konkretnych wyników.

Celem wyjaśnialności jest budowanie zaufania do systemów AI, umożliwienie weryfikacji poprawności decyzji, spełnienie wymogów regulacyjnych oraz identyfikację potencjalnych błędów lub uprzedzeń w modelach.

Wyjaśnialność funkcjonuje poprzez różne techniki, takie jak analizę ważności cech, wizualizację procesów wewnętrznych modelu lub generowanie tekstowych wyjaśnień kroków prowadzących do danej decyzji.

System AI do oceny wniosków kredytowych z wyjaśnialnością może pokazać, że odrzucił wniosek głównie z powodu niskiego wyniku kredytowego (40%) i wysokiego zadłużenia (35%), a nie ze względu na inne czynniki.

• Interpretability
• Transparency
• Black Box Problem
• Responsible AI