Hvad er forklarbarhed i AI?
AI-systemers evne til at gøre deres beslutningsprocesser og ræsonnementer forståelige og gennemskuelige for mennesker.
Definition
Forklarbarhed (Explainability) er AI-systemers evne til at gøre deres beslutningsprocesser, ræsonnementer og konklusioner forståelige og gennemskuelige for mennesker.
Formål
Forklarbarhed har til formål at skabe tillid til AI-systemer ved at lade brugere forstå hvorfor og hvordan systemet når frem til sine beslutninger og resultater.
Funktion
Forklarbarhed fungerer gennem teknikker som attention maps, feature importance, decision trees og andre metoder, der viser hvilke faktorer der påvirker AI'ens output.
Eksempel
En AI-model til lånegodkendelse skal kunne forklare præcis hvilke faktorer (indkomst, kredithistorik, etc.) der førte til afslag eller godkendelse af lånet.
Relateret
Forklarbarhed er relateret til AI transparency, interpretability og responsible AI praksis.
Vil du vide mere?
Hvis du vil gå mere i dybden med Explainability - Forklarbarhed —eller bringe denne form for træning til dit team— så lad os tale sammen. Jeg hjælper teams med at forstå og anvende disse begreber. Jeg vil meget gerne høre fra dig!
Hvad er kontekst i AI?
Kontekst i AI henviser til den information, baggrund og omstændigheder, som...
Hvad er grounding i AI?
Grounding (Forankring) er processen med at forbinde AI-modellers abstrakte...
Hvad er embeddings?
Embeddings er numeriske repræsentationer (vektorer) af ord, sætninger eller...
Hvad er en escape hatch i AI?
Escape Hatch (Nødausgang) er en sikkerhedsmekanisme i AI-systemer, der give...
Hvad er evals i AI?
Evals (evaluations) er systematiske vurderinger og tests, der måler AI-mode...