Hvad er hallucination i AI?
Når AI-modeller producerer information, der lyder troværdig men er faktisk forkert, opdigtet eller ikke understøttet af træningsdata.
Definition
Hallucination i AI er når modeller producerer information, fakta eller påstande, der lyder troværdige og sammenhængende, men som er faktisk forkerte, opdigtede eller ikke understøttet af træningsdata.
Formål
At forstå hallucination har til formål at gøre brugere opmærksomme på denne begrænsning i AI-systemer, så de kan verificere information og ikke blindt stole på AI-output.
Funktion
Hallucination opstår når AI-modeller fylder huller i deres viden med plausibelt-lydende men forkert information, ofte på grund af mønstre i træningsdata eller overfortolkning.
Eksempel
En AI der spørges om en obskur historisk begivenhed kan opfinde datoer, navne og detaljer der lyder rigtige, men som aldrig skete i virkeligheden.
Relateret
Hallucination er relateret til fact-checking, AI reliability og information verification.
Vil du vide mere?
Hvis du vil gå mere i dybden med Hallucination - Hallucination —eller bringe denne form for træning til dit team— så lad os tale sammen. Jeg hjælper teams med at forstå og anvende disse begreber. Jeg vil meget gerne høre fra dig!
Hvad er Ground Truth?
Ground Truth er de korrekte, faktuelle eller godkendte svar og data, der br...
Hvad er syntetiske data?
Syntetiske data er kunstigt genererede data skabt af AI-modeller, algoritme...
Hvad er Generativ AI?
Generativ AI er AI-systemer, der kan skabe nyt og originalt indhold som tek...
Hvad er et Evaluation Harness?
Evaluation Harness er et omfattende framework eller system, der automatiser...
Hvad er evals i AI?
Evals (evaluations) er systematiske vurderinger og tests, der måler AI-mode...