Co je Hallucination v AI?

Hallucination neboli Halucinace je jev, kdy AI generuje nepravdivé, vymyšlené nebo nepřesné informace a představuje je jako fak y.

Halucinace jsou nežádoucí vedlejší efekt AI modelů, který může podkopat důvěru uživatelů a způsobit škody.

Vzniká když model nemá dostatečné informace, ale stále se snaží poskytnout odpověď na základě patternů z tréninkových dat.

LLM, které vymýslí neexistující vědecké články s přesvědčivými tituly a autory, když je požádáno o reference.

Kombinuje se technikami jako Grounding, RAG a fact-checking pro snížení výskytu.