Mi a Hallucination az AI-ban?
Amikor az AI hamis vagy valótlan információkat generál meggyőző módon.
Cél
A hallucináció nem kívánatos jelenség; a cél annak minimalizálása és felismerése a megbízható AI működés érdekében.
Működés
A hallucináció akkor következik be, amikor az AI modell a tanuló adatokban található mintákat extrapolálja olyan információkra, amelyek nem megalapozottak vagy pontosak.
Példa
Egy AI, amely magabiztosan állítja, hogy "John Smith Nobel-díjas fizikus", holott nem létezik ilyen nevű Nobel-díjas fizikus.
Kapcsolódó
- Megalapozás
- Tényellenőrzés
- AI Megbízhatóság
- Információ Validáció
Szeretne többet megtudni?
Ha mélyebben szeretne elmerülni a Hallucináció témában — vagy szeretne ilyen jellegű képzést hozni a csapatának — beszéljünk. Segítek a csapatoknak megérteni és alkalmazni ezeket a koncepciókat. Örömmel hallanék felőled!
Mik az Embeddings?
A Beágyazások (Embeddings) olyan numerikus vektorok, amelyek szavakat, mond...
Mi az Anthropomorphization az AI-ban?
Az Antropomorfizáció az AI kontextusában azt jelenti, hogy emberi tulajdons...
Mi a Trust Boundary?
A Bizalmi Határ (Trust Boundary) egy biztonsági koncepció AI rendszerekben,...
Mi a Deterministic az AI-ban?
A Determinisztikus AI rendszer olyan, amely azonos bemeneti adatokra mindig...
Mi az AI (Artificial Intelligence)?
Az AI (Artificial Intelligence) vagy Mesterséges Intelligencia az informati...