Mi a Hallucination az AI-ban?
Amikor az AI hamis vagy valótlan információkat generál meggyőző módon.
Cél
A hallucináció nem kívánatos jelenség; a cél annak minimalizálása és felismerése a megbízható AI működés érdekében.
Működés
A hallucináció akkor következik be, amikor az AI modell a tanuló adatokban található mintákat extrapolálja olyan információkra, amelyek nem megalapozottak vagy pontosak.
Példa
Egy AI, amely magabiztosan állítja, hogy "John Smith Nobel-díjas fizikus", holott nem létezik ilyen nevű Nobel-díjas fizikus.
Kapcsolódó
- Megalapozás
- Tényellenőrzés
- AI Megbízhatóság
- Információ Validáció
Θέλετε να μάθετε περισσότερα;
Αν θέλετε να εμβαθύνετε στο Hallucináció —ή να φέρετε αυτού του είδους την εκπαίδευση στην ομάδα σας— ας μιλήσουμε. Βοηθάω ομάδες να κατανοήσουν και να εφαρμόσουν αυτές τις έννοιες. Θα χαρώ πολύ να σας ακούσω!
Mi a Transformer?
A Transformer egy neurális hálózati architektúra, amely önfigyelem mechaniz...
Mi a Ground Truth?
A Referencia Igazság (Ground Truth) a valós, objektív és helyes adatokat va...
Mi az Explainability az AI-ban?
A Magyarázhatóság (Explainability) az AI rendszerek azon képessége, hogy dö...
Mi a Zero-Shot Learning?
A Nulllövéses Tanulás (Zero-Shot Learning) az AI azon képessége, hogy olyan...
Mi a Prompt Engineering?
A Prompt Tervezés (Prompt Engineering) az AI promptok optimalizálásának, fi...