Mikä on Hallucination?
AI:n tuottama virheellinen tai keksitty tieto, joka vaikuttaa todenmukaiselta.
Määritelmä
Hallusinaatio tarkoittaa tilannetta, jossa AI tuottaa tietoa, joka vaikuttaa uskottavalta mutta on todellisuudessa virheellistä, keksittyä tai perustumatonta.
Tarkoitus
Hallusinaatioiden ymmärtäminen on tärkeää AI:n luotettavan käytön kannalta ja niiden minimoimiseksi mallin kehityksessä.
Toiminta
Hallusinaatiot syntyvat kun AI yrittää täyttää tietopuutteita omilla päätelmilleän tai sekoittaa eri lähteiden tietoja virheellisesti.
Esimerkki
Chatbot väittää olevansa kirja tai tapahtuma, jota ei ole koskaan ollut olemassa, mutta kuvaa sen uskottavasti yksityiskohtineen.
Liittyvät
- Grounding
- Ground Truth
- Fact-Checking
- AI Safety
Möchten Sie mehr erfahren?
Wenn Sie tiefer in Hallusinaatio eintauchen möchten – oder diese Art von Training in Ihr Team bringen wollen – sprechen wir. Ich helfe Teams dabei, diese Konzepte zu verstehen und anzuwenden. Ich würde mich freuen, von Ihnen zu hören!
Mikä on Latency Budget?
Viivebudjetti (Latency Budget) on ennalta määritelty maksimaallinen aika, j...
Mikä on AI Alignment?
AI Alignment tarkoittaa AI-järjestelmien suunnittelua ja kehittämistä siten...
Mikä on Computer Use?
Computer Use viittaa AI-järjestelmien kykyyn käyttää tietokonetta samalla t...
Mikä on Natural Language?
Luonnollinen Kieli (Natural Language) tarkoittaa ihmisten arkipäiväisessä k...
Mikä on Multi-Agent Architecture?
Moniagenttiarkkitehtuuri (Multi-Agent Architecture) on järjestelmäsuunnitte...