AI में Hallucination (मिथ्या उत्पादन) क्या है?
जब AI मॉडल गलत, मनगढ़ंत या असत्य जानकारी को आत्मविश्वास के साथ सच की तरह प्रस्तुत करता है।
परिभाषा
Hallucination या मिथ्या उत्पादन तब होता है जब AI मॉडल गलत, मनगढ़ंत या असत्य जानकारी को बहुत विश्वास के साथ और सच लगने वाले तरीके में प्रस्तुत करता है।
उद्देश्य (समस्या)
यह AI की एक महत्वपूर्ण सीमा है जिसे समझना और कम करना जरूरी है ताकि AI सिस्टम अधिक विश्वसनीय और सटीक हों।
कार्यप्रणाली
मॉडल में पैटर्न मैचिंग और संभावना-आधारित टेक्स्ट जेनरेशन के कारण, कभी-कभी यह ऐसी जानकारी बनाता है जो तथ्यात्मक रूप से गलत होती है लेकिन भाषा के स्तर पर सही लगती है।
उदाहरण
AI से किसी व्यक्ति के बारे में पूछना और उसका ऐसी जानकारी देना जो सुनने में सही लगे लेकिन वास्तव में उस व्यक्ति के बारे में गलत हो या उसका अस्तित्व ही न हो।
संबंधित
- AI Reliability (AI विश्वसनीयता)
- Fact-checking (तथ्य-जांच)
- Grounding (ग्राउंडिंग)
- Model Limitations (मॉडल सीमाएं)
Chcesz dowiedzieć się więcej?
Jeśli chcesz zgłębić temat Hallucination (मिथ्या उत्पादन) — lub wprowadzić tego rodzaju szkolenia w swoim zespole — porozmawiajmy. Pomagam zespołom zrozumieć i stosować te koncepcje w praktyce. Z chęcią poznam Twoją historię!
GPT क्या है?
GPT (Generative Pre-trained Transformer) एक प्रकार का कृत्रिम न्यूरल नेटवर्...
AI (कृत्रिम बुद्धिमत्ता) क्या है?
AI या कृत्रिम बुद्धिमत्ता (Artificial Intelligence) ऐसे सिस्टम बनाने का व्य...
AI एजेंट क्या है?
Agent (एजेंट) एक सॉफ़्टवेयर इकाई है जो उपयोगकर्ता की ओर से स्वायत्त रूप से...
Deep Learning (गहरी शिक्षा) क्या है?
Deep Learning या गहरी शिक्षा मशीन लर्निंग की एक विशेषज्ञता है जो कई छुपी हु...
Large Language Model (बड़ा भाषा मॉडल) क्या है?
Large Language Model (LLM) या बड़ा भाषा मॉडल एक बहुत बड़ा कृत्रिम न्यूरल ने...