AI में Hallucination (मिथ्या उत्पादन) क्या है?

Hallucination या मिथ्या उत्पादन तब होता है जब AI मॉडल गलत, मनगढ़ंत या असत्य जानकारी को बहुत विश्वास के साथ और सच लगने वाले तरीके में प्रस्तुत करता है।

यह AI की एक महत्वपूर्ण सीमा है जिसे समझना और कम करना जरूरी है ताकि AI सिस्टम अधिक विश्वसनीय और सटीक हों।

मॉडल में पैटर्न मैचिंग और संभावना-आधारित टेक्स्ट जेनरेशन के कारण, कभी-कभी यह ऐसी जानकारी बनाता है जो तथ्यात्मक रूप से गलत होती है लेकिन भाषा के स्तर पर सही लगती है।

AI से किसी व्यक्ति के बारे में पूछना और उसका ऐसी जानकारी देना जो सुनने में सही लगे लेकिन वास्तव में उस व्यक्ति के बारे में गलत हो या उसका अस्तित्व ही न हो।

• AI Reliability (AI विश्वसनीयता)
• Fact-checking (तथ्य-जांच)
• Grounding (ग्राउंडिंग)
• Model Limitations (मॉडल सीमाएं)