AI हॉल्युसिनेशन्स काय आहेत?

AI हॉल्युसिनेशन तेव्हा घडते जेव्हा मॉडेल खोटी किंवा बनावट माहिती जनरेट करते आणि ती तथ्य म्हणून सादर करते. मानवी चुकांपेक्षा वेगळे असते, जिथे आपण 'मला माहित नाही' असे म्हणतो, AI मॉडेल्स अचूकतेपेक्षा विश्वासाच्या आवाजात आउटपुट जनरेट करतात.

हॉल्युसिनेशन्स का होतात

AI मॉडेल्स प्रशिक्षण दरम्यान शिकलेल्या नमुन्यांवर आधारित पुढील शब्द कोणते असतील याचा अंदाज लावून मजकूर जनरेट करतात. ते तथ्यांचा डेटाबेस एक्सेस करत नाहीत—ते विश्वासाच्या दिसणार्‍या क्रमांची निर्मिती करतात. जेव्हा नमुना-मॅचिंग विश्वासाच्या पण चुकीच्या आउटपुटची निर्मिती करते—जसे की बनावट संदर्भ, काल्पनिक सांख्यिकी किंवा खोटे दावे—तेव्हा ते हॉल्युसिनेशन आहे.

मॉडेल्स सुसंगततेसाठी आणि विश्वासाच्या दिसण्यासाठी ऑप्टिमाइझ केले जातात, सत्यासाठी नाही. त्यांच्याकडे 'मला माहित नाही' असा अंतर्निहित सिग्नल नाही. 'तुम्ही खात्री आहात का?' किंवा 'हे तपासा' असे विचारले तरी ते चुकीच्या आउटपुटची पुनरावृत्ती करते.