एआई हॉलुसिनेशन डिटेक्शन एक प्रक्रिया है जो एआई मॉडल द्वारा उत्पन्न झूठी, बनावटी, या असटीक जानकारी की पहचान करती है जिसे वह तथ्य के रूप में प्रस्तुत करता है। जब एक एकल एआई हॉलुसिनेट करता है, तो अक्सर कोई आंतरिक संकेत नहीं होता है कि आउटपुट गलत है। मल्टी-मॉडल क्रॉस-वैलिडेशन हॉलुसिनेशन्स का पता लगाने के लिए कई एआई मॉडल्स से स्वतंत्र रूप से एक ही प्रश्न पूछकर करता है। जब मॉडल्स असहमत होते हैं, तो वह असहमति संभावित हॉलुसिनेशन का संकेत देती है। आर्गुमेंट्री . एआई इसे एक रेटिंग सिस्टम के माध्यम से लागू करता है जहां प्रत्येक मॉडल प्रत्येक तर्क को दूसरे मॉडल से रेट करता है—किसी एक मॉडल से कम रेटेड तर्क समीक्षा के लिए फ्लैग किए जाते हैं।
एआई हॉलुसिनेशन डिटेक्शन पहचानता है जब एआई मॉडल तथ्य के रूप में गलत जानकारी उत्पन्न करते हैं। मुख्य अंतर्दृष्टि: जब एक एआई हॉलुसिनेट करता है, तो अन्य एआई अक्सर एक ही गलती नहीं करते हैं। क्रॉस-वैलिडेशन उन त्रुटियों को पकड़ता है जिन्हें कोई एकल मॉडल आत्मविश्वास से प्रस्तुत करेगा।
हॉलुसिनेशन डिटेक्शन एआई द्वारा उत्पन्न झूठी जानकारी का पता लगाता है। विभिन्न मॉडल्स विभिन्न रूप से हॉलुसिनेट करते हैं—जो एक गलत करता है, अन्य अक्सर सही करते हैं। क्रॉस-मॉडल वैलिडेशन इन त्रुटियों को व्यवस्थित रूप से पकड़ता है।
एक एआई हॉलुसिनेशन तब होता है जब एक मॉडल झूठी, बनावटी, या असमर्थित जानकारी उत्पन्न करता है—और उसे तथ्य के रूप में प्रस्तुत करता है। मानव त्रुटियों के विपरीत, जहां हम कह सकते हैं "मैं नहीं जानता", एआई मॉडल्स आत्मविश्वास से ध्वनि उत्पन्न करते हैं चाहे वह सटीक हो या नहीं।
एआई मॉडल्स प्रशिक्षण के दौरान सीखे गए पैटर्न्स के आधार पर अगले शब्दों की भविष्यवाणी करके पाठ उत्पन्न करते हैं। वे तथ्यों के डेटाबेस तक नहीं पहुंचते—वे संभावित ध्वनि वाले क्रम उत्पन्न करते हैं। जब पैटर्न-मिलान आत्मविश्वासी लेकिन गलत आउटपुट उत्पन्न करता है, तो वह एक हॉलुसिनेशन है।
मॉडल्स सुसंगतता और संभावना के लिए अनुकूलित होते हैं, सत्य के लिए नहीं। कोई आंतरिक "मुझे नहीं पता" संकेत नहीं है। यहां तक कि "क्या आप सुनिश्चित हैं?" पूछने से आमतौर पर उसी त्रुटि की आत्मविश्वासी पुनरावृत्ति होती है।
विभिन्न एआई मॉडलों के पास विभिन्न प्रशिक्षण डेटा, आर्किटेक्चर और ज्ञान कटऑफ होते हैं। जब एक मॉडल किसी दावे को बनाता है, अन्य मॉडल आमतौर पर वही गलती नहीं करते हैं. यह स्वतंत्रता ही क्रॉस-मॉडल वैलिडेशन को काम करने में मदद करती है।
एक ही प्रश्न के साथ कई एआई मॉडलों को स्वतंत्र रूप से प्रश्न पूछें
प्रत्येक मॉडल तर्क देता है बिना दूसरों को देखे (त्रुटियों की प्रतिलिपि नहीं बना सकता)
प्रत्येक मॉडल फिर हर तर्क को हर दूसरे मॉडल से दर्जा देता है
निर्मित दावे अन्य मॉडलों से कम दर्जा प्राप्त करते हैं
कम दर्जा तर्क = संभावित भ्रम जांच के लिए
जीपीटी, क्लाउड, जेमिनी, ग्रोक, परप्लेक्सिटी स्वतंत्र रूप से प्रश्न पूछें
प्रत्येक मॉडल तर्क बनाता है बिना दूसरों को देखे
प्रत्येक मॉडल हर तर्क को हर दूसरे मॉडल से दर्जा देता है
कई मॉडलों से कम दर्जा = आगे जांच करें
एआई भ्रम पहचान एआई मॉडल द्वारा उत्पन्न की गई झूठी या निर्मित जानकारी की पहचान करने की प्रक्रिया है जिसे यह तथ्य के रूप में प्रस्तुत करता है। सबसे विश्वसनीय तरीका क्रॉस-मॉडल मान्यकरण है - एक ही प्रश्न के साथ कई एआई मॉडलों को प्रश्न पूछना और असहमति की तलाश करना, क्योंकि भ्रम आमतौर पर मॉडलों में सुसंगत नहीं होते हैं।
एआई मॉडल प्रशिक्षण के दौरान सीखे गए पैटर्न के आधार पर पाठ उत्पन्न करते हैं, न कि मूल सत्य तक पहुंचकर। जब पैटर्न-मिलान आत्मविश्वासी लेकिन गलत आउटपुट उत्पन्न करता है - जैसे कि निर्मित उद्धरण, आविष्कृत आंकड़े, या झूठे दावे - तो यह एक भ्रम है। मॉडल सटीकता के बजाय संभव लगती प्रतिक्रियाओं के लिए अनुकूलित होते हैं।
खराब। "क्या आप सुनिश्चित हैं?" या "इसे सत्यापित करें" पूछने से अक्सर同 त्रुटि दोहराई जाती है। मॉडल आत्म-मान्यकरण नहीं कर सकते क्योंकि उनके पास कोई आंतरिक मूल सत्य संदर्भ नहीं है। क्रॉस-मॉडल तुलना या मानव समीक्षा के माध्यम से बाहरी मान्यकरण अधिक प्रभावी है।
विभिन्न एआई मॉडल अलग-अलग प्रशिक्षण डेटा और वास्तुकला के कारण अलग-अलग भ्रम उत्पन्न करते हैं। जब एक मॉडल एक दावा बनाता है, तो अन्य मॉडल आमतौर पर同 त्रुटि नहीं करते हैं। कई स्वतंत्र मॉडलों के आउटपुट की तुलना करके, आप एकल मॉडल द्वारा आत्मविश्वास से प्रस्तुत की गई त्रुटियों को पकड़ सकते हैं।
सामान्य भ्रम में शामिल हैं: निर्मित विद्यापीठीय उद्धरण (मौजूद नहीं पत्र), आविष्कृत आंकड़े ('80% विशेषज्ञ सहमत हैं...'), झूठे ऐतिहासिक दावे, अमौजूद अदालती मामले (जैसे माटा वी. एवियनका घटना), और आत्मविश्वासी गलत तकनीकी व्याख्याएं।
क्रॉस-वैलिडेट एआई आउटपुट कई मॉडल्स में। असहमति त्रुटियों का खुलासा करती है।
मुफ्त अनुसंधान शुरू करें