ای آئی ہالوسینیشن کی پہچان ایک ایسا عمل ہے جس میں یہ شناخت کی جاتی ہے کہ جب ایک ای آئی ماڈل جھوٹی، بنائی ہوئی، یا غیر صحیح معلومات پیدا کرتا ہے جو اسے حقیقت کے طور پر پیش کرتا ہے۔ جب ایک ای آئی ہالوسینیشن کرتا ہے، تو اکثر کوئی اندرونی اشارہ نہیں ہوتا کہ آؤٹ پٹ غلط ہے۔ ملٹی ماڈل کراس والیڈیشن ہالوسینیشنز کو پکڑنے کے لیے کئی ای آئی ماڈلز کو آزادانہ طور پر ایک ہی سوال کے لیے کوئری کرتا ہے۔ جب ماڈلز میں اختلاف ہوتا ہے، تو یہ اختلاف ہالوسینیشن کا اشارہ دیتا ہے۔ آرگومنٹری.ای آئی اسے ایک ریٹنگ سسٹم کے ذریعے نافذ کرتا ہے جہاں ہر ماڈل ہر دوسرے ماڈل کے ہر دلیل کو ریٹ کرتا ہے - کوئی بھی سنگل ماڈل سے کم ریٹنگ والے دلائل جائزہ کے لیے فلگ کیے جاتے ہیں۔
ای آئی ہالوسینیشن کی پہچان ای آئی ماڈلز کی جانب سے جھوٹی معلومات پیدا کرنے کی شناخت کرتی ہے جو حقیقت کے طور پر پیش کی جاتی ہے۔ اہم بصیرت: جب ایک ای آئی ہالوسینیشن کرتا ہے، تو دوسرے ای آئی اکثر ایسی ہی غلطی نہیں کرتے۔ کراس والیڈیشن وہ غلطیاں پکڑتی ہے جو کوئی بھی سنگل ماڈل اعتماد کے ساتھ پیش کرتا ہے۔
ہالوسینیشن کی پہچان ای آئی کی جانب سے جھوٹی معلومات پیدا کرنے کی شناخت کرتی ہے۔ مختلف ماڈلز ہالوسینیشن کرتے ہیں - جو ایک غلط کرتا ہے، دوسرے اکثر صحیح کرتے ہیں۔ کراس ماڈل والیڈیشن ان غلطیوں کو منظم طور پر پکڑتی ہے۔
ایک ای آئی ہالوسینیشن تب ہوتی ہے جب ایک ماڈل ایسی معلومات پیدا کرتا ہے جو جھوٹی، بنائی ہوئی، یا ثبوت سے محروم ہو - اور اسے حقیقت کے طور پر پیش کرتا ہے۔ انسانوں کی غلطیوں کے برعکس جہاں ہم کہتے ہیں "میں نہیں جانتا،" ای آئی ماڈلز اعتماد کے ساتھ آؤٹ پٹ پیدا کرتے ہیں چاہے وہ صحیح ہو یا نہیں۔
ای آئی ماڈلز تربیت کے دوران سیکھے گئے نمونوں کی بنیاد پر اگلی الفاظ کو پیش کرکے متن پیدا کرتے ہیں۔ وہ حقائق کے ڈیٹا بیس تک رسائی نہیں رکھتے - وہ معقول لگنے والی سیکوئنسز پیدا کرتے ہیں۔ جب پٹرن میچنگ اعتماد کے ساتھ لیکن غلط آؤٹ پٹ پیدا کرتی ہے - جیسے بنائی ہوئی حوالہ جات، بنائے گئے اعداد و شمار، یا جھوٹے دعوے - تو یہ ہالوسینیشن ہے۔
ماڈلز سہولت اور امکان کے لئے بہترین انتخاب کرتے ہیں، نہ کہ حقیقت کے لئے۔ اندرونی طور پر "میں نہیں جانتا" کا کوئی اشارہ نہیں ہوتا۔ یہاں تک کہ "کیا آپ یقین رکھتے ہیں؟" پوچھنے سے عام طور پر اسی غلطی کی یقینی تکرار ہوتی ہے۔
مختلف ای آئی ماڈلز کے مختلف تربیتی ڈیٹا، آرکیٹیکچر، اور علم کی ختم ہوتی ہیں۔ جب ایک ماڈل ایک دعویٰ بناتا ہے، دوسرے ماڈلز اکثر اسی غلطی کو نہیں کرتے۔ یہ آزادی ہی کراس ماڈل والیڈیشن کو کام کرتی ہے۔
ایک ہی سوال کے ساتھ کئی AI ماڈلز کو آزادانہ طور پر کوئری کریں
ہر ماڈل دوسرے ماڈلز کو دیکھے بغیر دلائل پیدا کرتا ہے (غلطیوں کی نقل نہیں کر سکتا)
ہر ماڈل پھر ہر دوسرے ماڈل کے دلائل کی درجہ بندی کرتا ہے
بناوٹی دعوے دوسرے ماڈلز سے کم درجہ بندی حاصل کرتے ہیں
کم درجہ بندی والے دلائل = تحقیق کے لئے ممکنہ幻想
GPT، کلاڈ، جیمانی، گروک، پرپلیکسیٹی کو آزادانہ طور پر کوئری کریں
ہر ماڈل دوسرے ماڈلز کو دیکھے بغیر دلائل بناتا ہے
ہر ماڈل ہر دوسرے ماڈل کے دلائل کی درجہ بندی کرتا ہے
کئی ماڈلز سے کم درجہ بندی = آگے کی تحقیق کے لئے
AI幻想 کی پہچان ایک ایسا عمل ہے جس میں یہ پتہ لگایا جاتا ہے کہ جب ایک AI ماڈل جھوٹی یا بناوٹی معلومات پیدا کرتا ہے اور اسے حقیقت کے طور پر پیش کرتا ہے۔ یہ سب سے قابل اعتماد طریقہ ماڈل کی درمیانی توثیق ہے - ایک ہی سوال کے ساتھ کئی AI ماڈلز کو کوئری کرنا اور عدم مطابقت کی तलاش کرنا، کیونکہ幻想 عام طور پر ماڈلز کے درمیان مطابقت نہیں رکھتے۔
AI ماڈلز ٹیکسٹ کو تربیت کے دوران سیکھے ہوئے نمونوں کے आधار پر پیدا کرتے ہیں، نہ کہ حقیقت تک رسائی کے ذریعے۔ جب نمونہ میچنگ اعتماد کے ساتھ غلط آؤٹ پٹ پیدا کرتی ہے - جیسے بناوٹی حوالہ جات، گھڑے ہوئے اعداد و شمار، یا جھوٹے دعوے - تو یہ幻想 ہے۔ ماڈلز قابل اعتماد لگنے والی جوابیں پیدا کرنے کے لئے оптимائز ہوتے ہیں، درستگی کے لئے نہیں۔
برا۔ "کیا آپ یقین رکھتے ہیں؟" یا "یہ تصدیق کریں" پوچھنا اکثر ایک ہی غلطی کو دہرائے۔ ماڈلز اندرونی حقیقت کے حوالے کے بغیر خود کی توثیق نہیں کر سکتے۔ بیرونی توثیق ماڈل کی درمیانی موازنہ یا انسانی جائزے کے ذریعے زیادہ مؤثر ہے۔
مختلف AI ماڈلز幻想 کو مختلف طریقے سے پیدا کرتے ہیں کیونکہ ان کی تربیت کے داده اور تعمیرات مختلف ہوتی ہیں۔ جب ایک ماڈل ایک دعویٰ گھڑتا ہے، دوسرے ماڈلز عام طور پر ایک ہی غلطی نہیں کرتے۔ کئی آزادانہ ماڈلز کے آؤٹ پٹ کا موازنہ کرکے، آپ ایسی غلطیوں کو پکڑ سکتے ہیں جو ایک واحد ماڈل بہادری کے ساتھ پیش کرتا ہے۔
عام幻想 میں شامل ہیں: بناوٹی تعلیمی حوالہ جات (موجود نہیں ہونے والے مقالے)، گھڑے ہوئے اعداد و شمار ('80% ماہرین متفق ہیں...'), جھوٹے تاریخی دعوے، غیر موجود عدالتی کیس (جیسے میٹا بمقابلہ ایویانکا واقعہ)، اور بے معنی техничесki تفصیلات۔
ای آئی آؤٹ پٹس کو کئی ماڈلز کے درمیان کراس والیڈیشن کریں۔ عدم مطابقت غلطیوں کو ظاہر کرتی ہے۔
مفت ریسرچ شروع کریں