كشف هلوسة الذكاء الاصطناعي هو عملية تحديد عندما يولد نموذج الذكاء الاصطناعي معلومات خاطئة أو منحوسة أو غير دقيقة ويقدمها كحقيقة. عندما يهلوس نموذج الذكاء الاصطناعي واحد ، غالبًا ما لا يوجد إشارة داخلية أن الإخراج خاطئ. يكتشف التحقق المتعدد عبر النماذج هلوسات عن طريق استعلام عدة نماذج للذكاء الاصطناعي بشكل مستقل لنفس السؤال. عندما تختلف النماذج ، فإن هذا الاختلاف يشير إلى هلوسة محتملة. يطبق Argumentree.AI هذا من خلال نظام تصنيف حيث يصنف كل نموذج كل حجة من كل نموذج آخر - الحجج ذات التصنيف المنخفض من أي نموذج واحد يتم وضع علامة عليها للمراجعة.
يكشف كشف هلوسة الذكاء الاصطناعي عند توليد نماذج الذكاء الاصطناعي معلومات خاطئة مقدمة كحقيقة. الفكرة الرئيسية: عندما يهلوس نموذج الذكاء الاصطناعي واحد ، غالبًا ما لا يكرر نماذج الذكاء الاصطناعي الأخرى نفس الخطأ. يكتشف التحقق المتعدد عبر النماذج الأخطاء التي يطرحها أي نموذج فردي بثقة.
كشف هلوسة الذكاء الاصطناعي يكتشف عندما يولد الذكاء الاصطناعي معلومات خاطئة. تهلوس النماذج المختلفة بشكل مختلف - ما يخطئ فيه نموذج واحد ، غالبًا ما يصيب النماذج الأخرى بشكل صحيح. يكتشف التحقق المتعدد عبر النماذج هذه الأخطاء بشكل منهجي.
تحدث هلوسة الذكاء الاصطناعي عندما يولد نموذج معلومات خاطئة أو منحوسة أو غير مدعومة بالدليل - ويقدمها كحقيقة. على عكس الأخطاء البشرية حيث قد نقول "أنا لست متأكدًا" ، يولد نماذج الذكاء الاصطناعي إخراجًا واثقًا الصوت بغض النظر عن الدقة.
توليد نماذج الذكاء الاصطناعي نصًا عن طريق التنبؤ بكلمات يجب أن تأتي بعد ذلك بناءً على الأنماط المكتسبة خلال التدريب. لا يصلون إلى قاعدة بيانات من الحقائق - يولدون تسلسلات معقولة الصوت. عندما ينتج مطابقة الأنماط إخراجًا واثقًا ولكن خاطئًا ، فهذا هلوسة.
النماذج تُحسّن من الاتساق والاحتمالية، وليس الصحة. لا يوجد إشارة داخلية "لا أعرف". حتى السؤال "هل أنت متأكد؟" ينتج عادةً تكرارًا واثقًا لنفس الخطأ.
تملك نماذج الذكاء الاصطناعي المختلفة بيانات تدريب مختلفة وهياكل ومعلومات قطع مختلفة. عندما يخترع نموذج واحد ادعاءًا ، غالبًا ما لا يكرر نماذج الذكاء الاصطناعي الأخرى نفس الخطأ. هذه الاستقلالية هي ما يجعل التحقق المتعدد عبر النماذج يعمل.
استعلام عدة نماذج إيه آي بنفس السؤال بشكل مستقل
يولد كل نموذج حجج دون رؤية الآخرين (لا يمكن نسخ الأخطاء)
ثم يقيم كل نموذج كل حجة من كل نموذج آخر
الادعاءات المزيفة تحصل على تصنيفات منخفضة من نماذج أخرى
الحجج ذات التصنيفات المنخفضة = هلوسات محتملة للتحقيق
استعلام جبت ، كلود ، جيمي ، جروك ، بربلكسيتي بشكل مستقل
يبني كل نموذج حجج دون رؤية الآخرين
يقيم كل نموذج كل حجة من كل نموذج آخر
تصنيفات منخفضة من نماذج متعددة = تحقق أكثر
كشف الهلوسة في الذكاء الاصطناعي هو عملية تحديد متى يقوم نموذج الذكاء الاصطناعي بإنشاء معلومات خاطئة أو مصنوعة يقدمها كحقائق. الطريقة الأكثر موثوقية هي التحقق عبر النماذج - استجواب عدة نماذج ذكاء اصطناعي بنفس السؤال والبحث عن عدم الاتفاق، حيث أن الهلوسات عادةً لا تكون متسقة عبر النماذج.
تولد نماذج الذكاء الاصطناعي نصوصًا بناءً على الأنماط التي تم تعلمها أثناء التدريب، وليس من خلال الوصول إلى الحقيقة الأساسية. عندما ينتج مطابقة الأنماط مخرجات واثقة ولكن غير صحيحة - مثل الاقتباسات المصنوعة، الإحصائيات المخترعة، أو الادعاءات الكاذبة - فهذه هي الهلوسة. النماذج تتحسن للحصول على استجابات تبدو معقولة، وليس الدقة.
بشكل سيء. طرح سؤال 'هل أنت متأكد؟' أو 'تحقق من هذا' غالبًا ما يكرر نفس الخطأ. لا يمكن للنماذج التحقق من نفسها بشكل موثوق لأنها لا تملك مرجعًا داخليًا للحقيقة الأساسية. التحقق الخارجي من خلال المقارنة بين النماذج أو المراجعة البشرية هو أكثر فعالية.
تهلوس نماذج الذكاء الاصطناعي بشكل مختلف بسبب بيانات التدريب والهياكل المختلفة. عندما يختلق نموذج ما ادعاءً، عادةً لا ترتكب النماذج الأخرى نفس الخطأ. من خلال مقارنة المخرجات عبر عدة نماذج مستقلة، يمكنك اكتشاف الأخطاء التي قد يقدمها أي نموذج واحد بثقة.
تشمل الهلوسات الشائعة: الاقتباسات الأكاديمية المصنوعة (أوراق لا وجود لها)، الإحصائيات المخترعة ('80% من الخبراء يتفقون...')، الادعاءات التاريخية الكاذبة، القضايا القضائية غير الموجودة (كما في حادثة ماتا ضد أفيانكا)، وشرح تقني خاطئ بثقة.