كشف هلوسة الذكاء الاصطناعي هو عملية تحديد عندما يولد نموذج الذكاء الاصطناعي معلومات خاطئة أو منحوسة أو غير دقيقة ويقدمها كحقيقة. عندما يهلوس نموذج الذكاء الاصطناعي واحد ، غالبًا ما لا يوجد إشارة داخلية أن الإخراج خاطئ. يكتشف التحقق المتعدد عبر النماذج هلوسات عن طريق استعلام عدة نماذج للذكاء الاصطناعي بشكل مستقل لنفس السؤال. عندما تختلف النماذج ، فإن هذا الاختلاف يشير إلى هلوسة محتملة. يطبق Argumentree.AI هذا من خلال نظام تصنيف حيث يصنف كل نموذج كل حجة من كل نموذج آخر - الحجج ذات التصنيف المنخفض من أي نموذج واحد يتم وضع علامة عليها للمراجعة.
يكشف كشف هلوسة الذكاء الاصطناعي عند توليد نماذج الذكاء الاصطناعي معلومات خاطئة مقدمة كحقيقة. الفكرة الرئيسية: عندما يهلوس نموذج الذكاء الاصطناعي واحد ، غالبًا ما لا يكرر نماذج الذكاء الاصطناعي الأخرى نفس الخطأ. يكتشف التحقق المتعدد عبر النماذج الأخطاء التي يطرحها أي نموذج فردي بثقة.
كشف هلوسة الذكاء الاصطناعي يكتشف عندما يولد الذكاء الاصطناعي معلومات خاطئة. تهلوس النماذج المختلفة بشكل مختلف - ما يخطئ فيه نموذج واحد ، غالبًا ما يصيب النماذج الأخرى بشكل صحيح. يكتشف التحقق المتعدد عبر النماذج هذه الأخطاء بشكل منهجي.
تحدث هلوسة الذكاء الاصطناعي عندما يولد نموذج معلومات خاطئة أو منحوسة أو غير مدعومة بالدليل - ويقدمها كحقيقة. على عكس الأخطاء البشرية حيث قد نقول "أنا لست متأكدًا" ، يولد نماذج الذكاء الاصطناعي إخراجًا واثقًا الصوت بغض النظر عن الدقة.
توليد نماذج الذكاء الاصطناعي نصًا عن طريق التنبؤ بكلمات يجب أن تأتي بعد ذلك بناءً على الأنماط المكتسبة خلال التدريب. لا يصلون إلى قاعدة بيانات من الحقائق - يولدون تسلسلات معقولة الصوت. عندما ينتج مطابقة الأنماط إخراجًا واثقًا ولكن خاطئًا ، فهذا هلوسة.
النماذج تُحسّن من الاتساق والاحتمالية، وليس الصحة. لا يوجد إشارة داخلية "لا أعرف". حتى السؤال "هل أنت متأكد؟" ينتج عادةً تكرارًا واثقًا لنفس الخطأ.
تملك نماذج الذكاء الاصطناعي المختلفة بيانات تدريب مختلفة وهياكل ومعلومات قطع مختلفة. عندما يخترع نموذج واحد ادعاءًا ، غالبًا ما لا يكرر نماذج الذكاء الاصطناعي الأخرى نفس الخطأ. هذه الاستقلالية هي ما يجعل التحقق المتعدد عبر النماذج يعمل.
استعلام عدة نماذج إيه آي بنفس السؤال بشكل مستقل
يولد كل نموذج حجج دون رؤية الآخرين (لا يمكن نسخ الأخطاء)
ثم يقيم كل نموذج كل حجة من كل نموذج آخر
الادعاءات المزيفة تحصل على تصنيفات منخفضة من نماذج أخرى
الحجج ذات التصنيفات المنخفضة = هلوسات محتملة للتحقيق
استعلام جبت ، كلود ، جيمي ، جروك ، بربلكسيتي بشكل مستقل
يبني كل نموذج حجج دون رؤية الآخرين
يقيم كل نموذج كل حجة من كل نموذج آخر
تصنيفات منخفضة من نماذج متعددة = تحقق أكثر
اكتشاف هلوسات الإيه آي هو عملية تحديد عندما يولد نموذج الإيه آي معلومات كاذبة أو مزيفة ويقدمها على أنها حقيقية. الطريقة الأكثر موثوقية هي التحقق عبر النماذج - الاستعلام بنفس السؤال على عدة نماذج إيه آي والبحث عن عدم اتفاق ، حيث أن هلوسات الإيه آي عادة لا تكون متسقة عبر النماذج.
توليد نماذج الإيه آي نصًا بناءً على الأنماط التي تم تعلمها خلال التدريب ، وليس عن طريق الوصول إلى الحقيقة الأرضية. عندما ينتج التطابق النمطي خرجًا واثقًا ولكن غير صحيح - مثل الإشارات المزيفة أو الإحصائيات المخترعة أو الادعاءات الكاذبة - فهذا هلوسة. النماذج تُ优َطّ للردود التي تُسمَع معقولة ، وليس الدقة.
بصورة سيئة. السؤال "هل أنت متأكد؟" أو "تحقق من هذا" غالبًا ما يكرر الخطأ نفسه. لا يمكن للنماذج التحقق من صحة نفسها بشكل موثوق لأنها لا تمتلك مرجعًا داخليًا للحقيقة الأرضية. التحقق الخارجي من خلال المقارنة عبر النماذج أو المراجعة البشرية أكثر فعالية.
تختلف نماذج الإيه آي المختلفة في هلوساتها بسبب بيانات التدريب والمعمارية المختلفة. عندما يخترع نموذج ادعاء ، عادة لا يكرر النماذج الأخرى نفس الخطأ. من خلال مقارنة الإخراج عبر عدة نماذج مستقلة ، يمكنك اكتشاف الأخطاء التي قد يقدمها نموذج واحد بثقة.
تتضمن هلوسات الإيه آي الشائعة: إشارات أكاديمية مزيفة (أوراق لا توجد) ، إحصائيات مخترعة ('80٪ من الخبراء يتفقون...') ، ادعاءات تاريخية كاذبة ، قضايا غير موجودة (كما في حادثة ماتا ضد شركة طيران أفيانكا) ، وتفسيرات تقنية واثقة ولكن خاطئة.