تعلم الجميع الدرس الخاطئ من دعاوى الهلوسة المتعلقة بالذكاء الاصطناعي. كانت العنوان "الذكاء الاصطناعي يخترع قضايا مزيفة." الخطر الحقيقي أكثر دقة وأصعب في الكشف: الذكاء الاصطناعي يخترع اقتباسات مزيفة داخل قضايا حقيقية تمامًا.
الفشل الذي يعرفه الجميع: قضايا مفبركة
في Mata v. Avianca (2023)، قدم المحامون مذكرة اتحادية تشير إلى عدة قرارات قضائية لم تكن موجودة ببساطة. كانت الاقتباسات قد تم إنشاؤها بواسطة ChatGPT، الذي أنتج أسماء قضايا وأرقام تقارير واقتباسات تبدو معقولة من العدم. عندما لم يتمكن المحامون المعارضون والمحكمة من العثور على القضايا، تم فرض عقوبات على المحامين. أصبحت هذه القصة تحذيرية نموذجية عن الذكاء الاصطناعي التوليدي في الممارسة القانونية — وعلمت المهنة أهمية إجراء فحص الاقتباسات.
الحالة المفبركة، لحسن الحظ، من السهل اكتشافها. تبحث عنها؛ لا توجد؛ تحذفها. يكشف البحث الواحد الكذبة.
الفشل الذي يغفله معظم الناس: اقتباسات مزيفة في استشهادات حقيقية
الآن اعتبر نوعًا أكثر خفاءً. القضية حقيقية. اقتباس الصحفي صحيح. المحكمة، السنة، الأطراف - جميعها حقيقية. لكن الجملة التي ينسبها الذكاء الاصطناعي إلى ذلك الرأي، والحكم المقتبس الذي يضعه بين علامات الاقتباس، لم تكتب أبدًا من قبل تلك المحكمة. لقد استند الأداة في إجاباتها إلى وثيقة حقيقية ثم اختلقت لغة تدعي أنها وجدتها هناك.
لماذا هذا أسوأ من قضية مزيفة
- •الاقتباس حقيقي، لذا يجتاز فحص الاقتباسات الروتيني
- •يؤكد المراجع وجود الحالة ويتقدم — الاقتباس يبقى غير موثق
- •تبدو اللغة المصنوعة غالبًا كأنها شيء قد تقوله المحكمة
- •يمكن أن تستمر حتى تصل إلى مذكرة مختصرة، أو رأي، أو مذكرة عميل.
هذه هي فخ أدوات الذكاء الاصطناعي القانونية "المؤسسة" أو المعززة بالاسترجاع (RAG). إن تأسيس نموذج على مستندات مصدر حقيقية يقلل من احتمالات وجود قضية مخترعة بالكامل — لكنه لا يضمن أن النموذج يقتبس بدقة ما استرجعه. لا يزال بإمكانه إعادة صياغة حكم بكلمات لم تستخدمها المحكمة أبدًا، أو دمج اقتباس من فقرة واحدة مع مقترح لا يدعمه.
لقد ظهرت هذه الظاهرة المتعلقة بالاقتباسات في الممارسات مع مساعدي البحث التجاريين والمستندين. في إحدى الحالات المبلغ عنها التي تتعلق بأداة Thomson Reuters' Westlaw CoCounsel — التي تم مناقشتها في سياق قضية تُعرف باسم U.S. v. Farris — يُقال إن الأداة أنتجت اقتباسات لم تتطابق مع لغة السلطة المستشهد بها، على الرغم من أن الاقتباس الأساسي كان حقيقياً. نحن نقدم هذا فقط كـ مثال مُبلغ عنه: لم نؤكد بشكل مستقل اسم القضية الدقيق، أو الاقتباس، أو المحكمة، أو السنة، أو الحكم، ويجب على القراء التحقق من تلك التفاصيل قبل الاعتماد عليها. ومع ذلك، فإن النمط موثق جيداً — وهو النمط، وليس أي حكاية فردية، الذي يجب أن يغير كيفية مراجعتك لمخرجات الذكاء الاصطناعي.
التأريض ليس ضمانًا — الأدلة
هذه ليست مسألة هامشية. دراسة عام 2024 من مختبر ستانفورد للبحوث القانونية ومعهد الذكاء الاصطناعي الموجه نحو الإنسان (HAI) قامت بتقييم أدوات البحث القانونية المدعومة بالذكاء الاصطناعي المصممة خصيصًا - النوع الذي يتم تسويقه بشكل صريح على أنه قائم ومخفف للهلاوس - ووجدت أنها لا تزال تتخيل في نسبة كبيرة من الاستفسارات.
حول هذه الأرقام
أبلغت مختبر ستانفورد للبحوث القانونية / الذكاء الاصطناعي (2024) عن معدلات الهلوسة لأدوات البحث القانونية الرائدة في نطاق 17-33% تقريبًا، اعتمادًا على الأداة والمهمة. نحن نذكر النطاق بدلاً من رقم رئيسي واحد لأن النتائج اختلفت حسب الأداة ونوع الاستعلام — للحصول على النسب الدقيقة لكل أداة والمنهجية، يرجى الرجوع إلى الورقة الأساسية.
الاستنتاج ليس "هذه الأدوات سيئة." بل هو أن التأصيل يقلل من الهلوسة ولكنه لا يقضي عليها، وأن البقايا تشمل بالضبط النوع الخطير: اقتباسات واثقة، منسقة بشكل جيد، تمر بفحص الاقتباسات ولكنها خاطئة.
للحصول على سجل عام مستمر لقضايا المحكمة الحقيقية التي تضمنت استشهادات تم تخيلها بواسطة الذكاء الاصطناعي، يقوم الباحث داميان شارلوتان بإدارة قاعدة بيانات يتم الاستشهاد بها على نطاق واسع تتعقب هذه الحوادث عندما تصل إلى المحاكم. إنها مورد ممتاز لرؤية مدى تكرار هذه الأخطاء — ومدى عمقها في العملية — وكيف تسير. نشير إليها بدلاً من تكرارها.
لماذا تفشل عملية التحقق الذاتي للنموذج الفردي
الحل الغريزي هو أن تطلب من نفس الأداة أن تتحقق من نفسها: "هل أنت متأكد أن الاقتباس دقيق؟" نادراً ما يساعد هذا، وغالباً ما يجعل الأمور أسوأ.
- النموذج الذي أنشأ الاقتباس ليس لديه ذاكرة حقيقية لرأي — طلب "التحقق" منه يعيد فقط تشغيل نفس نمط المطابقة الذي أنتج الخطأ
- تؤدي العبارات مثل "أكد أن هذا هو النص الحرفي" غالبًا إلى رد مؤكد نعم — أحيانًا مع تفاصيل داعمة تم تخيلها حديثًا.
- درجة ثقة النموذج لا تتوافق مع دقة الاقتباس، لذا لا يمكنه تحديد الاقتباسات الم risky بنفسه.
لماذا يلتقط الاختلاف بين النماذج ذلك
نموذج وحيد متوقف لديه استرجاع واحد وطريقة واحدة للاقتباس. النماذج المستقلة المتعددة تسترجع وتقتبس بشكل مستقل. عندما تسأل عدة نماذج نفس السؤال وينتج أحدها اقتباسًا لا يمكن للآخرين إعادة إنتاجه — أو أن الآخرين يقيمونه صراحة على أنه غير مدعوم — فإن هذا الاختلاف هو جرس الإنذار.
مبدأ الاستقلال، المطبق على الاقتباسات
إذا قام نموذج واحد بتصنيع "المحكمة قضت بـ X" في قضية حقيقية، فإن النماذج الأخرى - المستندة إلى استرجاعها الخاص لنفس الرأي - عادةً لن تعيد إنتاج تلك اللغة المصنوعة بالضبط. الاقتباس الذي يمكن أن ينتجه نموذج واحد فقط، والذي تقيمه النماذج الأخرى بشكل ضعيف، يظهر كادعاء ذو توافق منخفض. لقد حولت خطأ غير مرئي إلى علامة مرئية. وهذا يشير إلى اقتباس يستحق التحقق منه مقابل المصدر الأساسي - إنه شاشة ذات ثقة أعلى، وليس دليلاً على الدقة.
قائمة التحقق للتحقق من البحث القانوني المدعوم بالذكاء الاصطناعي
سواء كنت تستخدم أداة توافق أم لا، لا تقم بتقديم مخرجات الذكاء الاصطناعي غير الموثوقة. على الأقل:
- أكد أن القضية موجودة — لكن لا تتوقف عند هذا الحد؛ فالمصدر الحقيقي هو المكان الذي تختبئ فيه الأخطاء الخطيرة
- اسحب المصدر الأساسي واقرأ اللغة المقتبسة في سياقها — تحقق من كل اقتباس حرفياً مقابل الرأي نفسه، وليس مقابل ملخص الذكاء الاصطناعي
- تحقق من أن الاقتباس يدعم الاقتراح — يمكن ربط اقتباس حقيقي بمطالبة لا يدعمها فعليًا
- التحقق المتبادل مع النماذج المستقلة — الاقتباس الذي تنتجه نموذج واحد فقط هو علامة للتحقيق، وليس حقيقة للتسجيل
- لا تعتقد أن "المؤكد" هو "المثبت" — RAG يقلل من فرص الابتكار؛ لكنه لا يعفيك من واجب التحقق
التوافق بين النماذج المستقلة يزيد من ثقتك في أن الاقتباس حقيقي. لكنه لا يثبت ذلك. المصدر الرئيسي لا يزال هو السلطة — الذكاء الاصطناعي موجود فقط لمساعدتك في العثور عليه بشكل أسرع وإخبارك أين تختلف النماذج.
الأسئلة الشائعة
ما هو الفشل القانوني في الذكاء الاصطناعي الذي يغفله معظم الناس؟
ليس القضية المزيفة التي يعرفها الجميع، بل اقتباس مزيف مدسوس داخل اقتباس حقيقي - الاقتباس موجود ويجتاز فحص الاقتباس، لكن الكلمات المقتبسة لم تكن موجودة في الرأي.
لماذا لا تكتشف عملية التحقق الذاتي بنموذج واحد الاقتباسات المزيفة؟
لأن الاقتباس حقيقي، فإن التحقق الذاتي يؤكد وجود الحالة ويتوقف عند هذا الحد؛ النموذج ليس لديه سجل مستقل لما قالته الرأي فعليًا.
لماذا تلتقط المقارنة بين النماذج الاقتباسات المزيفة؟
النماذج المستقلة المعتمدة على استرجاعات مختلفة نادراً ما تخترع نفس الاقتباس، لذا فإن اختلافها يكشف عن التزوير الذي سيؤكده نموذج واحد.