هوش مصنوعی اکنون در تحقیق، نگارش و بررسی حقوقی گنجانده شده است. این ابزار واقعاً مفید است — و با اطمینان کامل، به شما قوانین قضایی را ارائه میدهد که وجود ندارند و نقل قولهایی که هرگز نوشته نشدهاند. این راهنما به بررسی اینکه توهمات هوش مصنوعی حقوقی چیست، چرا حتی ابزارهای "مستند" نیز آنها را تولید میکنند، آنچه شواهد واقعاً میگویند و — بخشی که بیشتر پوششها از آن صرفنظر میکنند — یک روند کاری مشخص برای محافظت از خودتان میپردازد.
هذیانهای قانونی هوش مصنوعی چیستند
توهم یک خروجی مطمئن و به ظاهر معقول است که نادرست است و هیچ نشانه داخلی از اینکه چیزی اشتباه است وجود ندارد. در کارهای حقوقی، آنها چند شکل قابل شناسایی به خود میگیرند:
- پروندههای ساختگی: تصمیمات کاملاً اختراعی با نامهای واقعی و ارجاعات گزارشگری که با هیچ نظر واقعی مطابقت ندارند
- قوانین نادرست یا بیان شده به اشتباه: بخشهای واقعی قانونی که برای پیشنهاداتی که از آنها حمایت نمیکنند، ذکر شدهاند، یا مقرراتی که به طور نادرست خلاصه شدهاند
- نقلقولهای ساختگی درون ارجاعات واقعی: خطرناکترین نوع — یک مورد واقعی و بهدرستی ارجاعشده با نقلقولی که دادگاه هرگز واقعاً آن را ننوشته است
آن دسته سوم است که باید بیشتر از آن ترسید. یک مورد جعلی به محض اینکه آن را جستجو کنید، شناسایی میشود. یک نقل قول ساختگی در یک مورد واقعی به راحتی از یک بررسی معمولی استناد عبور میکند — استناد معتبر است — و خطا در زبانی پنهان میشود که شما آن را با منبع تأیید نکردهاید.
چرا این اتفاقات میافتند — حتی با ابزارهای "مستقر"
یک مدل زبانی به دنبال حقایق در یک پایگاه داده نمیگردد؛ بلکه ادامهای از متن را بر اساس الگوهای موجود در آموزش خود تولید میکند. گاهی اوقات، محتواهایی که به نظر معقولترین میرسند، داستانی هستند.
ابزارهای حقوقی "مبتنی" یا تقویتشده با بازیابی (RAG) سعی دارند این مشکل را با بازیابی اسناد واقعی و دستور دادن به مدل برای پاسخگویی از آنها حل کنند. این واقعاً کمک میکند — بهطور قابل توجهی موارد کاملاً اختراعی را کاهش میدهد. اما مبتنی بودن ضمانت نیست:
جایی که زمینگذاری هنوز نشت میکند
- •مدل میتواند یک سندی را که به درستی بازیابی کرده است نقل قول نادرست کند
- •این میتواند یک نقل قول واقعی را به یک پیشنهاد متصل کند که منبع از آن پشتیبانی نمیکند.
- •بازیابی میتواند بخش نادرستی را به نمایش بگذارد و مدل به هر حال با اطمینان آن را نقل قول میکند.
- •این میتواند زبان را از منابع متعدد به یک "نقل قول" ساختگی واحد ترکیب کند.
به عبارت دیگر، زمینسازی توزیع خطاها را تغییر میدهد — موارد جعلی کمتری، اما بازماندگان به سمت نقلقولهای سختگیرانه در ارجاعات واقعی متمایل میشوند.
شواهد
این فرضی نیست. دو لنگر و یک ردیاب ارزش دانستن دارند:
ماتا در برابر آویانکا (۲۰۲۳)
داستان هشداردهندهای که نقطه عطفی است. وکلا یک یادداشت فدرال ارائه کردند که به چندین تصمیم قضایی اشاره داشت که وجود نداشتند — ChatGPT آنها را جعل کرده بود، همراه با نقلقولهای جعلی. دادگاه وکلا را مجازات کرد. این موضوع بهطور عمومی و پرهزینه ثابت کرد که خروجیهای تولیدی هوش مصنوعی تأییدنشده جایی در یک پرونده ندارند.
استنفورد رگلب / هَی (۲۰۲۴)
یک مطالعه در سال 2024 از RegLab استنفورد و موسسه هوش مصنوعی انسانمحور ابزارهای تحقیقاتی حقوقی مبتنی بر هدف را ارزیابی کرد و دریافت که این ابزارها هنوز در بخش قابل توجهی از پرسشها دچار توهم میشوند — که در حدود 17–33% بسته به ابزار و وظیفه گزارش شده است.
قبل از انتشار، درصدهای دقیق، ابزارهای خاص ارزیابی شده و نسبت دقیق به مقاله اصلی را دوباره تأیید کنید. به طور صادقانه و قابل استناد به آن اشاره کنید — هرگز آن را بزرگنمایی یا گرد نکنید تا به یک عدد بازاریابی تبدیل شود.
پایگاه داده شارلوتین (ردیاب)
محقق دامیان شارلتین یک پایگاه داده عمومی با ارجاعات گسترده را حفظ میکند که پروندههای قضایی مرتبط با ارجاعات توهمی هوش مصنوعی را پیگیری میکند. این بهترین رکورد موجود از اینکه این خطاها چقدر به دادگاهها میرسند و قبل از اینکه کسی آنها را متوجه شود، چقدر دور میشوند، است. ما از آن به عنوان یک منبع یاد میکنیم — این مرجع برای مشاوره است، نه چیزی برای بازتولید.
چگونه از خود محافظت کنیم: یک روند تأیید
بیشتر پوششها به "مراقب باشید" ختم میشوند. اینجا بخش نادیده گرفته شده است — یک روند مشخص که میتوانید واقعاً در هر وظیفه تحقیقاتی که با هوش مصنوعی کمک میشود، اجرا کنید:
بررسیهای مستقل ارجاع
هر مورد و قانونی که ذکر شده است را تأیید کنید که در یک منبع معتبر (گزارشگر، قانون) وجود دارد — جدا از ابزاری که آن را تولید کرده است. اجازه ندهید هوش مصنوعی ارجاعات خود را تأیید کند.
تأیید نقل قول کلمه به کلمه
منبع اصلی را پیدا کنید و هر نقل قول را در زمینه خود بخوانید. کلمات نقل شده را به صورت کاراکتر به کاراکتر با نظر مطابقت دهید. یک ارجاع واقعی با یک نقل قول جعلی اشتباهی است که پنهان میشود.
بررسی پیشنهاد
منبع را تأیید کنید که واقعاً از نقطهای که برای آن ذکر شده است، حمایت میکند. یک نقل قول واقعی میتواند به ادعایی متصل شود که از آن پشتیبانی نمیکند.
مقایسه بین مدلها
از چند مدل مستقل هوش مصنوعی همان سوال را بپرسید. وقتی یکی از آنها یک مورد یا نقل قولی تولید میکند که دیگران نمیتوانند آن را بازتولید کنند — یا اینکه دیگران آن را به عنوان غیرمستند ارزیابی میکنند — آن اختلاف را به عنوان نشانهای برای تحقیق در نظر بگیرید.
هرگز خروجی تأیید نشده را ثبت نکنید
هیچ نتیجهای از هوش مصنوعی به یک خلاصه، یادداشت یا پرونده وارد نمیشود تا زمانی که یک انسان منابع اصلی را تأیید کرده باشد. تأیید شده ≠ تأیید شده.
چرا مقایسه بین مدلها جایگاه خود را در جریان کار به دست میآورد
یک مدل به تنهایی نمیتواند به طور قابل اعتمادی خود را بررسی کند — وقتی از آن پرسیده میشود "آیا مطمئنی؟"، تمایل دارد همان خطا را دوباره تأیید کند. مدلهای مستقل به طور متفاوتی شکست میخورند: آنها دادههای آموزشی متفاوتی دارند و در تنظیمات مبتنی بر واقعیت، بازیابیهای متفاوتی نیز دارند. یک مورد ساختگی یا نقل قول نادرستی که یک مدل تولید میکند معمولاً توسط دیگران بازتولید نمیشود، بنابراین به عنوان یک ادعای کماجماع برجسته میشود. این نشانهای است برای مراجعه به منبع اصلی. اجماع در میان مدلها اعتماد شما را به واقعی بودن چیزی افزایش میدهد — این امر آن را اثبات نمیکند و هرگز جایگزین خواندن نظر نمیشود.
چارچوب مسئولیت حرفهای
این تنها یک تمرین خوب نیست — بلکه به وظایف حرفهای اصلی مرتبط است. وظیفه شایستگی به طور فزایندهای شامل درک ابزارهایی است که استفاده میکنید و حالتهای خرابی آنها؛ یک وکیل که نمیداند هوش مصنوعی مبتنی بر داده هنوز هم نقل قولها را به اشتباه تولید میکند، چیزی اساسی درباره این ابزار را از دست داده است. وظیفه صداقت نسبت به دادگاه به این معنی است که شما مسئول دقت آنچه که ارائه میدهید هستید — همین و بس. یک ابزار هوش مصنوعی نمیتواند این وظیفه را برای شما انجام دهد و "نرمافزار آن را تولید کرده است" در موارد تحریمی دفاعی نبود.
- خروجی هوش مصنوعی را به عنوان یک سرنخ تحقیقاتی در نظر بگیرید، هرگز به عنوان یک ارجاع رسمی.
- شخصی که پرونده را امضا میکند، مالک هر پرونده و نقل قول در آن است.
- مراحل تأیید خود را مستند کنید — این هم یک عمل خوب است و هم یک رکورد از دقت شما
بهخوبی استفاده شود — با تأیید مستقل و مقایسه مدلهای متقابل که در روند کار گنجانده شده — هوش مصنوعی تحقیقات حقوقی را سریعتر میکند و به شناسایی ادعاهایی که ارزش بررسی دوباره دارند، کمک میکند. اگر بهطور غیرمستقیم استفاده شود، در نهایت یک نقل قول ساختگی را در یادداشت شما قرار میدهد. تفاوت در روند کار است و این روند کار متعلق به شماست.
سوالات متداول
هالوسیناسیونهای قانونی هوش مصنوعی چیستند؟
موارد جعلی، قوانین نادرست و نقلقولهای ساختگی که درون استنادهای واقعی پنهان شدهاند — خروجی مطمئن از هوش مصنوعی حقوقی که حقیقت ندارد.
آیا ابزارهای هوش مصنوعی حقوقی "مستقر" هنوز هم توهم ایجاد میکنند؟
بله. این پست نشان میدهد که توهمات حتی در ابزارهای مستند نیز ادامه دارند و به شواهد مستند از جمله پرونده ماتا در برابر آویانکا و یک مطالعه در سال ۲۰۲۴ در استنفورد رجلب اشاره میکند.
چگونه از خود در برابر توهمات قانونی هوش مصنوعی محافظت میکنید؟
با یک روند تأیید: بررسیهای مستقل ارجاع، تأیید نقل قول کلمه به کلمه، مقایسه مدلهای مختلف و هرگز ثبت خروجیهای تأیید نشده — وظیفه صداقت شما به ابزار منتقل نمیشود.