تشخیص توهمات هوش مصنوعی فرآیندی است که طی آن شناسایی میشود که مدل هوش مصنوعی چه زمانی اطلاعات نادرست، جعلی یا ناقصی را تولید میکند و آن را به عنوان واقعیت معرفی میکند. هنگامی که یک مدل هوش مصنوعی منفرد دچار توهم میشود، اغلب هیچ سیگنال داخلی وجود ندارد که خروجی اشتباه باشد. اعتبارسنجی متقابل چندین مدل با پرسش از چندین مدل هوش مصنوعی مستقل برای یک سوال، توهمات را تشخیص میدهد. هنگامی که مدلها با هم مخالف باشند، این اختلاف نشاندهنده توهمات احتمالی است. Argumentree.AI این کار را از طریق یک سیستم رتبهبندی انجام میدهد که در آن هر مدل هر استدلال از هر مدل دیگر را رتبهبندی میکند—استدلالاتی با رتبه پایین از هر مدل منفرد برای بررسی پرچم گذاری میشوند.
تشخیص هالوسینیشن AI زمان تشخیص می دهد که مدل های AI اطلاعات نادرستی به عنوان واقعیت ارائه می دهند. نکته کلیدی: هنگامی که یک AI هالوسینیشن دارد، AI های دیگر اغلب همان اشتباه را انجام نمی دهند. بررسی چند مدل خطاهای را که هر مدل واحد با اطمینان ارائه می کند، تشخیص می دهد.
تشخیص هالوسینیشن زمان تشخیص می دهد که AI اطلاعات نادرستی تولید می کند. مدل های مختلف هالوسینیشن های مختلفی دارند - آنچه یک مدل اشتباه می کند، مدل های دیگر اغلب درست می کنند. بررسی چند مدل به صورت سیستماتیک این خطاها را تشخیص می دهد.
هالوسینیشن AI زمانی رخ می دهد که یک مدل اطلاعات نادرست، جعلی یا بدون پشتیبانی از شواهد را به عنوان واقعیت ارائه می دهد. برخلاف خطاهای انسانی که ممکن است بگوییم "نمی دانم"، مدل های AI خروجی های اطمینان بخش را به صورت مستقل از دقت تولید می کنند.
مدل های AI متن را با پیش بینی کلمات بعدی بر اساس الگوهای آموخته شده در طول آموزش تولید می کنند. آنها به پایگاه داده ای از واقعیت ها دسترسی ندارند - آنها توالی های خوشه ای تولید می کنند. هنگامی که تطبیق الگو خروجی های اطمینان بخش اما نادرست تولید می کند، آن یک هالوسینیشن است.
مدل ها برای هماهنگی و خوشه ای بودن بهینه می شوند، نه برای واقعیت. هیچ سیگنال داخلی "نمی دانم" وجود ندارد. حتی پرسش "آیا مطمئن هستید؟" معمولاً تکرار همان خطا را تولید می کند.
مدل های AI مختلف داده های آموزشی، معماری ها و زمان های قطع دانش مختلفی دارند. هنگامی که یک مدل ادعایی جعلی را تولید می کند، مدل های دیگر معمولاً همان اشتباه را انجام نمی دهند. این استقلال است که باعث می شود بررسی چند مدل کار کند.
پرسش از چندین مدل هوش مصنوعی با یک سوال相同 - به صورت مستقل
هر مدل استدلالها را بدون دیدن دیگران تولید میکند (نمیتواند خطاها را کپی کند)
هر مدل سپس هر استدلال از هر مدل دیگر را رتبهبندی میکند
ادعاهای ساختگی از سوی مدلهای دیگر رتبههای پایین دریافت میکنند
استدلالهای با رتبه پایین = توهمات احتمالی برای بررسی
پرسش از GPT، Claude، Gemini، Grok، Perplexity به صورت مستقل
هر مدل استدلالها را بدون دیدن دیگران میسازد
هر مدل هر استدلال از هر مدل دیگر را رتبهبندی میکند
رتبههای پایین از مدلهای متعدد = بررسی بیشتر
تشخیص توهمات هوش مصنوعی فرآیند شناسایی زمانی است که یک مدل هوش مصنوعی اطلاعات نادرست یا ساختگی را تولید میکند و آن را به عنوان واقعیت معرفی میکند. روش قابل اعتمادترین، اعتبارسنجی متقابل مدل است - پرسش از چندین مدل هوش مصنوعی با یک سوال相同 و جستجوی مخالفت، زیرا توهمات معمولاً در بین مدلها یکسان نیستند.
مدلهای هوش مصنوعی متن را بر اساس الگوهای آموخته شده در طول آموزش تولید میکنند، نه با دسترسی به واقعیت. هنگامی که تطبیق الگو خروجی مطمئن اما نادرست تولید میکند - مانند منابع ساختگی، آمار ساختگی یا ادعاهای نادرست - این یک توهم است. مدلها برای پاسخهای خوشفهم بهینه میشوند، نه دقت.
به طور ضعیف. پرسش از 'آیا مطمئن هستید؟' یا 'این را تأیید کنید' اغلب خطای相同 را تکرار میکند. مدلها نمیتوانند به طور قابل اعتماد خود را تأیید کنند زیرا هیچ مرجع داخلی واقعیت ندارند. اعتبارسنجی خارجی از طریق مقایسه متقابل مدل یا بررسی انسان مؤثرتر است.
مدلهای هوش مصنوعی مختلف به دلیل دادههای آموزشی و معماریهای مختلف، توهمات مختلفی دارند. هنگامی که یک مدل ادعایی ساختگی میکند، مدلهای دیگر معمولاً همان اشتباه را نمیکنند. با مقایسه خروجیها در چندین مدل مستقل، میتوان خطاهایی را که هر مدل منفرد با اطمینان معرفی میکند، شناسایی کرد.
توهمات رایج شامل: منابع دانشگاهی ساختگی (مطالعاتی که وجود ندارند)، آمار ساختگی ('80% از کارشناسان موافق...'), ادعاهای تاریخی نادرست، پروندههای دادگاه غیر واقعی (مانند پرونده Mata v. Avianca)، و توضیحات فنی مطمئن اما نادرست است.
خروجی های AI را در چندین مدل بررسی کنید. مخالفت خطاها را نشان می دهد.
شروع تحقیقات رایگان