ஏஐ மாதிரிகள் முழுமையாக தவறான தகவல்களை நம்பிக்கையுடன் கூறலாம்—எதாவது தவறு உள்ளது என்பதற்கான உள்ளக சிக்னல் இல்லை. இதனை மாயை என அழைக்கிறார்கள், மற்றும் இது ஏஐ உதவியுடன் ஆராய்ச்சியில் உள்ள மிகப்பெரிய சவால்களில் ஒன்றாகும்.
சிக்கல்: நம்பிக்கையுள்ள முட்டாள்தனம்
நீங்கள் ஒரு AI மாதிரியை ஒரு குறிப்பு சரிபார்க்க கேட்கும்போது, அது உண்மைகள் பற்றிய தரவுத்தொகுப்பை சரிபார்க்காது. இது அதன் பயிற்சி தரவுகளில் உள்ள மாதிரிகளை அடிப்படையாகக் கொண்டு ஒரு நம்பகமான பதிலை உருவாக்குகிறது. சில சமயங்களில் அந்த மாதிரிகள் உருவாக்கத்திற்கு வழிவகுக்கின்றன:
- பொய்யான மேற்கோள்கள்: இல்லாத கல்வி ஆவணங்கள் (மதா வி. அவியாங்கா வழக்கு பொய்யான வழக்கு சட்டத்தை உள்ளடக்கியது)
- உருவாக்கப்பட்ட புள்ளியியல்: "ஆய்வுகள் 80% நிபுணர்கள் ஒப்புக்கொள்கிறார்கள்..." எந்த ஆதாரமும் இல்லாமல்
- தன்னம்பிக்கை தவறுகள்: நம்பத்தகுந்ததாகக் குரலூட்டும் ஆனால் முற்றிலும் தவறான தொழில்நுட்ப விளக்கங்கள்
ஏன் "நீங்கள் உறுதியாக உள்ளீர்களா?" வேலை செய்யவில்லை
அறியாமைக்கு இயற்கையான எதிர்வினை, AI-ஐ தன்னை உறுதிப்படுத்த கேட்க வேண்டும். ஆனால் இது உதவாது:
சுய-சரிபார்ப்பு தோல்விகள்
- •"நீங்கள் உறுதியாக இருக்கிறீர்களா?" → பெரும்பாலும் அதிக நம்பிக்கையுடன் ஒரே தவறை மீண்டும் மீண்டும் செய்கிறார்.
- •"இதனை சரிபார்க்கவும்" → ஆதரவு மயக்கம் உருவாக்கலாம்
- •"உங்கள் ஆதாரங்களை சரிபார்க்கவும்" → மேலும் போலி மேற்கோள்களை உருவாக்கலாம்
- •நம்பிக்கை மதிப்பீடுகள் → துல்லியத்துடன் தொடர்பு கொள்ளவில்லை
மாதிரிக்கு சரிபார்க்க எந்த நிலை உண்மை குறிப்பு இல்லை. இது இன்னும் மாதிரி பொருத்துதல் தான், ஆனால் அதன் மாதிரி பொருத்துதலில் மேலும் நம்பிக்கையுடன் இருக்கக் கேட்கும் ஒரு உத்தி உள்ளது.
தீர்வு: குறுக்கு மாதிரி சரிபார்ப்பு
வித்தியாசமான AI மாதிரிகள் மாறுபட்ட முறையில் கற்பனை செய்கின்றன. அவற்றுக்கு மாறுபட்ட பயிற்சி தரவுகள், மாறுபட்ட கட்டமைப்புகள் மற்றும் மாறுபட்ட அறிவு முடிவுகள் உள்ளன. ஒரு மாதிரி ஒரு குற்றச்சாட்டை உருவாக்கும் போது, மற்ற மாதிரிகள் பொதுவாக அதே தவறை செய்யாது.
சுதந்திரக் கொள்கை
என்றால் GPT ஒரு மேற்கோளை உருவாக்கினால், கிளோட் அந்த பிழையை "மரபு" பெறாது - அது தனது சொந்த பயிற்சியிலிருந்து புதியதாகக் கருத்தை மதிப்பீடு செய்கிறது. இந்த சுதந்திரம் குறுக்கு சரிபார்ப்பை செயல்படுத்துகிறது. ஐந்து மாதிரிகள் ஒப்புக்கொண்டால், அதாவது ஐந்து சுதந்திரமான அமைப்புகள் ஒரே முடிவுக்கு வந்தன.
குறுக்குமாதிரி கண்டுபிடிப்பு எப்படி செயல்படுகிறது
சுயாதீன உற்பத்தி
ஒவ்வொரு AI மாதிரியும் மற்றவர்களின் பதில்களை காணாமல் ஒரே கேள்விக்கு பதிலளிக்கிறது.
குறுக்கீட்டு மதிப்பீடு
ஒவ்வொரு மாதிரியும் மற்ற மாதிரிகளில் இருந்து ஒவ்வொரு வாதத்திற்கும் மதிப்பீடு செய்கிறது.
அமைதியின்மை கண்டறிதல்
பல மாதிரிகள் மூலம் குறைந்த மதிப்பீடு செய்யப்பட்ட கோரிக்கைகள் குறிக்கப்படுகின்றன.
ஒப்புதல் மதிப்பீடு
உயர் ஒப்புதல் = அதிக நம்பிக்கை; ஒப்புதல் இல்லாதது = ஆராயுங்கள்
ஹாலுசினேஷன் கண்டறிதலை எப்போது பயன்படுத்த வேண்டும்
குறுக்குமாதிரி சரிபார்ப்பு மிகவும் மதிப்புமிக்கது:
- சரியான ஆதாரங்களை உறுதிப்படுத்த முடியுமா என்பதைக் கூறும் தகவல்கள்
- மேலோட்டங்கள் மற்றும் மேற்கோள்கள்
- எண்ணியல் மற்றும் அளவீட்டு கோரிக்கைகள்
- வரலாற்று நிகழ்வுகள் மற்றும் தொழில்நுட்ப விவரங்கள்
அதற்கான "அடிப்படை உண்மை" இல்லை என்பதால், கருத்து அடிப்படையிலான அல்லது படைப்பாற்றல் பணிகளுக்கு இது குறைவாக தொடர்புடையது.
புரிந்துகொள்ளும் வரம்புகள்
குறுக்குமாதிரி சரிபார்ப்பு முழுமையாக இல்லை:
- பகிரப்பட்ட முன்னுரிமைகள்: அனைத்து மாதிரிகளும் ஒரே மாதிரியான பயிற்சி தரவிலிருந்து ஒரே தவறை கற்றுக்கொண்டிருக்கலாம்
- அறிவு இடைவெளிகள்: சமீபத்திய நிகழ்வுகள் அனைத்து மாதிரிகளின் பயிற்சி முடிவுகளை மீறியிருக்கலாம்
- துறை நிபுணத்துவம்: அனைத்து மாதிரிகளும் சிறப்பு துறைகளில் அறிவை இழக்கலாம்
முறைகள் மாறுபாட்டில் ஒப்புதல் பிழை வாய்ப்பை முக்கியமாக குறைக்கிறது, ஆனால் உயர்ந்த ஆபத்துள்ள கோரிக்கைகளில் மனித சரிபார்ப்பின் தேவையை நீக்கவில்லை.
அடிக்கடி கேட்கப்படும் கேள்விகள்
ஏன் AI மயக்கம் என்பது என்ன?
ஒரு மாதிரி முழுமையாக தவறான தகவல்களை நம்பிக்கையுடன் கூறும் போது, எந்தவொரு உள்ளக சிக்னல் கூட தவறு எதுவும் இல்லை என்பதை காட்டாமல் — AI-ஆதரித்த ஆராய்ச்சியில் உள்ள மிகப்பெரிய சவால்களில் ஒன்று.
ஒரு மாதிரியை "நீங்கள் உறுதியாக உள்ளீர்களா?" என்று கேட்குவது ஏன் மாயங்களை பிடிக்கவில்லை?
ஏனெனில் ஒரு தனி மாதிரிக்கு அதன் சொந்த பிழையின் நம்பகமான உள்ளக சிக்னல் இல்லை; சுய-சோதனை ஒரே தவறை மீண்டும் மீண்டும் செய்யலாம். பதிப்பு, அதற்குப் பதிலாக, குறுக்கு-மாதிரி சரிபார்ப்பை தீர்வாக வழங்குகிறது.
குறுக்குமாதிரி மாயை கண்டறிதல் எப்படி வேலை செய்கிறது?
பல மாதிரிகளை தனித்தனியாக கேளுங்கள், அவற்றை ஒருவருக்கொருவர் பதில்களை மதிப்பீடு செய்யச் சொல்லுங்கள், மற்றும் முரண்பாடுகளை குறிக்கவும். வெவ்வேறு மாதிரிகள் வெவ்வேறு முறையில் கற்பனை செய்கின்றன, எனவே ஒருவர் உருவாக்கும் போது, மற்றவர்கள் பொதுவாக அதை பிடிக்கிறார்கள்.