සියලු දෙනා AI-හල්ලිමැදුරේ නඩු වලින් වැරදි පාඩමක් ඉගෙන ගත්තා. මාතෘකාව "AI අසත්ය නඩු නිර්මාණය කරයි" යි. සැබෑ අවදානම වඩාත් සුළු සහ අල්ලා ගැනීමට අපහසුය: AI සම්පූර්ණයෙන්ම සැබෑ නඩු තුළ අසත්ය ආශ්රිතතා නිර්මාණය කිරීම.
සියලු දෙනාටම දන්නා අසාර්ථකත්වය: නිර්මාණය කරන ලද නඩු
මට v. ඇවිආන්කා (2023) හි, නීතිඥයන් කිහිපයක් පවතින නීතිමය තීන්දුවලට යොමු වූ සංග්රහයක් ඉදිරිපත් කළහ. මෙම යොමු කිරීම් ChatGPT මගින් නිර්මාණය කර ඇති අතර, එය විශ්වාසනීය පෙනුමක් ඇති නඩු නම්, වාර්තාකරු අංක සහ උපුටා දැමීම් නිර්මාණය කළේය. විරුද්ධ නීතිඥයන් සහ අධිකරණය මෙම නඩු සොයාගත නොහැකි වූ විට, නීතිඥයන්ට දඩුවම් ලැබුණි. එය නීති ක්ෂේත්රයේ ජනනීය AI පිළිබඳ ප්රධාන අවවාද කතාවක් බවට පත්විය — සහ එය වෘත්තීයයට යොමු කිරීම් පරීක්ෂා කිරීමට ඉගැන්වීය.
අභිරුචි කළ නඩුවක්, ආශාවෙන්, පහසුවෙන් හඳුනාගත හැක. ඔබ එය සොයා බලනවා; එය එහි නැත; ඔබ එය මකා දමනවා. එක් සොයා බැලීමක් අසත්යය හෙළි කරයි.
බොහෝ මිනිසුන් අමතක කරන අසාර්ථකත්වය: සැබෑ උපුටා දැමීම් තුළ අසත්ය උපුටා දැමීම්
දැන් වඩා කුසලතාමය විකල්පයක් සලකා බලන්න. මෙම කාරණය සත්ය වේ. වාර්තාකරුගේ උපුටා දැක්ම නිවැරදි වේ. අධිකරණය, වසර, පාර්ශව — සියල්ල සත්යය. නමුත් AI එක එම අදහසට අයත් කරන වාක්යය, එය උපුටා දැක්වූ පණිවිඩය උපුටා ලියන ලද්දක් නොවේ. මෙය සත්ය ලේඛනයක් මත තම පිළිතුර ගොඩනැගීමක් කර ඇති අතර එහිදී සොයා ගත් බව කියන භාෂාව නිර්මාණය කර ඇත.
මෙය අසත්ය නඩුයකට වඩා කෙසේ හොඳද?
- •මෙම උපුටාදීම සත්ය වේ, එබැවින් එය සාමාන්ය උපුටා පරීක්ෂාවක් හරහා ගතවේ.
- •සමාලෝචකය මෙම කේස් එක පවතින බව තහවුරු කරයි සහ ඉදිරියට යයි — උපුටාදීම තහවුරු නොවේ.
- •ඉදිකරන ලද භාෂාව බොහෝ විට සවන් වශයෙන් අධිකරණය කියන කෙනෙකුගේ වාසියක් වැනි බවක් පෙනේ.
- •එය ක්ෂේත්රයේ කෙටි සටහනක්, අදහසක්, හෝ ගනුදෙනුකරුගේ මතකයක් තුළ සජීවීව සිටිය හැක.
මෙය "ග්රවුන්ඩ්" හෝ ප්රතිපත්ති-ආධාරිත (RAG) නීති-ආශ්රිත AI මෙවලම් වල වාසියයි. යථාර්ථ මූලාශ්ර ලේඛන මත ආදර්ශයක් ග්රවුන්ඩ් කිරීම, සම්පූර්ණයෙන්ම නිර්මාණය කරන ලද නඩු වල අවස්ථා අඩු කරයි — නමුත් එය හරි ලෙස ආදර්ශය ලබා ගත් දේ නිවැරදිව උපුටා ගනී යැයි සහතික කරන්නේ නැහැ. එය නඩුපති භාවිතා නොකළ වචන වලට නීතිමය තීරණයක් පරිවර්තනය කිරීමට හෝ එක් කුඩුකාරයකින් උපුටා ගැනීමක්, එය සහය නොදෙන යෝජනාවකට එකතු කිරීමට හැකි වේ.
මෙම උපුටා ගැනීම්-සත්ය-උපුටා ගැනීම් ආකාරය වාණිජ, පදනම් වූ පර්යේෂණ සහකාරයන් සමඟ ප්රායෝගිකව පෙනී යන බව වාර්තා වී ඇත. U.S. v. Farris ලෙස හැඳින්වූ කාරණයක් සම්බන්ධයෙන් සාකච්ඡා කරන ලද Thomson Reuters' Westlaw CoCounsel සම්බන්ධිත වාර්තාකාරී උදාහරණයක් තුළ, මෙම මෙවලම උපුටා ගත් අධිකාරියේ භාෂාව සමඟ ගැලපෙන උපුටා ගැනීම් නිෂ්පාදනය කර නැත, යම් හෝ මූලික උපුටාව සත්ය වුවද. අපි මෙය වාර්තාකාරී උදාහරණයක් ලෙස පමණක් ඉදිරිපත් කරමු: අපි නිවැරදි නඩු නාමය, උපුටාව, අධිකරණය, වර්ෂය, හෝ තීන්දුව ස්වාධීනව තහවුරු කර නැත, සහ පාඨකයන්ට එම විස්තර තහවුරු කිරීමට යෝජනා කරනු ලබයි. එහෙත්, ආකාරය හොඳින් ලේඛනය කර ඇත — සහ එය ආකාරයයි, යම් හෝ එක් කතාන්දරයක් නොව, ඔබට AI ප්රතිඵල සමාලෝචනය කරන ආකාරය වෙනස් කළ යුතුය.
ග්රවුන්ඩින්ග් යනු සහතිකයක් නොවේ — සාක්ෂිය
මෙය අසාර්ථක කාරණයක් නොවේ. ස්ටැන්ෆර්ඩ් රෙග්ලැබ් සහ මනුෂ්ය-මධ්යස්ථ AI (HAI) ආයතනයේ 2024 අධ්යයනයක් ප්රමුඛ අරමුණ සඳහා නිර්මාණය කරන ලද නීති-ආශ්රිත AI පර්යේෂණ මෙවලම් ඇගයීය — විශේෂිතවම පදනම් වූ සහ හල්ලිසිනේෂන් අඩු කරන ලෙස වෙළඳපොළට නිකුත් කරන ලද වර්ගය — සහ එමඟින් තවමත් ප්රමාණවත් ප්රශ්න කිහිපයකට හල්ලිසිනේෂන් සිදු විය.
මෙම සංඛ්යා පිළිබඳ
ස්ටැන්ෆර්ඩ් රෙග්ලැබ් / HAI (2024) කාර්යය ප්රධාන නීති-ආශ්රිත AI පර්යේෂණ මෙවලම් සඳහා හුදකලාකාරීත්ව අනුපාත 17–33% පරාසය තුළ වාර්තා කරයි, මෙවලම සහ කාර්යය අනුව. අපි එක් ප්රධාන අංකයක් වෙනුවට පරාසය සඳහන් කරමු, මන්ද ප්රතිඵල මෙවලම සහ ප්රශ්න වර්ගය අනුව වෙනස් විය — නිවැරදි ප්රතිශත සහ ක්රමවේදය සඳහා ප්රාථමික ලිපිය බලන්න.
ගන්නා දේ "මෙම මෙවලම් නරකයි" යන්න නොවේ. එය මූලික කිරීම හල්ලිම අඩු කරයි නමුත් එය ඉවත් කරන්නේ නැහැ, සහ ඉතිරිවූ දේ නිවැරදි නොවන විශ්වාසදායක, හොඳින් ආකෘතිගත, උපුටා ගැනීම් පරීක්ෂා කිරීමේදී ගතවන වර්ගයයි.
AI මගින් මවාගත් උපුටා දැක්වීම් සම්බන්ධ වූ සැබෑ අධිකරණ නඩු පිළිබඳ අඛණ්ඩ, ප්රසිද්ධ වාර්තාවක් සඳහා, පර්යේෂක Damien Charlotin බහුලව උපුටා දක්වන දත්ත සමුදායක් පවත්වාගෙන යයි — මෙම සිදුවීම් අධිකරණවලට ළඟා වන විට ඒවා නිරීක්ෂණය කරමිනි. මෙම දෝෂ කෙතරම් නිතර — සහ ක්රියාවලියේ කෙතරම් දුරට — ගමන් කරන්නේද යන්න දැකීමට එය විශිෂ්ට සම්පතකි. අපි එය අනුපිටපත් නොකර ඒ වෙත යොමු කරමු.
එකම ආකෘතියේ ස්වයං-සත්යාපනය අසාර්ථක වන්නේ කෙසේද
ආකර්ෂණීය විසඳුම වන්නේ එම මෙවලමට එය තමන්ම පරීක්ෂා කිරීමට ඉල්ලා සිටීමයි: "ඔබට විශ්වාසද එම උපුටා ගැනීම නිවැරදි බව?" මෙය බොහෝ විට උපකාරී නොවේ, සහ බොහෝ විට දේවල් වඩා නරක කරයි.
- ඉදිරිපත් කළ උදාහරණය නිර්මාණය කළ ආකෘතියට අදහස පිළිබඳ සත්ය මතකයක් නැත — එය "සත්යාපනය" කිරීමට ඉල්ලා සිටීමෙන් දෝෂය නිර්මාණය කළ එකම රටාව නැවත ක්රියාත්මක වේ.
- "මෙය වර්බටම් ලෙස තහවුරු කරන්න" වැනි ප්රරෝචන බොහෝ විට විශ්වාසදායක ඔව් යන්නක් ලබා දේ — කෙළවරක් නව නිර්මාණය කළ සහයෝගී විස්තරයක් සමඟ.
- ආදර්ශයක විශ්වාස ලකුණ කථන නිවැරදිත්වය සමඟ සම්බන්ධ නොවේ, එබැවින් එය අවදානම් කථන ස්වයං-සලකුණු කළ නොහැක.
ආකෘති මැදිහත්වීම් අසමතුලිතතා ඇයි එය අල්ලා ගන්නේ?
එකම පදනම් වූ ආදර්ශයක් එකම ප්රතිපත්ති සහ එකම ආකාරයකින් උපුටා ගැනීමක් සහ උපුටා ගැනීමක් ඇත. බහු ස්වාධීන ආදර්ශ කිහිපයක් තමන්ගේම ආකාරයෙන් උපුටා ගැනීම සහ උපුටා ගැනීම කරයි. ඔබ එකම ප්රශ්නය කිහිපයක් ආදර්ශ වලට අසන විට, ඒ අතරින් එකක් උපුටා ගැනීමක් නිෂ්පාදනය කරන විට, අනෙක් ආදර්ශ එය නැවත නිෂ්පාදනය කළ නොහැකි නම් — හෝ අනෙක් ආදර්ශ එය පැහැදිලිව අනුමත නොකළ බව අගය කරන විට — එම විරෝධය හඬන කුඩු වේ.
ස්වාධීනත්ව නීතිය, උපුටා දැක්වීම් වලට යෙදුණු
එකම ආකෘතියක් "අධිකරණය X යි" යනුවෙන් සැබෑ කේස් එකක නිර්මාණය කළහොත්, අනෙකුත් ආකෘති — තමන්ගේම එකම අදහස ලබා ගැනීමේ පදනම මත — සාමාන්යයෙන් එම නිර්මාණය කළ භාෂාව නිවැරදිව නැවත නිර්මාණය නොකරයි. එකම ආකෘතියක් නිර්මාණය කළ හැකි උපුටා ගැනීමක්, අනෙකුත් ආකෘති අඩු අනුමත කිරීමක් ලබා දෙන, අඩු-අනුමත ප්රකාශයක් ලෙස පෙනී යයි. ඔබ අඳුරු දෝෂයක් දැකිය හැකි කොඩියක් බවට පරිවර්තනය කර ඇත. මෙය ප්රාථමික මූලාශ්රය සම්බන්ධයෙන් පරීක්ෂා කිරීමට වටිනා උපුටා ගැනීමක් බවට පෙන්වයි — එය ඉහළ විශ්වාසය ඇති තිරයක් වන අතර නිවැරදි බවට සාක්ෂියක් නොවේ.
AI-සහයෝගී නීති පර්යේෂණය සඳහා සත්යාපන පරීක්ෂා ලැයිස්තුව
ඔබ එකඟතා මෙවලමක් භාවිතා කරනවාද නැද්ද, කිසිදා අසත්ය AI ප්රතිඵලයක් ගොනු නොකරන්න. අවම වශයෙන්:
- කේසය පවතින බව තහවුරු කරන්න — නමුත් එහිදී නවතා නොගන්න; වාසනාවන්ත දෝෂ සඟවා ඇති ස්ථානයක් යනු සත්ය උද්ධෘතයයි
- ප්රධාන මූලාශ්රය ඇදගෙන එන්න සහ උපුටා ගත් භාෂාව සන්දර්භය තුළ කියවන්න — සත්යය පිළිබඳව සෑම උපුටා ගැනීමක්ම වචන වචන ලෙස තහවුරු කරන්න, AI හි සාරාංශය මත නොව.
- ආදර්ශය යෝජනාවට සහය වන්නේදැයි පරීක්ෂා කරන්න — යථාර්ථ ආදර්ශයක් එය සත්ය වශයෙන් සහය නොදෙන ප්රකාශයකට සම්බන්ධ කළ හැක.
- ස්වාධීන ආදර්ශ සමඟ පරීක්ෂා කරන්න — එක් ආදර්ශයක් පමණක් නිෂ්පාදනය කරන උපුටාදීමක් පරීක්ෂා කිරීමට සංකේතයක් වන අතර, ගොනු කිරීමට යෝජිත තොරතුරක් නොවේ.
- “ග්රවුන්ඩ්” යන්න “සනාථ” ලෙස කවදාවත් සැලකිය යුතු නැහැ — RAG නවෝත්පාදනයේ අවස්ථා අඩු කරයි; එය ඔබගේ පරීක්ෂා කිරීමට ඇති කාර්යභාරය ඉවත් කරන්නේ නැහැ
ස්වාධීන ආකෘති අතර එකඟතාවයක් ඔබගේ විශ්වාසය වැඩි කරයි යැයි කියන කුලකය සත්ය වේ. එය එය සාක්ෂාත් කරන්නේ නැහැ. ප්රධාන මූලාශ්රය තවමත් බලයයි — AI එකක් ඔබට එය වේගයෙන් සොයා ගැනීමට සහ ආකෘති එකඟ නොවන ස්ථාන පවසන්නට පමණක් ඇත.
අවසානවශයෙන් අසන ලද ප්රශ්න
අයුක්ත-ආර්ථිකය පිළිබඳව බොහෝ දෙනා අමතක කරන නීතිමය-ආර්ථික අසාර්ථකත්වය කුමක්ද?
සියලු දෙනාටම දන්නා ව්යාජ නඩත්තු කේස් එකක් නොවෙයි, නමුත් යථාර්ථ නඩත්තු කේස් එකක ඇතුළුවී ඇති නිර්මාණය කරන ලද උපුටා ගැනීමක් — උපුටා ගැනීමක් පවතින අතර එය උපුටා ගැනීමේ පරීක්ෂාවක් සම්පූර්ණ කරයි, නමුත් උපුටා ගත් වචන කිසිදාම අදහසක නොමැති විය.
එකම ආකෘතියකින් ස්වයං-පරීක්ෂණය කළ විට අසත්ය උපුටා ගැනීමක් ඇතුළුව නොවන හේතුව කුමක්ද?
ආධාරය සත්ය වීම නිසා, ස්වයං-සත්යාපනය කේසය පවතින බව තහවුරු කරයි සහ එහිදී නවතා දමයි; ආකෘතියට අදහසක් ඇත්තේ කුමක් කියා තිබුණද යන්න පිළිබඳ ස්වාධීන වාර්තාවක් නැත.
ආකෘති මැද සසඳීම නිසා නිර්මාණය කරන ලද උපුටාදැක්මන් ඇදගන්නා හේතුව කුමක්ද?
විශේෂිත සොයාගැනීම් මත පදනම් වූ ස්වාධීන ආකෘති කුමක් හෝ උපුටා දැමීමේදී එකම උපුටා දැමීමක් නිර්මාණය කරන්නේ අඩුම වශයෙන්ම වේ, එබැවින් ඔවුන්ගේ අසමතුලිතතාවය එකම ආකෘතියක් තහවුරු කරන නිර්මාණය පෙන්වයි.