බහු-LLM එකඟතාවය යනු විවිධ විශාල භාෂා ආකෘති කිහිපයක් එකම ප්රකාශයක් පිළිබඳව ස්වාධීනව යෝජනා කරන විට සහ එකිනෙකට තමන්ගේ තර්ක ඇගයීමේදී ලැබෙන එකඟතාවයේ මට්ටමයි. එය එකම ආකෘතියේ සාම්පලය හෝ ස්වයං-සමාන්යතාවයෙන් වෙනස් වේ, එය එකම ආකෘතියක් නැවත නැවත සාම්පලය කරමින් එම ආකෘතියේ පක්ෂපතීන් බෙදා හරිනවා. එය සංඛ්යාත්මක එකතු කිරීමෙන්ද වෙනස් වේ, එය ප්රතිඵල එකට එකතු කරමින් එකම සාමාන්ය ප්රතික්ෂේපයක් බවට පත් කරයි: බහු-LLM එකඟතාවය පුද්ගලික තර්ක රැකගෙන ඇත එම නිසා ඒවා පරීක්ෂා කළ හැකිය, සාමාන්යයක් බවට පත් නොවී. Mixture-of-Agents (arXiv:2406.04692) පිළිබඳ පර්යේෂණය බහු LLMs එකට තට්ටු කිරීමෙන් ගුණාත්මක වර්ධනයන් පෙන්වයි, ප්රධාන වශයෙන් AlpacaEval වැනි කැමැත්ත මාර්ගෝපදේශ මත මැනේ—ඒවා ප්රතිචාර ගුණාත්මකත්වයේ වර්ධනයක් බවට සාක්ෂියක්, කිසිදු විශේෂිත ප්රකාශයක් පිළිබඳව සත්ය නිවැරදි බවක් නොවේ. Argumentree.AI එකඟතාවය විශ්වාස සංඛ්යාතයක් ලෙස සැලකේ, සත්ය ඔරකලයක් ලෙස නොවේ; ආකෘති අතර අසමතුලිතතා බොහෝ විට වැඩිම ක්රියාකාරී ප්රතිඵල වේ.
බහු-LLM එකඟතාවය යනු විවිධ ආකෘති කිහිපයක් අතර එකඟතාවයයි—එකම ආකෘතියක් දෙවරක් සාම්පලය කරන්නේ නැත, සහ සාමාන්යයක් ලෙස එකතු කරන්නේ නැත. එය ඔබට පරීක්ෂා කළ හැකි විශ්වාස සංඛ්යාතයක්, සත්ය ඔරකලයක් නොවේ.
බහු-LLM එකඟතාවය යනු විවිධ ආකෘති කිහිපයක් අතර එකඟතාවය මැනයි. එය ස්වයං-සමාන්යතාවයෙන් (එක ආකෘතිය, බොහෝ සාම්පල) සහ සංඛ්යාත්මක එකතු කිරීමෙන් (සාමාන්යයක්) වෙනස් වේ. එය පුද්ගලික තර්ක රැකගෙන ඇත—එය විශ්වාස සංඛ්යාතයක්, සත්යයේ සාක්ෂියක් නොවේ.
බහු-LLM එකඟතාවය යනු විවිධ විශාල භාෂා ආකෘති කිහිපයක් එකම ප්රශ්නයක් පිළිබඳව ස්වාධීනව යෝජනා කරන විට සහ එකිනෙකට තමන්ගේ තර්ක ඇගයීමේදී ලැබෙන එකඟතාවයේ මට්ටමයි. වැදගත් වචනය වන්නේ විවිධ: ආකෘති විශේෂිත ව්යුහ සහ පුහුණු දත්ත වලින් පැමිණේ, එබැවින් එය එකඟ වූ විට, එම එකඟතාවය එකම පද්ධතියක දෘෂ්ටියක් පෙන්වයි—සමහර විට එය විශේෂිත ප්රකාශයක් පිළිබඳව අසමතුලිතතා පෙන්වයි.
සාමාන්ය එකම ආකෘතියේ තාක්ෂණය ස්වයං-සමාන්යතාවය වේ: එකම ආකෘතිය බොහෝ වතාවක් සාම්පලය කරමින් බහුතර පිළිතුර ගන්න. එය අහඹු විචලනය අඩු කරයි, නමුත් සෑම සාම්පලයක්ම එකම ආකෘතියේ පක්ෂපතීන් සහ අන්ධ ස්ථාන උරුම කරයි. ආකෘතිය විශ්වාසයෙන් වැරදි නම්, නැවත සාම්පලය කිරීමෙන් එම දෝෂය නැවත නැවත සිදුවේ. බහු-LLM එකඟතාවය වර්ගයෙන් වෙනස් වේ—එය ස්වාධීන ආකෘති මත පදනම් වේ, එබැවින් එකක් තුළ බෙදාගත් අන්ධ ස්ථානයක් සියල්ලෙන් බෙදාගැනීමේ හැකියාව අඩු වේ.
පාරම්පරික එකතු කිරීම ආකෘති ප්රතිඵල එකට සාමාන්ය ප්රතික්ෂේපයක් බවට පත් කරයි—කාර්යයක් සඳහා ප්රයෝජනවත්, අවබෝධය සඳහා අසාර්ථක. බහු-LLM එකඟතාවය යහපත් අරමුණක් ලෙස විශේෂිතව එහි විරුද්ධය කරයි: එය පුද්ගලික තර්ක රැකගෙන ඇත එම නිසා ඔබට සෑම ආකෘතියකම යෝජනා කියවිය හැක. කිසිවක් අඳුරු-කොටසක් බවට පත් නොවේ. එය අසමතුලිතතාවය පැහැදිලි කරයි, සාමාන්යයක් බවට පත් නොවේ.
| පියවර | එය කුමක් එකතු කරයි | යෝජනා දැකිය හැකිද? |
|---|---|---|
| ස්වයං-සමාන්යතාවය | එක ආකෘතිය, බොහෝ සාම්පල | බහුතර පිළිතුර පමණක් |
| සංඛ්යාත්මක එකතු කිරීම | සාමාන්යයක් බවට පත් කළ ප්රතිඵල | නැහැ—සාමාන්යයෙන් අහෝසි කරයි |
| බහු-LLM එකඟතාවය | විවිධ ආකෘති කිහිපයක තර්ක | ඔව්—රැකගෙන සහ පරීක්ෂා කළ හැකි |
මෙහි බොහෝ විට උපුටා ගන්නා පර්යේෂණය Mixture-of-Agents (arXiv:2406.04692) වේ, එය බහු LLMs එකට තට්ටු කරයි එම නිසා පසුව තට්ටු කරන ලද ප්රතිචාරයන් වඩාත් නිවැරදි කරයි. එය ගුණාත්මක වර්ධනයන් වාර්තා කරයි—නමුත් මැනුම් කුමක්ද යන්න පිළිබඳව නිවැරදි විය යුතුය.
Mixture-of-Agents වර්ධනයන් ප්රධාන වශයෙන් කැමැත්ත මාර්ගෝපදේශ වැනි AlpacaEval මත පෙන්වා ඇත—ප්රතිචාරයක් කෙසේ හොඳද යන්න මැනුම්. එය නැහැ කිසිදු විශේෂිත ප්රකාශයක් පිළිබඳව සත්ය නිවැරදි බවක් නොවේ. ආකෘති එකතු කිරීම ගුණාත්මකත්වය වර්ධනය කරයි; එය සත්යය සහතික කරන්නේ නැත.
කොටස් එකට එකතු කරන්නේ මෙසේය: බහු-LLM එකඟතාවය යනු විශ්වාස සංඛ්යාතයක්. උසස් එකඟතාවයක් යනු විවිධ ස්වාධීන පද්ධති කිහිපයක් එකඟ වන බවයි, එය මිනිස් සත්යාපනය සඳහා ප්රමුඛතාවය අඩු කරයි—නමුත් එය එය ඉවත් කරන්නේ නැත. ආකෘති එකම පුහුණු පක්ෂපතීන් බෙදා ගන්නා අතර වැරදි බවට එකඟ විය හැක. එකඟතාවය "සම්භාවිතා අඩු අවදානමක්" ලෙස සැලකිය යුතුය, සහ අසමතුලිතතා ඔබේ වැඩිම ක්රියාකාරී ප්රතිඵලය ලෙස සැලකිය යුතුය: එය සත්යාපනය කුමන ස්ථානයේ වැදගත්ද යන්න පෙන්වයි.
විශේෂිත පද්ධති අතර එකඟතාවය—එකම ආකෘතිය නැවත සාම්පලය කරන්නේ නැත
සෑම ආකෘතියකම යෝජනා කියවන්න; කිසිවක් අඳුරු කොටසක් බවට පත් නොවේ
කාර්යයන් විශ්වාසය සකස් කරයි—සත්යයේ සාක්ෂියක් ලෙස කිසිවක් ඉදිරිපත් නොවේ
අසමතුලිත ලක්ෂණ මිනිස් සත්යාපනය සඳහා සලකුණු කර ඇත
බහු-LLM එකඟතාවය යනු විවිධ විශාල භාෂා ආකෘති කිහිපයක් එකම ප්රකාශයක් පිළිබඳව ස්වාධීනව යෝජනා කරන විට සහ එකිනෙකට තමන්ගේ තර්ක ඇගයීමේදී ලැබෙන එකඟතාවයේ මට්ටමයි. එකම ආකෘතියක් බොහෝ වතාවක් සාම්පලය කිරීමෙන් වෙනස් වන්නේ, එය විශේෂිත ව්යුහ සහ පුහුණු දත්ත අතර එකඟතාවය පෙන්වයි, සහ අසමතුලිතතා පෙන්වයි එහි ප්රකාශයක් අසමතුලිත වේ.
ස්වයං-සමාන්යතාවය එකම ආකෘතිය බොහෝ වතාවක් සාම්පලය කරමින් බහුතර පිළිතුර ගන්න. එය අහඹු විචලනය අඩු කරයි නමුත් එකම ආකෘතියේ පක්ෂපතීන් සහ අන්ධ ස්ථාන බෙදා ගනී. බහු-LLM එකඟතාවය විවිධ ආකෘති භාවිතා කරයි, එබැවින් එකඟතාවය වඩාත් වැදගත් වේ සහ අසමතුලිතතාවය එම ආකෘතියේ නැවත නැවත සාම්පලය කිරීමෙන් කිසිවක් පෙන්වන්නේ නැත.
සංඛ්යාත්මක එකතු කිරීම ආකෘති ප්රතිඵල එකට සාමාන්ය ප්රතික්ෂේපයක් බවට පත් කරයි, පුද්ගලික යෝජනා අහෝසි කරයි. බහු-LLM එකඟතාවය සෑම ආකෘතියකම තර්ක රැකගෙන ඇත එම නිසා ඔබට ඒවා කියවිය හැක. කිසිවක් අඳුරු-කොටසක් බවට පත් නොවේ, ඔබට පරීක්ෂා කළ නොහැකි සාමාන්ය ප්රතික්ෂේපයක්—පුද්ගලික කේස් දැකිය හැක, එය අසමතුලිතතාවය පැහැදිලි කරයි.
Mixture-of-Agents (arXiv:2406.04692) වැනි පර්යේෂණය බහු LLMs එකට තට්ටු කිරීමෙන් ගුණාත්මක වර්ධනයන් පෙන්වයි, ප්රධාන වශයෙන් AlpacaEval වැනි කැමැත්ත මාර්ගෝපදේශ මත මැනේ. එය එම මාර්ගෝපදේශ මත ප්රතිචාර ගුණාත්මකත්වයේ වර්ධනයක් බවට සාක්ෂියක්—එය කිසිදු විශේෂිත ප්රකාශයක් පිළිබඳව සත්ය නිවැරදි බවක් නොවේ. එකඟතාවය විශ්වාස සංඛ්යාතයක් ලෙස සැලකිය යුතුය, සත්ය ඔරකලයක් ලෙස නොවේ.
නැහැ. එකඟතාවය විශ්වාස සංඛ්යාතයක්, සාක්ෂියක් නොවේ. බොහෝ ආකෘති එකම පුහුණු පක්ෂපතීන් බෙදා ගන්නා අතර වැරදි බවට එකඟ විය හැක. උසස් එකඟතාවයක් මිනිස් සත්යාපනය සඳහා ප්රමුඛතාවය අඩු කරයි; එය එය ඉවත් කරන්නේ නැත. වැඩිම ක්රියාකාරී ප්රතිඵලය බොහෝ විට අසමතුලිතතාවය වේ, එය සත්යාපනය කුමන ස්ථානයේ වැදගත්ද යන්න පෙන්වයි.
එකම ආකෘතියක් දෙවරක් සාම්පලය කරන්නේ නැත. විවිධ ආකෘති කිහිපයක්, තර්ක රැකගෙන ඇත, අසමතුලිතතාවය දැකිය හැක.
නිදහස් ආරම්භ කරන්න