Mixture-of-Agents (MoA) යනු "Mixture-of-Agents Enhances Large Language Model Capabilities" (arXiv:2406.04692) යන ලිපියෙන් හඳුන්වා දී ඇති බහු-LLM ව්යුහයකි. MoA හි, කිහිපයක් මොඩල් එකම තට්ටුවක ප්රතිපත්තිකරුන් ලෙස ක්රියා කරයි; ඔවුන්ගේ ප්රතිචාර එකට එකතු කරනු ලබයි සහ ඊළඟ තට්ටුවේ එකතුකරුවන්ට යවනු ලබයි, එමඟින් සකස් කළ පිළිතුරක් නිර්මාණය කරයි. අමතර තට්ටු සකස් කිරීම නැවත නැවත සිදු වේ. මෙම ලිපිය AlpacaEval 2.0, MT-Bench, සහ FLASK වැනි ප්රියතා-ශෛලී ප්රමිතීන්හි ලාභ පෙන්වයි - ප්රතිචාරයේ ගුණාත්මකභාවය, සත්ය නිවැරදි බවේ සහතිකයක් නොවේ. MoA යනු බහු මොඩල් ඇමතුම් ක්රියාත්මක කිරීම නිසා ටෝකන් වියදම සහ පැයීම් එකතු කරයි, සහ එකතුව සත්ය විරෝධය මෘදු කරනු ඇත. Argumentree.AI සම්බන්ධ නමුත් වෙනස් වේ: එක සකස් කළ පිළිතුරකට එකතු කිරීමේ වඩාත්ම ප්රතිපත්තිකරුන්ගේ තනි තර්ක රැකගෙන, සෑම ලැබිය හැකි මොඩලයක්ම අනෙක් මොඩලයේ තර්ක අගය කරන අතර, එකඟතාව සහ විරෝධය පෙනී යයි.
Mixture-of-Agents (MoA) බහු LLMs එකට සහයෝගීකාරී නියෝජිතයන් ලෙස සැලකේ - ප්රතිපත්තිකරුන් අපේක්ෂිත ප්රතිචාර නිර්මාණය කරයි, එකතුකරුවන් ඒවා එක සකස් කළ පිළිතුරකට සංකලනය කරයි. එය සත්ය වාසියක් ඇති සත්ය තාක්ෂණයකි, මායා නිවැරදි බවක් නොවේ.
Mixture-of-Agents බහු LLMs තට්ටු කරයි: ප්රතිපත්තිකරු මොඩල් පිළිතුරු ලියයි, එකතුකරුවන් ඒවා එකතු කරයි. arXiv:2406.04692 ලිපිය ප්රියතා ප්රමිතීන්හි (AlpacaEval, MT-Bench) ලාභ පෙන්වයි - ප්රතිචාරයේ ගුණාත්මකභාවය, සත්ය නිවැරදි බවේ සහතිකයක් නොවේ - සහ එය එක් මොඩලයකට වඩා වැඩි ටෝකන් සහ පැයීම් ගනී.
Mixture-of-Agents යනු 2024 ලිපියකදී "Mixture-of-Agents Enhances Large Language Model Capabilities" (arXiv:2406.04692) හඳුන්වා දී ඇත. මූලික සොයාගැනීම සහයෝගීතාවය වේ: LLMs අනෙක් මොඩල්වල ප්රතිඵල දැකීම සහ ඒවා මත පදනම්ව වැඩි හොඳ ප්රතිචාර නිර්මාණය කිරීමට ප්රවණ වේ - වෙන්වූ මොඩල්වලින් වඩාත්ම දුර්වල මොඩල්වලින්. MoA එම සොයාගැනීම ව්යුහයකට පරිවර්තනය කරයි.
MoA තට්ටු වලට සංවිධානය කර ඇත. එක් තට්ටුවක කිහිපයක් LLM "නියෝජිතයන්" අඩංගු වේ. තට්ටුවක මොඩල් සෑම එකක්ම ප්රතිචාරයක් නිර්මාණය කරයි, එම ප්රතිචාර එකට එකතු කරනු ලබයි සහ ඊළඟ තට්ටුවට යවනු ලබයි, එහි මොඩල් එකතුකරුවන් ලෙස ක්රියා කරයි, ඒවා සකස් කරයි සහ සංකලනය කරයි. තට්ටු තබා ගැනීම සකස් කිරීම නැවත නැවත සිදු කරයි.
බහු ආකෘති සෑම එකක්ම ස්වාධීනව ප්රතිපෝෂණය කරයි පළමු තට්ටුවේ.
සියලු පළමු තට්ටුවේ ප්රතිදාන එකතු කරයි ඊළඟ තට්ටුව සඳහා යොමු කර ඇති ද්රව්ය ලෙස.
දෙවන තට්ටුවේ ආකෘති අපේක්ෂකයන් කියවයි සහ සංයෝජිත, පිරිසිදු ප්රතිචාරයක් නිෂ්පාදනය කරයි.
අතිරේක තට්ටු පිරිසිදු කරයි; අවසන් සංග්රහකය පිළිතුර නිකුත් කරයි.
"අපගේ API එකක් 200 හෝ 202 ආපසු ලබා දිය යුතුද?" යන්න අසන්න. තුන් ප්රතිපත්තිකරු මොඩල් සෑම එකක්ම REST සම්ප්රදායන් සඳහන් කරමින් පිළිතුරු ලියයි. එකතුකරු සියලු තුන්ම කියවා, 202 Accepted සහිත තත්ත්ව URL එකක් සහ 200 එකක් ප්රිය කරන බව සොයාගෙන, සෑම එකකින්ම ශක්තිමත් තර්කය ඇතුළත් කරන එකම නිර්දේශයක් සකස් කරයි. එකතු කළ පිළිතුර හොඳින් කියවෙනවා - නමුත් සියලු තුන්ම එකම වැරදි අදහසක් බෙදා ගත්නම්, එකතුකරු එය විශ්වාසයෙන් නැවත නැවත කියනු ඇත.
මෙම ලිපිය ප්රියතා-ශෛලී ප්රමිතීන් - AlpacaEval 2.0, MT-Bench, සහ FLASK - හි ශක්තිමත් ප්රතිඵල වාර්තා කරයි - එහි විනිසුරු (බොහෝ විට LLM හෝ මනුෂ්යයෙකු) කුමක් ප්රතිචාරයක් වඩා උපකාරී හෝ උසස් ගුණාත්මක බවට ලකුණු කරයි. එය සංවර්ධකයන් සඳහා වැදගත් වෙනසක් වේ:
තුන් බහු-මොඩල් ආකාර. සංවර්ධකයෙකු ලෙස, ඔබට යැවිය යුතු දේ මත තෝරන්න: එක සකස් කළ පිළිතුරක්, හෝ පෙනෙන පාර්ශව-මොඩල් තර්ක.
| ආකාරය | එය කුමක් වඩාත්ම හොඳ කරයි | ඔබට කුමක් ලැබේ |
|---|---|---|
| ආකෘති-සංයෝජනය | එක් පිරිසිදු මිශ්රිත ප්රතිචාරයක් | සංග්රහකයන් ආයෝජකයන්ගේ ප්රතිදාන එකතු කරයි; පුද්ගලික දැක්මන් සංයෝජනයට අතුරුදන් වේ |
| LLM සභාව | පැහැදිලි ආකෘති ප්රදාන | සියලු ආකෘතිගේ ප්රතිචාර දැකිය හැක; ආකෘති බොහෝ විට එකිනෙකට ඇගයීම කරයි |
| බහු-LLM එකඟතාව | එකඟතාව + විරෝධය සංඥාව | ආකෘති එකඟ වන ස්ථාන (විශ්වාසය) සහ විරෝධය (අභියෝගිත ප්රශ්නය) මැනේ |
අත්හදා බැලීමේ නීතිය: ඔබට එක් හොඳම පිළිතුර අවශ්ය නම් සහ ටෝකන්/පැයීම් වියදම ගෙවිය හැකි නම් MoA වෙත යන්න; විරෝධයම නිෂ්පාදනයක් වන විට කවුන්සලක් හෝ එකඟතා ලකුණු කිරීමේදී යන්න.
Argumentree.AI MoA හි පදනම බෙදා ගනී - බහු මොඩල් එකක් වඩා හොඳයි - නමුත් ඒවා එකතු නොකර, තනි ප්රතිඵල පෙනී යයි.
සියලු ආකෘති ස්වාධීනව ප්රතිචාර දෙනවා — කිසිදු ආයෝජක/සංග්රහකය එකම ශබ්දයකට එකතු නොවේ
පුද්ගලික ප්රතිපක්ෂ/පක්ෂ තර්ක ආකෘතිය නිර්මාණය කළ ආකෘතියට අයත් වේ
සියලු ලබා ගත හැකි ආකෘති සියලු අනෙකුත් ආකෘතිගේ තර්ක ඇගයීම කරයි
ඔබ එකඟතාවය විශ්වාසය ලෙස සහ විරෝධය යථාර්ථ ප්රශ්නය ලෙස දැකිය හැක
Mixture-of-Agents (MoA) යනු බහු විශාල භාෂා ආකෘති එක තට්ටුවක ආයෝජකයන් ලෙස ක්රියා කරන ලAYERED වාසියකි, සහ ඔවුන්ගේ ප්රතිදාන ඊළඟ තට්ටුවේ සංග්රහක ආකෘති වෙත යවයි, එමඟින් පිරිසිදු ප්රතිචාරයක් සංයෝජනය කරයි. 'Mixture-of-Agents Enhances Large Language Model Capabilities' (arXiv:2406.04692) යන ලිපියෙන් හඳුන්වා දී ඇත, එය බහු LLMs එකම ආකෘතියක් මත පදනම් වීමේ වඩාත් සම්බන්ධීකරණය කරන බව සලකයි.
මුල් MoA ලිපිය AlpacaEval 2.0, MT-Bench සහ FLASK වැනි ආශාව-ශෛලී මිනුම් මත වර්ධන වාර්තා කරයි, එහිදී විනිසුරු ප්රතිචාරයේ ගුණාත්මකත්වය ඇගයීම කරයි. එය ආශාව සහ උපකාරකත්වය මැනුම් වන අතර, සත්ය නිවැරදි බවට සහතිකයක් නොවේ. MoA වඩා පිරිසිදු, හොඳින් සංවිධානය කළ ප්රතිචාරයක් නිෂ්පාදනය කරයි, එමඟින් බෙදාගත් සත්ය දෝෂයක් නැවත නැවත සිදු විය හැක, එබැවින් එය සත්ය සහතිකයක් ලෙස සැලකිය යුතු නැත.
MoA බහු තට්ටු තුළ බහු ආකෘති ක්රියාත්මක කරයි, එබැවින් එය ටෝකන් වියදම ගුණාත්මක කරයි සහ එක් ආකෘතියක් ඇමතුමක් සමඟ සසඳන විට ප්රමාදය එකතු කරයි. සංග්රහක තට්ටු ආයෝජකයන් අතර සත්ය විරෝධය මෘදු කරයි, දැකිය යුතු වූ අඩු ප්රතිපක්ෂ දැක්මන් සඟවා ඇත. එය සත්ය වියදම්/ප්රමාදය වෙළඳාමක් ඇති සත්ය තාක්ෂණයක් වන අතර, නොමිලේ යාවත්කාලීන කිරීමක් නොවේ.
MoA යනු සංයෝජන වාසියකි: ආයෝජක ආකෘති සංග්රහකයන්ට ආහාරය දෙයි, එමඟින් සියල්ල එක පිරිසිදු ප්රතිචාරයක් බවට පත් කරයි. LLM සභාව සෑම ආකෘතියක contribution එකක් පැහැදිලිව තබයි සහ බොහෝ විට ආකෘති එකිනෙකට ඇගයීම හෝ ඇගයීම කරයි, එබැවින් ඔබට ඔවුන්ගේ විරෝධය දැකිය හැක. MoA එක ශක්තිමත් මිශ්රිත ප්රතිදානයක් සඳහා උපරිම කරයි; සභාව පුද්ගලික දැක්මන්ගේ පැහැදිලිත්වය සඳහා උපරිම කරයි.
නිවැරදිව නොවේ. Argumentree.AI MoA හි පදනම බෙදා ගනී, එනම් බහු ආකෘති එකක් වඩා හොඳයි, නමුත් එක් සංයෝජිත ප්රතිචාරයක් බවට පත් වීමේ වඩාත්ම සංග්රහණය කිරීමේ වඩාත්ම පදනමක් ලෙස සෑම ආකෘතියකම පුද්ගලික තර්ක රැක ගනී සහ සියලු ලබා ගත හැකි ආකෘති සියලු අනෙකුත් ආකෘතිගේ තර්ක ඇගයීම කරයි. අරමුණ වන්නේ එකඟතාවය සහ විරෝධය පැහැදිලිව පෙනී යාමයයි, එකම සංයෝජිත ප්රතිචාරයක් මඟින් පුද්ගලික ප්රතිදාන සඟවා ගැනීම නොවේ.
MoA මොඩල් එකට එක පිළිතුරකට සකස් කරයි. Argumentree.AI සෑම මොඩලයක තර්ක පෙනී යයි සහ පාර්ශව-මොඩල් ලෙස අගය කරයි.
නිදහස් ආරම්භ කරන්න