മിശ്രിത ഏജന്റുകൾ (MoA) എന്നത് "മിശ്രിത ഏജന്റുകൾ വലിയ ഭാഷാ മോഡൽ ശേഷികൾ വർദ്ധിപ്പിക്കുന്നു" (arXiv:2406.04692) എന്ന പേപ്പറിൽ അവതരിപ്പിച്ച ഒരു പാളിയുള്ള മൾട്ടി-LLM ആർക്കിടെക്ചർ ആണ്. MoA-യിൽ, നിരവധി മോഡലുകൾ ഒരു പാളിയിൽ പ്രൊപ്പോസർമാർ ആയി പ്രവർത്തിക്കുന്നു; അവരുടെ പ്രതികരണങ്ങൾ ചേർത്ത് അടുത്ത പാളിയിലെ ആഗ്രിഗേറ്റർ മോഡലുകൾക്ക് കൈമാറുന്നു, അവ ഒരു ശുദ്ധമായ ഉത്തരത്തെ സംയോജിപ്പിക്കുന്നു. അധിക പാളികൾ ശുദ്ധീകരണം ആവർത്തിക്കുന്നു. ഈ പേപ്പർ AlpacaEval 2.0, MT-Bench, FLASK പോലുള്ള പ്രീഫറൻസ്-ശൈലി ബഞ്ച്മാർക്കുകളിൽ നേട്ടങ്ങൾ കാണിക്കുന്നു - ഒരു മൂല്യനിർണായകന്റെ വിലയിരുത്തലിന്റെ അടിസ്ഥാനത്തിൽ പ്രതികരണത്തിന്റെ ഗുണമേന്മ, യാഥാർത്ഥ്യത്തിന്റെ കൃത്യതയുടെ ഉറപ്പ് അല്ല. MoA ടോക്കൺ ചെലവ് വർദ്ധിപ്പിക്കുകയും, പല മോഡൽ കോളുകൾ പാളികളിലൂടെ നടത്തുന്നതിനാൽ വൈകിയതും കൂട്ടിച്ചേർക്കൽ യഥാർത്ഥ തർക്കത്തെ മൃദുവാക്കാൻ കഴിയും. Argumentree.AI ബന്ധപ്പെട്ടെങ്കിലും വ്യത്യസ്തമാണ്: ഒരു സംയോജിത ഉത്തരത്തിലേക്ക് ആഗ്രിഗേറ്റ് ചെയ്യുന്നതിന് പകരം, ഓരോ മോഡലിന്റെയും വ്യക്തിഗത വാദങ്ങൾ സംരക്ഷിക്കുന്നു, എല്ലാ ലഭ്യമായ മോഡലുകളും ഓരോ മറ്റൊരു മോഡലിന്റെ വാദങ്ങൾ വിലയിരുത്തുന്നു, സമ്മതവും തർക്കവും മറയ്ക്കുന്നതിന് പകരം അവയെ ഉയർത്തുന്നു.
മിശ്രിത ഏജന്റുകൾ (MoA) നിരവധി LLM-കളെ സഹകരിക്കുന്ന ഏജന്റുകളായി കാണുന്നു - പ്രൊപ്പോസർമാർ സ്ഥാനാർത്ഥി പ്രതികരണങ്ങൾ സൃഷ്ടിക്കുന്നു, ആഗ്രിഗേറ്റർമാർ അവയെ ഒരു ശുദ്ധമായ ഉത്തരത്തിലേക്ക് സംയോജിപ്പിക്കുന്നു. ഇത് യാഥാർത്ഥ്യമായ വ്യാപാരങ്ങളുള്ള യാഥാർത്ഥ്യമായ സാങ്കേതിക വിദ്യയാണ്, ഒരു മാജിക് കൃത്യത സ്വിച്ച് അല്ല.
മിശ്രിത ഏജന്റുകൾ നിരവധി LLM-കളെ പാളികളായി ക്രമീകരിക്കുന്നു: പ്രൊപ്പോസർ മോഡലുകൾ ഉത്തരങ്ങൾ തയ്യാറാക്കുന്നു, ആഗ്രിഗേറ്റർ മോഡലുകൾ അവയെ സംയോജിപ്പിക്കുന്നു. arXiv:2406.04692 പേപ്പർ AlpacaEval, MT-Bench പോലുള്ള പ്രീഫറൻസ് ബഞ്ച്മാർക്കുകളിൽ നേട്ടങ്ങൾ കാണിക്കുന്നു - പ്രതികരണ ഗുണമേന്മ, തെളിയിച്ച യാഥാർത്ഥ്യ കൃത്യത അല്ല - കൂടാതെ ഇത് ഒരു മോഡലിനേക്കാൾ കൂടുതൽ ടോക്കണുകളും വൈകിയതും ചെലവാക്കുന്നു.
മിശ്രിത ഏജന്റുകൾ 2024-ലെ "മിശ്രിത ഏജന്റുകൾ വലിയ ഭാഷാ മോഡൽ ശേഷികൾ വർദ്ധിപ്പിക്കുന്നു" (arXiv:2406.04692) എന്ന പേപ്പറിൽ അവതരിപ്പിച്ചു. പ്രധാന നിരീക്ഷണം സഹകരണശേഷി ആണ്: LLM-കൾ മറ്റ് മോഡലുകളുടെ ഔട്ട്പുട്ടുകൾ കാണുകയും അവയിൽ നിർമ്മാണം നടത്തുമ്പോൾ മികച്ച പ്രതികരണങ്ങൾ നൽകാൻ ശ്രമിക്കുന്നു - വ്യക്തിഗതമായി ദുർബലമായ മോഡലുകൾ പോലും. MoA ആ നിരീക്ഷണത്തെ ഒരു ആർക്കിടെക്ചറിലേക്ക് മാറ്റുന്നു.
MoA പാളികളായി ക്രമീകരിച്ചിരിക്കുന്നു. ഓരോ പാളിയിലും നിരവധി LLM "ഏജന്റുകൾ" അടങ്ങിയിരിക്കുന്നു. ഒരു പാളിയുടെ മോഡലുകൾ ഓരോന്നും ഒരു പ്രതികരണം സൃഷ്ടിക്കുന്നു, ആ പ്രതികരണങ്ങൾ ചേർത്ത് അടുത്ത പാളിയിലേക്ക് കൈമാറുന്നു, അവയുടെ മോഡലുകൾ ആഗ്രിഗേറ്റർമാർ ആയി പ്രവർത്തിക്കുന്നു, അവ ശുദ്ധീകരിക്കുകയും സംയോജിപ്പിക്കുകയും ചെയ്യുന്നു. പാളികൾ സ്റ്റാക്ക് ചെയ്യുന്നത് ശുദ്ധീകരണം ആവർത്തിക്കുന്നു.
ഒരേ ഒരു പാളിയിൽ നിരവധി മോഡലുകൾ ഓരോന്നായി പ്രോംപ്റ്റിന് മറുപടി നൽകുന്നു.
എല്ലാ പാളി-1 ഔട്ട്പുട്ടുകളും അടുത്ത പാളിക്ക് റഫറൻസ് മെറ്റീരിയലായി ശേഖരിക്കുന്നു.
പാളി-2 മോഡലുകൾ സ്ഥാനാർത്ഥികളെ വായിച്ച് ഒരു ശുദ്ധമായ, സംയോജിത മറുപടി ഉത്പാദിപ്പിക്കുന്നു.
കൂടുതൽ പാളികൾ ശുദ്ധീകരണം തുടരുന്നു; ഒരു അന്തിമ അഗ്രിഗേറ്റർ മറുപടി പുറപ്പെടുവിക്കുന്നു.
"ഞങ്ങളുടെ API ഒരു അസിങ്ക് ജോബ് സ്വീകരിച്ചാൽ 200 അല്ലെങ്കിൽ 202 തിരികെ നൽകേണ്ടതുണ്ടോ?" എന്ന് ചോദിക്കുക. മൂന്ന് പ്രൊപ്പോസർ മോഡലുകൾ ഓരോന്നും REST ആചാരങ്ങൾ ഉദ്ധരിച്ച് ഒരു മറുപടി തയ്യാറാക്കുന്നു. ഒരു ആഗ്രിഗേറ്റർ എല്ലാ മൂന്നു വായിക്കുന്നു, രണ്ട് 202 Accepted എന്ന നിലയിൽ ഒരു സ്റ്റാറ്റസ് URL ഉണ്ട് എന്ന് ശ്രദ്ധിക്കുന്നു, ഒന്ന് 200-നെ പ്രോത്സാഹിപ്പിക്കുന്നു, ഓരോന്നിൽ നിന്നുള്ള ശക്തമായ വാദങ്ങൾ ഉൾക്കൊള്ളുന്ന ഒരു ഏക നിർദ്ദേശം സംയോജിപ്പിക്കുന്നു. സംയോജിത ഉത്തരത്തിൽ നല്ല വായനയുണ്ട് - എന്നാൽ എല്ലാ മൂന്നു പേരും ഒരേ തെറ്റായ ധാരണ പങ്കുവെച്ചാൽ, ആഗ്രിഗേറ്റർ അതിനെ ആത്മവിശ്വാസത്തോടെ ആവർത്തിക്കും.
ഈ പേപ്പർ പ്രീഫറൻസ്-ശൈലി ബഞ്ച്മാർക്കുകളിൽ - AlpacaEval 2.0, MT-Bench, FLASK - ശക്തമായ ഫലങ്ങൾ റിപ്പോർട്ട് ചെയ്യുന്നു - ഒരു ജഡ്ജ് (അവസാനമായി ഒരു LLM അല്ലെങ്കിൽ മനുഷ്യൻ) ഏത് പ്രതികരണം കൂടുതൽ സഹായകരമാണ് അല്ലെങ്കിൽ ഉയർന്ന ഗുണമേന്മയുള്ളതെന്ന് സ്കോർ ചെയ്യുന്നു. ഡവലപ്പർമാർക്കായി ഇത് ഒരു പ്രധാന വ്യത്യാസമാണ്:
മൂന്ന് മൾട്ടി-മോഡൽ മാതൃകകൾ. ഒരു ഡവലപ്പർ ആയി, നിങ്ങൾക്ക് അയക്കേണ്ടതെന്താണെന്ന് തിരഞ്ഞെടുക്കുക: ഒരു നന്നായി നിർമ്മിത ഉത്തരമോ, അല്ലെങ്കിൽ ദൃശ്യമായ ക്രോസ്-മോഡൽ വാദമോ.
| മാതൃക | ഇത് എന്തിനെ മെച്ചപ്പെടുത്തുന്നു | നിങ്ങൾക്ക് എന്താണ് ലഭിക്കുന്നത് |
|---|---|---|
| ഏകീകരണങ്ങളുടെ മിശ്രണം | ഒരു ശുദ്ധമായ സംയോജിത മറുപടി | അഗ്രിഗേറ്റർകൾ പ്രസ്താവകന്റെ ഔട്ട്പുട്ടുകൾ സംയോജിപ്പിക്കുന്നു; വ്യക്തിഗത കാഴ്ചകൾ സംയോജനം ചെയ്യുന്നതിൽ അപ്രത്യക്ഷമാകുന്നു |
| എൽഎൽഎം കൗൺസിൽ | മോഡൽ അനുസരിച്ചുള്ള സുതാര്യ സംഭാവന | ഓരോ മോഡലിന്റെയും മറുപടി ദൃശ്യമായിരിക്കുന്നു; മോഡലുകൾ പലപ്പോഴും പരസ്പരം വിലയിരുത്തുന്നു |
| മൾട്ടി-എൽഎൽഎം സമ്മതം | അംഗീകാരം + അഭിപ്രായവ്യത്യാസം സിഗ്നൽ | മോഡലുകൾ എവിടെ സമ്മതിക്കുന്നു (ആത്മവിശ്വാസം) എന്നും വ്യത്യാസപ്പെടുന്നു (വിവാദമായ ചോദ്യം) |
ഉപദേശം: നിങ്ങൾക്ക് ഏറ്റവും മികച്ച ഉത്തരമുണ്ടാക്കാൻ MoA-യിലേക്ക് എത്തുക, ടോക്കൺ/വിലക്കുറവ് ചെലവ് നൽകാൻ കഴിയും; തർക്കം തന്നെ ഉൽപ്പന്നമാണ് എന്നപ്പോൾ കൗൺസിൽ അല്ലെങ്കിൽ സമ്മതം സ്കോറിംഗ് തിരഞ്ഞെടുക്കുക.
Argumentree.AI MoA-യുടെ അടിസ്ഥാനത്തിൽ പങ്കുവെക്കുന്നു - നിരവധി മോഡലുകൾ ഒരൊറ്റ മോഡലിനെ മറികടക്കുന്നു - എന്നാൽ അവയെ സംയോജിപ്പിക്കുന്നതിന് പകരം വ്യക്തിഗത ഔട്ട്പുട്ടുകൾ ദൃശ്യമായിരിക്കുന്നു.
ഓരോ മോഡലും സ്വതന്ത്രമായി മറുപടി നൽകുന്നു — ഒരു പ്രസ്താവകൻ/അഗ്രിഗേറ്റർ ഒരൊറ്റ ശബ്ദത്തിൽ ചുരുക്കപ്പെടുന്നില്ല
വ്യക്തിഗത പ്രോ/കൺ വാദങ്ങൾ അവയെ സൃഷ്ടിച്ച മോഡലിന് അടിയുറപ്പിക്കപ്പെടുന്നു
എല്ലാ ലഭ്യമായ മോഡലുകൾ ഓരോ മറ്റൊരു മോഡലിന്റെ വാദങ്ങൾ വിലയിരുത്തുന്നു
നിങ്ങൾ സമ്മതം ആത്മവിശ്വാസമായി കാണുകയും വിരോധം യാഥാർത്ഥ്യമായ ചോദ്യം ആയി കാണുകയും ചെയ്യുന്നു
മിശ്രണം-ഓഫ്-എജന്റ്സ് (MoA) ഒരു പാളിയുള്ള ആർക്കിടെക്ചർ ആണ്, ഇതിൽ നിരവധി വലിയ ഭാഷാ മോഡലുകൾ ഒരു പാളിയിൽ പ്രസ്താവകരായി പ്രവർത്തിക്കുന്നു, അവരുടെ ഔട്ട്പുട്ടുകൾ അടുത്ത പാളിയിൽ അഗ്രിഗേറ്റർ മോഡലുകൾക്ക് കൈമാറുന്നു, അവ ശുദ്ധമായ മറുപടി സംയോജിപ്പിക്കുന്നു. 'മിശ്രണം-ഓഫ്-എജന്റ്സ് വലിയ ഭാഷാ മോഡൽ ശേഷികൾ വർദ്ധിപ്പിക്കുന്നു' (arXiv:2406.04692) എന്ന പേപ്പറിൽ അവതരിപ്പിച്ചു, ഇത് ഒറ്റ മോഡലിൽ ആശ്രയിക്കുന്നതിന് പകരം നിരവധി LLM-കളെ സഹകരിക്കുന്ന ഏജന്റുകളായി പരിഗണിക്കുന്നു.
മൂല MoA പേപ്പർ AlpacaEval 2.0, MT-Bench, FLASK പോലുള്ള പ്രിയത്വ-ശൈലി ബഞ്ച്മാർക്കുകളിൽ നേട്ടങ്ങൾ റിപ്പോർട്ട് ചെയ്യുന്നു, അവിടെ ഒരു ജഡ്ജ് മറുപടി ഗുണം സ്കോർ ചെയ്യുന്നു. അവ പ്രിയത്വവും സഹായകതയും അളക്കലുകൾ ആണ്, യാഥാർത്ഥ്യ കൃത്യതയുടെ ഉറപ്പ് അല്ല. MoA ഒരു കൂടുതൽ നന്നായി രൂപകൽപ്പന ചെയ്ത, നല്ല രീതിയിൽ ക്രമീകരിച്ച മറുപടി ഉത്പാദിപ്പിക്കാൻ കഴിയും, എന്നാൽ ഒരു പങ്കുവെച്ച യാഥാർത്ഥ്യ തെറ്റുകൾ ആവർത്തിക്കുമ്പോൾ, അതിനാൽ ഇത് സത്യത്തിന്റെ ഉറപ്പായി പരിഗണിക്കരുത്.
MoA നിരവധി മോഡലുകൾ പല പാളികളിലായി പ്രവർത്തിക്കുന്നു, അതിനാൽ ഇത് ടോക്കൺ ചെലവ് വർദ്ധിപ്പിക്കുന്നു, ഒറ്റ മോഡൽ വിളിക്കലുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ വൈകിയതും കൂട്ടിച്ചേർക്കുന്നു. അഗ്രിഗേറ്റർ പാളികൾ പ്രസ്താവകർ തമ്മിലുള്ള യഥാർത്ഥ അഭിപ്രായവ്യത്യാസത്തെ മൃദുവാക്കുകയും, കാണാൻ വിലമതിക്കപ്പെട്ട ന്യൂനപക്ഷ കാഴ്ചകൾ മറയ്ക്കുകയും ചെയ്യാം. ഇത് യാഥാർത്ഥ്യമായ ഒരു സാങ്കേതിക വിദ്യയാണ്, യാഥാർത്ഥ്യമായ ചെലവ്/വൈകിയതിന്റെ വ്യാപാരമുണ്ടാക്കുന്നു, ഒരു സൗജന്യ അപ്ഗ്രേഡ് അല്ല.
MoA ഒരു സംയോജനം ആർക്കിടെക്ചർ ആണ്: പ്രസ്താവക മോഡലുകൾ എല്ലാം ഒരു ശുദ്ധമായ മറുപടിയിലേക്ക് സംയോജിപ്പിക്കുന്ന അഗ്രിഗേറ്ററുകളെ ഭക്ഷ്യവസ്തുക്കൾ നൽകുന്നു. ഒരു എൽഎൽഎം കൗൺസിൽ ഓരോ മോഡലിന്റെ സംഭാവന ദൃശ്യമായിരിക്കണം, പലപ്പോഴും മോഡലുകൾ പരസ്പരം വിലയിരുത്തുകയും റേറ്റുചെയ്യുകയും ചെയ്യുന്നു, അതിനാൽ അവ എവിടെ വ്യത്യാസപ്പെടുന്നു എന്ന് നിങ്ങൾക്ക് കാണാം. MoA ഒരു ശക്തമായ സംയോജിത ഔട്ട്പുട്ടിന് വേണ്ടി ഓപ്റ്റിമൈസ് ചെയ്യുന്നു; ഒരു കൗൺസിൽ വ്യക്തിഗത കാഴ്ചകളുടെ സുതാര്യതയ്ക്ക് വേണ്ടി ഓപ്റ്റിമൈസ് ചെയ്യുന്നു.
ശരിയല്ല. Argumentree.AI നിരവധി മോഡലുകൾ ഒറ്റമോഡലിനെ മറികടക്കുമെന്ന് MoA-യുടെ ആശയം പങ്കിടുന്നു, എന്നാൽ ഒരു ഏകീകരിച്ച മറുപടിയിലേക്ക് അഗ്രിഗേറ്റ് ചെയ്യുന്നതിന് പകരം, ഇത് ഓരോ മോഡലിന്റെ വ്യക്തിഗത വാദങ്ങൾ സംരക്ഷിക്കുന്നു, എല്ലാ ലഭ്യമായ മോഡലുകൾ ഓരോ മറ്റൊരു മോഡലിന്റെ വാദങ്ങൾ വിലയിരുത്തുന്നു. ലക്ഷ്യം സമ്പൂർണ്ണതയും വിരോധവും സുതാര്യമായി പുറത്ത് കൊണ്ടുവരുകയാണ്, ഒറ്റ സംയോജിത മറുപടിയുടെ പിന്നിൽ വ്യക്തിഗത ഔട്ട്പുട്ടുകൾ മറയ്ക്കുന്നതിന് പകരം.
MoA മോഡലുകൾ ഒരു മറുപടിയിലേക്ക് സംയോജിപ്പിക്കുന്നു. Argumentree.AI ഓരോ മോഡലിന്റെയും വാദങ്ങൾ ദൃശ്യമായും പിയർ-റേറ്റുചെയ്യപ്പെട്ടും സൂക്ഷിക്കുന്നു.
സൗജന്യമായി ആരംഭിക്കുക