ഒരു LLM ensemble നിരവധി വലിയ ഭാഷാ മോഡലുകളുടെ ഔട്ട്പുട്ടുകൾ സംയോജിപ്പിച്ച് ഒരു ഏക മോഡലിന്റെ ഫലത്തിൽ നിന്ന് കൂടുതൽ ശക്തമായ ഫലം ഉത്പാദിപ്പിക്കുന്നു. ഈ ആശയം ക്ലാസിക്കൽ മെഷീൻ-ലേണിംഗ് എഞ്ചിനിങ്ങിൽ നിന്നാണ്, അവിടെ വ്യത്യസ്ത മോഡലുകൾക്കിടയിൽ ശരാശരി എടുക്കൽ അല്ലെങ്കിൽ വോട്ടിംഗ് variance കുറയ്ക്കുകയും വ്യക്തിഗത പിഴവുകൾ റദ്ദാക്കുകയും ചെയ്യുന്നു. സൃഷ്ടിപരമായ മോഡലുകൾക്ക് പ്രയോഗിക്കുമ്പോൾ, എഞ്ചിനിങ്ങ് ഉത്തരം സംയോജിപ്പിക്കൽ, വോട്ടിംഗ് ചെയ്യൽ, അല്ലെങ്കിൽ പ്രതികരണങ്ങൾക്കിടയിൽ റൂട്ടിംഗ് ചെയ്യൽ എന്നതിനെ സൂചിപ്പിക്കുന്നു. കണക്കുകൂട്ടൽ എഞ്ചിനിങ്ങ് ഔട്ട്പുട്ടുകൾ ഒരു സമാഹാരത്തിലേക്ക് സംയോജിപ്പിക്കുന്നു — ശക്തതയെ മെച്ചപ്പെടുത്തുന്നു, എന്നാൽ വ്യക്തിഗത വാദങ്ങളും മോഡലുകൾക്കിടയിലെ യോജിപ്പും ഉപേക്ഷിക്കുന്നു. Argumentree.AI വ്യത്യസ്തമായ സമീപനം സ്വീകരിക്കുന്നു: ഔട്ട്പുട്ടുകൾ ശരാശരി ചെയ്യുന്നതിന് പകരം, ഓരോ മോഡലിന്റെ വ്യക്തിഗത വാദങ്ങൾ സംരക്ഷിക്കുന്നു, എല്ലാ ലഭ്യമായ മോഡലുകളും മറ്റൊരു മോഡലിന്റെ വാദങ്ങൾ റേറ്റുചെയ്യുന്നു, dissent ദൃശ്യമായിരിക്കുകയാണ്, അത് മൃദുവാക്കുന്നതിന് പകരം. ഏതെങ്കിലും തരത്തിലുള്ള എഞ്ചിനിങ്ങ് ടോക്കൺ ചെലവും ലേറ്റൻസിയും കൂട്ടുന്നു, കാരണം ഇത് നിരവധി മോഡലുകൾ പ്രവർത്തിക്കുന്നു — ഇത് യഥാർത്ഥ ശക്തതാ സാങ്കേതിക വിദ്യയാണ്, യഥാർത്ഥ ചെലവുമാണ്, സൗജന്യ അപ്ഗ്രേഡല്ല, കൂടാതെ ഒരു ആത്മവിശ്വാസമുള്ള ഏക മോഡൽ പിഴവ് പിടിക്കാൻ അധിക കംപ്യൂട്ടിന് വിലമതിക്കുന്ന ചോദ്യങ്ങൾക്കായി മികച്ചതാണ്.
ഒരു LLM ensemble നിരവധി ഭാഷാ മോഡലുകൾ സംയോജിപ്പിക്കുന്നു, അതിനാൽ അവരുടെ സ്വതന്ത്ര പിഴവുകൾ റദ്ദാക്കുന്നു. കണക്കുകൂട്ടൽ എഞ്ചിനിങ്ങ് ഔട്ട്പുട്ടുകൾ ഒരു സമാഹാരത്തിലേക്ക് സംയോജിപ്പിക്കുന്നു — Argumentree.AI ഓരോ മോഡലിന്റെ വാദങ്ങൾ ദൃശ്യമായും കൂട്ടുകാരുടെ റേറ്റിംഗിൽ സൂക്ഷിക്കുന്നു.
ഒരു LLM ensemble നിരവധി മോഡലുകൾ ചോദിക്കുന്നു, അവയെ ശക്തതയ്ക്കായി സംയോജിപ്പിക്കുന്നു. ക്ലാസിക് എഞ്ചിനിങ്ങ് ഔട്ട്പുട്ടുകൾ ഒരു സംയോജിത ഉത്തരത്തിലേക്ക് ശരാശരി ചെയ്യുന്നു അല്ലെങ്കിൽ വോട്ടിംഗ് ചെയ്യുന്നു. Argumentree.AI പകരം ഓരോ മോഡലിന്റെ വ്യക്തിഗത വാദങ്ങൾ സംരക്ഷിക്കുന്നു, മോഡലുകൾ പരസ്പരം റേറ്റുചെയ്യുന്നു — അതിനാൽ dissent ദൃശ്യമായിരിക്കുകയാണ്. എങ്ങനെ ആയാലും, നിരവധി മോഡലുകൾ പ്രവർത്തിക്കുന്നത് ഒരു മോഡലിനെക്കാൾ കൂടുതൽ ചെലവേറിയതാണ്.
എഞ്ചിനിങ്ങ് മെഷീൻ ലേണിംഗിലെ ഏറ്റവും പഴയ വിശ്വാസ്യതാ തന്ത്രങ്ങളിൽ ഒന്നാണ്: ഒരു ഏക മോഡലിനെ വിശ്വസിക്കുന്നതിന് പകരം, നിങ്ങൾ നിരവധി സംയോജിപ്പിക്കുന്നു. വ്യത്യസ്ത മോഡലുകൾ വ്യത്യസ്ത പിഴവുകൾ ഉണ്ടാക്കുന്നുവെന്നതിനാൽ, അവരുടെ പ്രവചനങ്ങൾ സംയോജിപ്പിക്കുന്നത് variance കുറയ്ക്കുകയും വ്യക്തിഗത പിഴവുകൾ റദ്ദാക്കുകയും ചെയ്യുന്നു. റാൻഡം ഫോറസ്റ്റുകളും ഗ്രേഡിയന്റ് ബൂസ്റ്റിംഗും എഞ്ചിനുകൾ ആണ്; മൂന്ന് ആളുകളോട് ചോദിച്ച് ഭൂരിപക്ഷത്തിന്റെ ഉത്തരവും അതുപോലെ.
ഒരു LLM ensemble വലിയ ഭാഷാ മോഡലുകൾക്ക് സമാനമായ ആശയം പ്രയോഗിക്കുന്നു. നിങ്ങൾ നിരവധി മോഡലുകൾ ചോദിക്കുന്നു — വ്യത്യസ്ത ഡാറ്റയിൽ വ്യത്യസ്ത ആർക്കിടെക്ചറുകളിൽ പരിശീലനം നേടിയവയെക്കുറിച്ച് — അവ അവർ ഉത്പാദിപ്പിക്കുന്നതിനെ സംയോജിപ്പിക്കുന്നു. സ്വതന്ത്ര മോഡലുകൾ ഏകീകരിക്കുമ്പോൾ, ആ യോജിപ്പ് ഒരു അർത്ഥവത്തായ ആത്മവിശ്വാസ സൂചനയാണ്. അവ വ്യത്യസ്തമായാൽ, നിങ്ങൾ ഒരു യഥാർത്ഥമായി അനിശ്ചിതമായ ചോദ്യത്തെ കണ്ടെത്തിയിട്ടുണ്ട്, ഒരു ഏക മോഡൽ അതിനെ തെറ്റായ ആത്മവിശ്വാസത്തോടെ മറച്ചുപിടിക്കും.
മോഡലുകൾ എങ്ങനെ സംയോജിപ്പിക്കുന്നു എന്നതാണ് സമീപനങ്ങൾ വ്യത്യസ്തമാകുന്നത്. ക്ലാസിക്കൽ മാർഗം കണക്കുകൂട്ടൽ ആണ്: ഔട്ട്പുട്ടുകൾ ശരാശരി ചെയ്യുക, ഭൂരിപക്ഷ വോട്ട് എടുക്കുക, അല്ലെങ്കിൽ "ശ്രേഷ്ഠ" മോഡലിലേക്ക് റൂട്ടുചെയ്യുക. അത് എല്ലാം ഒരു സമാഹാര ഫലത്തിലേക്ക് സംയോജിപ്പിക്കുന്നു.
സാങ്ക്യിക സമാഹാരങ്ങൾ ഔട്ട്പുട്ടുകൾ സംയോജിപ്പിക്കുന്നു — ഒരു ഉത്തരത്തിലേക്ക് ശരാശരി എടുക്കൽ അല്ലെങ്കിൽ വോട്ടിംഗ്, വ്യക്തിഗത വാദങ്ങൾ ഒഴിവാക്കുന്നു
ഒരു ഏക ലേബലിന് അല്ലെങ്കിൽ സ്കോറിന് ഇത് അനുയോജ്യമാണ്, എന്നാൽ ഏത് മോഡൽ എന്ത് പറഞ്ഞു എന്നതും എന്തുകൊണ്ടാണ് എന്ന് മറയ്ക്കുന്നു
Argumentree.AI ശരാശരിയാക്കുന്നതിന്റെ പകരം ഓരോ മോഡലിന്റെയും വ്യക്തിഗത വാദങ്ങൾ സംരക്ഷിക്കുന്നു
എല്ലാ ലഭ്യമായ മോഡലുകളും പിന്നീട് മറ്റൊരു മോഡലിന്റെ വാദങ്ങൾ റേറ്റുചെയ്യുന്നു (സഹപാഠി റേറ്റിംഗ്)
വിരോധം ദൃശ്യമായിരിക്കണം — നിങ്ങൾ മത്സരിക്കുന്ന അവകാശങ്ങൾ കാണുന്നു, മോഡലുകൾ എവിടെ വിഭജിക്കുന്നു എന്നതും
"ഈ മൈഗ്രേഷൻ പദ്ധതി ഉത്പാദനത്തിൽ പ്രവർത്തിക്കാൻ സുരക്ഷിതമാണോ?" എന്ന് ചോദിക്കുക. ഒരു കണക്കുകൂട്ടൽ എഞ്ചിനിങ്ങ് മോഡലുകൾ ശരാശരി ചെയ്ത് "72% സുരക്ഷിത" സ്കോറിലേക്ക് എത്തിച്ചേരാം — ശുചിത്വം, എന്നാൽ നിങ്ങൾക്ക് എന്തുകൊണ്ടാണ് എന്ന് അറിയില്ല. ഒരു സംരക്ഷിത വാദ സമീപനം നിങ്ങൾക്ക് ഏറ്റവും മോഡലുകൾ ഒരേ റോള്ബാക്ക് ഗ്യാപ് അടയാളപ്പെടുത്തിയതായി കാണിക്കുന്നു, എന്നാൽ മറ്റൊന്ന് വ്യത്യസ്തമായ ലോക്കിംഗ് ആശങ്ക ഉയർത്തുന്നു, മറ്റുള്ളവരെ മറക്കുന്നു. സംയോജിത സ്കോർ യഥാർത്ഥത്തിൽ പ്രാധാന്യമുള്ള രണ്ട് വാദങ്ങൾ മറച്ചുപിടിച്ചു.
നിങ്ങൾ അവയെ എങ്ങനെ സംയോജിപ്പിക്കുന്നുവെങ്കിലും, ഒരു എഞ്ചിനിങ്ങ് നിരവധി മോഡലുകൾ പ്രവർത്തിക്കുന്നു, അതിനാൽ ഇത് ഒരു ഏക വിളിക്കേക്കാൾ കൂടുതൽ ടോക്കണുകളും ലേറ്റൻസിയും കൂട്ടുന്നു. ഇത് ഒന്നിൽ നിന്ന് അറിവ് സൃഷ്ടിക്കുന്നതല്ല:
Argumentree.AI ശരാശ്രവാദങ്ങൾ ഇല്ലാതെ എഞ്ചിനിങ്ങിന്റെ ശക്തതാ ഗുണം സൂക്ഷിക്കുന്നു.
അനേകം മോഡലുകൾ സ്വതന്ത്രമായി ഉത്തരം നൽകുന്നു — വൈവിധ്യം ആണ് ലക്ഷ്യം
വ്യക്തിഗത പ്രോ/കോൺ വാദങ്ങൾ അടുക്കുന്നില്ല, ശരാശരിയിലേക്ക് സംയോജിപ്പിക്കുന്നില്ല
എല്ലാ ലഭ്യമായ മോഡലുകളും മറ്റൊരു മോഡലിന്റെ വാദങ്ങൾ റേറ്റുചെയ്യുന്നു
നിങ്ങൾ അംഗീകാരം ആത്മവിശ്വാസമായി കാണുന്നു, വ്യത്യാസം യഥാർത്ഥ ചോദ്യമായി
LLM എൻസംബർ പല ഭാഷാ മോഡലുകളുടെ ഔട്ട്പുട്ടുകൾ സംയോജിപ്പിച്ച് ഒരു ഫലമുണ്ടാക്കുന്നു, അത് ഒരു ഏക മോഡലിന്റെ തനിച്ചായ ഫലത്തിൽ നിന്ന് കൂടുതൽ ശക്തമായതാണ്. വ്യത്യസ്ത മോഡലുകൾക്കിടയിൽ ശരാശരി എടുക്കൽ അല്ലെങ്കിൽ വോട്ടിംഗ് ചെയ്യൽ വഴി വ്യത്യാസവും വ്യക്തിഗത പിശകുകളും കുറയ്ക്കുന്ന ക്ലാസിക്കൽ മെഷീൻ ലേണിംഗ് എൻസംബർ ചെയ്യലിൽ നിന്നാണ് ഈ ആശയം കടത്തിയെടുത്തത് — ഉൽപ്പന്ന മോഡലുകൾക്ക് അവരുടെ പ്രതികരണങ്ങൾ തമ്മിൽ സംയോജിപ്പിച്ച്, വോട്ടിംഗ് ചെയ്ത്, അല്ലെങ്കിൽ റൂട്ടിംഗ് ചെയ്യുന്നത്.
ഒരു ഏക മോഡൽ ഒരു കാഴ്ചപ്പാട് നൽകുന്നു, ഒരു ബ്ലൈൻഡ് സ്പോട്ടുകളുടെ ഒരു സെറ്റ് ഉപയോഗിച്ച്. ഒരു എൻസംബർ നിരവധി മോഡലുകൾക്ക് ചോദിക്കുന്നു — പലപ്പോഴും വ്യത്യസ്ത ഡാറ്റയിൽ വ്യത്യസ്ത ആർക്കിടെക്ചറുകളിൽ പരിശീലനം നേടിയ — അതിനാൽ അവരുടെ സ്വതന്ത്ര പിശകുകൾ ഭാഗികമായി റദ്ദാക്കുന്നു. മോഡലുകൾ ഏകീകരിക്കുമ്പോൾ, ആ സമ്മതം ഒരു ആത്മവിശ്വാസ സൂചനയാണ്; അവ വ്യത്യസ്തമായപ്പോൾ, ഒരു മോഡൽ മറച്ചുവച്ച ഒരു യഥാർത്ഥ അനിശ്ചിതമായ ചോദ്യം നിങ്ങൾക്ക് മുന്നിൽ വരുന്നു.
ക്ലാസിക് സ്റ്റാറ്റിസ്റ്റിക്കൽ എൻസംബർ ചെയ്യൽ അതെങ്ങനെ ചെയ്യുന്നു — ഇത് ശരാശരി എടുക്കുന്നു, വോട്ടിംഗ് ചെയ്യുന്നു, അല്ലെങ്കിൽ മറ്റേതെങ്കിലും രീതിയിൽ ഔട്ട്പുട്ടുകൾ ഒരു സംയോജിത ഫലത്തിലേക്ക് ലയിക്കുന്നു. ഇത് ശക്തി വർദ്ധിപ്പിക്കുന്നു, പക്ഷേ വ്യക്തിഗത തർക്കം കളഞ്ഞു: നിങ്ങൾക്ക് ഒരു മൃദുവായ ഉത്തരം ലഭിക്കുന്നു, എന്നാൽ ഏത് മോഡൽ എന്ത് പറഞ്ഞു, എന്തുകൊണ്ട് എന്ന് കാണാൻ നഷ്ടപ്പെടുന്നു. ഒരു ഏക ലേബലിന് അല്ലെങ്കിൽ സ്കോറിന് ഈ വ്യാപാരം ശരിയാണ്, എന്നാൽ തർക്കം തന്നെ നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉൾക്കാഴ്ചയാണ് എങ്കിൽ അതിനെ നിയന്ത്രിക്കുന്നത്.
ഔട്ട്പുട്ടുകൾ ഒരു സംയോജിത ഉത്തരം ആയി ശരാശരി എടുക്കുന്നതിന് പകരം, Argumentree.AI ഓരോ മോഡലിന്റെയും വ്യക്തിഗത വാദങ്ങൾ സംരക്ഷിക്കുന്നു, തുടർന്ന് എല്ലാ ലഭ്യമായ മോഡലുകളും മറ്റൊരു മോഡലിന്റെ വാദങ്ങൾ വിലയിരുത്തുന്നു. തർക്കം മൃദുവാക്കാതെ ദൃശ്യമായിരിക്കുകയാണ്, അതിനാൽ നിങ്ങൾക്ക് ഒരു സമാഹാര സ്കോർ മാത്രമല്ല, യഥാർത്ഥ മത്സരിക്കുന്ന അവകാശങ്ങളും മോഡലുകൾ എവിടെ വിഭജിക്കുന്നു എന്നതും കാണാം.
എൻസംബർ നിരവധി മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നു, അതിനാൽ ഇത് കൂടുതൽ ടോക്കണുകൾ ചെലവഴിക്കുന്നു, കൂടാതെ ഒരു ഏക വിളിക്കേക്കാൾ കൂടുതൽ വൈകിയിരിക്കുന്നു — ഇത് മാജിക് അല്ല, സൗജന്യവും അല്ല. ഒരു ഏക മോഡലിന്റെ ആത്മവിശ്വാസമുള്ള പിശകുകൾ പിടികൂടുന്നതോ, ഒരു അവകാശം എത്രത്തോളം തർക്കത്തിലാണെന്ന് അറിയുന്നതോ, അധിക കംപ്യൂട്ടിന്റെ മൂല്യത്തിൽ കൂടുതൽ വിലയുള്ള ഉയർന്ന-സ്റ്റേക്ക് ചോദ്യങ്ങൾക്ക് ഇത് ഫലപ്രദമാണ്. കുറഞ്ഞ-സ്റ്റേക്ക്, റൂട്ടിൻ ചോദ്യങ്ങൾക്ക് ഒരു ഏക മോഡൽ സാധാരണയായി ശരിയായ വിളിയാണ്.
ദ്രവ്യവ്യവസ്ഥയെ ശരാശരി ചെയ്യരുത്. ഓരോ മോഡലിന്റെ വാദങ്ങളും അവ എങ്ങനെ പരസ്പരം റേറ്റുചെയ്യുന്നു എന്നതും കാണുക.
സൗജന്യമായി ആരംഭിക്കുക