મિશ્રણ-ઓફ-એજન્ટ્સ (MoA) એ એક સ્તરબદ્ધ મલ્ટી-LLM આર્કિટેક્ચર છે જે કાગળ "મિશ્રણ-ઓફ-એજન્ટ્સ મોટા ભાષા મોડલની ક્ષમતાઓને વધારવા" (arXiv:2406.04692) માં રજૂ કરવામાં આવ્યું હતું. MoA માં, અનેક મોડલ એક સ્તરમાં પ્રસ્તાવક તરીકે કાર્ય કરે છે; તેમના પ્રતિસાદો જોડાય છે અને આગામી સ્તરમાં સંકલક મોડલને મોકલવામાં આવે છે, જે એક સુધારેલ જવાબ સંશ્લેષણ કરે છે. વધારાના સ્તરો સુધારણાને પુનરાવર્તિત કરે છે. કાગળ AlpacaEval 2.0, MT-Bench, અને FLASK જેવા પસંદગી-શૈલીના બેંચમાર્ક્સ પર લાભ દર્શાવે છે - જે પ્રતિસાદની ગુણવત્તાના માપ છે જે એક મૂલ્યાંકક દ્વારા જજ કરવામાં આવે છે, વાસ્તવિક ચોકસાઈની ખાતરી નથી. MoA ટોકન ખર્ચને પણ ગુણાકાર કરે છે અને લેટન્સી ઉમેરે છે કારણ કે તે સ્તરોમાં ઘણા મોડલ કોલ્સ ચલાવે છે, અને સંકલન વાસ્તવિક અસહમતિને સમતલ કરી શકે છે. Argumentree.AI સંબંધિત પરંતુ અલગ છે: એક સંકલિત જવાબમાં સંકલિત કરવા બદલે, તે દરેક મોડલના વ્યક્તિગત દલીલને જાળવે છે અને દરેક ઉપલબ્ધ મોડલને દરેક અન્ય મોડલના દલીલને રેટ કરવા દે છે, સંમતિ અને અસહમતિને બહાર લાવે છે તેના બદલે તેને છુપાવે છે.
મિશ્રણ-ઓફ-એજન્ટ્સ (MoA) અનેક LLMs ને સહયોગી એજન્ટ તરીકે માન્ય રાખે છે - પ્રસ્તાવક ઉમેદવારો ઉત્પન્ન કરે છે, સંકલક તેમને એક સુધારેલ જવાબમાં સંશ્લેષણ કરે છે. આ એક વાસ્તવિક તકનીક છે જે વાસ્તવિક વેપાર-ઓફ્સ સાથે છે, જાદુઈ ચોકસાઈ સ્વિચ નથી.
મિશ્રણ-ઓફ-એજન્ટ્સ અનેક LLMs ને સ્તરબદ્ધ કરે છે: પ્રસ્તાવક મોડલ જવાબો ડ્રાફ્ટ કરે છે, સંકલક મોડલ તેમને મર્જ કરે છે. arXiv:2406.04692 કાગળ પસંદગીના બેંચમાર્ક્સ (AlpacaEval, MT-Bench) પર લાભ દર્શાવે છે - પ્રતિસાદની ગુણવત્તા, સાબિત થયેલી વાસ્તવિક ચોકસાઈ નથી - અને તે એક મોડલ કરતાં વધુ ટોકન અને લેટન્સી ખર્ચ કરે છે.
મિશ્રણ-ઓફ-એજન્ટ્સ 2024 ના કાગળમાં રજૂ કરવામાં આવ્યું હતું "મિશ્રણ-ઓફ-એજન્ટ્સ મોટા ભાષા મોડલની ક્ષમતાઓને વધારવા" (arXiv:2406.04692). મુખ્ય અવલોકન છે સહયોગીતા: LLMs વધુ સારી પ્રતિસાદ ઉત્પન્ન કરવા માટે વધુ સારી રીતે કાર્ય કરે છે જ્યારે તેઓ અન્ય મોડલના આઉટપુટને જોઈ શકે છે અને તેના પર આધારિત બની શકે છે - ભલે તે મોડલ વ્યક્તિગત રીતે નબળા હોય. MoA આ અવલોકનને એક આર્કિટેક્ચરમાં ફેરવે છે.
MoA ને સ્તરોમાં ગોઠવવામાં આવ્યું છે. દરેક સ્તરમાં અનેક LLM "એજન્ટ" હોય છે. એક સ્તરના મોડલ દરેકે એક પ્રતિસાદ ઉત્પન્ન કરે છે, તે પ્રતિસાદો જોડાય છે અને આગામી સ્તરને આપવામાં આવે છે, જેના મોડલ સંકલક તરીકે કાર્ય કરે છે જે સુધારે છે અને સંશ્લેષણ કરે છે. સ્તરોને સ્ટેક કરવાથી સુધારણાને પુનરાવર્તિત કરે છે.
કેટલાક મોડેલો દરેકે પોતાના સ્તરે 1માં પ્રોમ્પ્ટનો સ્વતંત્ર રીતે જવાબ આપે છે.
બધા સ્તર-1ના આઉટપુટને આગામી સ્તર માટે સંદર્ભ સામગ્રી તરીકે એકત્રિત કરવામાં આવે છે.
સ્તર-2ના મોડેલોએ ઉમેદવારોને વાંચી અને એક પરિષ્કૃત, મર્જ કરેલ જવાબ ઉત્પન્ન કરે છે.
વધુ સ્તરો સતત પરિષ્કૃત કરે છે; એક અંતિમ એકત્રક જવાબ આપે છે.
પૂછો "શું અમારી API એ અસિંક્રોનસ નોકરી સ્વીકારવા માટે 200 અથવા 202 પરત આપવી જોઈએ?" ત્રણ પ્રસ્તાવક મોડલ દરેક REST પરંપરાઓનો ઉલ્લેખ કરીને જવાબ ડ્રાફ્ટ કરે છે. એક સંકલક ત્રણેયને વાંચે છે, બે 202 સ્વીકારેલા સાથે સ્થિતિ URL ને પ્રાધાન્ય આપે છે અને એક 200 ને પ્રાધાન્ય આપે છે, અને દરેકમાંથી સૌથી મજબૂત તર્કને વળગતી એક ભલામણ સંશ્લેષણ કરે છે. મિશ્રિત જવાબ સારી રીતે વાંચાય છે - પરંતુ જો ત્રણેયને સમાન ભૂલ હોય, તો સંકલક તેને આત્મવિશ્વાસથી પુનરાવર્તિત કરશે.
કાગળ પસંદગી-શૈલીના બેંચમાર્ક્સ - AlpacaEval 2.0, MT-Bench, અને FLASK પર મજબૂત પરિણામો દર્શાવે છે - જ્યાં એક જજ (અવારનવાર LLM અથવા માનવ) આંકે છે કે કયો પ્રતિસાદ વધુ મદદરૂપ અથવા ઉચ્ચ ગુણવત્તાનો છે. તે ડેવલપર્સ માટે એક મહત્વપૂર્ણ ભેદ છે:
ત્રણ મલ્ટી-મોડલ પેટર્ન. એક ડેવલપર તરીકે, તમે જે શિપ કરવા માંગો છો તે મુજબ પસંદ કરો: એક પૉલિશ્ડ જવાબ, અથવા દૃશ્યમાન ક્રોસ-મોડલ તર્ક.
| પેટર્ન | તે શું ઑપ્ટિમાઇઝ કરે છે | તમે શું મેળવો છો |
|---|---|---|
| એજન્ટોનું મિશ્રણ | એક પરિષ્કૃત મિશ્રિત જવાબ | એકત્રકો પ્રસ્તાવકના આઉટપુટને મર્જ કરે છે; વ્યક્તિગત દૃષ્ટિકોણ સંશ્લેષણમાં ગુમ થાય છે |
| એલએલએમ કાઉન્સિલ | પ્રતિમોડેલ યોગદાન પારદર્શક | દરેક મોડેલનો જવાબ દૃષ્ટિમાં રહે છે; મોડેલો ઘણીવાર એકબીજાને મૂલ્યાંકન કરે છે |
| મલ્ટી-એલએલએમ સંમતિ | સહમતિ + અસહમતિ સંકેત | ક્યાં મોડેલો સહમત થાય છે (આત્મવિશ્વાસ) અને ક્યાં વિભાજિત થાય છે (વિવાદિત પ્રશ્ન) તે માપે છે |
નિયમ: જ્યારે તમે એક જ શ્રેષ્ઠ જવાબ મેળવવા માંગો છો અને ટોકન/લેટન્સી ખર્ચ ચૂકવવા માટે તૈયાર છો ત્યારે MoA માટે પહોંચો; જ્યારે અસહમતિ પોતે ઉત્પાદન હોય ત્યારે કાઉન્સિલ અથવા સંમતિ સ્કોરિંગ માટે પહોંચો.
Argumentree.AI MoA ના ધોરણને શેર કરે છે - અનેક મોડલ એકને હરાવે છે - પરંતુ તે વ્યક્તિગત આઉટપુટને દૃશ્યમાન રાખે છે તેના બદલે તેમને મર્જ કરે છે.
દરેક મોડેલ સ્વતંત્ર રીતે જવાબ આપે છે - કોઈ પ્રસ્તાવક/એકત્રક એક જ અવાજમાં વિલીન નથી થાય
વ્યક્તિગત પ્રો/કોન દલીલો તે મોડેલને સંબોધિત રહે છે જેનાથી તે બનાવવામાં આવી હતી
દરેક ઉપલબ્ધ મોડેલ દરેક અન્ય મોડેલની દલીલોને રેટ કરે છે
તમે સહમતિને આત્મવિશ્વાસ અને અસહમતિને વાસ્તવિક પ્રશ્ન તરીકે જુઓ છો
એજન્ટોનું મિશ્રણ (MoA) એક સ્તરવાળી આર્કિટેક્ચર છે જેમાં ઘણા મોટા ભાષા મોડેલો એક સ્તરમાં પ્રસ્તાવક તરીકે કાર્ય કરે છે, અને તેમના આઉટપુટને આગામી સ્તરમાં એકત્રક મોડેલોમાં પસાર કરવામાં આવે છે જે એક પરિષ્કૃત જવાબ સંશ્લેષણ કરે છે. 'એજન્ટોનું મિશ્રણ મોટા ભાષા મોડેલની ક્ષમતાઓને વધારતું છે' (arXiv:2406.04692) પેપરમાં રજૂ કરવામાં આવ્યું, તે એક જ મોડેલ પર આધાર રાખવા કરતાં અનેક એલએલએમને સહયોગી એજન્ટો તરીકે માન્ય રાખે છે.
મૂળ MoA પેપર પ્રાથમિકતા-શૈલીના બંચમાર્ક્સ જેમ કે AlpacaEval 2.0, MT-Bench અને FLASK પર લાભોની જાણ કરે છે, જ્યાં એક જજ જવાબની ગુણવત્તાને સ્કોર કરે છે. તે પ્રાથમિકતા અને મદદરૂપતા માપ છે, તથ્યની ચોકસાઈની ખાતરી નથી. MoA વધુ પૉલિશ કરેલ, વધુ સારી રીતે રચાયેલ જવાબ ઉત્પન્ન કરી શકે છે જ્યારે તે હજુ પણ એક શેર કરેલ તથ્યની ભૂલને પુનરાવર્તિત કરે છે, તેથી તેને સત્યની ખાતરી તરીકે માનવામાં આવવું જોઈએ નહીં.
MoA ઘણા મોડેલોને અનેક સ્તરોમાં ચલાવે છે, તેથી તે ટોકન ખર્ચને ગુણાકાર કરે છે અને એક જ મોડેલ કોલની તુલનામાં વિલંબ ઉમેરે છે. એકત્રક સ્તરો પ્રસ્તાવકો વચ્ચેની સાચી અસહમતિને પણ સમતલ કરી શકે છે, જેનાથી મિનોરિટી દૃષ્ટિકોણ છુપાય છે જે ખરેખર જોવા માટે મૂલ્યવાન હતા. તે એક વાસ્તવિક તકનીક છે જેમાં વાસ્તવિક ખર્ચ/વિલંબનો વેપાર છે, તે કોઈ મફત અપગ્રેડ નથી.
MoA એક સંશ્લેષણ આર્કિટેક્ચર છે: પ્રસ્તાવક મોડેલો એકત્રકોને ખોરાક આપે છે જે બધાને એક પરિષ્કૃત જવાબમાં મર્જ કરે છે. એક એલએલએમ કાઉન્સિલ દરેક મોડેલના યોગદાનને દૃષ્ટિમાં રાખે છે અને ઘણીવાર મોડેલો એકબીજાને મૂલ્યાંકન અથવા રેટ કરે છે, જેથી તમે જોઈ શકો છો કે તેઓ ક્યાં અસહમત થાય છે. MoA એક મજબૂત મિશ્રિત આઉટપુટ માટે ઑપ્ટિમાઇઝ કરે છે; એક કાઉન્સિલ વ્યક્તિગત દૃષ્ટિકોણોની પારદર્શકતાના માટે ઑપ્ટિમાઇઝ કરે છે.
બિલકુલ નહીં. Argumentree.AI એ MoA ના ધોરણને શેર કરે છે કે અનેક મોડેલો એકને હરાવે છે, પરંતુ એક જ સંશ્લેષિત જવાબમાં એકત્રિત થવા બદલે તે દરેક મોડેલની વ્યક્તિગત દલીલોને જાળવે છે અને દરેક ઉપલબ્ધ મોડેલને દરેક અન્ય મોડેલની દલીલોને રેટ કરાવે છે. ઉદ્દેશ એ છે કે સંમતિ અને અસહમતિને પારદર્શક રીતે સપાટી પર લાવવું, એક મર્જ કરેલ જવાબ પાછળ વ્યક્તિગત આઉટપુટને છુપાવવું નહીં.
MoA મોડલને એક જવાબમાં મિશ્રિત કરે છે. Argumentree.AI દરેક મોડલના દલીલને દૃશ્યમાન અને પિયર-રેટેડ રાખે છે.
મફત શરૂ કરો