एजेंट्स का मिश्रण (MoA) एक परतदार बहु-LLM आर्किटेक्चर है जिसे "एजेंट्स का मिश्रण बड़े भाषा मॉडल की क्षमताओं को बढ़ाता है" (arXiv:2406.04692) पेपर में पेश किया गया था। MoA में, कई मॉडल एक परत में प्रस्तावक के रूप में कार्य करते हैं; उनके उत्तरों को एकत्रित किया जाता है और अगले परत में समेकक मॉडलों को भेजा जाता है, जो एक परिष्कृत उत्तर का संश्लेषण करते हैं। अतिरिक्त परतें परिष्करण को दोहराती हैं। पेपर ने AlpacaEval 2.0, MT-Bench, और FLASK जैसे प्राथमिकता-शैली बेंचमार्क पर लाभ दिखाए हैं - जो एक मूल्यांकनकर्ता द्वारा मूल्यांकित प्रतिक्रिया गुणवत्ता के उपाय हैं, तथ्यात्मक सटीकता की गारंटी नहीं। MoA टोकन लागत को भी बढ़ाता है और लेटेंसी जोड़ता है क्योंकि यह परतों के पार कई मॉडल कॉल चलाता है, और समेकन वास्तविक असहमति को चिकना कर सकता है। Argumentree.AI संबंधित लेकिन अलग है: यह एक संश्लेषित उत्तर में समेकित करने के बजाय प्रत्येक मॉडल के व्यक्तिगत तर्कों को बनाए रखता है और हर उपलब्ध मॉडल को हर अन्य मॉडल के तर्कों को रेट करने देता है, सहमति और असहमति को सामने लाता है बजाय उन्हें छिपाने के।
एजेंट्स का मिश्रण (MoA) कई LLMs को सहयोगी एजेंटों के रूप में मानता है - प्रस्तावक उम्मीदवार प्रतिक्रियाएँ उत्पन्न करते हैं, समेकक उन्हें एक परिष्कृत उत्तर में संश्लेषित करते हैं। यह एक वास्तविक तकनीक है जिसमें वास्तविक व्यापार-निष्कर्ष हैं, कोई जादुई सटीकता स्विच नहीं।
एजेंट्स का मिश्रण कई LLMs को परत करता है: प्रस्तावक मॉडल उत्तर तैयार करते हैं, समेकक मॉडल उन्हें मिलाते हैं। arXiv:2406.04692 पेपर प्राथमिकता बेंचमार्क (AlpacaEval, MT-Bench) पर लाभ दिखाता है - प्रतिक्रिया गुणवत्ता, न कि सिद्ध तथ्यात्मक सटीकता - और यह एक मॉडल की तुलना में अधिक टोकन और लेटेंसी की लागत करता है।
एजेंट्स का मिश्रण 2024 के पेपर "एजेंट्स का मिश्रण बड़े भाषा मॉडल की क्षमताओं को बढ़ाता है" (arXiv:2406.04692) में पेश किया गया था। मुख्य अवलोकन सहयोगिता है: LLMs बेहतर प्रतिक्रियाएँ उत्पन्न करते हैं जब वे अन्य मॉडलों के आउटपुट को देख सकते हैं और उन पर निर्माण कर सकते हैं - यहां तक कि वे मॉडल जो व्यक्तिगत रूप से कमजोर हैं। MoA उस अवलोकन को एक आर्किटेक्चर में बदलता है।
MoA परतों में व्यवस्थित है। प्रत्येक परत में कई LLM "एजेंट" होते हैं। एक परत के मॉडल प्रत्येक एक प्रतिक्रिया उत्पन्न करते हैं, उन प्रतिक्रियाओं को एकत्रित किया जाता है और अगले परत को सौंपा जाता है, जिसके मॉडल समेकक के रूप में कार्य करते हैं जो परिष्कृत और संश्लेषित करते हैं। परतों को स्टैक करना परिष्करण को दोहराता है।
कई मॉडल प्रत्येक स्वतंत्र रूप से परत 1 में प्रॉम्प्ट का उत्तर देते हैं।
सभी परत-1 आउटपुट को अगली परत के लिए संदर्भ सामग्री के रूप में एकत्र किया जाता है।
परत-2 मॉडल उम्मीदवारों को पढ़ते हैं और एक परिष्कृत, संयुक्त प्रतिक्रिया उत्पन्न करते हैं।
अतिरिक्त परतें परिष्कृत करती रहती हैं; एक अंतिम संघटक उत्तर जारी करता है।
पूछें "क्या हमारी API एक असिंक्रोनस कार्य के लिए 200 या 202 लौटाना चाहिए?" तीन प्रस्तावक मॉडल प्रत्येक REST मानकों का हवाला देते हुए एक उत्तर तैयार करते हैं। एक समेकक सभी तीन को पढ़ता है, देखता है कि दो 202 स्वीकार किए गए के साथ एक स्थिति URL को पसंद करते हैं और एक 200 को पसंद करता है, और प्रत्येक से सबसे मजबूत तर्क को शामिल करते हुए एक सिंगल सिफारिश का संश्लेषण करता है। मिश्रित उत्तर अच्छा लगता है - लेकिन अगर तीनों ने एक ही गलत धारणा साझा की, तो समेकक इसे आत्मविश्वास से दोहराएगा।
पेपर प्राथमिकता-शैली बेंचमार्क - AlpacaEval 2.0, MT-Bench, और FLASK पर मजबूत परिणाम रिपोर्ट करता है - जहाँ एक न्यायाधीश (अक्सर एक LLM या मानव) यह स्कोर करता है कि कौन सी प्रतिक्रिया अधिक सहायक या उच्च गुणवत्ता की है। यह डेवलपर्स के लिए एक महत्वपूर्ण भेद है:
तीन बहु-मॉडल पैटर्न। एक डेवलपर के रूप में, वह चुनें जो आपको भेजने की आवश्यकता है: एक परिष्कृत उत्तर, या दृश्य क्रॉस-मॉडल तर्क।
| पैटर्न | यह क्या अनुकूलित करता है | आपको क्या मिलता है |
|---|---|---|
| एजेंटों का मिश्रण | एक परिष्कृत मिश्रित उत्तर | संघटक प्रस्तावक आउटपुट को मिलाते हैं; व्यक्तिगत दृष्टिकोण संश्लेषण में गायब हो जाते हैं |
| एलएलएम परिषद | प्रति-मॉडल योगदान की पारदर्शिता | प्रत्येक मॉडल का उत्तर दृश्य में रहता है; मॉडल अक्सर एक-दूसरे का मूल्यांकन करते हैं |
| मल्टी-एलएलएम सहमति | सहमति + असहमति संकेत | मापता है कि मॉडल कहाँ सहमत होते हैं (आत्मविश्वास) और कहाँ भिन्न होते हैं (विवादित प्रश्न) |
आम नियम: जब आप सबसे अच्छा उत्तर चाहते हैं और टोकन/लेटेंसी लागत चुका सकते हैं, तो MoA के लिए पहुंचें; जब असहमति स्वयं उत्पाद है, तो परिषद या सहमति स्कोरिंग के लिए पहुंचें।
Argumentree.AI MoA के सिद्धांत को साझा करता है - कई मॉडल एक को हराते हैं - लेकिन व्यक्तिगत आउटपुट को मिलाने के बजाय दृश्य बनाए रखता है।
प्रत्येक मॉडल स्वतंत्र रूप से उत्तर देता है - कोई प्रस्तावक/संघटक एक आवाज में नहीं मिलते
व्यक्तिगत पक्ष/विपक्ष के तर्क उस मॉडल के लिए जिम्मेदार रहते हैं जिसने उन्हें बनाया
हर उपलब्ध मॉडल हर दूसरे मॉडल के तर्कों को रेट करता है
आप सहमति को आत्मविश्वास के रूप में और असहमति को वास्तविक प्रश्न के रूप में देखते हैं
एजेंटों का मिश्रण (MoA) एक स्तरित आर्किटेक्चर है जिसमें कई बड़े भाषा मॉडल एक परत में प्रस्तावक के रूप में कार्य करते हैं, और उनके आउटपुट को अगली परत में संघटक मॉडलों को भेजा जाता है जो एक परिष्कृत प्रतिक्रिया का संश्लेषण करते हैं। इसे 'एजेंटों का मिश्रण बड़े भाषा मॉडल क्षमताओं को बढ़ाता है' (arXiv:2406.04692) पेपर में पेश किया गया था, यह कई LLMs को सहयोगी एजेंटों के रूप में मानता है न कि एकल मॉडल पर निर्भर करता है।
मूल MoA पेपर ने प्राथमिकता-शैली के बेंचमार्क जैसे AlpacaEval 2.0, MT-Bench और FLASK पर लाभ की रिपोर्ट की है, जहाँ एक न्यायाधीश प्रतिक्रिया की गुणवत्ता को स्कोर करता है। ये प्राथमिकता और सहायकता के माप हैं, तथ्यात्मक सटीकता की गारंटी नहीं। MoA एक अधिक परिष्कृत, बेहतर-संरचित उत्तर उत्पन्न कर सकता है जबकि फिर भी एक साझा तथ्यात्मक त्रुटि को दोहराता है, इसलिए इसे सत्य की गारंटी के रूप में नहीं माना जाना चाहिए।
MoA कई मॉडल को कई परतों में चलाता है, इसलिए यह टोकन लागत को गुणा करता है और एकल मॉडल कॉल की तुलना में विलंबता जोड़ता है। संघटक परतें प्रस्तावकों के बीच वास्तविक असहमति को भी चिकना कर सकती हैं, उन अल्पसंख्यक दृष्टिकोणों को छिपा सकती हैं जो वास्तव में देखने के लायक थे। यह एक वास्तविक तकनीक है जिसमें वास्तविक लागत/विलंबता का व्यापार है, यह कोई मुफ्त अपग्रेड नहीं है।
MoA एक संश्लेषण आर्किटेक्चर है: प्रस्तावक मॉडल संघटकों को खिलाते हैं जो सब कुछ एक परिष्कृत उत्तर में मिलाते हैं। एक एलएलएम परिषद प्रत्येक मॉडल के योगदान को दृश्य में रखती है और अक्सर मॉडल एक-दूसरे का मूल्यांकन या रेट करते हैं, ताकि आप देख सकें कि वे कहाँ असहमत हैं। MoA एक मजबूत मिश्रित आउटपुट के लिए अनुकूलित है; एक परिषद व्यक्तिगत दृष्टिकोणों की पारदर्शिता के लिए अनुकूलित है।
बिल्कुल नहीं। Argumentree.AI MoA के उस सिद्धांत को साझा करता है कि कई मॉडल एक से बेहतर हैं, लेकिन एक एकल संश्लेषित उत्तर में एकत्रित करने के बजाय यह प्रत्येक मॉडल के व्यक्तिगत तर्कों को संरक्षित करता है और हर उपलब्ध मॉडल को हर दूसरे मॉडल के तर्कों को रेट करने देता है। लक्ष्य सहमति और असहमति को पारदर्शी रूप से सतह पर लाना है, न कि एक संयुक्त प्रतिक्रिया के पीछे व्यक्तिगत आउटपुट को छिपाना।
MoA मॉडलों को एक उत्तर में मिलाता है। Argumentree.AI हर मॉडल के तर्कों को दृश्य और पीयर-रेटेड बनाए रखता है।
मुफ्त शुरू करें