एजेन्टहरूको मिश्रण (MoA) एक तहबद्ध बहु-LLM आर्किटेक्चर हो जुन "एजेन्टहरूको मिश्रणले ठूलो भाषा मोडेल क्षमताहरू बढाउँछ" (arXiv:2406.04692) कागजमा प्रस्तुत गरिएको हो। MoA मा, धेरै मोडेलहरू एक तहमा प्रस्तावकको रूपमा कार्य गर्छन्; तिनीहरूको प्रतिक्रियाहरू एकत्रित गरिन्छ र अर्को तहमा संकलक मोडेलहरूमा पठाइन्छ, जसले परिष्कृत उत्तरलाई संश्लेषण गर्छ। थप तहहरूले परिष्करण दोहोर्याउँछन्। कागजले AlpacaEval 2.0, MT-Bench, र FLASK जस्ता प्राथमिकता-शैलीका मापदण्डहरूमा लाभहरू प्रदर्शन गर्दछ - मूल्याङ्कनकर्ताद्वारा मूल्याङ्कन गरिएका प्रतिक्रियाको गुणस्तरको मापन, तथ्यात्मक सटीकताको ग्यारेन्टी होइन। MoA ले टोकन लागतलाई पनि गुणा गर्छ र विलम्ब थप्छ किनकि यसले तहहरूमा धेरै मोडेल कलहरू चलाउँछ, र संकलनले वास्तविक असहमतिलाई समेट्न सक्छ। Argumentree.AI सम्बन्धित तर भिन्न छ: एक संश्लेषित उत्तरमा संकलन गर्नको सट्टा, यसले प्रत्येक मोडेलको व्यक्तिगत तर्कहरूलाई जोगाउँछ र प्रत्येक उपलब्ध मोडेलले अन्य मोडेलका तर्कहरूलाई मूल्याङ्कन गर्न दिन्छ, सहमति र असहमतिलाई छिपाउने सट्टा सतहमा ल्याउँछ।
एजेन्टहरूको मिश्रण (MoA) ले धेरै LLMs लाई सहकार्य गर्ने एजेन्टको रूपमा व्यवहार गर्छ - प्रस्तावकहरूले उम्मेदवार प्रतिक्रियाहरू उत्पन्न गर्छन्, संकलकहरूले तिनीहरूलाई एक परिष्कृत उत्तरमा संश्लेषण गर्छन्। यो वास्तविक व्यापार-सम्झौतासहितको वास्तविक प्रविधि हो, जादुई सटीकता स्विच होइन।
एजेन्टहरूको मिश्रण ले धेरै LLMs को तहहरू राख्छ: प्रस्तावक मोडेलहरूले उत्तरहरू ड्राफ्ट गर्छन्, संकलक मोडेलहरूले तिनीहरूलाई मर्ज गर्छन्। arXiv:2406.04692 कागजले प्राथमिकता मापदण्डहरूमा लाभहरू देखाउँछ (AlpacaEval, MT-Bench) - प्रतिक्रिया गुणस्तर, प्रमाणित तथ्यात्मक सटीकता होइन - र यसले एक मोडेलभन्दा बढी टोकन र विलम्बको लागत लाग्छ।
एजेन्टहरूको मिश्रण 2024 को कागजमा "एजेन्टहरूको मिश्रणले ठूलो भाषा मोडेल क्षमताहरू बढाउँछ" (arXiv:2406.04692) मा प्रस्तुत गरिएको थियो। मुख्य अवलोकन सहयोगिता हो: LLMs ले अन्य मोडेलहरूको आउटपुटहरू देख्न र निर्माण गर्न सक्दा राम्रो प्रतिक्रियाहरू उत्पादन गर्न झुकाव गर्छन् - यहाँसम्म कि व्यक्तिगत रूपमा कमजोर मोडेलहरू पनि। MoA ले त्यो अवलोकनलाई एक आर्किटेक्चरमा परिवर्तन गर्छ।
MoA तहहरूमा व्यवस्थित गरिएको छ। प्रत्येक तहमा धेरै LLM "एजेन्ट" समावेश छन्। एक तहका मोडेलहरूले प्रत्येकले एक प्रतिक्रिया उत्पन्न गर्छन्, ती प्रतिक्रियाहरू एकत्रित गरिन्छ र अर्को तहमा हस्तान्तरण गरिन्छ, जसका मोडेलहरूले संकलक को रूपमा कार्य गर्छन् जसले परिष्कृत र संश्लेषण गर्छन्। तहहरूलाई स्ट्याक गर्दा परिष्करण दोहोर्याउँछ।
केही मोडेलहरूले प्रत्येकले परत 1 मा स्वतन्त्र रूपमा प्रॉम्प्टको उत्तर दिन्छन्।
सबै परत-1 उत्पादनहरूलाई अर्को परतको लागि सन्दर्भ सामग्रीको रूपमा संकलन गरिन्छ।
परत-2 मोडेलहरूले उम्मेदवारहरूलाई पढ्छन् र एक परिष्कृत, एकीकृत उत्तर उत्पादन गर्छन्।
थप परतहरूले निरन्तर परिष्कृत गर्दै जान्छन्; अन्तिम संघटकले उत्तर निकाल्छ।
सोध्नुहोस् "हाम्रो API ले असिंक्रोनस कामको लागि 200 वा 202 फर्काउनु पर्छ?" तीन प्रस्तावक मोडेलहरूले प्रत्येकले REST परम्पराहरूलाई उद्धृत गर्दै उत्तर ड्राफ्ट गर्छन्। एक संकलकले तीनैलाई पढ्छ, दुईले स्थिति URL सहित 202 स्वीकृतलाई प्राथमिकता दिन्छन् र एकले 200 लाई प्राथमिकता दिन्छ, र प्रत्येकबाट सबैभन्दा बलियो तर्कलाई समेटेर एकल सिफारिसलाई संश्लेषण गर्छ। मिश्रित उत्तर राम्रोसँग पढिन्छ - तर यदि तीनैले एउटै गलत धारणा साझा गरे भने, संकलकले यसलाई आत्मविश्वासका साथ दोहोर्याउनेछ।
कागजले प्राथमिकता-शैलीका मापदण्डहरू - AlpacaEval 2.0, MT-Bench, र FLASK - मा बलियो परिणामहरू रिपोर्ट गर्दछ - जहाँ एक न्यायाधीश (धेरैजसो LLM वा मानव) मूल्याङ्कन गर्छ कि कुन प्रतिक्रिया बढी सहायक वा उच्च गुणस्तरको छ। यो विकासकर्ताहरूका लागि महत्त्वपूर्ण भिन्नता हो:
तीन बहु-मोडेल ढाँचा। एक विकासकर्ता रूपमा, तपाईंले के पठाउन आवश्यक छ भनेर चयन गर्नुहोस्: एक परिष्कृत उत्तर, वा दृश्य क्रस-मोडेल तर्क।
| ढाँचा | यसले के अनुकूलन गर्छ | तपाईंलाई के प्राप्त हुन्छ |
|---|---|---|
| एजेन्टहरूको मिश्रण | एक परिष्कृत मिश्रित उत्तर | संघटकहरूले प्रस्तावकका उत्पादनहरूलाई मर्ज गर्छन्; व्यक्तिगत दृष्टिकोणहरू संश्लेषणमा हराउँछन् |
| LLM परिषद | प्रत्येक मोडेलको पारदर्शी योगदान | प्रत्येक मोडेलको उत्तर दृश्यमा रहन्छ; मोडेलहरूले प्रायः एक अर्कालाई मूल्याङ्कन गर्छन् |
| बहु-LLM सहमति | सहमति + असहमतिको संकेत | मोडेलहरू कहाँ सहमत छन् (आत्मविश्वास) र भिन्नता (विवादित प्रश्न) मापन गर्छ |
आधारभूत नियम: जब तपाईंलाई एकल उत्तम उत्तर चाहिन्छ र टोकन/विलम्बको लागत तिर्न सक्नुहुन्छ भने MoA तर्फ पुग्नुहोस्; जब असहमतिलाई नै उत्पादनको रूपमा लिन्छ भने परिषद वा सहमति स्कोरिङ तर्फ पुग्नुहोस्।
Argumentree.AI ले MoA को पूर्वधार साझा गर्छ - धेरै मोडेलहरूले एकलाई हराउँछन् - तर यसले व्यक्तिगत आउटपुटहरूलाई मर्ज नगरी दृश्यमा राख्छ।
प्रत्येक मोडेलले स्वतन्त्र रूपमा उत्तर दिन्छ — कुनै प्रस्तावक/संघटक एक आवाजमा समाहित हुँदैन
व्यक्तिगत पक्ष/विपक्षका तर्कहरू तिनीहरूलाई बनाउने मोडेलसँग सम्बन्धित रहन्छन्
प्रत्येक उपलब्ध मोडेलले अन्य प्रत्येक मोडेलका तर्कहरूलाई मूल्याङ्कन गर्छ
तपाईंले सहमति आत्मविश्वासको रूपमा र असहमति वास्तविक प्रश्नको रूपमा देख्नुहुन्छ
एजेन्टहरूको मिश्रण (MoA) एक तहको संरचना हो जसमा धेरै ठूलो भाषा मोडेलहरूले एक तहमा प्रस्तावकको रूपमा कार्य गर्छन्, र तिनीहरूको उत्पादनहरू अर्को तहमा संघटक मोडेलहरूमा पठाइन्छ जसले एक परिष्कृत उत्तरको संश्लेषण गर्छ। 'एजेन्टहरूको मिश्रणले ठूलो भाषा मोडेल क्षमताहरूलाई सुधार्छ' (arXiv:2406.04692) कागजातमा प्रस्तुत गरिएको, यसले एकल मोडेलमा निर्भर गर्नको सट्टा धेरै LLMs लाई सहकारी एजेन्टको रूपमा व्यवहार गर्छ।
मूल MoA कागजातले AlpacaEval 2.0, MT-Bench र FLASK जस्ता प्राथमिकता-शैलीको मापदण्डमा लाभको रिपोर्ट गर्दछ, जहाँ एक न्यायाधीशले उत्तरको गुणस्तरलाई स्कोर गर्छ। ती प्राथमिकता र उपयोगिताको माप हुन्, तथ्यात्मक सटीकताको ग्यारेन्टी होइन। MoA ले अझै साझा तथ्यात्मक गल्ती दोहोर्याउँदा एक बढी परिष्कृत, राम्रो संरचित उत्तर उत्पादन गर्न सक्छ, त्यसैले यसलाई सत्यको ग्यारेन्टीको रूपमा व्यवहार गर्नु हुँदैन।
MoA ले धेरै मोडेलहरूलाई धेरै तहहरूमा चलाउँछ, त्यसैले यसले टोकन लागतलाई गुणा गर्छ र एकल मोडेल कलको तुलनामा ढिलाइ थप्छ। संघटक तहहरूले प्रस्तावकहरू बीचको वास्तविक असहमति पनि समेट्न सक्छ, जुन वास्तवमा देख्न लायक अल्पसंख्यक दृष्टिकोणहरूलाई लुकाउँछ। यो एक वास्तविक प्रविधि हो जसको वास्तविक लागत/ढिलाइ व्यापार-सम्झौता छ, न कि निःशुल्क अपग्रेड।
MoA एक संश्लेषण संरचना हो: प्रस्तावक मोडेलहरूले संघटकहरूलाई खुवाउँछन् जसले सबै कुरा एक परिष्कृत उत्तरमा मर्ज गर्छ। LLM परिषदले प्रत्येक मोडेलको योगदानलाई दृश्यमा राख्छ र प्रायः मोडेलहरूले एक अर्कालाई मूल्याङ्कन वा मूल्याङ्कन गर्छन्, त्यसैले तपाईंले तिनीहरू कहाँ असहमत छन् देख्न सक्नुहुन्छ। MoA एक बलियो मिश्रित उत्पादनको लागि अनुकूलित गर्दछ; परिषद व्यक्तिगत दृष्टिकोणहरूको पारदर्शिताको लागि अनुकूलित गर्दछ।
ठिक छैन। Argumentree.AI ले MoA को धारणा साझा गर्छ कि धेरै मोडेलहरूले एकलाई हराउँछन्, तर एकल संश्लेषित उत्तरमा संकलन गर्नको सट्टा यसले प्रत्येक मोडेलका व्यक्तिगत तर्कहरूलाई जोगाउँछ र प्रत्येक उपलब्ध मोडेलले अन्य प्रत्येक मोडेलका तर्कहरूलाई मूल्याङ्कन गर्छ। लक्ष्य सहमति र असहमति पारदर्शी रूपमा सतहमा ल्याउनु हो, न कि एक मर्ज गरिएको उत्तरको पछाडि व्यक्तिगत उत्पादनहरू लुकाउनु।
MoA मोडेलहरूलाई एक उत्तरमा मिश्रित गर्छ। Argumentree.AI ले प्रत्येक मोडेलका तर्कहरूलाई दृश्यमा राख्छ र सहकर्मी मूल्याङ्कन गर्छ।
निःशुल्क सुरु गर्नुहोस्