एजंट्सचा मिश्रण (MoA) हा "एजंट्सचा मिश्रण मोठ्या भाषेच्या मॉडेल क्षमतांना सुधारतो" (arXiv:2406.04692) या कागदात सादर केलेला थरित बहु-LLM आर्किटेक्चर आहे. MoA मध्ये, अनेक मॉडेल्स एका थरात प्रस्तावक म्हणून कार्य करतात; त्यांच्या प्रतिसादांना एकत्रित केले जाते आणि पुढील थरात एकत्रित करणाऱ्या मॉडेल्सकडे पाठवले जाते, जे एक सुधारित उत्तर तयार करतात. अतिरिक्त थर सुधारणा पुन्हा करतात. कागदाने AlpacaEval 2.0, MT-Bench, आणि FLASK सारख्या प्राधान्य-शैलीच्या मानकांवर लाभ दर्शवले आहेत - मूल्यांकन करणाऱ्याद्वारे न्यायाधीश केलेल्या प्रतिसादाच्या गुणवत्तेचे मोजमाप, तथ्यात्मक अचूकतेची हमी नाही. MoA टोकन खर्च वाढवतो आणि उशीर वाढवतो कारण तो अनेक मॉडेल कॉल्स थरांमध्ये चालवतो, आणि एकत्रीकरण वास्तविक असहमतीवर चांगले परिणाम करू शकते. Argumentree.AI संबंधित आहे पण भिन्न आहे: एकत्रित उत्तरात एकत्रित करण्याऐवजी, प्रत्येक मॉडेलच्या वैयक्तिक तर्कांना जपते आणि प्रत्येक उपलब्ध मॉडेलला प्रत्येक इतर मॉडेलच्या तर्कांचे मूल्यांकन करण्यास सांगते, सहमती आणि असहमती उघड करते.
एजंट्सचा मिश्रण (MoA) अनेक LLMs ला सहकार्य करणाऱ्या एजंट्स म्हणून मानतो - प्रस्तावक उमेदवारी प्रतिसाद तयार करतात, एकत्रित करणारे त्यांना एक सुधारित उत्तरात एकत्रित करतात. हे एक वास्तविक तंत्र आहे ज्यामध्ये वास्तविक व्यापार आहे, जादूची अचूकता स्विच नाही.
एजंट्सचा मिश्रण अनेक LLMs थरित करतो: प्रस्तावक मॉडेल्स उत्तर तयार करतात, एकत्रित करणारे मॉडेल्स त्यांना एकत्र करतात. arXiv:2406.04692 कागद प्राधान्य मानकांवर (AlpacaEval, MT-Bench) लाभ दर्शवतो - प्रतिसादाची गुणवत्ता, सिद्ध तथ्यात्मक अचूकता नाही - आणि याला एकाच मॉडेलपेक्षा अधिक टोकन आणि उशीर लागतो.
एजंट्सचा मिश्रण 2024 च्या कागदात "एजंट्सचा मिश्रण मोठ्या भाषेच्या मॉडेल क्षमतांना सुधारतो" (arXiv:2406.04692) सादर केला गेला. मुख्य निरीक्षण सहकार्यशीलता आहे: LLMs इतर मॉडेल्सच्या आउटपुट्सवर पाहून आणि त्यावर आधारित उत्तम प्रतिसाद तयार करतात - अगदी व्यक्तिशः कमी शक्तिशाली मॉडेल्ससुद्धा. MoA त्या निरीक्षणाला आर्किटेक्चरमध्ये बदलतो.
MoA थरांमध्ये आयोजित केले आहे. प्रत्येक थरात अनेक LLM "एजंट्स" असतात. एका थरातील मॉडेल्स प्रत्येक एक प्रतिसाद तयार करतात, त्या प्रतिसादांना एकत्रित केले जाते आणि पुढील थरात दिले जाते, ज्याचे मॉडेल्स एकत्रित करणारे म्हणून कार्य करतात जे सुधारित आणि एकत्रित करतात. थरांची रचना सुधारणा पुन्हा करते.
काही मॉडेल्स प्रत्येकाने स्वतंत्रपणे लेयर 1 मध्ये प्रॉम्प्टला उत्तर देतात.
सर्व लेयर-1 आउटपुट्स पुढील लेयरसाठी संदर्भ सामग्री म्हणून एकत्रित केले जातात.
लेयर-2 मॉडेल्स उमेदवार वाचतात आणि एक परिष्कृत, एकत्रित उत्तर तयार करतात.
अतिरिक्त लेयर परिष्कृत करणे सुरू ठेवतात; अंतिम एकत्रित करणारा उत्तर देतो.
पुच्छा करा "आमचा API 200 किंवा 202 परत करावा का एक असिंक्रोनस काम स्वीकारले?" तीन प्रस्तावक मॉडेल्स प्रत्येक REST संकल्पनांचा उल्लेख करून उत्तर तयार करतात. एक एकत्रित करणारा सर्व तीन वाचतो, दोन 202 स्वीकारलेले एक स्थिती URL सह पसंत करतात आणि एक 200 पसंत करतो, आणि प्रत्येकाकडून सर्वात मजबूत तर्क समाविष्ट करून एक एकल शिफारस एकत्रित करतो. मिश्रित उत्तर चांगले वाचन करते - पण जर सर्व तीन समान गोंधळात असतील, तर एकत्रित करणारा आत्मविश्वासाने ते पुन्हा सांगेल.
कागद प्राधान्य-शैलीच्या मानकांवर - AlpacaEval 2.0, MT-Bench, आणि FLASK - मजबूत परिणाम दर्शवतो - जिथे एक न्यायाधीश (अनेकदा एक LLM किंवा मानव) कोणता प्रतिसाद अधिक उपयुक्त किंवा उच्च गुणवत्तेचा आहे हे स्कोअर करतो. हे विकासकांसाठी एक महत्त्वाची भेद आहे:
तीन बहु-मॉडेल पॅटर्न. एक विकासक म्हणून, तुम्हाला जे आवश्यक आहे त्यानुसार निवडा: एक पॉलिश केलेले उत्तर, किंवा दृश्यमान क्रॉस-मॉडेल तर्क.
| पॅटर्न | हे काय ऑप्टिमाइझ करते | तुम्हाला काय मिळते |
|---|---|---|
| एजंट्सचा मिश्रण | एक परिष्कृत मिश्रित उत्तर | एकत्रित करणारे प्रस्तावकांचे आउटपुट एकत्र करतात; वैयक्तिक दृश्ये संश्लेषणात गायब होतात |
| LLM परिषद | प्रत्येक मॉडेलचा पारदर्शक योगदान | प्रत्येक मॉडेलचे उत्तर दृश्यमान राहते; मॉडेल्स एकमेकांचे मूल्यांकन करतात |
| मल्टी-LLM सहमती | सहमती + असहमती संकेत | मॉडेल्स जिथे सहमत आहेत (आत्मविश्वास) आणि जिथे भिन्न आहेत (विवादित प्रश्न) याचे प्रमाणित करते |
अंगठ्याचा नियम: तुम्हाला एकच सर्वोत्तम उत्तर हवे असल्यास आणि टोकन/उशीर खर्च भरण्यासाठी तयार असाल तर MoA कडे जा; असहमती स्वतः उत्पादन असल्यास परिषद किंवा सहमती स्कोअर कडे जा.
Argumentree.AI MoA चा सिद्धांत सामायिक करतो - अनेक मॉडेल एकावर मात करतात - पण एकत्रित करण्याऐवजी प्रत्येक मॉडेलच्या वैयक्तिक आउटपुट्सला दृश्यमान ठेवतो.
प्रत्येक मॉडेल स्वतंत्रपणे उत्तर देते - कोणतीही प्रस्तावक/एकत्रित करणारी एक आवाजात एकत्रित होत नाही
वैयक्तिक समर्थन/विरोध तर्क त्या मॉडेलला श्रेय दिले जातात जेने त्यांना तयार केले
प्रत्येक उपलब्ध मॉडेल प्रत्येक इतर मॉडेलच्या तर्कांना रेट करते
आपण सहमतीला आत्मविश्वास म्हणून आणि असहमतीला खरा प्रश्न म्हणून पाहता
एजंट्सचा मिश्रण (MoA) एक स्तरित आर्किटेक्चर आहे ज्यामध्ये अनेक मोठे भाषा मॉडेल्स एका स्तरात प्रस्तावक म्हणून कार्य करतात, आणि त्यांचे आउटपुट पुढील स्तरात एकत्रित करणारे मॉडेल्सकडे जातात जे एक परिष्कृत उत्तर संश्लेषित करतात. 'एजंट्सचा मिश्रण मोठ्या भाषा मॉडेल क्षमतांना सुधारतो' (arXiv:2406.04692) या कागदात सादर केले, हे एकाच मॉडेलवर अवलंबून राहण्याऐवजी अनेक LLMs सहकार्य करणारे एजंट म्हणून मानते.
मूळ MoA कागद आवड-शैलीच्या बेंचमार्कवर जसे की AlpacaEval 2.0, MT-Bench आणि FLASK वर लाभांची माहिती देतो, जिथे एक न्यायाधीश उत्तराची गुणवत्ता स्कोअर करतो. हे आवड आणि उपयुक्ततेचे मोजमाप आहेत, तथ्यात्मक अचूकतेची हमी नाही. MoA एक अधिक पॉलिश, चांगल्या प्रकारे संरचित उत्तर तयार करू शकतो तरीही एक सामायिक तथ्यात्मक चूक पुन्हा करतो, त्यामुळे याला सत्याची हमी म्हणून विचारले जाऊ नये.
MoA अनेक मॉडेल्सना अनेक स्तरांमध्ये चालवतो, त्यामुळे तो टोकन खर्च वाढवतो आणि एकाच मॉडेल कॉलच्या तुलनेत विलंब वाढवतो. एकत्रित करणारे स्तर प्रस्तावकांमधील खरे असहमतीवरही गुळगुळीत करू शकतात, ज्यामुळे कमी प्रमाणात असलेल्या दृश्यांना लपवले जाते जे प्रत्यक्षात पाहण्यासारखे होते. हे एक वास्तविक तंत्र आहे ज्याचा वास्तविक खर्च/विलंब व्यापार आहे, हे एक मोफत अपग्रेड नाही.
MoA एक संश्लेषण आर्किटेक्चर आहे: प्रस्तावक मॉडेल्स एकत्रित करणाऱ्यांना फीड करतात जे सर्वकाही एक परिष्कृत उत्तरात एकत्र करतात. LLM परिषद प्रत्येक मॉडेलच्या योगदानाला दृश्यमान ठेवते आणि अनेकदा मॉडेल्स एकमेकांचे मूल्यांकन किंवा रेट करतात, त्यामुळे आपण जिथे असहमत आहेत ते पाहू शकता. MoA एक मजबूत मिश्रित आउटपुटसाठी ऑप्टिमाइझ करते; परिषद वैयक्तिक दृष्टिकोनांच्या पारदर्शकतेसाठी ऑप्टिमाइझ करते.
संपूर्णपणे नाही. Argumentree.AI MoA च्या तत्त्वज्ञानास सामायिक करते की अनेक मॉडेल एकावर मात करतात, परंतु एकाच संश्लेषित उत्तरात एकत्रित करण्याऐवजी प्रत्येक मॉडेलच्या वैयक्तिक तर्कांना जतन करते आणि प्रत्येक उपलब्ध मॉडेल प्रत्येक इतर मॉडेलच्या तर्कांना रेट करते. उद्दिष्ट सहमती आणि असहमती पारदर्शकपणे उघड करणे आहे, एकत्रित उत्तराच्या मागे वैयक्तिक आउटपुट लपवणे नाही.
MoA मॉडेल्सना एक उत्तरात एकत्रित करतो. Argumentree.AI प्रत्येक मॉडेलच्या तर्कांना दृश्यमान आणि पीअर-रेट केलेले ठेवतो.
मोफत प्रारंभ करा