Mixture-of-Agents (MoA) — це багатошарова архітектура multi-LLM, представлена в статті "Mixture-of-Agents Enhances Large Language Model Capabilities" (arXiv:2406.04692). У MoA кілька моделей діють як пропозиціонери в одному шарі; їхні відповіді конкатенуються і передаються агрегаторним моделям у наступному шарі, які синтезують уточнену відповідь. Додаткові шари повторюють уточнення. Стаття демонструє прирости на бенчмарках у стилі переваги, таких як AlpacaEval 2.0, MT-Bench і FLASK — міри якості відповіді, оцінювані експертом, а не гарантія фактичної точності. MoA також множить вартість токенів і додає затримку, оскільки виконує багато викликів моделей через шари, а агрегація може згладжувати справжні розбіжності. Argumentree.AI пов'язаний, але відрізняється: замість агрегації в одну синтезовану відповідь, він зберігає індивідуальні аргументи кожної моделі і змушує кожну доступну модель оцінювати аргументи кожної іншої моделі, виводячи консенсус і незгоду замість того, щоб їх приховувати.
Mixture-of-Agents (MoA) розглядає кілька LLM як співпрацюючих агентів — пропозиціонери генерують кандидатні відповіді, агрегатори синтезують їх в одну уточнену відповідь. Це реальна техніка з реальними компромісами, а не магічний перемикач точності.
Mixture-of-Agents накладає кілька LLM: моделі-пропозиціонери формулюють відповіді, моделі-агрегатори об'єднують їх. Стаття arXiv:2406.04692 показує прирости на бенчмарках переваги (AlpacaEval, MT-Bench) — якість відповіді, а не доведена фактична точність — і це коштує більше токенів і затримки, ніж один виклик моделі.
Mixture-of-Agents була представлена в статті 2024 року "Mixture-of-Agents Enhances Large Language Model Capabilities" (arXiv:2406.04692). Основне спостереження — співпраця: LLM, як правило, генерують кращі відповіді, коли можуть бачити та будувати на виходах інших моделей — навіть моделей, які є індивідуально слабшими. MoA перетворює це спостереження в архітектуру.
MoA організована в шари. Кожен шар містить кілька "агентів" LLM. Моделі шару генерують відповідь, ці відповіді конкатенуються і передаються наступному шару, моделі якого діють як агрегатори, що уточнюють і синтезують. Складання шарів повторює уточнення.
Кілька моделей кожна незалежно відповідає на запит у першому шарі.
Всі виходи першого шару збираються як довідковий матеріал для наступного шару.
Моделі другого шару читають кандидатів і виробляють уточнену, об'єднану відповідь.
Додаткові шари продовжують уточнювати; фінальний агрегатор видає відповідь.
Запитайте "Чи повинна наша API повертати 200 чи 202 для асинхронної роботи, що була прийнята?" Три моделі-пропозиціонери кожна формулюють відповідь, посилаючись на REST-конвенції. Агрегатор читає всі три, помічає, що дві віддають перевагу 202 Accepted з URL статусу, а одна віддає перевагу 200, і синтезує єдину рекомендацію, яка враховує найсильніше обґрунтування з кожної. Змішана відповідь звучить добре — але якщо всі три поділяли одне й те саме непорозуміння, агрегатор впевнено повторить його.
Стаття повідомляє про сильні результати на бенчмарках у стилі переваги — AlpacaEval 2.0, MT-Bench і FLASK — де суддя (часто LLM або людина) оцінює, яка відповідь є більш корисною або вищої якості. Це важливе розрізнення для розробників:
Три патерни багатомоделей. Як розробник, обирайте за тим, що вам потрібно: одна відшліфована відповідь або видима міжмодельна аргументація.
| Патерн | Що він оптимізує | Що ви отримуєте |
|---|---|---|
| Суміш-агентів | Одна уточнена змішана відповідь | Агрегатори об'єднують виходи пропонентів; індивідуальні погляди зникають у синтезі |
| Рада LLM | Прозора внесок кожної моделі | Відповідь кожної моделі залишається видимою; моделі часто оцінюють одна одну |
| Консенсус Multi-LLM | Сигнал згоди + незгоди | Кількісно визначає, де моделі погоджуються (впевненість) і розходяться (спірне питання) |
Правило: звертайтеся до MoA, коли хочете єдину найкращу відповідь і можете заплатити за вартість токенів/затримки; звертайтеся до ради або оцінки консенсусу, коли сама незгода є продуктом.
Argumentree.AI поділяє передумову MoA — кілька моделей перевершують одну — але зберігає індивідуальні виходи видимими, а не об'єднуючи їх.
Кожна модель відповідає незалежно — жоден пропонент/агрегатор не зливається в один голос
Індивідуальні аргументи за/проти залишаються приписаними моделі, яка їх створила
Кожна доступна модель оцінює аргументи кожної іншої моделі
Ви бачите згоду як впевненість і незгоду як справжнє питання
Суміш-агентів (MoA) — це багаторівнева архітектура, в якій кілька великих мовних моделей діють як пропоненти в одному шарі, а їхні виходи передаються моделям-агрегаторам у наступному шарі, які синтезують уточнену відповідь. Введена в статті 'Суміш-агентів покращує можливості великих мовних моделей' (arXiv:2406.04692), вона розглядає кілька LLM як співпрацюючих агентів, а не покладається на одну модель.
Оригінальна стаття MoA повідомляє про покращення на бенчмарках у стилі переваги, таких як AlpacaEval 2.0, MT-Bench і FLASK, де суддя оцінює якість відповіді. Це міри переваги та корисності, а не гарантія фактичної точності. MoA може виробляти більш відшліфовану, краще структуровану відповідь, при цьому повторюючи спільну фактичну помилку, тому її не слід розглядати як гарантію правди.
MoA запускає багато моделей через кілька шарів, тому множить вартість токенів і додає затримку в порівнянні з викликом однієї моделі. Шари агрегаторів також можуть згладжувати справжню незгоду між пропонентами, приховуючи меншості, які насправді варто було б побачити. Це реальна техніка з реальним компромісом вартості/затримки, а не безкоштовне оновлення.
MoA — це архітектура синтезу: моделі-пропоненти подають агрегаторам, які об'єднують все в одну уточнену відповідь. Рада LLM зберігає видимим внесок кожної моделі і часто має моделі, які оцінюють або оцінюють одна одну, тому ви можете бачити, де вони не погоджуються. MoA оптимізує для одного сильного змішаного виходу; рада оптимізує для прозорості індивідуальних перспектив.
Не зовсім. Argumentree.AI поділяє припущення MoA, що кілька моделей перевершують одну, але замість того, щоб агрегувати в одну синтезовану відповідь, вона зберігає індивідуальні аргументи кожної моделі і має кожну доступну модель оцінювати аргументи кожної іншої моделі. Мета полягає в тому, щоб прозоро виявити консенсус і незгоду, а не приховувати індивідуальні виходи за однією об'єднаною відповіддю.
MoA змішує моделі в одну відповідь. Argumentree.AI зберігає аргументи кожної моделі видимими та оціненими колегами.
Почати безкоштовно