혼합 에이전트(MoA)는 "혼합 에이전트가 대형 언어 모델의 능력을 향상시킨다"(arXiv:2406.04692)라는 논문에서 소개된 층화된 다중 LLM 아키텍처입니다. MoA에서는 여러 모델이 한 층에서 제안자로 작용하며, 그들의 응답은 연결되어 다음 층의 집계자 모델에 전달되어 정제된 답변을 합성합니다. 추가 층은 정제를 반복합니다. 이 논문은 AlpacaEval 2.0, MT-Bench, FLASK와 같은 선호 스타일 벤치마크에서의 이득을 보여줍니다 — 평가자가 판단한 응답 품질의 척도이며, 사실 정확성을 보장하지는 않습니다. MoA는 또한 여러 모델 호출을 통해 토큰 비용을 증가시키고 지연 시간을 추가하며, 집계는 진정한 이견을 부드럽게 할 수 있습니다. Argumentree.AI는 관련이 있지만 구별됩니다: 하나의 합성된 답변으로 집계하는 대신 각 모델의 개별 주장을 보존하고 모든 사용 가능한 모델이 다른 모델의 주장을 평가하여 합의와 이견을 드러냅니다.
혼합 에이전트(MoA)는 여러 LLM을 협력하는 에이전트로 취급합니다 — 제안자는 후보 응답을 생성하고, 집계자는 이를 하나의 정제된 답변으로 합성합니다. 실제 기술이며 실제 트레이드오프가 있습니다, 마법 같은 정확성 스위치가 아닙니다.
혼합 에이전트는 여러 LLM을 층으로 쌓습니다: 제안자 모델이 답변을 초안하고, 집계자 모델이 이를 병합합니다. arXiv:2406.04692 논문은 선호 벤치마크(AlpacaEval, MT-Bench)에서의 이득을 보여줍니다 — 응답 품질, 검증된 사실 정확성이 아닙니다 — 그리고 하나의 모델보다 더 많은 토큰과 지연 시간이 소요됩니다.
혼합 에이전트는 2024년 논문 "혼합 에이전트가 대형 언어 모델의 능력을 향상시킨다" (arXiv:2406.04692)에서 소개되었습니다. 핵심 관찰은 협력성입니다: LLM은 다른 모델의 출력을 보고 이를 기반으로 할 수 있을 때 더 나은 응답을 생성하는 경향이 있습니다 — 심지어 개별적으로 더 약한 모델일지라도. MoA는 이 관찰을 아키텍처로 전환합니다.
MoA는 층으로 구성됩니다. 각 층에는 여러 LLM "에이전트"가 포함됩니다. 한 층의 모델은 각각 응답을 생성하고, 그 응답은 연결되어 다음 층으로 전달되며, 그 층의 모델은 집계자로 작용하여 정제하고 합성합니다. 층을 쌓는 것은 정제를 반복합니다.
여러 모델이 각기 독립적으로 1층에서 프롬프트에 응답합니다.
모든 1층 출력이 다음 층의 참조 자료로 수집됩니다.
2층 모델이 후보를 읽고 정제된 통합 응답을 생성합니다.
추가 층이 계속 정제하며, 최종 집계자가 답변을 제공합니다.
"우리 API가 비동기 작업 수락에 대해 200 또는 202를 반환해야 하나요?"라고 물어보세요. 세 개의 제안자 모델이 각각 REST 규칙을 인용하여 답변을 초안합니다. 집계자는 세 개의 응답을 모두 읽고, 두 개는 상태 URL과 함께 202 수락을 선호하고 하나는 200을 선호하는 것을 알아차리고, 각 모델의 가장 강력한 논리를 통합한 단일 추천을 합성합니다. 혼합된 답변은 잘 읽히지만, 만약 세 모델 모두 같은 오해를 공유했다면, 집계자는 그것을 자신 있게 반복할 것입니다.
이 논문은 선호 스타일 벤치마크 — AlpacaEval 2.0, MT-Bench, FLASK에서 강력한 결과를 보고합니다 — 여기서 판별자(종종 LLM 또는 인간)가 어떤 응답이 더 유용하거나 품질이 높은지를 점수화합니다. 이는 개발자에게 중요한 구별입니다:
세 가지 다중 모델 패턴. 개발자로서, 배송해야 할 것에 따라 선택하세요: 하나의 다듬어진 답변, 또는 가시적인 교차 모델 추론.
| 패턴 | 최적화하는 것 | 얻는 것 |
|---|---|---|
| 에이전트 혼합 | 하나의 정제된 혼합 답변 | 집계자가 제안자 출력을 병합합니다; 개별적인 관점은 합성으로 사라집니다 |
| LLM 위원회 | 모델별 기여의 투명성 | 각 모델의 답변이 가시적으로 유지됩니다; 모델은 종종 서로를 평가합니다 |
| 다중 LLM 합의 | 동의 + 이견 신호 | 모델이 동의하는 부분(신뢰도)과 이탈하는 부분(논란이 되는 질문)을 정량화합니다 |
경험 법칙: 단일 최고의 답변을 원하고 토큰/지연 시간 비용을 지불할 수 있을 때 MoA를 선택하세요; 이견 자체가 제품일 때는 위원회나 합의 점수를 선택하세요.
Argumentree.AI는 MoA의 전제를 공유합니다 — 여러 모델이 하나보다 낫습니다 — 하지만 개별 출력을 보존하여 병합하지 않습니다.
각 모델이 독립적으로 응답합니다 — 제안자/집계자가 하나의 목소리로 합쳐지지 않습니다
개별 찬반 주장은 이를 만든 모델에 귀속됩니다
모든 사용 가능한 모델이 다른 모델의 주장을 평가합니다
당신은 동의를 신뢰도로, 반대를 실제 질문으로 봅니다
에이전트 혼합(MoA)은 여러 대형 언어 모델이 한 층에서 제안자로 작용하고, 그 출력이 다음 층의 집계 모델로 전달되어 정제된 응답을 합성하는 계층 구조입니다. '에이전트 혼합이 대형 언어 모델의 능력을 향상시킨다'는 논문에서 소개되었으며(arXiv:2406.04692), 여러 LLM을 단일 모델에 의존하기보다는 협력하는 에이전트로 취급합니다.
원래 MoA 논문은 AlpacaEval 2.0, MT-Bench 및 FLASK와 같은 선호도 스타일 벤치마크에서의 이득을 보고합니다. 이는 사실 정확성을 보장하는 것이 아니라 선호도와 유용성을 측정하는 것입니다. MoA는 더 세련되고 잘 구조화된 답변을 생성할 수 있지만 여전히 공유된 사실 오류를 반복할 수 있으므로 진실 보장으로 간주해서는 안 됩니다.
MoA는 여러 층에서 많은 모델을 실행하므로 단일 모델 호출에 비해 토큰 비용이 증가하고 지연이 추가됩니다. 집계 층은 또한 제안자 간의 진정한 이견을 부드럽게 하여 실제로 볼 가치가 있는 소수 의견을 숨길 수 있습니다. 이는 실제 비용/지연 거래가 있는 실제 기술이지 무료 업그레이드가 아닙니다.
MoA는 합성 아키텍처입니다: 제안자 모델이 집계자에게 피드를 제공하여 모든 것을 하나의 정제된 답변으로 병합합니다. LLM 위원회는 각 모델의 기여를 가시적으로 유지하며 종종 모델이 서로를 평가하거나 등급을 매기게 하여 이견을 볼 수 있습니다. MoA는 하나의 강력한 혼합 출력을 최적화하고, 위원회는 개별 관점의 투명성을 최적화합니다.
정확히는 아닙니다. Argumentree.AI는 여러 모델이 하나보다 더 낫다는 MoA의 전제를 공유하지만, 단일 합성 답변으로 집계하는 대신 각 모델의 개별 주장을 보존하고 모든 사용 가능한 모델이 다른 모델의 주장을 평가하게 합니다. 목표는 개별 출력을 하나의 병합된 응답 뒤에 숨기기보다는 합의와 이견을 투명하게 드러내는 것입니다.
MoA는 모델을 하나의 답변으로 혼합합니다. Argumentree.AI는 각 모델의 주장을 가시적이고 동료 평가된 상태로 유지합니다.
무료 시작하기