Ajanlar Karışımı (MoA), "Ajanlar Karışımı Büyük Dil Modeli Yeteneklerini Artırır" (arXiv:2406.04692) başlıklı makalede tanıtılan katmanlı bir çoklu-LLM mimarisidir. MoA'da, birkaç model bir katmanda önerici olarak hareket eder; yanıtları birleştirilir ve bir sonraki katmandaki toplayıcı modellere iletilir, bu modeller ise rafine bir yanıt sentezler. Ek katmanlar, rafinasyonu tekrarlar. Makale, bir değerlendirici tarafından yargılanan yanıt kalitesinin ölçüleri olan AlpacaEval 2.0, MT-Bench ve FLASK gibi tercih tarzı benchmarklarda kazançlar göstermektedir; bu, gerçek doğruluk garantisi değildir. MoA ayrıca token maliyetini artırır ve gecikme ekler çünkü birçok model çağrısını katmanlar arasında çalıştırır ve toplama, gerçek anlaşmazlıkları düzleştirebilir. Argumentree.AI ile ilgili ama farklıdır: tek bir sentezlenmiş yanıt yerine, her modelin bireysel argümanlarını korur ve mevcut her modelin diğer modelin argümanlarını değerlendirmesini sağlar, böylece uzlaşmayı ve karşıt görüşleri gizlemek yerine yüzeye çıkarır.
Ajanlar Karışımı (MoA), birden fazla LLM'yi işbirliği yapan ajanlar olarak ele alır — önericiler aday yanıtlar üretir, toplayıcılar bunları tek bir rafine yanıt haline getirir. Bu, gerçek bir teknik ve gerçek trade-off'lar içerir, sihirli bir doğruluk anahtarı değildir.
Ajanlar Karışımı, birden fazla LLM'yi katmanlar halinde düzenler: önerici modeller yanıtlar taslaklar, toplayıcı modeller bunları birleştirir. ArXiv:2406.04692 makalesi, tercih benchmarklarında (AlpacaEval, MT-Bench) kazançlar gösterir — yanıt kalitesi, kanıtlanmış gerçek doğruluk değil — ve bir modelden daha fazla token ve gecikme maliyetine sahiptir.
Ajanlar Karışımı, 2024 tarihli "Ajanlar Karışımı Büyük Dil Modeli Yeteneklerini Artırır" (arXiv:2406.04692) makalesinde tanıtılmıştır. Temel gözlem işbirlikçiliğidir: LLM'ler, diğer modellerin çıktısını görebildiklerinde ve bunlar üzerinde inşa edebildiklerinde daha iyi yanıtlar üretme eğilimindedir — hatta bireysel olarak daha zayıf olan modeller bile. MoA, bu gözlemi bir mimariye dönüştürür.
MoA katmanlar halinde düzenlenmiştir. Her katman birkaç LLM "ajanı" içerir. Bir katmanın modelleri her biri bir yanıt üretir, bu yanıtlar birleştirilir ve bir sonraki katmana iletilir, bu katmanın modelleri toplayıcılar olarak hareket eder ve rafine eder ve sentezler. Katmanları üst üste koymak, rafinasyonu tekrarlar.
Birçok model, katman 1'de bağımsız olarak isteğe yanıt verir.
Tüm katman-1 çıktıları, bir sonraki katman için referans materyali olarak toplanır.
Katman-2 modelleri adayları okur ve rafine, birleştirilmiş bir yanıt üretir.
Ek katmanlar sürekli olarak rafine eder; son bir toplayıcı yanıtı verir.
"API'miz bir asenkron iş kabul edildiğinde 200 mü yoksa 202 mi döndürmeli?" diye sorun. Üç önerici model, REST kurallarını belirterek her biri bir yanıt taslaklar. Bir toplayıcı, üçünü okur, ikisinin bir durum URL'si ile 202 Accepted'ı tercih ettiğini ve birinin 200'ü tercih ettiğini fark eder ve her birinin en güçlü gerekçesini içeren tek bir öneri sentezler. Karışık yanıt iyi okunuyor — ama eğer üçü de aynı yanlış anlamayı paylaşıyorsa, toplayıcı bunu güvenle tekrarlar.
Makale, tercih tarzı benchmarklarda — AlpacaEval 2.0, MT-Bench ve FLASK — güçlü sonuçlar rapor etmektedir; burada bir yargıç (genellikle bir LLM veya insan) hangi yanıtın daha yardımcı veya daha yüksek kaliteli olduğunu puanlar. Bu, geliştiriciler için önemli bir ayrımdır:
Üç çoklu-model deseni. Bir geliştirici olarak, neyi göndermeniz gerektiğine göre seçin: bir cilalı yanıt mı, yoksa görünür çapraz-model akıl yürütmesi mi.
| Desen | Ne optimize eder | Ne alırsınız |
|---|---|---|
| Ajanlar Karışımı | Bir rafine karışık yanıt | Toplayıcılar teklif veren çıktıları birleştirir; bireysel görüşler sentezde kaybolur |
| LLM konseyi | Model başına şeffaf katkı | Her modelin yanıtı görünür kalır; modeller genellikle birbirlerini değerlendirir |
| Çoklu-LLM uzlaşması | Anlaşma + anlaşmazlık sinyali | Modellerin nerede anlaştığını (güven) ve ayrıldığını (tartışmalı soru) nicelendirir |
Kural olarak: en iyi tek yanıtı istediğinizde ve token/latans maliyetini ödeyebileceğinizde MoA'ya yönelin; anlaşmazlığın kendisinin ürün olduğu durumlarda bir konsey veya uzlaşma puanlamasına yönelin.
Argumentree.AI, MoA'nın varsayımını paylaşıyor — birden fazla model birden iyidir — ancak bireysel çıktıları görünür tutar, birleştirmez.
Her model bağımsız olarak yanıt verir — hiçbir teklif veren/toplayıcı tek bir ses haline gelmez
Bireysel artı/eksi argümanlar, onları oluşturan modele atfedilebilir
Her mevcut model, diğer her modelin argümanlarını değerlendirir
Anlaşmayı güven olarak ve anlaşmazlığı gerçek soru olarak görürsünüz
Ajanlar Karışımı (MoA), birkaç büyük dil modelinin bir katmanda teklif veren olarak hareket ettiği ve çıktılarının bir sonraki katmandaki toplayıcı modellere iletildiği katmanlı bir mimaridir. 'Ajanlar Karışımı Büyük Dil Modeli Yeteneklerini Artırır' (arXiv:2406.04692) başlıklı makalede tanıtılmıştır ve birden fazla LLM'yi tek bir modele güvenmek yerine işbirliği yapan ajanlar olarak ele alır.
Orijinal MoA makalesi, bir yargıcın yanıt kalitesini puanladığı AlpacaEval 2.0, MT-Bench ve FLASK gibi tercih tarzı ölçütlerde kazançlar bildirmektedir. Bunlar, gerçek doğruluğun garantisi değil, tercih ve yardımcı olma ölçüleridir. MoA, hala paylaşılan bir gerçek hatayı tekrarlarken daha rafine, daha iyi yapılandırılmış bir yanıt üretebilir, bu nedenle bir gerçeklik garantisi olarak ele alınmamalıdır.
MoA, birçok modeli birden fazla katmanda çalıştırır, bu nedenle token maliyetini çarpar ve tek bir model çağrısına göre gecikme ekler. Toplayıcı katmanlar ayrıca teklif verenler arasındaki gerçek anlaşmazlığı düzleştirebilir, gerçekten görülmesi gereken azınlık görüşlerini gizleyebilir. Bu, gerçek bir maliyet/gecikme ticareti olan gerçek bir tekniktir, ücretsiz bir yükseltme değildir.
MoA, sentez mimarisidir: teklif veren modeller, her şeyi bir rafine yanıt haline getiren toplayıcılara besleme yapar. Bir LLM konseyi, her modelin katkısını görünür tutar ve genellikle modellerin birbirlerini değerlendirmesini veya puanlamasını sağlar, böylece nerede anlaşmazlık yaşandığını görebilirsiniz. MoA, tek bir güçlü karışık çıktıyı optimize eder; bir konseyi, bireysel bakış açılarını şeffaflık için optimize eder.
Tam olarak değil. Argumentree.AI, birden fazla modelin bir modeli geçeceği önermesini paylaşır, ancak tek bir sentezlenmiş yanıt haline getirmek yerine her modelin bireysel argümanlarını korur ve her mevcut modelin diğer her modelin argümanlarını puanlamasını sağlar. Amaç, bireysel çıktıları tek bir birleştirilmiş yanıtın arkasında gizlemek yerine, uzlaşmayı ve anlaşmazlığı şeffaf bir şekilde ortaya çıkarmaktır.
MoA, modelleri tek bir yanıt haline getirir. Argumentree.AI, her modelin argümanlarını görünür ve eş-puanlı tutar.
Ücretsiz Başlayın