ایجنٹس کا مرکب (MoA) ایک تہہ دار کثیر LLM فن تعمیر ہے جو مقالے "ایجنٹس کا مرکب بڑے زبان ماڈل کی صلاحیتوں کو بڑھاتا ہے" (arXiv:2406.04692) میں متعارف کرایا گیا۔ MoA میں، کئی ماڈل ایک تہہ میں پیش کنندگان کے طور پر کام کرتے ہیں؛ ان کے جوابات کو جوڑا جاتا ہے اور اگلی تہہ میں جمع کرنے والے ماڈلز کو منتقل کیا جاتا ہے، جو ایک بہتر جواب تیار کرتے ہیں۔ اضافی تہیں اس بہتری کو دہرائیں گی۔ یہ مقالہ ترجیحی طرز کے بینچ مارکس جیسے AlpacaEval 2.0، MT-Bench، اور FLASK پر فوائد کو ظاہر کرتا ہے — جوابی معیار کی پیمائش جو ایک جانچنے والے کے ذریعہ کی جاتی ہے، حقیقت کی درستگی کی ضمانت نہیں۔ MoA بھی ٹوکن کی قیمت کو بڑھاتا ہے اور لیٹنسی میں اضافہ کرتا ہے کیونکہ یہ کئی ماڈل کالز کو تہوں میں چلاتا ہے، اور جمع کرنا حقیقی اختلاف کو ہموار کر سکتا ہے۔ Argumentree.AI متعلقہ لیکن مختلف ہے: یہ ایک متفقہ جواب میں جمع کرنے کے بجائے ہر ماڈل کے انفرادی دلائل کو محفوظ رکھتا ہے اور ہر دستیاب ماڈل کو دوسرے ماڈل کے دلائل کی درجہ بندی کرنے دیتا ہے، متفقہ اور اختلاف کو سامنے لاتا ہے بجائے اس کے کہ انہیں چھپائے۔
ایجنٹس کا مرکب (MoA) متعدد LLMs کو تعاون کرنے والے ایجنٹس کے طور پر دیکھتا ہے — پیش کنندگان امیدوار جوابات تیار کرتے ہیں، جمع کرنے والے انہیں ایک بہتر جواب میں ترتیب دیتے ہیں۔ یہ ایک حقیقی تکنیک ہے جس کے حقیقی تجزیے ہیں، جادوئی درستگی کا سوئچ نہیں۔
ایجنٹس کا مرکب متعدد LLMs کو تہوں میں ترتیب دیتا ہے: پیش کنندہ ماڈل جوابات تیار کرتے ہیں، جمع کرنے والے ماڈل انہیں ضم کرتے ہیں۔ arXiv:2406.04692 کا مقالہ ترجیحی بینچ مارکس (AlpacaEval، MT-Bench) پر فوائد دکھاتا ہے — جوابی معیار، نہ کہ ثابت شدہ حقیقت کی درستگی — اور یہ ایک ماڈل سے زیادہ ٹوکن اور لیٹنسی کی قیمت لیتا ہے۔
ایجنٹس کا مرکب 2024 کے مقالے "ایجنٹس کا مرکب بڑے زبان ماڈل کی صلاحیتوں کو بڑھاتا ہے" (arXiv:2406.04692) میں متعارف کرایا گیا۔ بنیادی مشاہدہ تعاونیت ہے: LLMs بہتر جوابات پیدا کرنے کی کوشش کرتے ہیں جب وہ دوسرے ماڈلز کے نتائج کو دیکھ سکتے ہیں اور ان پر تعمیر کر سکتے ہیں — یہاں تک کہ وہ ماڈل جو انفرادی طور پر کمزور ہیں۔ MoA اس مشاہدے کو ایک فن تعمیر میں تبدیل کرتا ہے۔
MoA تہوں میں منظم ہے۔ ہر تہہ میں کئی LLM "ایجنٹس" شامل ہیں۔ ایک تہہ کے ماڈل ہر ایک جواب تیار کرتے ہیں، ان جوابات کو جوڑا جاتا ہے اور اگلی تہہ کو منتقل کیا جاتا ہے، جس کے ماڈل جمع کرنے والے کے طور پر کام کرتے ہیں جو بہتر بناتے ہیں اور ترتیب دیتے ہیں۔ تہوں کو اسٹیک کرنا بہتری کو دہرائے گا۔
کئی ماڈل ہر ایک جواب کو آزادانہ طور پر پرت 1 میں جواب دیتے ہیں۔
تمام پرت-1 کے نتائج کو اگلی پرت کے لیے حوالہ مواد کے طور پر جمع کیا جاتا ہے۔
پرت-2 کے ماڈل امیدواروں کو پڑھتے ہیں اور ایک بہتر، ملا ہوا جواب تیار کرتے ہیں۔
اضافی پرتیں بہتر بناتی رہتی ہیں؛ ایک آخری اجتماعی ماڈل جواب جاری کرتا ہے۔
پوچھیں "کیا ہماری API ایک غیر متزامن کام کے لیے 200 یا 202 واپس کرے؟" تین پیش کنندہ ماڈل ہر ایک جواب تیار کرتے ہیں جو REST روایات کا حوالہ دیتے ہیں۔ ایک جمع کرنے والا تینوں کو پڑھتا ہے، نوٹس لیتا ہے کہ دو 202 قبول شدہ کے ساتھ ایک حیثیت URL کو ترجیح دیتے ہیں اور ایک 200 کو ترجیح دیتا ہے، اور ایک واحد سفارش ترتیب دیتا ہے جو ہر ایک سے مضبوط ترین دلیل کو شامل کرتا ہے۔ ملا ہوا جواب اچھا لگتا ہے — لیکن اگر تینوں نے ایک ہی غلط فہمی کا اشتراک کیا، تو جمع کرنے والا اسے پختہ طور پر دہرائے گا۔
یہ مقالہ ترجیحات طرز کے بینچ مارکس — AlpacaEval 2.0، MT-Bench، اور FLASK پر مضبوط نتائج کی رپورٹ کرتا ہے — جہاں ایک جج (اکثر ایک LLM یا انسان) یہ فیصلہ کرتا ہے کہ کون سا جواب زیادہ مددگار یا اعلیٰ معیار کا ہے۔ یہ ڈویلپرز کے لیے ایک اہم تفریق ہے:
تین کثیر ماڈل پیٹرن۔ ایک ڈویلپر کے طور پر، آپ کو یہ منتخب کرنا ہے کہ آپ کو کیا بھیجنا ہے: ایک چمکدار جواب، یا نظر آنے والی کراس ماڈل دلیل۔
| پیٹرن | یہ کیا بہتر بناتا ہے | آپ کو کیا ملتا ہے |
|---|---|---|
| ایجنٹس کا مرکب | ایک بہتر ملا ہوا جواب | اجتماعی ماڈل پروپوزر کے نتائج کو ملا دیتے ہیں؛ انفرادی نظریات ترکیب میں غائب ہو جاتے ہیں |
| ایل ایل ایم کونسل | ماڈل کی شفاف شراکت | ہر ماڈل کا جواب نظر آتا ہے؛ ماڈل اکثر ایک دوسرے کا اندازہ لگاتے ہیں |
| ملٹی ایل ایل ایم اتفاق رائے | اتفاق + اختلاف کا اشارہ | یہ مقدار بتاتا ہے کہ ماڈل کہاں متفق ہیں (اعتماد) اور کہاں اختلاف کرتے ہیں (متنازعہ سوال) |
قانون کا اصول: جب آپ کو بہترین جواب چاہیے اور آپ ٹوکن/لیٹنسی کی قیمت ادا کر سکتے ہیں تو MoA کی طرف بڑھیں؛ جب اختلاف خود ہی پروڈکٹ ہو تو کونسل یا متفقہ اسکورنگ کی طرف بڑھیں۔
Argumentree.AI MoA کے اصول کو شیئر کرتا ہے — متعدد ماڈل ایک سے بہتر ہیں — لیکن انفرادی نتائج کو نظر آنے کے قابل رکھتا ہے بجائے اس کے کہ انہیں ضم کر دے۔
ہر ماڈل آزادانہ طور پر جواب دیتا ہے — کوئی پروپوزر/اجتماعی ماڈل ایک آواز میں نہیں ملتا
انفرادی حق/نقصان کی دلائل اس ماڈل کے ساتھ منسوب رہتی ہیں جس نے انہیں بنایا
ہر دستیاب ماڈل ہر دوسرے ماڈل کی دلائل کی درجہ بندی کرتا ہے
آپ اتفاق کو اعتماد کے طور پر اور اختلاف کو حقیقی سوال کے طور پر دیکھتے ہیں
ایجنٹس کا مرکب (MoA) ایک پرت دار فن تعمیر ہے جس میں کئی بڑے زبان ماڈل ایک پرت میں پروپوزر کے طور پر کام کرتے ہیں، اور ان کے نتائج اگلی پرت میں اجتماعی ماڈل کو منتقل کیے جاتے ہیں جو ایک بہتر جواب کی ترکیب کرتے ہیں۔ یہ کاغذ 'ایجنٹس کا مرکب بڑے زبان ماڈل کی صلاحیتوں کو بڑھاتا ہے' (arXiv:2406.04692) میں متعارف کرایا گیا، یہ کئی LLMs کو تعاون کرنے والے ایجنٹس کے طور پر دیکھتا ہے نہ کہ ایک ہی ماڈل پر انحصار کرتا ہے۔
اصل MoA کاغذ ترجیحی طرز کے بینچ مارک جیسے AlpacaEval 2.0، MT-Bench اور FLASK پر فوائد کی رپورٹ کرتا ہے، جہاں ایک جج جواب کے معیار کی درجہ بندی کرتا ہے۔ یہ ترجیح اور مدد کی پیمائش ہیں، حقیقت کی درستگی کی ضمانت نہیں۔ MoA ایک زیادہ پالش، بہتر منظم جواب پیدا کر سکتا ہے جبکہ اب بھی ایک مشترکہ حقیقتی غلطی کو دہرایا جا سکتا ہے، لہذا اسے حقیقت کی ضمانت کے طور پر نہیں لینا چاہیے۔
MoA کئی ماڈلز کو متعدد پرتوں میں چلاتا ہے، لہذا یہ ٹوکن کی لاگت کو بڑھاتا ہے اور ایک ہی ماڈل کال کے مقابلے میں تاخیر بڑھاتا ہے۔ اجتماعی پرتیں پروپوزروں کے درمیان حقیقی اختلاف کو بھی ہموار کر سکتی ہیں، اقلیتی نظریات کو چھپاتے ہوئے جو واقعی دیکھنے کے قابل تھے۔ یہ ایک حقیقی تکنیک ہے جس کی حقیقی لاگت/تاخیر کا تجزیہ ہے، یہ کوئی مفت اپ گریڈ نہیں ہے۔
MoA ایک ترکیبی فن تعمیر ہے: پروپوزر ماڈل اجتماعی ماڈل کو کھانا دیتے ہیں جو سب کچھ ایک بہتر جواب میں ملا دیتے ہیں۔ ایک ایل ایل ایم کونسل ہر ماڈل کی شراکت کو نظر میں رکھتی ہے اور اکثر ماڈل ایک دوسرے کا اندازہ لگاتے یا درجہ بندی کرتے ہیں، لہذا آپ دیکھ سکتے ہیں کہ وہ کہاں اختلاف کرتے ہیں۔ MoA ایک مضبوط ملا ہوا نتیجہ کے لیے بہتر بناتا ہے؛ ایک کونسل انفرادی نظریات کی شفافیت کے لیے بہتر بناتی ہے۔
بالکل نہیں۔ Argumentree.AI MoA کے اصول کو شیئر کرتا ہے کہ کئی ماڈل ایک کو شکست دیتے ہیں، لیکن ایک ہی ترکیب شدہ جواب میں جمع کرنے کے بجائے یہ ہر ماڈل کی انفرادی دلائل کو محفوظ رکھتا ہے اور ہر دستیاب ماڈل کو ہر دوسرے ماڈل کی دلائل کی درجہ بندی کرنے دیتا ہے۔ مقصد یہ ہے کہ اتفاق رائے اور اختلاف کو شفاف طور پر سامنے لایا جائے، نہ کہ انفرادی نتائج کو ایک ملا ہوا جواب کے پیچھے چھپایا جائے۔
MoA ماڈلز کو ایک جواب میں ملا دیتا ہے۔ Argumentree.AI ہر ماڈل کے دلائل کو نظر آنے کے قابل اور ہم مرتبہ درجہ بند رکھتا ہے۔
مفت شروع کریں