মিশ্রণ-অফ-এজেন্টস (MoA) একটি স্তরযুক্ত মাল্টি-LLM আর্কিটেকচার যা "মিশ্রণ-অফ-এজেন্টস বৃহৎ ভাষার মডেল সক্ষমতা বাড়ায়" (arXiv:2406.04692) শিরোনামের পত্রিকায় পরিচিত হয়। MoA তে, একাধিক মডেল একটি স্তরে প্রস্তাবক হিসাবে কাজ করে; তাদের প্রতিক্রিয়া একত্রিত হয় এবং পরবর্তী স্তরের একত্রক মডেলগুলিতে পাঠানো হয়, যা একটি পরিশোধিত উত্তর সংশ্লেষিত করে। অতিরিক্ত স্তরগুলি পরিশোধন পুনরাবৃত্তি করে। পত্রিকাটি AlpacaEval 2.0, MT-Bench এবং FLASK-এর মতো পছন্দ-শৈলীর বেঞ্চমার্কগুলিতে লাভ দেখায় — একটি মূল্যায়ক দ্বারা বিচার করা প্রতিক্রিয়া গুণমানের পরিমাপ, বাস্তবিক সঠিকতার গ্যারান্টি নয়। MoA টোকেন খরচও বাড়ায় এবং অবিলম্বে যোগ করে কারণ এটি স্তরের মধ্যে অনেক মডেল কল চালায়, এবং একত্রক প্রকৃত অমিলকে মসৃণ করতে পারে। Argumentree.AI সম্পর্কিত কিন্তু আলাদা: এটি একটি সংশ্লেষিত উত্তরে একত্রিত করার পরিবর্তে প্রতিটি মডেলের পৃথক যুক্তি সংরক্ষণ করে এবং প্রতিটি উপলব্ধ মডেলকে অন্য মডেলের যুক্তিগুলি মূল্যায়ন করতে দেয়, সম্মতি এবং বিরোধ প্রকাশ করে, সেগুলি লুকানোর পরিবর্তে।
মিশ্রণ-অফ-এজেন্টস (MoA) একাধিক LLM কে সহযোগী এজেন্ট হিসাবে বিবেচনা করে — প্রস্তাবক মডেলগুলি প্রার্থী প্রতিক্রিয়া তৈরি করে, একত্রকগুলি সেগুলিকে একটি পরিশোধিত উত্তরে সংশ্লেষিত করে। এটি একটি বাস্তব কৌশল বাস্তব ট্রেড-অফ সহ, একটি জাদুকরী সঠিকতা সুইচ নয়।
মিশ্রণ-অফ-এজেন্টস একাধিক LLM স্তরবদ্ধ করে: প্রস্তাবক মডেলগুলি উত্তর খসড়া করে, একত্রক মডেলগুলি সেগুলিকে একত্রিত করে। arXiv:2406.04692 পত্রিকাটি পছন্দের বেঞ্চমার্কগুলিতে (AlpacaEval, MT-Bench) লাভ দেখায় — প্রতিক্রিয়া গুণমান, প্রমাণিত বাস্তবিক সঠিকতা নয় — এবং এটি একটি মডেলের চেয়ে বেশি টোকেন এবং অবিলম্বন খরচ করে।
মিশ্রণ-অফ-এজেন্টস 2024 সালের "মিশ্রণ-অফ-এজেন্টস বৃহৎ ভাষার মডেল সক্ষমতা বাড়ায়" (arXiv:2406.04692) পত্রিকায় পরিচিত হয়। মূল পর্যবেক্ষণ হল সহযোগিতা: LLMs সাধারণত আরও ভাল প্রতিক্রিয়া তৈরি করে যখন তারা অন্যান্য মডেলের আউটপুট দেখতে এবং সেগুলির উপর ভিত্তি করে কাজ করতে পারে — এমনকি যেগুলি পৃথকভাবে দুর্বল। MoA সেই পর্যবেক্ষণকে একটি আর্কিটেকচারে পরিণত করে।
MoA স্তরগুলিতে সংগঠিত। প্রতিটি স্তরে একাধিক LLM "এজেন্ট" থাকে। একটি স্তরের মডেলগুলি প্রতিটি একটি প্রতিক্রিয়া তৈরি করে, সেই প্রতিক্রিয়াগুলি একত্রিত হয় এবং পরবর্তী স্তরের কাছে হস্তান্তর করা হয়, যার মডেলগুলি একত্রক হিসাবে কাজ করে যা পরিশোধিত এবং সংশ্লেষিত করে। স্তরগুলি স্তরবদ্ধ করা পরিশোধন পুনরাবৃত্তি করে।
একাধিক মডেল প্রতিটি প্রম্পটের উত্তর স্বাধীনভাবে স্তর 1-এ দেয়।
সমস্ত স্তর-1 আউটপুট পরবর্তী স্তরের জন্য রেফারেন্স উপাদান হিসাবে সংগ্রহ করা হয়।
স্তর-2 মডেলগুলি প্রার্থীদের পড়ে এবং একটি পরিশোধিত, মিশ্রিত প্রতিক্রিয়া তৈরি করে।
অতিরিক্ত স্তরগুলি পরিশোধন করতে থাকে; একটি চূড়ান্ত এগ্রিগেটর উত্তর প্রকাশ করে।
জিজ্ঞাসা করুন "আমাদের API কি একটি অ্যাসিঙ্ক্রোনাস কাজ গ্রহণের জন্য 200 বা 202 ফেরত দিতে হবে?" তিনটি প্রস্তাবক মডেল প্রতিটি REST রীতির উল্লেখ করে একটি উত্তর খসড়া করে। একটি একত্রক তিনটি পড়ে, লক্ষ্য করে যে দুটি 202 গ্রহণযোগ্য একটি স্ট্যাটাস URL সহ এবং একটি 200 পছন্দ করে, এবং প্রতিটি থেকে শক্তিশালী যুক্তি অন্তর্ভুক্ত করে একটি একক সুপারিশ সংশ্লেষিত করে। মিশ্রিত উত্তরটি ভাল পড়ে — কিন্তু যদি তিনটি একই ভুল ধারণা শেয়ার করে, তবে একত্রকটি আত্মবিশ্বাসের সাথে এটি পুনরাবৃত্তি করবে।
পত্রিকাটি পছন্দ-শৈলীর বেঞ্চমার্কগুলিতে শক্তিশালী ফলাফল রিপোর্ট করে — AlpacaEval 2.0, MT-Bench, এবং FLASK — যেখানে একজন বিচারক (প্রায়ই একটি LLM বা মানব) নির্ধারণ করে কোন প্রতিক্রিয়া আরও সহায়ক বা উচ্চ গুণমানের। এটি ডেভেলপারদের জন্য একটি গুরুত্বপূর্ণ পার্থক্য:
তিনটি মাল্টি-মডেল প্যাটার্ন। একজন ডেভেলপার হিসাবে, আপনি যা প্রয়োজন তা শিপ করার জন্য বেছে নিন: একটি পালিশ করা উত্তর, বা দৃশ্যমান ক্রস-মডেল যুক্তি।
| প্যাটার্ন | এটি কী অপ্টিমাইজ করে | আপনি কী পান |
|---|---|---|
| এজেন্টগুলির মিশ্রণ | একটি পরিশোধিত মিশ্রিত উত্তর | এগ্রিগেটররা প্রস্তাবকের আউটপুটগুলি একত্রিত করে; পৃথক দৃষ্টিভঙ্গি সংশ্লেষণে অদৃশ্য হয়ে যায় |
| এলএলএম কাউন্সিল | প্রতি-মডেল অবদান স্বচ্ছ | প্রতিটি মডেলের উত্তর দৃশ্যমান থাকে; মডেলগুলি প্রায়ই একে অপরকে মূল্যায়ন করে |
| মাল্টি-এলএলএম সম্মতি | সম্মতি + অমিল সংকেত | মডেলগুলি কোথায় একমত (আত্মবিশ্বাস) এবং বিচ্যুত (বিবাদিত প্রশ্ন) তা পরিমাণ করে |
নিয়ম: MoA এর জন্য পৌঁছান যখন আপনি একক সেরা উত্তর চান এবং টোকেন/অবিলম্বের খরচ দিতে পারেন; কাউন্সিল বা সম্মতি স্কোরিংয়ের জন্য পৌঁছান যখন অমিল নিজেই পণ্য।
Argumentree.AI MoA এর ধারণা শেয়ার করে — একাধিক মডেল একটি মডেলকে হারায় — কিন্তু একত্রিত করার পরিবর্তে পৃথক আউটপুটগুলি দৃশ্যমান রাখে।
প্রতিটি মডেল স্বাধীনভাবে উত্তর দেয় — কোনও প্রস্তাবক/এগ্রিগেটর এক কণ্ঠে মিশে যায় না
বৈশিষ্ট্যযুক্ত প্র/বিরোধী যুক্তিগুলি সেই মডেলের সাথে সম্পর্কিত থাকে যা সেগুলি তৈরি করেছে
প্রতিটি উপলব্ধ মডেল অন্য প্রতিটি মডেলের যুক্তিগুলিকে রেট করে
আপনি সম্মতি আত্মবিশ্বাস হিসাবে এবং অমিলকে প্রকৃত প্রশ্ন হিসাবে দেখতে পান
এজেন্টগুলির মিশ্রণ (MoA) একটি স্তরযুক্ত স্থাপত্য যেখানে একাধিক বড় ভাষার মডেল একটি স্তরে প্রস্তাবক হিসাবে কাজ করে, এবং তাদের আউটপুটগুলি পরবর্তী স্তরের এগ্রিগেটর মডেলগুলিতে পাঠানো হয় যা একটি পরিশোধিত প্রতিক্রিয়া সংশ্লেষণ করে। 'এজেন্টগুলির মিশ্রণ বড় ভাষার মডেলের ক্ষমতা বাড়ায়' (arXiv:2406.04692) শিরোনামের পত্রিকায় পরিচয় করানো হয়েছে, এটি একাধিক এলএলএমকে সহযোগী এজেন্ট হিসাবে বিবেচনা করে একক মডেলের উপর নির্ভর করার পরিবর্তে।
মূল MoA পত্রিকাটি আলপাকা ইভ্যাল 2.0, এমটি-বেঞ্চ এবং ফ্লাস্কের মতো পছন্দ-শৈলীর বেঞ্চমার্কগুলিতে লাভের রিপোর্ট করে, যেখানে একজন বিচারক প্রতিক্রিয়া গুণমান স্কোর করে। সেগুলি পছন্দ এবং সহায়তার পরিমাপ, তথ্যগত সঠিকতার গ্যারান্টি নয়। MoA একটি আরও পরিশোধিত, ভাল-সংগঠিত উত্তর তৈরি করতে পারে যখন এখনও একটি শেয়ার করা তথ্যগত ত্রুটি পুনরাবৃত্তি করে, তাই এটি সত্যের গ্যারান্টি হিসাবে বিবেচনা করা উচিত নয়।
MoA একাধিক স্তরের মধ্যে অনেক মডেল চালায়, তাই এটি টোকেন খরচ বাড়ায় এবং একক মডেল কলের তুলনায় বিলম্ব যোগ করে। এগ্রিগেটর স্তরগুলি প্রস্তাবকদের মধ্যে প্রকৃত অমিলকে মসৃণ করতে পারে, এমন সংখ্যালঘু দৃষ্টিভঙ্গিগুলি লুকিয়ে রাখতে পারে যা আসলে দেখা মূল্যবান ছিল। এটি একটি বাস্তব কৌশল যা একটি বাস্তব খরচ/বিলম্বের ট্রেড-অফ, এটি একটি বিনামূল্যে আপগ্রেড নয়।
MoA একটি সংশ্লেষণ স্থাপত্য: প্রস্তাবক মডেলগুলি এগ্রিগেটরগুলিকে খাওয়ায় যা সবকিছু একটিতে পরিশোধিত উত্তর হিসাবে মিশ্রিত করে। একটি এলএলএম কাউন্সিল প্রতিটি মডেলের অবদান দৃশ্যমান রাখে এবং প্রায়ই মডেলগুলি একে অপরকে মূল্যায়ন বা রেট করে, তাই আপনি দেখতে পারেন তারা কোথায় অমিল। MoA একটি শক্তিশালী মিশ্রিত আউটপুটের জন্য অপ্টিমাইজ করে; একটি কাউন্সিল পৃথক দৃষ্টিভঙ্গির স্বচ্ছতার জন্য অপ্টিমাইজ করে।
ঠিক নয়। Argumentree.AI MoA-এর ধারণা শেয়ার করে যে একাধিক মডেল একটির চেয়ে ভাল, কিন্তু একটি একক সংশ্লেষিত উত্তরে একত্রিত করার পরিবর্তে এটি প্রতিটি মডেলের পৃথক যুক্তিগুলি সংরক্ষণ করে এবং প্রতিটি উপলব্ধ মডেলকে অন্য প্রতিটি মডেলের যুক্তিগুলি রেট করতে দেয়। লক্ষ্য হল স্বচ্ছভাবে সম্মতি এবং অমিল প্রকাশ করা, একটিতে মিশ্রিত প্রতিক্রিয়ার পিছনে পৃথক আউটপুটগুলি লুকানো নয়।
MoA মডেলগুলিকে একটি উত্তরে মিশ্রিত করে। Argumentree.AI প্রতিটি মডেলের যুক্তিগুলি দৃশ্যমান এবং পিয়ার-রেটেড রাখে।
ফ্রি শুরু করুন