একটি LLM কাউন্সিল হল বড় ভাষার মডেলের একটি গ্রুপ যা প্রত্যেকে স্বাধীনভাবে একটি প্রশ্নের উত্তর দেয়, তারপর একে অপরের প্রতিক্রিয়া মূল্যায়ন করে একটি সম্মতিতে পৌঁছায়। এই প্যাটার্নটি আন্দ্রে কারপাথির ওপেন-সোর্স 'llm-council' রিপোজিটরি দ্বারা জনপ্রিয় হয়, একটি ধারণা-প্রমাণ যেখানে একাধিক মডেল উত্তর দেয় এবং তারপর একটি চূড়ান্ত সংশ্লেষণের আগে একে অপরকে র্যাঙ্ক করে। Argumentree.AI কাঠামোবদ্ধ যুক্তি গাছ এবং অ্যানোনিমাইজড পারস্পরিক রেটিংয়ের সাথে কাউন্সিল প্যাটার্নটি প্রসারিত করে—অ্যানোনিমাইজড কারণ একটি LLM কে বিচারক হিসেবে ব্যবহার করার গবেষণা একটি স্ব-উন্নতি পক্ষপাত নথিভুক্ত করে যেখানে মডেলগুলি তাদের নিজস্ব আউটপুটকে পছন্দ করে। একটি হোস্টেড LLM কাউন্সিল আপনাকে আপনার নিজস্ব API কী সরবরাহ না করেই একাধিক মডেলকে অনুসন্ধান করতে দেয়। সৎ ট্রেড-অফ হল খরচ এবং লেটেন্সি: একটি কাউন্সিল একাধিক মডেল কল করে, তাই এটি একটি একক অনুসন্ধানের চেয়ে ধীর এবং আরও ব্যয়বহুল, ক্রস-মডেল যাচাইকরণ এবং দৃশ্যমান অমিলের বিনিময়ে।
একটি LLM কাউন্সিল একাধিক ভাষার মডেলকে স্বাধীনভাবে উত্তর দিতে, একে অপরকে মূল্যায়ন করতে এবং একটি সম্মতিতে পৌঁছাতে দেয়। এটি "একটি আত্মবিশ্বাসী উত্তর" কে একটি আলোচনায় পরিণত করে যা আপনি পরিদর্শন করতে পারেন।
একটি LLM কাউন্সিল হল একাধিক মডেল স্বাধীনভাবে উত্তর দেওয়া, তারপর সম্মতি গঠনের জন্য একে অপরকে রেটিং করা। প্যাটার্নটি কারপাথির ওপেন-সোর্স llm-council থেকে এসেছে। Argumentree.AI এটি হোস্ট করে—কোনও API কী প্রয়োজন নেই—এবং স্ব-প্রশংসা কমাতে অ্যানোনিমাসভাবে রেট করে।
কাউন্সিল প্যাটার্ন বলা সহজ: একাধিক LLM একই প্রশ্নের উত্তর স্বাধীনভাবে দেয়, তারপর একে অপরের উত্তর মূল্যায়ন করে, এবং একটি সম্মতি পিয়ার রেটিং থেকে আঁকা হয়। কোন একক মডেল শেষ কথা বলে না। কারণ মডেলগুলি উত্তর দেওয়ার আগে একে অপরের প্রতিক্রিয়া দেখে না, তাদের স্বাধীন যুক্তি সংরক্ষিত থাকে—এবং যেখানে তারা বিচ্যুত হয় সেগুলি দৃশ্যমান হয়ে যায়, একটি আত্মবিশ্বাসী প্রতিক্রিয়ার পিছনে লুকিয়ে থাকে না।
প্রতিটি মডেল একা একা প্রশ্নের উত্তর দেয়, অন্যদের না দেখে
প্রতিটি মডেল অন্য মডেলের উত্তর মূল্যায়ন করে
রেটিংগুলি একত্রিত হয় যাতে কাউন্সিল কোথায় একমত এবং অমত প্রকাশ করে তা প্রকাশ পায়
আন্দ্রে কারপাথি একটি ওপেন-সোর্স "llm-council" রিপোজিটরি প্রকাশ করেছেন যা ঠিক এই প্রবাহটি প্রদর্শন করে—একাধিক মডেল উত্তর দেয়, একে অপরকে র্যাঙ্ক করে, এবং একটি চূড়ান্ত প্রতিক্রিয়া সংশ্লেষিত হয়। এটি একটি পাবলিক প্রমাণ যে মডেলগুলি একে অপরকে অর্থপূর্ণভাবে মূল্যায়ন করতে পারে। Argumentree.AI একই ধারণার উপর ভিত্তি করে।
Argumentree.AI কাউন্সিল প্যাটার্নটিকে দুটি উপায়ে আরও এগিয়ে নিয়ে যায়। প্রথমত, সম্পূর্ণ উত্তরগুলি তুলনা করার পরিবর্তে, এটি প্রতিটি মডেলের যুক্তিকে একটি যুক্তি গাছ এ কাঠামোবদ্ধ করে—তাহলে পৃথক দাবিগুলি রেট এবং পরিদর্শন করা যেতে পারে, কেবল চূড়ান্ত প্যারাগ্রাফ নয়। দ্বিতীয়ত, এটি অ্যানোনিমাইজড পারস্পরিক রেটিং ব্যবহার করে: যখন একটি মডেল যুক্তি রেট করে, এটি জানে না কোন মডেল সেগুলি রচনা করেছে।
একটি LLM কে বিচারক হিসেবে ব্যবহার করার গবেষণায় একটি স্ব-উন্নতি পক্ষপাত নথিভুক্ত হয়েছে—মডেলগুলি তাদের নিজস্ব আউটপুটকে আরও ইতিবাচকভাবে রেট করতে প্রবণ। রেটিংয়ের আগে লেখকত্ব লুকিয়ে রাখলে শর্টকাটটি সরিয়ে ফেলা হয়, তাই একটি মডেল সহজেই নিজেকে পুরস্কৃত করতে পারে না। এটি অ্যানোনিমাইজড ক্রস-রেটিংয়ের ডিজাইন যুক্তি।
একটি কাউন্সিল নিজে চালানো সাধারণত প্রতিটি মডেল প্রদানকারীর সাথে সাইন আপ করা এবং আলাদা API কী সংযুক্ত করার অর্থ। Argumentree.AI একটি হোস্টেড LLM কাউন্সিল অফার করে: আপনি একবার জিজ্ঞাসা করেন, এবং সমস্ত উপলব্ধ মডেল অংশগ্রহণ করে—কোন কী পরিচালনা করতে হয় না, কোন প্রদানকারী সেটআপ নেই। আপনি কাউন্সিলের সম্মতি এবং এর অমত এক জায়গায় পান।
একটি কাউন্সিল বিনামূল্যে নয়। সংজ্ঞা অনুসারে এটি একাধিক মডেল কল করে, তাই এটি আরও কম্পিউট ব্যবহার করে এবং একটি একক অনুসন্ধানের চেয়ে ফিরে আসতে বেশি সময় নেয়। এটি একটি উদ্দেশ্যমূলক ট্রেড: আপনি ক্রস-মডেল যাচাইকরণ এবং অমিলের দৃশ্যমান মানচিত্র লাভ করতে বেশি ব্যয় করেন। উচ্চ-দাবির গবেষণার জন্য এটি একটি ভাল চুক্তি; তুচ্ছ অনুসন্ধানের জন্য একটি মডেল যথেষ্ট।
একটি একক প্রশ্ন নিয়ে একাধিক মডেলের একটি কাউন্সিল convene করুন
প্রতিটি মডেলের যুক্তি পয়েন্ট বাই পয়েন্ট পরিদর্শন করুন, একটি ব্লব হিসাবে নয়
ক্রস-রেটিং লেখকত্ব লুকিয়ে রাখে যাতে স্ব-উন্নতি পক্ষপাত কমে
কোনও প্রদানকারী API কী নেই—বাক্সের বাইরে সম্মতি এবং অমত
একটি LLM কাউন্সিল হল বড় ভাষার মডেলের একটি গ্রুপ যা প্রত্যেকে স্বাধীনভাবে একটি প্রশ্নের উত্তর দেয়, তারপর একে অপরের প্রতিক্রিয়া মূল্যায়ন করে একটি সম্মতিমূলক দৃষ্টিভঙ্গি তৈরি করে। একটি একক মডেলের উপর নির্ভর করার পরিবর্তে, কাউন্সিল মডেলগুলির মধ্যে একমত এবং অমতকে স্পষ্ট করে—তাহলে আপনি দেখতে পারেন মডেলগুলি কোথায় মিলিত হয় এবং কোথায় তারা মিলিত হয় না।
আন্দ্রে কারপাথি একটি ওপেন-সোর্স 'llm-council' রিপোজিটরি প্রকাশ করেছেন যা প্যাটার্নটি প্রদর্শন করে: একাধিক মডেল একটি অনুসন্ধানের উত্তর দেয়, তারপর একটি চূড়ান্ত সংশ্লেষণের আগে একে অপরের উত্তর র্যাঙ্ক করে। এটি মডেলগুলির মধ্যে সমষ্টিগত যুক্তির একটি ধারণা-প্রমাণ। Argumentree.AI কাঠামোবদ্ধ যুক্তি গাছ এবং অ্যানোনিমাইজড পারস্পরিক রেটিংয়ের সাথে ধারণাটি প্রসারিত করে।
একটি LLM কে বিচারক হিসেবে ব্যবহার করার গবেষণায় একটি স্ব-উন্নতি পক্ষপাত নথিভুক্ত হয়েছে—মডেলগুলি তাদের নিজস্ব আউটপুটকে পছন্দ করে। রেটিংয়ের আগে কোন মডেল কোন যুক্তি তৈরি করেছে তা অ্যানোনিমাইজ করা সেই পক্ষপাত কমায়, তাই একটি মডেল সহজেই নিজেকে পুরস্কৃত করতে পারে না। এটি Argumentree.AI এর অ্যানোনিমাইজড ক্রস-রেটিংয়ের পিছনের ডিজাইন যুক্তি।
একটি হোস্টেড LLM কাউন্সিলের সাথে নয়। ওপেন-সোর্স বাস্তবায়নগুলি সাধারণত আপনাকে প্রতিটি প্রদানকারীর জন্য API কী সরবরাহ করতে বলে। Argumentree.AI একটি হোস্টেড মাল্টি-LLM কাউন্সিল অফার করে যাতে আপনি একাধিক মডেলকে অনুসন্ধান করতে পারেন এবং তাদের সম্মতি দেখতে পারেন আপনার নিজস্ব API কী সংযুক্ত না করেই।
সত্যি বলতে, একটি কাউন্সিল চালানো একটি একক অনুসন্ধানের চেয়ে বেশি খরচ করে—এটি একাধিক মডেল কল করে, তাই এটি আরও কম্পিউট ব্যবহার করে এবং ফিরে আসতে বেশি সময় নেয়। সেই ট্রেড-অফটি আপনাকে ক্রস-মডেল যাচাইকরণ এবং অমিলের দৃশ্যমান মানচিত্র কিনতে দেয়। উচ্চ-দাবির প্রশ্নের জন্য অতিরিক্ত খরচ এবং লেটেন্সি সাধারণত মূল্যবান; তুচ্ছ অনুসন্ধানের জন্য একটি একক মডেল যথেষ্ট।
একাধিক মডেল, একটি প্রশ্ন, সম্মতি যা আপনি পরিদর্শন করতে পারেন—কোনও API কী প্রয়োজন নেই।
ফ্রি শুরু করুন