ఒక LLM కౌన్సిల్ అనేది పెద్ద భాషా మోడళ్ల సమూహం, ఇవి ప్రతి ఒక్కటి ప్రశ్నకు స్వతంత్రంగా సమాధానం ఇస్తాయి, తరువాత పరస్పర రేటింగ్ ద్వారా ఏకాభిప్రాయానికి చేరుకుంటాయి. ఈ నమూనాను ఆండ్రెజ్ కర్పథీ యొక్క ఓపెన్-సోర్స్ 'llm-council' గిడ్డంగి ద్వారా ప్రాచుర్యం పొందింది, ఇందులో అనేక మోడళ్లు సమాధానం ఇస్తాయి మరియు తరువాత ఒక ఫైనల్ సింథసిస్కు ముందు ఒకదానిని ర్యాంక్ చేస్తాయి. Argumentree.AI కౌన్సిల్ నమూనాను నిర్మిత వాదన చెట్లతో మరియు అనామిక పరస్పర రేటింగ్తో విస్తరించింది—అనామికంగా ఎందుకంటే LLMని న్యాయమూర్తిగా ఉపయోగించడం గురించి పరిశోధన ఒక స్వీయ-ఉన్నతతా పక్షపాతం నమోదు చేస్తుంది, ఇందులో మోడళ్లు తమ స్వంత అవుట్పుట్లను ప్రాధాన్యం ఇస్తాయి. ఒక హోస్టెడ్ LLM కౌన్సిల్ మీకు మీ స్వంత API కీలు అందించకుండా అనేక మోడళ్లను ప్రశ్నించడానికి అనుమతిస్తుంది. నిజమైన వ్యాపారం ఖర్చు మరియు ఆలస్యం: ఒక కౌన్సిల్ అనేక మోడల్ కాల్స్ చేస్తుంది, కాబట్టి ఇది ఒకే ప్రశ్న కంటే నెమ్మదిగా మరియు ఖరీదైనది, క్రాస్-మోడల్ ధృవీకరణ మరియు స్పష్టమైన విభేదానికి మార్పిడి.
ఒక LLM కౌన్సిల్ అనేక భాషా మోడళ్లను స్వతంత్రంగా సమాధానం ఇవ్వడానికి, పరస్పర రేటింగ్ చేయడానికి మరియు ఏకాభిప్రాయానికి చేరుకోవడానికి అనుమతిస్తుంది. ఇది "ఒక నమ్మకమైన సమాధానం" ను మీరు పరిశీలించగల చర్చగా మార్చుతుంది.
ఒక LLM కౌన్సిల్ అనేక మోడళ్లు స్వతంత్రంగా సమాధానం ఇస్తాయి, తరువాత పరస్పర రేటింగ్ ద్వారా ఏకాభిప్రాయాన్ని ఏర్పరుస్తాయి. ఈ నమూనా కర్పథీ యొక్క ఓపెన్-సోర్స్ llm-council నుండి వస్తుంది. Argumentree.AI దీనిని హోస్ట్ చేస్తుంది—API కీలు అవసరం లేదు—మరియు స్వీయ-సంతృప్తిని తగ్గించడానికి అనామికంగా రేటింగ్ చేస్తుంది.
ఒక కౌన్సిల్ నమూనాని చెప్పడం సులభం: అనేక LLMలు ఒకే ప్రశ్నకు స్వతంత్రంగా సమాధానం ఇస్తాయి, తరువాత పరస్పర సమాధానాలను అంచనా వేస్తాయి, మరియు కౌన్సిల్ ఏకాభిప్రాయాన్ని పొందడానికి peer రేటింగ్ల నుండి తీసుకుంటుంది. ఏ ఒక్క మోడల్ చివరి మాటను పొందదు. మోడళ్లు సమాధానం ఇవ్వడానికి ముందు ఒకదానిని చూడకపోవడం వల్ల, వారి స్వతంత్ర తర్కం కాపాడబడుతుంది—మరియు వారు విభజించే ప్రదేశాలు ఒక నమ్మకమైన సమాధానానికి వెనుక దాచబడినవి కాకుండా స్పష్టంగా కనిపిస్తాయి.
ప్రతి మోడల్ ఇతరులను చూడకుండా ప్రశ్నకు స్వతంత్రంగా సమాధానం ఇస్తుంది
ప్రతి మోడల్ ఇతర మోడళ్ల సమాధానాలను అంచనా వేస్తుంది
రేటింగ్లను సమీకరించడం ద్వారా కౌన్సిల్ ఏది అంగీకరిస్తుంది మరియు ఏది అంగీకరించదు అనే విషయాలను వెల్లడిస్తుంది
ఆండ్రెజ్ కర్పథీ ఈ ప్రవాహాన్ని నిరూపించడానికి ఓపెన్-సోర్స్ "llm-council" గిడ్డంగిని విడుదల చేశారు—అనేక మోడళ్లు సమాధానం ఇస్తాయి, పరస్పర ర్యాంక్ చేస్తాయి, మరియు ఒక ఫైనల్ సమాధానం సింథసిస్ చేయబడుతుంది. ఇది మోడళ్లు పరస్పరంగా అర్థవంతంగా అంచనా వేయగలవని నిరూపించడానికి ఒక ప్రజా ప్రూఫ్. Argumentree.AI అదే ఆలోచనపై నిర్మిస్తుంది.
Argumentree.AI కౌన్సిల్ నమూనాను రెండు మార్గాల్లో ముందుకు తీసుకెళ్తుంది. మొదట, మొత్తం సమాధానాలను పోల్చడం కాకుండా, ఇది ప్రతి మోడల్ యొక్క తర్కాన్ని వాదన చెట్టుగా నిర్మిస్తుంది—కాబట్టి వ్యక్తిగత వాదనలు రేటింగ్ చేయబడవచ్చు మరియు పరిశీలించబడవు, కేవలం ఫైనల్ పేరాగ్రాఫ్ కాదు. రెండవది, ఇది అనామిక పరస్పర రేటింగ్ను ఉపయోగిస్తుంది: ఒక మోడల్ వాదనలను రేటింగ్ చేస్తే, అది ఏ మోడల్ వాటిని రచించింది అనే విషయం తెలియదు.
ఒక LLMని న్యాయమూర్తిగా ఉపయోగించడం గురించి పరిశోధన ఒక స్వీయ-ఉన్నతతా పక్షపాతంను నమోదు చేస్తుంది—మోడళ్లు తమ స్వంత అవుట్పుట్లను ఎక్కువగా ప్రాధాన్యం ఇస్తాయి. రేటింగ్కు ముందు రచనను దాచడం ఈ షార్ట్కట్ను తొలగిస్తుంది, కాబట్టి ఒక మోడల్ తనను తాను సులభంగా బహుమతించలదు. ఇది అనామిక క్రాస్-రేటింగ్కు డిజైన్ తర్కం.
మీరు కౌన్సిల్ను స్వయంగా నిర్వహించడం అంటే సాధారణంగా ప్రతి మోడల్ ప్రొవైడర్తో సైన్ అప్ చేయడం మరియు వేరు వేరు API కీలు కేబుల్ చేయడం. Argumentree.AI ఒక హోస్టెడ్ LLM కౌన్సిల్ను అందిస్తుంది: మీరు ఒకసారి అడుగుతారు, మరియు అందుబాటులో ఉన్న అన్ని మోడళ్లు పాల్గొంటాయి—నిర్వహించడానికి కీలు అవసరం లేదు, ప్రతి ప్రొవైడర్ సెటప్ లేదు. మీరు కౌన్సిల్ యొక్క ఏకాభిప్రాయాన్ని మరియు దాని విభేదాలను ఒకే చోట పొందుతారు.
ఒక కౌన్సిల్ ఉచితం కాదు. నిర్వచన ప్రకారం ఇది బహుళ మోడల్ కాల్స్ చేస్తుంది, కాబట్టి ఇది ఎక్కువ కంప్యూట్ను ఉపయోగిస్తుంది మరియు ఒకే ప్రశ్న కంటే తిరిగి రావడానికి ఎక్కువ సమయం తీసుకుంటుంది. ఇది ఉద్దేశపూర్వక వ్యాపారం: మీరు క్రాస్-మోడల్ ధృవీకరణ మరియు మోడళ్లు విభేదించే ప్రదేశాల స్పష్టమైన మ్యాప్ పొందడానికి ఎక్కువ ఖర్చు చేస్తారు. అధిక-స్టేక్ పరిశోధన కోసం ఇది మంచి ఒప్పందం; తక్కువ ప్రాముఖ్యత గల లుకప్ కోసం ఒక మోడల్ సరిపోతుంది.
ఒకే ప్రశ్నతో అనేక మోడళ్ల కౌన్సిల్ను ఏర్పాటు చేయండి
ప్రతి మోడల్ యొక్క తర్కాన్ని పాయింట్ బై పాయింట్గా పరిశీలించండి, బ్లాబ్గా కాదు
క్రాస్-రేటింగ్ రచనను దాచుతుంది స్వీయ-ఉన్నతతా పక్షపాతం తగ్గించడానికి
ప్రతి ప్రొవైడర్ API కీలు అవసరం లేదు—ఏకాభిప్రాయం మరియు విభేదాలు బాక్స్ నుండి బయట
ఒక LLM కౌన్సిల్ అనేది పెద్ద భాషా మోడళ్ల సమూహం, ఇవి ప్రతి ఒక్కటి ప్రశ్నకు స్వతంత్రంగా సమాధానం ఇస్తాయి, తరువాత పరస్పర రేటింగ్ ద్వారా ఏకాభిప్రాయాన్ని ఉత్పత్తి చేస్తాయి. ఒకే మోడల్పై ఆధారపడడం కాకుండా, కౌన్సిల్ మోడళ్ల మధ్య అంగీకారం మరియు విభేదాలను స్పష్టంగా చేస్తుంది—కాబట్టి మీరు మోడళ్లు ఏ చోట చేరుతాయో మరియు ఏ చోట చేరవు అనే విషయాలను చూడవచ్చు.
ఆండ్రెజ్ కర్పథీ నమూనాను నిరూపించడానికి ఓపెన్-సోర్స్ 'llm-council' గిడ్డంగిని విడుదల చేశారు: అనేక మోడళ్లు ఒక ప్రశ్నకు సమాధానం ఇస్తాయి, తరువాత ఫైనల్ సింథసిస్కు ముందు పరస్పర సమాధానాలను ర్యాంక్ చేస్తాయి. ఇది మోడళ్ల మధ్య సమాహార తర్కానికి కాన్సెప్ట్-ప్రూఫ్. Argumentree.AI నిర్మిత వాదన చెట్లతో మరియు అనామిక పరస్పర రేటింగ్తో ఆ ఆలోచనను విస్తరిస్తుంది.
ఒక LLMని న్యాయమూర్తిగా ఉపయోగించడం గురించి పరిశోధన ఒక స్వీయ-ఉన్నతతా పక్షపాతం నమోదు చేస్తుంది—మోడళ్లు తమ స్వంత అవుట్పుట్లను ప్రాధాన్యం ఇస్తాయి. రేటింగ్కు ముందు ఏ మోడల్ ఏ వాదనను ఉత్పత్తి చేసింది అనేది అనామికంగా ఉంచడం ఆ పక్షపాతం తగ్గిస్తుంది, కాబట్టి ఒక మోడల్ తనను తాను సులభంగా బహుమతించలదు. ఇది Argumentree.AI యొక్క అనామిక క్రాస్-రేటింగ్ వెనుక డిజైన్ తర్కం.
హోస్టెడ్ LLM కౌన్సిల్తో కాదు. ఓపెన్-సోర్స్ అమలు సాధారణంగా ప్రతి ప్రొవైడర్ కోసం API కీలు అందించడానికి మీకు అవసరం. Argumentree.AI అనేక మోడళ్లను ప్రశ్నించడానికి మరియు మీ స్వంత API కీలు కేబుల్ చేయకుండా వారి ఏకాభిప్రాయాన్ని చూడడానికి హోస్టెడ్ బహుళ-LLM కౌన్సిల్ను అందిస్తుంది.
నిజంగా, ఒక కౌన్సిల్ నిర్వహించడం ఒకే ప్రశ్న కంటే ఎక్కువ ఖర్చు చేస్తుంది—ఇది బహుళ మోడల్ కాల్స్ చేస్తుంది, కాబట్టి ఇది ఎక్కువ కంప్యూట్ను ఉపయోగిస్తుంది మరియు తిరిగి రావడానికి ఎక్కువ సమయం తీసుకుంటుంది. ఆ వ్యాపారం మీకు క్రాస్-మోడల్ ధృవీకరణ మరియు విభేదాల స్పష్టమైన మ్యాప్ను కొనుగోలు చేస్తుంది. అధిక-స్టేక్ ప్రశ్నల కోసం అదనపు ఖర్చు మరియు ఆలస్యం సాధారణంగా విలువైనవి; తక్కువ ప్రాముఖ్యత గల లుకప్ కోసం ఒక మోడల్ సరిపోతుంది.
అనేక మోడళ్లు, ఒక ప్రశ్న, మీరు పరిశీలించగల ఏకాభిప్రాయం—API కీలు అవసరం లేదు.
ఉచితంగా ప్రారంభించండి