మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ అనేది అనేక భిన్న పెద్ద భాషా మోడళ్ల స్వతంత్రంగా ఒకే క్లెయిమ్ గురించి ఆలోచించినప్పుడు మరియు ఒకదానికొకటి తమ వాదనలను అంచనా వేస్తున్నప్పుడు చేరిన ఒప్పంద స్థాయి. ఇది ఒకే మోడల్ నమూనా లేదా స్వీయ-సంగతి నుండి భిన్నంగా ఉంది, ఇది ఒక మోడల్ను పునరావృతంగా నమూనా చేస్తుంది మరియు ఆ మోడల్ యొక్క పక్షపాతం పంచుతుంది. ఇది గణాంక సమ్మేళనంతో కూడా భిన్నంగా ఉంది, ఇది అవుట్పుట్లను ఒక సగటు అంచనాలో కలిపిస్తుంది: మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ వ్యక్తిగత వాదనలను కాపాడుతుంది కాబట్టి అవి సగటు చేయబడిన బ్లాక్ బాక్స్లోకి కదలకుండా పరిశీలించబడవచ్చు. మిక్చర్-ఆఫ్-ఏజెంట్స్ (arXiv:2406.04692) పై పరిశోధన అనేక ఎల్ఎల్ఎంలను పొరలుగా అమర్చడం ద్వారా నాణ్యత పెరుగుదలను చూపిస్తుంది, ఇది ప్రధానంగా ఆల్పాకా ఎవాల్స్ వంటి ప్రాధమిక ప్రమాణాలపై కొలవబడింది—ఏదైనా నిర్దిష్ట క్లెయిమ్పై వాస్తవిక ఖచ్చితత్వానికి హామీ ఇవ్వడం కాదు, మెరుగైన ప్రతిస్పందన నాణ్యతకు సాక్ష్యం. Argumentree.AI కాంసెన్సస్ను నిజం ఒరాకిల్ కాదు, నమ్మకం సంకేతంగా పరిగణిస్తుంది; మోడళ్ల మధ్య విభేదాలు తరచుగా అత్యంత కార్యాచరణాత్మక అవుట్పుట్.
మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ అనేది అనేక నిజమైన భిన్న మోడళ్ల మధ్య ఒప్పందం—ఒకే మోడల్ను రెండుసార్లు నమూనా చేయడం కాదు, మరియు ఒక సగటు కలిపినది కాదు. ఇది మీరు పరిశీలించగల నమ్మకం సంకేతం, నిజం ఒరాకిల్ కాదు.
మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ అనేది అనేక భిన్న మోడళ్ల మధ్య ఒప్పందాన్ని కొలుస్తుంది. ఇది స్వీయ-సంగతి (ఒక మోడల్, అనేక నమూనాలు) మరియు గణాంక సమ్మేళన (సగటు కలిపినది) నుండి భిన్నంగా ఉంది. ఇది వ్యక్తిగత వాదనలను కాపాడుతుంది—మరియు ఇది నమ్మకం సంకేతం, నిజం యొక్క సాక్ష్యం కాదు.
మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ అనేది అనేక భిన్న పెద్ద భాషా మోడళ్ల స్వతంత్రంగా ఒకే ప్రశ్న గురించి ఆలోచించినప్పుడు మరియు ఒకదానికొకటి తమ వాదనలను అంచనా వేస్తున్నప్పుడు చేరిన ఒప్పంద స్థాయి. ముఖ్యమైన పదం భిన్నమైన: మోడళ్లు భిన్న నిర్మాణాలు మరియు శిక్షణ డేటా నుండి వస్తాయి, కాబట్టి అవి సమ్మిళితమైనప్పుడు, ఆ ఒప్పందం ఒక వ్యవస్థ యొక్క దృష్టికోణం కంటే ఎక్కువను ప్రతిబింబిస్తుంది—మరియు అవి విభజించినప్పుడు, విభజన నిజంగా పోరాటంలో ఉన్న క్లెయిమ్ను గుర్తిస్తుంది.
ఒక సాధారణ సింగిల్-మోడల్ సాంకేతికత స్వీయ-సంగతి: ఒకే మోడల్ను అనేక సార్లు నమూనా చేయండి మరియు మెజారిటీ సమాధానాన్ని తీసుకోండి. ఇది యాదృచ్ఛిక వ్యత్యాసాన్ని తగ్గిస్తుంది, కానీ ప్రతి నమూనా ఒకే మోడల్ యొక్క పక్షపాతం మరియు అంధ స్థలాలను వారసత్వంగా పొందుతుంది. మోడల్ నమ్మకంగా తప్పు అయితే, దాన్ని మళ్లీ నమూనా చేయడం కేవలం తప్పును పునరావృతం చేస్తుంది. మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ రకంగా భిన్నంగా ఉంది—ఇది స్వతంత్ర మోడళ్లను ఆధారంగా తీసుకుంటుంది, కాబట్టి ఒక మోడల్లోని పంచాయితీని అన్ని మోడళ్లు పంచుకోవడం అసాధ్యం.
క్లాసికల్ సమ్మేళన మోడల్ అవుట్పుట్లను ఒకే సగటు అంచనాలో కలిపిస్తుంది—ఒక స్కోర్ కోసం ఉపయోగకరమైనది, అర్థం చేసుకోవడానికి ఉపయోగకరమైనది కాదు. మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ ఉద్దేశ్యంగా వ్యతిరేకంగా చేస్తుంది: ఇది వ్యక్తిగత వాదనలను కాపాడుతుంది కాబట్టి మీరు ప్రతి మోడల్ యొక్క ఆలోచనను చదవవచ్చు. ఏదీ బ్లాక్-బాక్స్ సంఖ్యగా సగటు చేయబడదు. ఇది విభేదాన్ని స్పష్టంగా చేయడానికి మరియు సగటు లోకి కరిగిపోకుండా చేయడానికి ఏమిటి.
| అవకాశం | ఇది ఏమి కలిపిస్తుంది | ఆలోచన కనిపిస్తున్నదా? |
|---|---|---|
| స్వీయ-సంగతి | ఒక మోడల్, అనేక నమూనాలు | మెజారిటీ సమాధానం మాత్రమే |
| గణాంక సమ్మేళన | సగటులో కలిపిన అవుట్పుట్లు | లేదు—సగటు చేయబడింది |
| మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ | అనేక భిన్న మోడళ్ల వాదనలు | అవును—కాపాడబడిన మరియు పరిశీలించదగినవి |
ఇక్కడ ఎక్కువగా ఉల్లేఖించబడిన పరిశోధన మిక్చర్-ఆఫ్-ఏజెంట్స్ (arXiv:2406.04692), ఇది అనేక ఎల్ఎల్ఎంలను పొరలుగా అమర్చడం ద్వారా తరువాతి పొరలు ముందరి ప్రతిస్పందనలను మెరుగుపరుస్తుంది. ఇది నాణ్యత పెరుగుదలను నివేదిస్తుంది—కానీ ఏమి కొలవబడిందో స్పష్టంగా ఉండటం ముఖ్యం.
మిక్చర్-ఆఫ్-ఏజెంట్స్ లాభాలు ప్రధానంగా ప్రాధమిక ప్రమాణాలు వంటి ఆల్పాకా ఎవాల్స్పై చూపించబడ్డాయి—ఒక ప్రతిస్పందన ఎంత మంచి అని అంచనా వేయబడింది. ఇది కచ్చితమైన వాస్తవిక ఖచ్చితత్వానికి హామీ కాదు. మోడళ్లను కలపడం నాణ్యతను మెరుగుపరచవచ్చు; ఇది నిజాన్ని ధృవీకరించదు.
భాగాలను కలిపి నిజమైన ఫ్రేమింగ్ ఇది: మల్టీ-ఎల్ఎల్ఎం కాంసెన్సస్ అనేది నమ్మకం సంకేతం. అధిక కాంసెన్సస్ అనేది అనేక స్వతంత్ర వ్యవస్థలు ఒప్పుకుంటున్నాయి, ఇది మానవ ధృవీకరణకు ప్రాధమికతను తగ్గిస్తుంది—కానీ అది దాన్ని తొలగించదు. మోడళ్లు శిక్షణ పక్షపాతం పంచుకోవచ్చు మరియు తప్పుగా ఒప్పుకోవచ్చు. కాంసెన్సస్ను "సాధారణంగా తక్కువ ప్రమాదం" అని పరిగణించండి, మరియు విభేదాలను మీ అత్యంత కార్యాచరణాత్మక అవుట్పుట్గా పరిగణించండి: అవి ధృవీకరణ ముఖ్యమైన చోటు చూపిస్తాయి.
భిన్న వ్యవస్థల మధ్య కాంసెన్సస్—ఒకే మోడల్ను పునరావృతం చేయడం కాదు
ప్రతి మోడల్ యొక్క ఆలోచనను చదవండి; ఏదీ బ్లాక్ బాక్స్లో సగటు చేయబడదు
స్కోర్లు నమ్మకాన్ని కేలిబ్రేట్ చేస్తాయి—నిజం యొక్క సాక్ష్యం గా ఎప్పుడూ ప్రదర్శించబడదు
పోరాటంలో ఉన్న పాయింట్లు మానవ ధృవీకరణ కోసం గుర్తించబడ్డాయి
మల్టీ-ఎల్ఎల్ఎం కంసెన్సస్ అనేది అనేక వేర్వేరు పెద్ద భాషా మోడల్స్ ఒకే క్లెయిమ్ గురించి స్వతంత్రంగా ఆలోచించి, ఒకదానికొకటి వాదనలను అంచనా వేస్తున్నప్పుడు చేరిన ఒప్పంద స్థాయి.
సెల్ఫ్-కన్సిస్టెన్సీ ఒకే ఒక్క మోడల్ను అనేక సార్లు నమూనా చేస్తుంది మరియు మెజారిటీ సమాధానాన్ని తీసుకుంటుంది. ఇది యాదృచ్ఛిక వ్యత్యాసాన్ని తగ్గిస్తుంది కానీ ఒక మోడల్ యొక్క పక్షపాతం మరియు అంధ స్థలాలను పంచుకుంటుంది. మల్టీ-ఎల్ఎల్ఎం కంసెన్సస్ వేర్వేరు మోడల్స్ను ఉపయోగిస్తుంది, కాబట్టి ఒప్పందం మరింత అర్థవంతంగా ఉంటుంది మరియు విరుద్ధత ఒక మోడల్ యొక్క పునరావృత నమూనా చేయడం ద్వారా ఎప్పుడూ బయటపడని అంధ స్థలాన్ని వెల్లడించవచ్చు.
సాంఖ్యిక ఎన్సెంబ్లింగ్ మోడల్ అవుట్పుట్లను ఒకే సగటు అంచనాలో కలిపి, వ్యక్తిగత ఆలోచనను విసర్జిస్తుంది. మల్టీ-ఎల్ఎల్ఎం కంసెన్సస్ ప్రతి మోడల్ యొక్క వాదనలను కాపాడుతుంది కాబట్టి మీరు వాటిని చదవవచ్చు. ఏదీ ఒక నల్ల బాక్స్ స్కోర్గా సగటు చేయబడదు, మీరు పరిశీలించలేని—వ్యక్తిగత కేసులు కనిపిస్తాయి, ఇది విరుద్ధతను స్పష్టంగా చేయడానికి కారణమవుతుంది.
మిక్చర్-ఆఫ్-ఏజెంట్స్ (arXiv:2406.04692) వంటి పరిశోధనలు అనేక ఎల్ఎల్ఎంలను పొరలు వేయడం ద్వారా నాణ్యత పెరుగుదలను చూపిస్తాయి, ఇది ప్రధానంగా ఆల్పాకా ఎవాల్ వంటి ప్రాధమిక ప్రమాణాలపై కొలవబడింది. ఈ ప్రమాణాలపై మెరుగైన ప్రతిస్పందన నాణ్యతకు ఇది సాక్ష్యం—ఇది ఏదైనా క్లెయిమ్పై వాస్తవ నిష్పత్తి యొక్క హామీ కాదు. కంసెన్సస్ను ఒక నమ్మక సంకేతంగా పరిగణించండి, నిజం ఒరాకిల్గా కాదు.
లేదు. కంసెన్సస్ ఒక నమ్మక సంకేతం, నిరూపణ కాదు. అనేక మోడల్స్ ఒకే శిక్షణ పక్షపాతం పంచుకోవచ్చు మరియు తప్పు విషయంపై ఒప్పుకోవచ్చు. అధిక కంసెన్సస్ మానవ ధృవీకరణకు ప్రాధమికతను తగ్గిస్తుంది; ఇది ఎప్పుడూ దానిని తొలగించదు. అత్యంత కార్యాచరణాత్మక అవుట్పుట్ సాధారణంగా విరుద్ధత, ఇది ధృవీకరణ అత్యంత ముఖ్యమైన చోటు చూపిస్తుంది.
ఒకే మోడల్ను రెండుసార్లు నమూనా చేయడం కాదు. అనేక భిన్న మోడళ్లు, వాదనలు కాపాడబడ్డాయి, విభేదం కనిపిస్తుంది.
ఉచితంగా ప్రారంభించండి