ಏನು ಮಿಶ್ರಣ-ಆಧಾರಿತ ಏಜೆಂಟ್‌ಗಳು?

ಮಿಶ್ರಣ-ಆಧಾರಿತ ಏಜೆಂಟ್‌ಗಳು (MoA) "ಮಿಶ್ರಣ-ಆಧಾರಿತ ಏಜೆಂಟ್‌ಗಳು ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಯ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಸುಧಾರಿಸುತ್ತವೆ" (arXiv:2406.04692) ಎಂಬ ಕಾಗದದಲ್ಲಿ ಪರಿಚಯಿಸಲಾದ ಹಂತದ ಬಹು-LLM ವಾಸ್ತುಶಿಲ್ಪವಾಗಿದೆ. MoA ನಲ್ಲಿ, ಹಲವಾರು ಮಾದರಿಗಳು ಒಂದು ಹಂತದಲ್ಲಿ ಪ್ರಸ್ತಾವಕರಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ; ಅವರ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ಮುಂದಿನ ಹಂತದಲ್ಲಿ ಸಂಶ್ಲೇಷಕ ಮಾದರಿಗಳಿಗೆ ಹಸ್ತಾಂತರಿಸಲಾಗುತ್ತದೆ, ಅದು ಶುದ್ಧೀಕೃತ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಸಂಶ್ಲೇಷಿಸುತ್ತದೆ. ಹೆಚ್ಚುವರಿ ಹಂತಗಳು ಸುಧಾರಣೆಯನ್ನು ಪುನರಾವೃತ್ತ ಮಾಡುತ್ತವೆ. ಈ ಕಾಗದವು AlpacaEval 2.0, MT-Bench ಮತ್ತು FLASK ಮುಂತಾದ ಪ್ರಾಧಾನ್ಯ ಶ್ರೇಣೀಬದ್ಧ ಮೌಲ್ಯಮಾಪನಗಳಲ್ಲಿ ಲಾಭಗಳನ್ನು ವರದಿ ಮಾಡುತ್ತದೆ — ಪ್ರತಿಕ್ರಿಯೆ ಗುಣಮಟ್ಟದ ಅಳತೆ, ವಾಸ್ತವಿಕ ಶುದ್ಧತೆಯ ಖಾತರಿಯಲ್ಲ. MoA ಟೋಕನ್ ವೆಚ್ಚವನ್ನು ಬಹುಗುಣಿತಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ವಿಳಂಬವನ್ನು ಸೇರಿಸುತ್ತದೆ ಏಕೆಂದರೆ ಇದು ಹಂತಗಳಲ್ಲಿ ಹಲವಾರು ಮಾದರಿ ಕರೆಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ, ಮತ್ತು ಸಂಶ್ಲೇಷಣೆಯು ನಿಜವಾದ ಅಸಹಮತವನ್ನು ಸಮತಲಗೊಳಿಸಬಹುದು. Argumentree.AI ಸಂಬಂಧಿತವಾಗಿದೆ ಆದರೆ ಭಿನ್ನವಾಗಿದೆ: ಒಂದು ಸಂಶ್ಲೇಷಿತ ಉತ್ತರದಲ್ಲಿ ವಿಲೀನಗೊಳಿಸುವ ಬದಲು, ಇದು ಪ್ರತಿ ಮಾದರಿಯ ವೈಯಕ್ತಿಕ ವಾದಗಳನ್ನು ಉಳಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ಲಭ್ಯವಿರುವ ಮಾದರಿಯು ಇತರ ಮಾದರಿಯ ವಾದಗಳನ್ನು ಅಂಕಿತಗೊಳಿಸುತ್ತದೆ, ಒಪ್ಪಂದ ಮತ್ತು ಅಸಹಮತವನ್ನು ಮರೆಮಾಚುವ ಬದಲು ಮೇಲಕ್ಕೆ ತರುತ್ತದೆ.

ಕೋಷ್ಟಕ AI ಬುದ್ಧಿಮತ್ತೆಗೆ ಹಿಂತಿರುಗಿಬಹು-LLM ವಾಸ್ತುಶಿಲ್ಪ

ಏನು
ಮಿಶ್ರಣ-ಆಧಾರಿತ ಏಜೆಂಟ್‌ಗಳು?

ಮಿಶ್ರಣ-ಆಧಾರಿತ ಏಜೆಂಟ್‌ಗಳು (MoA) ಹಲವಾರು LLMಗಳನ್ನು ಸಹಕಾರಿಯ ಏಜೆಂಟ್‌ಗಳಂತೆ ಪರಿಗಣಿಸುತ್ತವೆ - ಪ್ರಸ್ತಾವಕರು ಅಭ್ಯರ್ಥಿ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಉತ್ಪಾದಿಸುತ್ತಾರೆ, ಒಕ್ಕೂಟಗಳು ಅವುಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸುತ್ತವೆ. ಇದು ವಾಸ್ತವಿಕ ವ್ಯಾಪಾರಗಳೊಂದಿಗೆ ವಾಸ್ತವಿಕ ತಂತ್ರಜ್ಞಾನ, ಮಾಯಾಜಾಲದ ಶುದ್ಧತೆಯ ಸ್ವಿಚ್ ಅಲ್ಲ.

TL;DR

ಮಿಶ್ರಣ-ಆಧಾರಿತ ಏಜೆಂಟ್‌ಗಳು ಹಲವಾರು LLMಗಳನ್ನು ಹಂತಗೊಳಿಸುತ್ತವೆ: ಪ್ರಸ್ತಾವಕರ ಮಾದರಿಗಳು ಉತ್ತರಗಳನ್ನು ರಚಿಸುತ್ತವೆ, ಒಕ್ಕೂಟ ಮಾದರಿಗಳು ಅವುಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸುತ್ತವೆ. arXiv:2406.04692 ಕಾಗದವು ಪ್ರಾಧಾನ್ಯ ಮಾನದಂಡಗಳಲ್ಲಿ (AlpacaEval, MT-Bench) ಲಾಭಗಳನ್ನು ತೋರಿಸುತ್ತದೆ - ಪ್ರತಿಕ್ರಿಯೆ ಗುಣಮಟ್ಟ, ಸಾಬೀತಾದ ವಾಸ್ತವಿಕ ಶುದ್ಧತೆ ಅಲ್ಲ - ಮತ್ತು ಇದು ಒಂದು ಮಾದರಿಯ ಹೋಲಿಸಿದರೆ ಹೆಚ್ಚು ಟೋಕನ್‌ಗಳು ಮತ್ತು ವಿಳಂಬವನ್ನು ಖರ್ಚು ಮಾಡುತ್ತದೆ.

MoA ಎಲ್ಲಿ ಬರುತ್ತದೆ

ಮಿಶ್ರಣ-ಆಧಾರಿತ ಏಜೆಂಟ್‌ಗಳು 2024 ಕಾಗದದಲ್ಲಿ ಪರಿಚಯಿಸಲಾಯಿತು "ಮಿಶ್ರಣ-ಆಧಾರಿತ ಏಜೆಂಟ್‌ಗಳು ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಯ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಸುಧಾರಿಸುತ್ತವೆ" (arXiv:2406.04692). ಮೂಲ ಗಮನವು ಸಹಕಾರಿತ್ವ: LLMಗಳು ಇತರ ಮಾದರಿಗಳ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ನೋಡಲು ಮತ್ತು ಅವುಗಳ ಮೇಲೆ ನಿರ್ಮಿಸಲು ಸಾಧ್ಯವಾದಾಗ ಉತ್ತಮ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಉತ್ಪಾದಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತವೆ - ಏಕೆಂದರೆ ವೈಯಕ್ತಿಕವಾಗಿ ದುರ್ಬಲವಾದ ಮಾದರಿಗಳು ಸಹ. MoA ಆ ಗಮನವನ್ನು ವಾಸ್ತುಶಿಲ್ಪದಲ್ಲಿ ಪರಿವರ್ತಿಸುತ್ತದೆ.

ಹಂತಗೊಳಿತ ವಾಸ್ತುಶಿಲ್ಪ

MoA ಹಂತಗಳಲ್ಲಿ ಸಂಘಟಿತವಾಗಿದೆ. ಪ್ರತಿ ಹಂತದಲ್ಲಿ ಹಲವಾರು LLM "ಏಜೆಂಟ್‌ಗಳು" ಇವೆ. ಒಂದು ಹಂತದ ಮಾದರಿಗಳು ಪ್ರತಿಯೊಂದು ಪ್ರತಿಕ್ರಿಯೆ ಉತ್ಪಾದಿಸುತ್ತವೆ, ಆ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ಮುಂದಿನ ಹಂತಕ್ಕೆ ಹಸ್ತಾಂತರಿಸಲಾಗುತ್ತದೆ, ಅಲ್ಲಿ ಮಾದರಿಗಳು ಒಕ್ಕೂಟಗಳು ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ, ಅವುಗಳನ್ನು ಸುಧಾರಿಸುತ್ತವೆ ಮತ್ತು ಸಂಶ್ಲೇಷಿಸುತ್ತವೆ. ಹಂತಗಳನ್ನು ಹಾಸುಹಾಕುವುದು ಸುಧಾರಣೆಯನ್ನು ಪುನರಾವೃತ್ತ ಮಾಡುತ್ತದೆ.

1

ಪ್ರಸ್ತಾವಕರು ಅಭ್ಯರ್ಥಿಗಳನ್ನು ಉತ್ಪಾದಿಸುತ್ತಾರೆ

ಹಂತ 1 ರಲ್ಲಿ ಹಲವಾರು ಮಾದರಿಗಳು ಪ್ರಾಂಪ್ಟ್ ಗೆ ಸ್ವಾಯತ್ತವಾಗಿ ಉತ್ತರಿಸುತ್ತವೆ.

2

ಪ್ರತಿಕ್ರಿಯೆಗಳು ಒಟ್ಟುಗೂಡಿಸಲಾಗುತ್ತವೆ

ಎಲ್ಲಾ ಹಂತ-1 ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಮುಂದಿನ ಹಂತದ ಉಲ್ಲೇಖ ವಸ್ತುವಾಗಿ ಸಂಗ್ರಹಿಸಲಾಗುತ್ತದೆ.

3

ಒಟ್ಟುಗೂಡಿಸುವವರು ಸಂಶ್ಲೇಷಿಸುತ್ತಾರೆ

ಹಂತ-2 ಮಾದರಿಗಳು ಅಭ್ಯರ್ಥಿಗಳನ್ನು ಓದುತ್ತವೆ ಮತ್ತು ಸುಧಾರಿತ, ವಿಲೀನ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಉತ್ಪಾದಿಸುತ್ತವೆ.

4

ಐಚ್ಛಿಕವಾಗಿ, ಹಂತದ ಮೂಲಕ ಪುನರಾವೃತ್ತ ಮಾಡಿ

ಹೆಚ್ಚುವರಿ ಹಂತಗಳು ಸುಧಾರಣೆಯನ್ನು ಮುಂದುವರಿಸುತ್ತವೆ; ಅಂತಿಮ ಒಟ್ಟುಗೂಡಿಸುವವರು ಉತ್ತರವನ್ನು ಬಿಡುಗಡೆಿಸುತ್ತಾರೆ.

ಉದಾಹರಣಾತ್ಮಕ ಉದಾಹರಣೆ - ವಾಸ್ತವ ಮಾದರಿ ಔಟ್‌ಪುಟ್ ಅಲ್ಲ

"ನಮ್ಮ API 200 ಅಥವಾ 202 ಅನ್ನು ಸ್ವೀಕೃತವಾದ ಅಸಿಂಕ್ರೋನಸ್ ಕೆಲಸಕ್ಕಾಗಿ ಹಿಂತಿರುಗಿಸಬೇಕೆ?" ಎಂದು ಕೇಳಿ. ಮೂರು ಪ್ರಸ್ತಾವಕರ ಮಾದರಿಗಳು REST ಪರಿಕಲ್ಪನೆಗಳನ್ನು ಉಲ್ಲೇಖಿಸುತ್ತಾ ಪ್ರತಿಯೊಬ್ಬರಿಗೂ ಉತ್ತರವನ್ನು ರಚಿಸುತ್ತವೆ. ಒಕ್ಕೂಟವು ಮೂರು ಜನರನ್ನು ಓದುತ್ತದೆ, ಇಬ್ಬರು ಸ್ಥಿತಿಯ URL ನೊಂದಿಗೆ 202 ಸ್ವೀಕೃತವನ್ನು ಮೆಚ್ಚಿಸುತ್ತಾರೆ ಮತ್ತು ಒಬ್ಬನು 200 ಅನ್ನು ಮೆಚ್ಚಿಸುತ್ತಾನೆ, ಮತ್ತು ಪ್ರತಿ ಮಾದರಿಯ ಶ್ರೇಷ್ಠವಾದ ತರ್ಕವನ್ನು ಒಳಗೊಂಡ ಒಬ್ಬ ಶಿಫಾರಸುಗಳನ್ನು ಸಂಶ್ಲೇಷಿಸುತ್ತದೆ. ಮಿಶ್ರಿತ ಉತ್ತರವು ಚೆನ್ನಾಗಿ ಓದುತ್ತದೆ - ಆದರೆ ಎಲ್ಲಾ ಮೂರು ಜನರು ಒಂದೇ ತಪ್ಪು ಕಲ್ಪನೆ ಹಂಚಿಕೊಂಡಿದ್ದರೆ, ಒಕ್ಕೂಟವು ಅದನ್ನು ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಪುನರಾವೃತ್ತ ಮಾಡುತ್ತಿತ್ತು.

ಮಾನದಂಡಗಳು ವಾಸ್ತವವಾಗಿ ಏನು ತೋರಿಸುತ್ತವೆ

ಈ ಕಾಗದವು ಪ್ರಾಧಾನ್ಯ ಶ್ರೇಣೀಬದ್ಧ ಮಾನದಂಡಗಳಲ್ಲಿ - AlpacaEval 2.0, MT-Bench ಮತ್ತು FLASK - ಶಕ್ತಿಶಾಲಿ ಫಲಿತಾಂಶಗಳನ್ನು ವರದಿ ಮಾಡುತ್ತದೆ - ಅಲ್ಲಿ ನ್ಯಾಯಾಧೀಶ (ಬಹುಶಃ LLM ಅಥವಾ ಮಾನವ) ಯಾವ ಪ್ರತಿಕ್ರಿಯೆ ಹೆಚ್ಚು ಸಹಾಯಕ ಅಥವಾ ಉತ್ತಮ ಗುಣಮಟ್ಟದ ಎಂದು ಅಂಕಿತಗೊಳಿಸುತ್ತಾನೆ. ಇದು ಡೆವೆಲಪರ್‌ಗಳಿಗೆ ಪ್ರಮುಖ ವ್ಯತ್ಯಾಸ:

ದಾವೆಗಳನ್ನು ಪ್ರಾಮಾಣಿಕವಾಗಿ ಓದಿ

  • • ಪ್ರಾಧಾನ್ಯ/ಜೇತುವಿನ ಲಾಭಗಳು ಗ್ರಹಿತ ಗುಣಮಟ್ಟವನ್ನು ಅಳೆಯುತ್ತವೆ, ಖಚಿತವಾದ ಸತ್ಯವಲ್ಲ
  • • ಹೆಚ್ಚು ಸುಗಮ, ಉತ್ತಮವಾಗಿ ಸಂಘಟಿತ ಉತ್ತರವು ವಾಸ್ತವವಾಗಿ ತಪ್ಪಾಗಿರಬಹುದು
  • • ಪ್ರಸ್ತಾವಕರು ಕಣ್ಣು ಮುಚ್ಚಿದ ಸ್ಥಳವನ್ನು ಹಂಚಿಕೊಂಡರೆ, ಒಟ್ಟುಗೂಡಿಸುವುದು ಅದನ್ನು ಸರಿಪಡಿಸುವ ಬದಲು ಬಲಪಡಿಸುತ್ತದೆ
  • • ಪ್ರತಿ ಹಂತವು ಮಾದರಿ ಕರೆಗಳನ್ನು ಸೇರಿಸುತ್ತದೆ: ಹೆಚ್ಚು ಟೋಕನ್‌ಗಳು, ಹೆಚ್ಚು ವೆಚ್ಚ, ಹೆಚ್ಚು ವಿಳಂಬ
  • • ಒಟ್ಟುಗೂಡಿಸುವುದು ನಿಜವಾದ ಅಸಹಮತವನ್ನು ಸುಳ್ಳು ಆತ್ಮವಿಶ್ವಾಸದಲ್ಲಿ ಸಮತಲಗೊಳಿಸಬಹುದು

MoA ವಿರುದ್ಧ LLM ಕೌನ್ಸಲ್ ವಿರುದ್ಧ ಬಹು-LLM ಒಪ್ಪಂದ

ಮೂರು ಬಹು-ಮಾದರಿ ಮಾದರಿಗಳು. ಡೆವೆಲಪರ್‌ ಆಗಿ, ನೀವು ಶಿಪ್ ಮಾಡಲು ಬೇಕಾದುದರ ಆಧಾರದ ಮೇಲೆ ಆಯ್ಕೆ ಮಾಡಿ: ಒಂದು ಸುಧಾರಿತ ಉತ್ತರ, ಅಥವಾ ದೃಶ್ಯಮಾನ ಕ್ರಾಸ್-ಮಾದರಿ ತರ್ಕ.

ಮಾದರಿಇದು ಏನನ್ನು ಸುಧಾರಿಸುತ್ತದೆನೀವು ಏನು ಪಡೆಯುತ್ತೀರಿ
ಏಕಕೋಶಗಳ ಮಿಶ್ರಣಒಂದು ಸುಧಾರಿತ ಮಿಶ್ರಿತ ಉತ್ತರಒಟ್ಟುಗೂಡಿಸುವವರು ಪ್ರಸ್ತಾವಕರ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ವಿಲೀನಗೊಳಿಸುತ್ತಾರೆ; ವೈಯಕ್ತಿಕ ದೃಷ್ಟಿಕೋಣಗಳು ಸಂಶ್ಲೇಷಣೆಗೆ ಕಣ್ಮರೆಯಾಗುತ್ತವೆ
LLM ಕೌನ್ಸಿಲ್ಪ್ರತಿ ಮಾದರಿಯ ಪಾರದರ್ಶಕ ಕೊಡುಗೆಪ್ರತಿ ಮಾದರಿಯ ಉತ್ತರವು ದೃಶ್ಯದಲ್ಲಿರುತ್ತದೆ; ಮಾದರಿಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಪರಸ್ಪರ ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತವೆ
ಬಹು-LLM ಒಪ್ಪಂದಒಪ್ಪಂದ + ವಿರೋಧ ಸಂಕೇತಮಾದರಿಗಳು ಒಪ್ಪಿದ ಸ್ಥಳವನ್ನು (ಆತ್ಮವಿಶ್ವಾಸ) ಮತ್ತು ವಿಭಜಿತವಾದ ಸ್ಥಳವನ್ನು (ವಿವಾದಿತ ಪ್ರಶ್ನೆ) ಅಳೆಯುತ್ತದೆ

ಮೂಡಲ ನಿಯಮ: ನೀವು ಒಬ್ಬ ಉತ್ತಮ ಉತ್ತರವನ್ನು ಬಯಸಿದಾಗ ಮತ್ತು ಟೋಕನ್/ವಿಲಂಬ ವೆಚ್ಚವನ್ನು ಪಾವತಿಸಲು ಸಾಧ್ಯವಾಗುವಾಗ MoA ಗೆ ತಲುಪಿರಿ; ಅಸಹಮತವೇ ಉತ್ಪನ್ನವಾಗಿರುವಾಗ ಕೌನ್ಸಲ್ ಅಥವಾ ಒಪ್ಪಂದ ಅಂಕಿತಗೊಳಿಸಲು ತಲುಪಿರಿ.

Argumentree.AI ಎಲ್ಲಿ ಹೊಂದಿಸುತ್ತದೆ

Argumentree.AI MoA ಯ ತತ್ವವನ್ನು ಹಂಚುತ್ತದೆ - ಹಲವಾರು ಮಾದರಿಗಳು ಒಂದನ್ನು ಮೀರಿಸುತ್ತವೆ - ಆದರೆ ಅವುಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸುವ ಬದಲು ಪ್ರತಿ ಮಾದರಿಯ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ದೃಶ್ಯಮಾನವಾಗಿರಿಸುತ್ತದೆ.

ಲಭ್ಯವಿರುವ ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ಕೇಳಿ

ಪ್ರತಿ ಮಾದರಿ ಸ್ವಾಯತ್ತವಾಗಿ ಉತ್ತರಿಸುತ್ತದೆ - ಯಾವುದೇ ಪ್ರಸ್ತಾವಕ/ಒಟ್ಟುಗೂಡಿಸುವವರು ಒಂದೇ ಧ್ವನಿಯಲ್ಲಿ ಕುಗ್ಗುವುದಿಲ್ಲ

ಪ್ರತಿ ವಾದವನ್ನು ಉಳಿಸಿ

ವೈಯಕ್ತಿಕ ಪ್ರೋ/ಕಾನ್ ವಾದಗಳು ಅವುಗಳನ್ನು ಮಾಡಿದ ಮಾದರಿಗೆ ಸಂಬಂಧಿತವಾಗಿರುತ್ತವೆ

ಕ್ರಾಸ್-ಮಾದರಿ ಪಿಯರ್ ರೇಟಿಂಗ್

ಲಭ್ಯವಿರುವ ಪ್ರತಿ ಮಾದರಿ ಇತರ ಮಾದರಿಯ ವಾದಗಳನ್ನು ಅಂಕಿತಗೊಳಿಸುತ್ತದೆ

ಒಪ್ಪಂದ ಮತ್ತು ವಿರೋಧವನ್ನು ಮೇಲಕ್ಕೆ ತರುವುದನ್ನು

ನೀವು ಒಪ್ಪಂದವನ್ನು ಆತ್ಮವಿಶ್ವಾಸವಾಗಿ ಮತ್ತು ವಿರೋಧವನ್ನು ನಿಜವಾದ ಪ್ರಶ್ನೆಯಂತೆ ನೋಡುತ್ತೀರಿ

ಅನೇಕವಾಗಿ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು

Mixture-of-Agents (MoA) ಎಂದರೇನು?

Mixture-of-Agents (MoA) ಒಂದು ಹಂತದ ವಾಸ್ತುಶಿಲ್ಪವಾಗಿದೆ, ಇದರಲ್ಲಿ ಹಲವಾರು ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳು ಒಂದು ಹಂತದಲ್ಲಿ ಪ್ರಸ್ತಾವಕರಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ, ಮತ್ತು ಅವರ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಮುಂದಿನ ಹಂತದಲ್ಲಿ ಸಂಶ್ಲೇಷಕ ಮಾದರಿಗಳಿಗೆ ಕಳುಹಿಸಲಾಗುತ್ತದೆ, ಅದು ಶುದ್ಧೀಕೃತ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಸಂಶ್ಲೇಷಿಸುತ್ತದೆ. 'Mixture-of-Agents Enhances Large Language Model Capabilities' (arXiv:2406.04692) ಎಂಬ ಕಾಗದದಲ್ಲಿ ಪರಿಚಯಿಸಲಾಗಿದೆ, ಇದು ಹಲವಾರು LLMಗಳನ್ನು ಒಬ್ಬ ಮಾದರಿಯ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವುದಕ್ಕಿಂತ ಸಹಕಾರಿಯಂತೆ ಪರಿಗಣಿಸುತ್ತದೆ.

Mixture-of-Agents ಉತ್ತರಗಳನ್ನು ಹೆಚ್ಚು ನಿಖರವಾಗಿಸುತ್ತದೆಯೇ?

ಮೂಲ MoA ಕಾಗದವು AlpacaEval 2.0, MT-Bench ಮತ್ತು FLASK ಮುಂತಾದ ಪ್ರಾಧಾನ್ಯ ಶ್ರೇಣೀಬದ್ಧ ಮೌಲ್ಯಮಾಪನಗಳಲ್ಲಿ ಲಾಭಗಳನ್ನು ವರದಿ ಮಾಡುತ್ತದೆ, ಅಲ್ಲಿ ನ್ಯಾಯಾಧೀಶನು ಪ್ರತಿಕ್ರಿಯೆಯ ಗುಣಮಟ್ಟವನ್ನು ಅಂಕಿತಗೊಳಿಸುತ್ತಾನೆ. ಇವು ಪ್ರಾಧಾನ್ಯ ಮತ್ತು ಸಹಾಯಕತೆಯ ಅಳತೆಗಳು, ವಾಸ್ತವಿಕ ಶುದ್ಧತೆಯ ಖಾತರಿಯಲ್ಲ. MoA ಹೆಚ್ಚು ಶ್ರೇಣೀಬದ್ಧ, ಉತ್ತಮ-ರಚನೆಯ ಉತ್ತರವನ್ನು ಉತ್ಪಾದಿಸಬಹುದು, ಆದರೆ ಹಂಚಿಕೊಂಡ ವಾಸ್ತವಿಕ ದೋಷವನ್ನು ಪುನರಾವೃತ್ತ ಮಾಡುತ್ತವೆ, ಆದ್ದರಿಂದ ಇದನ್ನು ಸತ್ಯ ಖಾತರಿಯಾಗಿ ಪರಿಗಣಿಸಬಾರದು.

Mixture-of-Agents ನ ನ್ಯೂನತೆಗಳು ಯಾವುವು?

MoA ಹಲವಾರು ಹಂತಗಳಲ್ಲಿ ಹಲವಾರು ಮಾದರಿಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ, ಆದ್ದರಿಂದ ಇದು ಟೋಕನ್ ವೆಚ್ಚವನ್ನು ಬಹುಗುಣಿತಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಒಬ್ಬ ಮಾದರಿ ಕರೆಗೂ ಹೋಲಿಸಿದಾಗ ವಿಳಂಬವನ್ನು ಸೇರಿಸುತ್ತದೆ. ಸಂಶ್ಲೇಷಕ ಹಂತಗಳು ಪ್ರಸ್ತಾವಕರ ನಡುವಿನ ನಿಜವಾದ ಅಸಹಮತವನ್ನು ಮೃದುವಾಗಿಸಲು ಸಹ ಸಾಧ್ಯವಾಗುತ್ತದೆ, ವಾಸ್ತವವಾಗಿ ನೋಡಲು ಯೋಗ್ಯವಾದ ಅಲ್ಪ ಸಂಖ್ಯೆಯ ದೃಷ್ಟಿಕೋನಗಳನ್ನು ಮರೆಮಾಚುತ್ತದೆ. ಇದು ನಿಜವಾದ ವೆಚ್ಚ/ವಿಳಂಬ ವ್ಯಾಪಾರವನ್ನು ಹೊಂದಿರುವ ನಿಜವಾದ ತಂತ್ರಜ್ಞಾನ, ಉಚಿತ ನವೀಕರಣವಲ್ಲ.

MoA LLM ಕೌನ್ಸಿಲ್‌ಗಿಂತ ಹೇಗೆ ಭಿನ್ನವಾಗಿದೆ?

MoA ಒಂದು ಸಂಶ್ಲೇಷಣಾ ವಾಸ್ತುಶಿಲ್ಪ: ಪ್ರಸ್ತಾವಕರ ಮಾದರಿಗಳು ಎಲ್ಲವನ್ನೂ ಒಂದೇ ಶುದ್ಧೀಕೃತ ಉತ್ತರದಲ್ಲಿ ವಿಲೀನಗೊಳಿಸುವ ಸಂಶ್ಲೇಷಕರಿಗೆ ಆಹಾರ ನೀಡುತ್ತವೆ. LLM ಕೌನ್ಸಿಲ್ ಪ್ರತಿ ಮಾದರಿಯ ಕೊಡುಗೆಯನ್ನು ದೃಶ್ಯಮಾಡುತ್ತದೆ ಮತ್ತು ಸಾಮಾನ್ಯವಾಗಿ ಮಾದರಿಗಳನ್ನು ಪರಸ್ಪರ ಮೌಲ್ಯಮಾಪನ ಅಥವಾ ಅಂಕಿತಗೊಳಿಸಲು ಹೊಂದಿಸುತ್ತದೆ, ಆದ್ದರಿಂದ ನೀವು ಅವರು ಎಲ್ಲಿ ಅಸಹಮತ ಹೊಂದಿದ್ದಾರೆ ಎಂಬುದನ್ನು ನೋಡಬಹುದು. MoA ಒಂದು ಶಕ್ತಿಶಾಲಿ ಮಿಶ್ರಿತ ಔಟ್‌ಪುಟ್‌ಗಾಗಿ ಆಪ್ಟಿಮೈಸ್ ಮಾಡುತ್ತದೆ; ಕೌನ್ಸಿಲ್ ವೈಯಕ್ತಿಕ ದೃಷ್ಟಿಕೋನಗಳ ಪಾರದರ್ಶಕತೆಗೆ ಆಪ್ಟಿಮೈಸ್ ಮಾಡುತ್ತದೆ.

Argumentree.AI ಒಂದು Mixture-of-Agents ವ್ಯವಸ್ಥೆಯೇ?

ಖಚಿತವಾಗಿ ಅಲ್ಲ. Argumentree.AI ಹಲವಾರು ಮಾದರಿಗಳು ಒಬ್ಬನನ್ನು ಮೀರಿಸುತ್ತವೆ ಎಂಬ MoA ಯ ತತ್ವವನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತದೆ, ಆದರೆ ಒಬ್ಬ ಸಂಶ್ಲೇಷಿತ ಉತ್ತರದಲ್ಲಿ ವಿಲೀನಗೊಳಿಸುವ ಬದಲು ಪ್ರತಿ ಮಾದರಿಯ ವೈಯಕ್ತಿಕ ವಾದಗಳನ್ನು ಉಳಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ಲಭ್ಯವಿರುವ ಮಾದರಿಯು ಇತರ ಮಾದರಿಯ ವಾದಗಳನ್ನು ಅಂಕಿತಗೊಳಿಸುತ್ತದೆ. ಗುರಿ ಒಟ್ಟುಗೂಡಿಸುವಿಕೆ ಮತ್ತು ಅಸಹಮತವನ್ನು ಪಾರದರ್ಶಕವಾಗಿ ಮೇಲಕ್ಕೆ ತರುವುದಾಗಿದೆ, ಒಬ್ಬ ವಿಲೀನಗೊಂಡ ಪ್ರತಿಕ್ರಿಯೆಯ ಹಿಂದೆ ವೈಯಕ್ತಿಕ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಮರೆಮಾಚುವುದಿಲ್ಲ.

ಬಹು ಮಾದರಿಗಳನ್ನು ತರ್ಕಿಸಲು ನೋಡಿ - ಅವುಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸುವುದಿಲ್ಲ

MoA ಮಾದರಿಗಳನ್ನು ಒಬ್ಬ ಉತ್ತರದಲ್ಲಿ ಮಿಶ್ರಿತಗೊಳಿಸುತ್ತದೆ. Argumentree.AI ಪ್ರತಿ ಮಾದರಿಯ ವಾದಗಳನ್ನು ದೃಶ್ಯಮಾನವಾಗಿರಿಸುತ್ತದೆ ಮತ್ತು ಪಿಯರ್-ರೇಟೆಡ್ ಮಾಡುತ್ತದೆ.

ಉಚಿತವಾಗಿ ಪ್ರಾರಂಭಿಸಿ