ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਕੀ ਹੈ?

ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਉਹ ਸਹਿਮਤੀ ਦਾ ਪੱਧਰ ਹੈ ਜੋ ਕਈ ਵੱਖ-ਵੱਖ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੇ ਇੱਕੋ ਦਾਅਵੇ ਬਾਰੇ ਸੁਤੰਤਰਤਾ ਨਾਲ ਸੋਚਣ ਅਤੇ ਇੱਕ ਦੂਜੇ ਦੇ ਦਲੀਲਾਂ ਦੀ ਦਰਜਾਬੰਦੀ ਕਰਨ 'ਤੇ ਪਹੁੰਚਿਆ ਹੈ। ਇਹ ਇੱਕ ਮਾਡਲ ਦੇ ਨਮੂਨੇ ਜਾਂ ਸਵੈ-ਸਹਿਮਤੀ ਤੋਂ ਵੱਖਰਾ ਹੈ, ਜੋ ਇੱਕ ਮਾਡਲ ਨੂੰ ਦੁਹਰਾਉਂਦਾ ਹੈ ਅਤੇ ਉਸ ਮਾਡਲ ਦੇ ਪੱਖਾਂ ਨੂੰ ਸਾਂਝਾ ਕਰਦਾ ਹੈ। ਇਹ ਅੰਕੜਾ ਇਕੱਠਾ ਕਰਨ ਤੋਂ ਵੀ ਵੱਖਰਾ ਹੈ, ਜੋ ਨਤੀਜਿਆਂ ਨੂੰ ਇੱਕ ਔਸਤ ਭਵਿੱਖਵਾਣੀ ਵਿੱਚ ਮਿਲਾਉਂਦਾ ਹੈ: ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਵਿਅਕਤੀਗਤ ਦਲੀਲਾਂ ਨੂੰ ਬਚਾਉਂਦੀ ਹੈ ਤਾਂ ਜੋ ਉਹ ਜਾਂਚੀਆਂ ਜਾ ਸਕਣ ਨਾ ਕਿ ਇੱਕ ਕਾਲੇ ਬਕਸੇ ਵਿੱਚ ਔਸਤ ਕੀਤੀ ਜਾ ਸਕਣ। ਮਿਕਸਚਰ-ਆਫ-ਏਜੰਟਸ (arXiv:2406.04692) 'ਤੇ ਖੋਜ ਨੇ ਕਈ ਐਲਐਲਐਮਜ਼ ਨੂੰ ਪਰਤਾਂ ਦੇਣ ਤੋਂ ਗੁਣਵੱਤਾ ਵਿੱਚ ਵਾਧਾ ਦਿਖਾਇਆ, ਜੋ ਵੱਡੇ ਪੱਧਰਾਂ 'ਤੇ ਮਾਪਿਆ ਗਿਆ ਜਿਵੇਂ ਕਿ AlpacaEval—ਉੱਤਰ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਸੁਧਾਰ ਦਾ ਸਬੂਤ, ਕਿਸੇ ਵੀ ਦਿੱਤੇ ਗਏ ਦਾਅਵੇ 'ਤੇ ਤੱਥਾਤਮਕ ਸਹੀਤਾ ਦੀ ਗਾਰੰਟੀ ਨਹੀਂ। Argumentree.AI ਸਹਿਮਤੀ ਨੂੰ ਇੱਕ ਭਰੋਸੇ ਦਾ ਸੰਕੇਤ ਮੰਨਦੀ ਹੈ, ਸੱਚਾਈ ਦਾ ਓਰਕਲ ਨਹੀਂ; ਮਾਡਲਾਂ ਵਿਚਕਾਰ ਅਸਹਿਮਤੀਆਂ ਅਕਸਰ ਸਭ ਤੋਂ ਕਾਰਗਰ ਨਤੀਜਾ ਹੁੰਦੀਆਂ ਹਨ।

ਕਲੈਕਟਿਵ ਏਆਈ ਬੁੱਧੀ ਵੱਲ ਵਾਪਸਮਲਟੀ-ਏਆਈ ਖੋਜ

ਕੀ ਹੈ
ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ?

ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਕਈ ਵੱਖਰੇ ਮਾਡਲਾਂ ਵਿੱਚ ਸਹਿਮਤੀ ਹੈ—ਇੱਕ ਮਾਡਲ ਨੂੰ ਦੋ ਵਾਰੀ ਨਮੂਨਾ ਨਹੀਂ ਲਿਆ ਗਿਆ, ਅਤੇ ਨਾ ਹੀ ਇੱਕ ਮਿਲੀ ਜੁਲੀ ਔਸਤ। ਇਹ ਇੱਕ ਭਰੋਸੇ ਦਾ ਸੰਕੇਤ ਹੈ ਜਿਸਨੂੰ ਤੁਸੀਂ ਜਾਂਚ ਸਕਦੇ ਹੋ, ਸੱਚਾਈ ਦਾ ਓਰਕਲ ਨਹੀਂ।

TL;DR

ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਕਈ ਵੱਖਰੇ ਮਾਡਲਾਂ ਵਿੱਚ ਸਹਿਮਤੀ ਨੂੰ ਮਾਪਦੀ ਹੈ। ਇਹ ਸਵੈ-ਸਹਿਮਤੀ (ਇੱਕ ਮਾਡਲ, ਬਹੁਤ ਸਾਰੇ ਨਮੂਨੇ) ਅਤੇ ਅੰਕੜਾ ਇਕੱਠਾ ਕਰਨ (ਮਿਲੀ ਜੁਲੀ ਔਸਤ) ਤੋਂ ਵੱਖਰਾ ਹੈ। ਇਹ ਵਿਅਕਤੀਗਤ ਦਲੀਲਾਂ ਨੂੰ ਬਚਾਉਂਦੀ ਹੈ—ਅਤੇ ਇਹ ਭਰੋਸੇ ਦਾ ਸੰਕੇਤ ਹੈ, ਸੱਚਾਈ ਦਾ ਸਬੂਤ ਨਹੀਂ

ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਦੀ ਪਰਿਭਾਸ਼ਾ

ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਉਹ ਸਹਿਮਤੀ ਦਾ ਪੱਧਰ ਹੈ ਜੋ ਕਈ ਵੱਖ-ਵੱਖ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੇ ਇੱਕੋ ਸਵਾਲ ਬਾਰੇ ਸੁਤੰਤਰਤਾ ਨਾਲ ਸੋਚਣ ਅਤੇ ਇੱਕ ਦੂਜੇ ਦੇ ਦਲੀਲਾਂ ਦੀ ਮੁਲਾਂਕਣ ਕਰਨ 'ਤੇ ਪਹੁੰਚਿਆ ਹੈ। ਜੋ ਸ਼ਬਦ ਮਹੱਤਵਪੂਰਨ ਹੈ ਉਹ ਹੈ ਵੱਖਰਾ: ਮਾਡਲ ਵੱਖਰੇ ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਤੋਂ ਆਉਂਦੇ ਹਨ, ਇਸ ਲਈ ਜਦੋਂ ਉਹ ਇਕੱਠੇ ਹੁੰਦੇ ਹਨ, ਉਹ ਸਹਿਮਤੀ ਇੱਕ ਸਿਸਟਮ ਦੇ ਨਜ਼ਰੀਏ ਤੋਂ ਵੱਧ ਦਰਸਾਉਂਦੀ ਹੈ—ਅਤੇ ਜਦੋਂ ਉਹ ਵੱਖਰੇ ਹੁੰਦੇ ਹਨ, ਤਦੋਂ ਵੰਡ ਇੱਕ ਸੱਚਮੁੱਚ ਮੁਕਾਬਲੇ ਵਾਲੇ ਦਾਅਵੇ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ।

ਸਵੈ-ਸਹਿਮਤੀ ਦੇ ਸਮਾਨ ਨਹੀਂ

ਇੱਕ ਆਮ ਇਕਲ-ਮਾਡਲ ਤਕਨੀਕ ਸਵੈ-ਸਹਿਮਤੀ ਹੈ: ਇੱਕੋ ਮਾਡਲ ਨੂੰ ਬਹੁਤ ਵਾਰੀ ਨਮੂਨਾ ਲਓ ਅਤੇ ਬਹੁਤਵਾਦੀ ਜਵਾਬ ਲਓ। ਇਹ ਯਾਦ੍ਰਚਿਕ ਵੈਰੀਏਂਸ ਨੂੰ ਘਟਾਉਂਦੀ ਹੈ, ਪਰ ਹਰ ਨਮੂਨਾ ਇੱਕੋ ਮਾਡਲ ਦੇ ਪੱਖਾਂ ਅਤੇ ਅੰਧੇ ਸਥਾਨਾਂ ਨੂੰ ਵਿਰਾਸਤ ਵਿੱਚ ਲੈਂਦੀ ਹੈ। ਜੇ ਮਾਡਲ ਪੱਕੀ ਤਰ੍ਹਾਂ ਗਲਤ ਹੈ, ਤਾਂ ਇਸਨੂੰ ਦੁਬਾਰਾ ਨਮੂਨਾ ਲੈਣਾ ਸਿਰਫ਼ ਗਲਤੀ ਨੂੰ ਦੁਹਰਾਉਂਦਾ ਹੈ। ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਕਿਸਮ ਵਿੱਚ ਵੱਖਰੀ ਹੈ—ਇਹ ਸੁਤੰਤਰ ਮਾਡਲਾਂ 'ਤੇ ਆਧਾਰਿਤ ਹੈ, ਇਸ ਲਈ ਇੱਕ ਵਿੱਚ ਸਾਂਝਾ ਅੰਧਾ ਸਥਾਨ ਸਾਰੇ ਦੁਆਰਾ ਸਾਂਝਾ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਨਹੀਂ ਹੈ।

ਅੰਕੜਾ ਇਕੱਠਾ ਕਰਨ ਦੇ ਸਮਾਨ ਨਹੀਂ

ਕਲਾਸੀਕਲ ਅੰਕੜਾ ਇਕੱਠਾ ਕਰਨ ਮਾਡਲ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਇੱਕ ਔਸਤ ਭਵਿੱਖਵਾਣੀ ਵਿੱਚ ਮਿਲਾਉਂਦੀ ਹੈ—ਇੱਕ ਸਕੋਰ ਲਈ ਲਾਭਦਾਇਕ, ਸਮਝਣ ਲਈ ਬੇਕਾਰ। ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਜਾਣਬੂਝ ਕੇ ਇਸਦਾ ਵਿਰੋਧ ਕਰਦੀ ਹੈ: ਇਹ ਵਿਅਕਤੀਗਤ ਦਲੀਲਾਂ ਨੂੰ ਬਚਾਉਂਦੀ ਹੈ ਤਾਂ ਜੋ ਤੁਸੀਂ ਹਰ ਮਾਡਲ ਦੀ ਸੋਚ ਪੜ੍ਹ ਸਕੋ। ਕੁਝ ਵੀ ਇੱਕ ਕਾਲੇ ਬਕਸੇ ਦੇ ਨੰਬਰ ਵਿੱਚ ਸਮੇਟਿਆ ਨਹੀਂ ਜਾਂਦਾ। ਇਹੀ ਹੈ ਜੋ ਅਸਹਿਮਤੀ ਨੂੰ ਪੜ੍ਹਨਯੋਗ ਬਣਾਉਂਦੀ ਹੈ ਨਾ ਕਿ ਇੱਕ ਔਸਤ ਵਿੱਚ ਗਾਇਬ ਹੋ ਜਾਣਾ।

ਤਰੀਕਾਇਹ ਕੀ ਜੋੜਦਾ ਹੈਸੋਚਣ ਯੋਗ?
ਸਵੈ-ਸਹਿਮਤੀਇੱਕ ਮਾਡਲ, ਬਹੁਤ ਸਾਰੇ ਨਮੂਨੇਬਹੁਤਵਾਦੀ ਜਵਾਬ ਹੀ
ਅੰਕੜਾ ਇਕੱਠਾ ਕਰਨਨਤੀਜੇ ਔਸਤ ਵਿੱਚ ਮਿਲੇਨਹੀਂ—ਔਸਤ ਵਿੱਚ ਗਾਇਬ
ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀਕਈ ਵੱਖਰੇ ਮਾਡਲਾਂ ਦੀਆਂ ਦਲੀਲਾਂਹਾਂ—ਬਚਾਈਆਂ ਅਤੇ ਜਾਂਚਣ ਯੋਗ

ਖੋਜ ਵਾਸਤਵ ਵਿੱਚ ਕੀ ਦਿਖਾਉਂਦੀ ਹੈ

ਇੱਥੇ ਸਭ ਤੋਂ ਵੱਧ ਉਲਲੇਖਿਤ ਖੋਜ ਮਿਕਸਚਰ-ਆਫ-ਏਜੰਟਸ (arXiv:2406.04692) ਹੈ, ਜੋ ਕਈ ਐਲਐਲਐਮਜ਼ ਨੂੰ ਪਰਤਾਂ ਦੇਣ ਲਈ ਲਗਾਉਂਦੀ ਹੈ ਤਾਂ ਜੋ ਬਾਅਦ ਦੀਆਂ ਪਰਤਾਂ ਪਹਿਲੀਆਂ ਜਵਾਬਾਂ ਨੂੰ ਸੁਧਾਰ ਸਕਣ। ਇਹ ਗੁਣਵੱਤਾ ਵਿੱਚ ਵਾਧੇ ਦੀ ਰਿਪੋਰਟ ਕਰਦੀ ਹੈ—ਪਰ ਇਹ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ ਕੀ ਮਾਪਿਆ ਗਿਆ ਸੀ ਇਸ ਬਾਰੇ ਸਹੀ ਰਹਿਣਾ।

ਦਾਅਵਾ ਧਿਆਨ ਨਾਲ ਪੜ੍ਹੋ

ਮਿਕਸਚਰ-ਆਫ-ਏਜੰਟਸ ਦੇ ਲਾਭ ਵੱਡੇ ਪੱਧਰਾਂ 'ਤੇ ਪਸੰਦਗੀਆਂ ਦੇ ਬੈਂਚਮਾਰਕ ਜਿਵੇਂ ਕਿ AlpacaEval 'ਤੇ ਦਿਖਾਏ ਗਏ—ਇਹ ਮਾਪਾਂ ਹਨ ਕਿ ਇੱਕ ਜਵਾਬ ਕਿੰਨਾ ਚੰਗਾ ਹੈ। ਇਹ ਨਹੀਂ ਕਿਸੇ ਵਿਸ਼ੇਸ਼ ਦਾਅਵੇ 'ਤੇ ਤੱਥਾਤਮਕ ਸਹੀਤਾ ਦੀ ਗਾਰੰਟੀ ਹੈ। ਮਾਡਲਾਂ ਨੂੰ ਜੋੜਨਾ ਗੁਣਵੱਤਾ ਵਿੱਚ ਸੁਧਾਰ ਕਰ ਸਕਦਾ ਹੈ; ਇਹ ਸੱਚਾਈ ਦੀ ਪ੍ਰਮਾਣਿਕਤਾ ਨਹੀਂ ਦਿੰਦਾ।

ਭਰੋਸੇ ਦਾ ਸੰਕੇਤ, ਸੱਚਾਈ ਦਾ ਓਰਕਲ ਨਹੀਂ

ਟੁਕੜਿਆਂ ਨੂੰ ਇਕੱਠਾ ਕਰੋ ਅਤੇ ਸੱਚਾ ਫਰੇਮਿੰਗ ਇਹ ਹੈ: ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਇੱਕ ਭਰੋਸੇ ਦਾ ਸੰਕੇਤ ਹੈ। ਉੱਚ ਸਹਿਮਤੀ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਕਈ ਸੁਤੰਤਰ ਸਿਸਟਮ ਸਹਿਮਤ ਹਨ, ਜੋ ਮਨੁੱਖੀ ਪੁਸ਼ਟੀ ਲਈ ਪ੍ਰਾਥਮਿਕਤਾ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ—ਪਰ ਇਸਨੂੰ ਹਟਾਉਂਦਾ ਨਹੀਂ। ਮਾਡਲ ਇੱਕ ਟ੍ਰੇਨਿੰਗ ਪੱਖ ਨੂੰ ਸਾਂਝਾ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਗਲਤ ਹੋ ਸਕਦੇ ਹਨ। ਸਹਿਮਤੀ ਨੂੰ "ਸ਼ਾਇਦ ਘੱਟ ਖਤਰਾ" ਵਜੋਂ ਮੰਨੋ, ਅਤੇ ਅਸਹਿਮਤੀਆਂ ਨੂੰ ਆਪਣੇ ਸਭ ਤੋਂ ਕਾਰਗਰ ਨਤੀਜੇ ਵਜੋਂ ਮੰਨੋ: ਇਹ ਸਹੀ ਥਾਂ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਜਿੱਥੇ ਪੁਸ਼ਟੀ ਮਹੱਤਵਪੂਰਨ ਹੈ।

Argumentree.AI ਨਾਲ ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ

ਕਈ ਵੱਖਰੇ ਮਾਡਲ

ਵੱਖਰੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਸਹਿਮਤੀ—ਇੱਕ ਮਾਡਲ ਨੂੰ ਦੁਬਾਰਾ ਨਮੂਨਾ ਨਹੀਂ ਲਿਆ ਗਿਆ

ਦਲੀਲਾਂ ਬਚਾਈਆਂ

ਹਰ ਮਾਡਲ ਦੀ ਸੋਚ ਪੜ੍ਹੋ; ਕੁਝ ਵੀ ਇੱਕ ਕਾਲੇ ਬਕਸੇ ਵਿੱਚ ਔਸਤ ਨਹੀਂ ਕੀਤਾ ਗਿਆ

ਸਹਿਮਤੀ ਨੂੰ ਸੰਕੇਤ ਵਜੋਂ

ਸਕੋਰ ਭਰੋਸੇ ਨੂੰ ਕੈਲਿਬਰੇਟ ਕਰਦੇ ਹਨ—ਕਦੇ ਵੀ ਸੱਚਾਈ ਦੇ ਸਬੂਤ ਵਜੋਂ ਪੇਸ਼ ਨਹੀਂ ਕੀਤਾ ਗਿਆ

ਅਸਹਿਮਤੀ ਸਾਹਮਣੇ ਆਈ

ਮੁਕਾਬਲੇ ਵਾਲੇ ਬਿੰਦੂਆਂ ਨੂੰ ਮਨੁੱਖੀ ਪੁਸ਼ਟੀ ਲਈ ਝੰਡਾ ਲਗਾਇਆ ਗਿਆ

ਅਕਸਰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਸਵਾਲ

ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਕੀ ਹੈ?

ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਉਹ ਸਹਿਮਤੀ ਦਾ ਪੱਧਰ ਹੈ ਜੋ ਕਈ ਵੱਖ-ਵੱਖ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੇ ਇੱਕੋ ਦਾਅਵੇ ਬਾਰੇ ਸੁਤੰਤਰਤਾ ਨਾਲ ਸੋਚਣ ਅਤੇ ਇੱਕ ਦੂਜੇ ਦੇ ਦਲੀਲਾਂ ਦੀ ਮੁਲਾਂਕਣ ਕਰਨ 'ਤੇ ਪਹੁੰਚਿਆ ਹੈ। ਇੱਕ ਮਾਡਲ ਨੂੰ ਬਹੁਤ ਵਾਰੀ ਨਮੂਨਾ ਲੈਣ ਦੇ ਬਜਾਏ, ਇਹ ਸੱਚਮੁੱਚ ਵੱਖਰੇ ਸਿਸਟਮਾਂ 'ਤੇ ਆਧਾਰਿਤ ਹੈ—ਇਸ ਲਈ ਸਹਿਮਤੀ ਵੱਖਰੇ ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਵਿੱਚ ਸਹਿਮਤੀ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ, ਅਤੇ ਅਸਹਿਮਤੀ ਉਹ ਝੰਡਾ ਹੈ ਜਿੱਥੇ ਦਾਅਵਾ ਮੁਕਾਬਲੇ ਵਿੱਚ ਹੈ।

ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਸਵੈ-ਸਹਿਮਤੀ ਤੋਂ ਕਿਵੇਂ ਵੱਖਰੀ ਹੈ?

ਸਵੈ-ਸਹਿਮਤੀ ਇੱਕੋ ਇਕਲ ਮਾਡਲ ਨੂੰ ਬਹੁਤ ਵਾਰੀ ਨਮੂਨਾ ਲੈਂਦੀ ਹੈ ਅਤੇ ਬਹੁਤਵਾਦੀ ਜਵਾਬ ਲੈਂਦੀ ਹੈ। ਇਹ ਯਾਦ੍ਰਚਿਕ ਵੈਰੀਏਂਸ ਨੂੰ ਘਟਾਉਂਦੀ ਹੈ ਪਰ ਇੱਕ ਮਾਡਲ ਦੇ ਪੱਖਾਂ ਅਤੇ ਅੰਧੇ ਸਥਾਨਾਂ ਨੂੰ ਸਾਂਝਾ ਕਰਦੀ ਹੈ। ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਵੱਖਰੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੀ ਹੈ, ਇਸ ਲਈ ਸਹਿਮਤੀ ਹੋਰ ਮਹੱਤਵਪੂਰਨ ਹੈ ਅਤੇ ਅਸਹਿਮਤੀ ਇੱਕ ਅੰਧੇ ਸਥਾਨ ਨੂੰ ਦਰਸਾ ਸਕਦੀ ਹੈ ਜੋ ਇੱਕ ਮਾਡਲ ਦੇ ਦੁਹਰਾਏ ਨਮੂਨੇ ਕਦੇ ਵੀ ਨਹੀਂ ਦਿਖਾਉਂਦੇ।

ਇਹ ਅੰਕੜਾ ਇਕੱਠਾ ਕਰਨ ਤੋਂ ਕਿਵੇਂ ਵੱਖਰਾ ਹੈ?

ਅੰਕੜਾ ਇਕੱਠਾ ਕਰਨ ਮਾਡਲ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਇੱਕ ਔਸਤ ਭਵਿੱਖਵਾਣੀ ਵਿੱਚ ਮਿਲਾਉਂਦੀ ਹੈ, ਵਿਅਕਤੀਗਤ ਸੋਚ ਨੂੰ ਛੱਡ ਦਿੰਦੀ ਹੈ। ਮਲਟੀ-ਐਲਐਲਐਮ ਸਹਿਮਤੀ ਹਰ ਮਾਡਲ ਦੀਆਂ ਦਲੀਲਾਂ ਨੂੰ ਬਚਾਉਂਦੀ ਹੈ ਤਾਂ ਜੋ ਤੁਸੀਂ ਉਹਨਾਂ ਨੂੰ ਪੜ੍ਹ ਸਕੋ। ਕੁਝ ਵੀ ਇੱਕ ਕਾਲੇ ਬਕਸੇ ਦੇ ਸਕੋਰ ਵਿੱਚ ਔਸਤ ਨਹੀਂ ਕੀਤਾ ਜਾਂਦਾ ਜਿਸਨੂੰ ਤੁਸੀਂ ਜਾਂਚ ਨਹੀਂ ਕਰ ਸਕਦੇ—ਵਿਅਕਤੀਗਤ ਮਾਮਲੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ, ਜੋ ਅਸਹਿਮਤੀ ਨੂੰ ਪੜ੍ਹਨਯੋਗ ਬਣਾਉਂਦਾ ਹੈ।

ਕੀ ਖੋਜ ਸਾਬਤ ਕਰਦੀ ਹੈ ਕਿ ਮਾਡਲਾਂ ਨੂੰ ਜੋੜਨਾ ਸਹੀਤਾ ਵਿੱਚ ਸੁਧਾਰ ਕਰਦਾ ਹੈ?

ਮਿਕਸਚਰ-ਆਫ-ਏਜੰਟਸ (arXiv:2406.04692) ਵਰਗੀਆਂ ਖੋਜਾਂ ਨੇ ਕਈ ਐਲਐਲਐਮਜ਼ ਨੂੰ ਪਰਤਾਂ ਦੇਣ ਤੋਂ ਗੁਣਵੱਤਾ ਵਿੱਚ ਵਾਧਾ ਦਿਖਾਇਆ, ਜੋ ਵੱਡੇ ਪੱਧਰਾਂ 'ਤੇ ਪਸੰਦਗੀਆਂ ਦੇ ਬੈਂਚਮਾਰਕਾਂ ਜਿਵੇਂ ਕਿ AlpacaEval 'ਤੇ ਮਾਪਿਆ ਗਿਆ। ਇਹ ਉਹਨਾਂ ਬੈਂਚਮਾਰਕਾਂ 'ਤੇ ਉੱਤਰ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਸੁਧਾਰ ਦਾ ਸਬੂਤ ਹੈ—ਇਹ ਕਿਸੇ ਵੀ ਦਿੱਤੇ ਗਏ ਦਾਅਵੇ 'ਤੇ ਤੱਥਾਤਮਕ ਸਹੀਤਾ ਦੀ ਗਾਰੰਟੀ ਨਹੀਂ ਹੈ। ਸਹਿਮਤੀ ਨੂੰ ਇੱਕ ਭਰੋਸੇ ਦੇ ਸੰਕੇਤ ਵਜੋਂ ਮੰਨੋ, ਸੱਚਾਈ ਦੇ ਓਰਕਲ ਨਹੀਂ।

ਕੀ ਉੱਚ ਸਹਿਮਤੀ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਜਵਾਬ ਸੱਚਾ ਹੈ?

ਨਹੀਂ। ਸਹਿਮਤੀ ਇੱਕ ਭਰੋਸੇ ਦਾ ਸੰਕੇਤ ਹੈ, ਸਬੂਤ ਨਹੀਂ। ਕਈ ਮਾਡਲ ਇੱਕੋ ਟ੍ਰੇਨਿੰਗ ਪੱਖ ਨੂੰ ਸਾਂਝਾ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਕੁਝ ਗਲਤ 'ਤੇ ਸਹਿਮਤ ਹੋ ਸਕਦੇ ਹਨ। ਉੱਚ ਸਹਿਮਤੀ ਮਨੁੱਖੀ ਪੁਸ਼ਟੀ ਲਈ ਪ੍ਰਾਥਮਿਕਤਾ ਨੂੰ ਘਟਾਉਂਦੀ ਹੈ; ਇਹ ਕਦੇ ਵੀ ਇਸ ਦੀ ਲੋੜ ਨੂੰ ਹਟਾਉਂਦੀ ਨਹੀਂ। ਸਭ ਤੋਂ ਕਾਰਗਰ ਨਤੀਜਾ ਅਕਸਰ ਅਸਹਿਮਤੀ ਹੁੰਦੀ ਹੈ, ਜੋ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਪੁਸ਼ਟੀ ਕਿੱਥੇ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਹੈ।

ਅਸਲ ਮਾਡਲਾਂ ਵਿੱਚ ਸਹਿਮਤੀ ਨੂੰ ਮਾਪੋ

ਇੱਕ ਮਾਡਲ ਨੂੰ ਦੋ ਵਾਰੀ ਨਮੂਨਾ ਨਹੀਂ ਲਿਆ ਗਿਆ। ਕਈ ਵੱਖਰੇ ਮਾਡਲ, ਦਲੀਲਾਂ ਬਚਾਈਆਂ, ਅਸਹਿਮਤੀ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ।

ਮੁਫਤ ਸ਼ੁਰੂ ਕਰੋ