ਸਭ ਨੇ AI-ਹਾਲੂਸੀਨੇਸ਼ਨ ਮਾਮਲਿਆਂ ਤੋਂ ਗਲਤ ਸਬਕ ਸਿੱਖਿਆ। ਸਿਰਲੇਖ ਸੀ "AI ਨਕਲੀ ਮਾਮਲੇ ਬਣਾਉਂਦਾ ਹੈ।" ਅਸਲ ਖਤਰਾ ਬਹੁਤ ਹੀ ਨਾਜੁਕ ਅਤੇ ਪਕੜਨਾ ਮੁਸ਼ਕਲ ਹੈ: AI ਪੂਰੀ ਤਰ੍ਹਾਂ ਅਸਲ ਮਾਮਲਿਆਂ ਵਿੱਚ ਨਕਲੀ ਉੱਤਰ ਬਣਾਉਂਦਾ ਹੈ।
ਜੋ ਨਾਕਾਮੀ ਸਾਰਿਆਂ ਨੂੰ ਪਤਾ ਹੈ: ਬਣਾਵਟੀ ਮਾਮਲੇ
ਮਾਤਾ ਵਿਰੁੱਧ ਐਵਿਅੰਕਾ (2023) ਵਿੱਚ, ਵਕੀਲਾਂ ਨੇ ਇੱਕ ਫੈਡਰਲ ਬ੍ਰੀਫ਼ ਦਾਇਰ ਕੀਤਾ ਜਿਸ ਵਿੱਚ ਕਈ ਜੁਡੀਸ਼ੀਅਲ ਫੈਸਲਿਆਂ ਦਾ ਜ਼ਿਕਰ ਕੀਤਾ ਗਿਆ ਜੋ ਸਿਰਫ਼ ਮੌਜੂਦ ਨਹੀਂ ਸਨ। ਇਹ ਉਲਲੇਖ ਚੈਟਜੀਪੀਟੀ ਦੁਆਰਾ ਬਣਾਏ ਗਏ ਸਨ, ਜਿਸ ਨੇ ਪਲੌਜ਼ੀਬਲ-ਲੁੱਕਿੰਗ ਕੇਸ ਨਾਮ, ਰਿਪੋਰਟਰ ਨੰਬਰ ਅਤੇ ਉਲਲੇਖ ਬਿਨਾਂ ਕਿਸੇ ਆਧਾਰ ਦੇ ਤਿਆਰ ਕੀਤੇ। ਜਦੋਂ ਵਿਰੋਧੀ ਵਕੀਲ ਅਤੇ ਅਦਾਲਤ ਕੇਸਾਂ ਨੂੰ ਲੱਭਣ ਵਿੱਚ ਅਸਫਲ ਰਹੇ, ਤਾਂ ਵਕੀਲਾਂ ਨੂੰ ਸਜ਼ਾ ਦਿੱਤੀ ਗਈ। ਇਹ ਕਾਨੂੰਨੀ ਅਭਿਆਸ ਵਿੱਚ ਜਨਰੇਟਿਵ ਏਆਈ ਦਾ ਇੱਕ ਪ੍ਰਮੁੱਖ ਚੇਤਾਵਨੀ ਕਹਾਣੀ ਬਣ ਗਿਆ — ਅਤੇ ਇਸ ਨੇ ਪੇਸ਼ੇ ਨੂੰ ਸਾਈਟ-ਚੈਕ ਕਰਨ ਦੀ ਸਿਖਿਆ ਦਿੱਤੀ।
ਇੱਕ ਬਣਾਵਟੀ ਮਾਮਲਾ, ਖੁਸ਼ਕਿਸਮਤੀ ਨਾਲ, ਪਕੜਨਾ ਆਸਾਨ ਹੁੰਦਾ ਹੈ। ਤੁਸੀਂ ਇਸਨੂੰ ਖੋਜਦੇ ਹੋ; ਇਹ ਉੱਥੇ ਨਹੀਂ ਹੈ; ਤੁਸੀਂ ਇਸਨੂੰ ਹਟਾ ਦਿੰਦੇ ਹੋ। ਇੱਕ ਹੀ ਖੋਜ ਝੂਠ ਨੂੰ ਬਰਗਦ ਕਰ ਦਿੰਦੀ ਹੈ।
ਜੋ ਨਾਕਾਮੀ ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਛੱਡ ਦਿੰਦੇ ਹਨ: ਅਸਲੀ ਹਵਾਲਿਆਂ ਵਿੱਚ ਨਕਲੀ ਉਧਰਣਾਂ
ਹੁਣ ਇੱਕ ਹੋਰ ਚਤੁਰ ਵੈਰੀਅੰਟ 'ਤੇ ਵਿਚਾਰ ਕਰੋ। ਮਾਮਲਾ ਅਸਲੀ ਹੈ। ਰਿਪੋਰਟਰ ਦਾ ਹਵਾਲਾ ਸਹੀ ਹੈ। ਅਦਾਲਤ, ਸਾਲ, ਪਾਰਟੀਆਂ — ਸਾਰੇ ਅਸਲੀ ਹਨ। ਪਰ ਵਾਕ ਜੋ AI ਉਸ ਰਾਏ ਨੂੰ ਦਿੱਤਾ ਹੈ, ਜੋ ਉਨ੍ਹਾਂ ਨੇ ਉਧਰਣ ਚਿੰਨ੍ਹਾਂ ਵਿੱਚ ਰੱਖਿਆ ਹੈ, ਉਸ ਅਦਾਲਤ ਦੁਆਰਾ ਕਦੇ ਨਹੀਂ ਲਿਖਿਆ ਗਿਆ। ਇਸ ਸੰਦ ਨੇ ਆਪਣੇ ਜਵਾਬ ਨੂੰ ਇੱਕ ਅਸਲੀ ਦਸਤਾਵੇਜ਼ 'ਤੇ ਆਧਾਰਿਤ ਕੀਤਾ ਅਤੇ ਫਿਰ ਭਾਸ਼ਾ ਬਣਾਈ ਜੋ ਇਸਨੇ ਉਥੇ ਮਿਲਣ ਦਾ ਦਾਅਵਾ ਕੀਤਾ।
ਇਹ ਨਕਲੀ ਮਾਮਲੇ ਨਾਲੋਂ ਕਿਉਂ ਬੁਰਾ ਹੈ
- •ਇਹ ਉਲਲੇਖ ਵਾਸਤਵਿਕ ਹੈ, ਇਸ ਲਈ ਇਹ ਰੁਟੀਨ ਉਲਲੇਖ-ਜਾਂਚ ਪਾਸ ਕਰਦਾ ਹੈ
- •ਇੱਕ ਸਮੀਖਕ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ ਕਿ ਮਾਮਲਾ ਮੌਜੂਦ ਹੈ ਅਤੇ ਅੱਗੇ ਵਧਦਾ ਹੈ — ਉਧਾਰਨ ਦੀ ਪੁਸ਼ਟੀ ਨਹੀਂ ਹੁੰਦੀ
- •ਬਣਾਈ ਗਈ ਭਾਸ਼ਾ ਅਕਸਰ ਸੁਣਾਈ ਦਿੰਦੀ ਹੈ ਕਿ ਜਿਵੇਂ ਕੁਝ ਹੈ ਜੋ ਅਦਾਲਤ ਕਹੇਗੀ
- •ਇਹ ਇੱਕ ਫਾਈਲ ਕੀਤੀ ਸੰਖੇਪ, ਇੱਕ ਰਾਏ, ਜਾਂ ਇੱਕ ਗਾਹਕ ਮੈਮੋ ਵਿੱਚ ਪਹੁੰਚ ਸਕਦੀ ਹੈ।
ਇਹ "ਗ੍ਰਾਊਂਡਡ" ਜਾਂ ਰੀਟ੍ਰੀਵਲ-ਆਗਮੈਂਟਡ (RAG) ਕਾਨੂੰਨੀ-AI ਟੂਲਜ਼ ਦਾ ਜਾਲ ਹੈ। ਕਿਸੇ ਮਾਡਲ ਨੂੰ ਅਸਲੀ ਸਰੋਤ ਦਸਤਾਵੇਜ਼ਾਂ 'ਤੇ ਗ੍ਰਾਊਂਡ ਕਰਨ ਨਾਲ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬਣਾਈ ਗਈ ਮਾਮਲੇ ਦੇ ਹੋਣ ਦੇ ਚਾਂਸ ਘਟ ਜਾਂਦੇ ਹਨ — ਪਰ ਇਹ ਗਰੰਟੀ ਨਹੀਂ ਦਿੰਦਾ ਕਿ ਮਾਡਲ ਜੋ ਕੁਝ ਉਸਨੇ ਪ੍ਰਾਪਤ ਕੀਤਾ ਹੈ, ਉਸਨੂੰ ਸਹੀ ਤਰੀਕੇ ਨਾਲ ਉਲਲੇਖ ਕਰਦਾ ਹੈ। ਇਹ ਅਜੇ ਵੀ ਕਿਸੇ ਫੈਸਲੇ ਨੂੰ ਐਸੇ ਸ਼ਬਦਾਂ ਵਿੱਚ ਪੈਰਾਫਰੇਜ਼ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਅਦਾਲਤ ਨੇ ਕਦੇ ਨਹੀਂ ਵਰਤੇ, ਜਾਂ ਇੱਕ ਪੈਸੇਜ ਤੋਂ ਉਲਲੇਖ ਨੂੰ ਕਿਸੇ ਐਸੇ ਪ੍ਰਸਤਾਵ 'ਤੇ ਜੋੜ ਸਕਦਾ ਹੈ ਜੋ ਇਸਨੂੰ ਸਮਰਥਨ ਨਹੀਂ ਦਿੰਦਾ।
ਇਹ ਕੋਟਸ-ਇਨ-ਰੀਅਲ-ਸਾਈਟੇਸ਼ਨ ਪੈਟਰਨ ਵਪਾਰਕ, ਜ਼ਮੀਨੀ ਖੋਜ ਸਹਾਇਕਾਂ ਨਾਲ ਅਭਿਆਸ ਵਿੱਚ ਸਾਹਮਣੇ ਆਇਆ ਹੈ। ਇੱਕ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਉਦਾਹਰਨ ਵਿੱਚ ਜੋ ਥੌਮਸਨ ਰੀਟਰਸ ਦੇ ਵੈਸਟਲਾਅਵ ਕੋਕਾਉਂਸਲ ਨਾਲ ਸੰਬੰਧਿਤ ਹੈ — ਜਿਸਦਾ ਜ਼ਿਕਰ U.S. v. Farris ਦੇ ਮਾਮਲੇ ਨਾਲ ਕੀਤਾ ਗਿਆ — ਇਹ ਸਾਧਨ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਇਸਨੇ ਐਸੇ ਕੋਟੇ ਪੈਦਾ ਕੀਤੇ ਜੋ ਉਲਲੇਖਿਤ ਅਧਿਕਾਰ ਦੇ ਭਾਸ਼ਾ ਨਾਲ ਮੇਲ ਨਹੀਂ ਖਾਂਦੇ, ਹਾਲਾਂਕਿ ਅਧਾਰਭੂਤ ਕੋਟ ਸੱਚਾ ਸੀ। ਅਸੀਂ ਇਸਨੂੰ ਸਿਰਫ ਇੱਕ ਰਿਪੋਰਟ ਕੀਤੀ ਗਈ ਉਦਾਹਰਨ ਵਜੋਂ ਪੇਸ਼ ਕਰਦੇ ਹਾਂ: ਅਸੀਂ ਸਵਤੰਤਰ ਤੌਰ 'ਤੇ ਸਹੀ ਮਾਮਲੇ ਦਾ ਨਾਮ, ਕੋਟ, ਸਾਲ, ਜਾਂ ਫੈਸਲਾ ਪੁਸ਼ਟੀ ਨਹੀਂ ਕੀਤਾ ਹੈ, ਅਤੇ ਪਾਠਕਾਂ ਨੂੰ ਇਹ ਵੇਰਵੇ ਜਾਂਚਣੇ ਚਾਹੀਦੇ ਹਨ ਪਹਿਲਾਂ ਕਿ ਉਹਨਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਨ। ਹਾਲਾਂਕਿ, ਪੈਟਰਨ ਚੰਗੀ ਤਰ੍ਹਾਂ ਦਸਤਾਵੇਜ਼ਿਤ ਹੈ — ਅਤੇ ਇਹ ਪੈਟਰਨ ਹੈ, ਨਾ ਕਿ ਕੋਈ ਇਕਲੌਤਾ ਕਹਾਣੀ, ਜੋ ਤੁਹਾਨੂੰ AI ਨਿਕਾਸ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਦਾ ਤਰੀਕਾ ਬਦਲਣਾ ਚਾਹੀਦਾ ਹੈ।
ਗ੍ਰਾਊਂਡਿੰਗ ਕੋਈ ਗਾਰੰਟੀ ਨਹੀਂ ਹੈ — ਸਬੂਤ
ਇਹ ਕੋਈ ਹਾਸੇ ਦੀ ਚਿੰਤਾ ਨਹੀਂ ਹੈ। ਇੱਕ 2024 ਦਾ ਅਧਿਐਨ ਸਟੈਨਫੋਰਡ ਰੈਗਲੈਬ ਅਤੇ ਇੰਸਟੀਟਿਊਟ ਫੋਰ ਹਿਊਮਨ-ਸੈਂਟਰਡ ਏਆਈ (HAI) ਨੇ ਪ੍ਰਮੁੱਖ ਉਦੇਸ਼-ਬਣਾਈ ਗਈ ਕਾਨੂੰਨੀ-ਏਆਈ ਖੋਜ ਟੂਲਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕੀਤਾ — ਉਹ ਕਿਸਮ ਜੋ ਸਾਫ਼ ਤੌਰ 'ਤੇ ਮਾਰਕੀਟ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਕਿ ਇਹ ਮੂਲ ਅਤੇ ਹਾਲੂਸਿਨੇਸ਼ਨ-ਘਟਿਤ ਹਨ — ਅਤੇ ਪਾਇਆ ਕਿ ਇਹ ਫਿਰ ਵੀ ਮਹੱਤਵਪੂਰਨ ਸਾਂਝੇ ਸਵਾਲਾਂ 'ਤੇ ਹਾਲੂਸਿਨੇਟ ਕਰਦੇ ਰਹੇ।
ਇਨ੍ਹਾਂ ਅੰਕਾਂ ਬਾਰੇ
ਸਟੈਨਫੋਰਡ ਰੈਗਲੈਬ / ਐਚਏਆਈ (2024) ਦੇ ਕੰਮ ਨੇ ਅਗਵਾਣੀ ਕਰਨ ਵਾਲੇ ਕਾਨੂੰਨੀ-ਏਆਈ ਖੋਜ ਟੂਲਾਂ ਲਈ ਹਲੂਸੀਨੇਸ਼ਨ ਦਰਾਂ ਨੂੰ ਲਗਭਗ 17–33% ਰੇਂਜ ਵਿੱਚ ਰਿਪੋਰਟ ਕੀਤਾ, ਜੋ ਟੂਲ ਅਤੇ ਕੰਮ ਦੇ ਆਧਾਰ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। ਅਸੀਂ ਇੱਕ ਇਕੱਲੇ ਸਿਰਲੇਖ ਨੰਬਰ ਦੀ ਬਜਾਏ ਰੇਂਜ ਦਾ ਉਲਲੇਖ ਕਰਦੇ ਹਾਂ ਕਿਉਂਕਿ ਨਤੀਜੇ ਟੂਲ ਅਤੇ ਪੁੱਛਤਾਛ ਦੇ ਕਿਸਮ ਦੇ ਆਧਾਰ 'ਤੇ ਵੱਖਰੇ ਸਨ — ਸਹੀ ਪ੍ਰਤੀ-ਟੂਲ ਪ੍ਰਤੀਸ਼ਤ ਅਤੇ ਵਿਧੀ ਵਿਸਥਾਰ ਲਈ ਮੁੱਖ ਪੇਪਰ ਦੀ ਸਲਾਹ ਲਓ।
ਸਿੱਖਣ ਵਾਲੀ ਗੱਲ ਇਹ ਨਹੀਂ ਹੈ ਕਿ "ਇਹ ਸੰਦ ਬੁਰੇ ਹਨ।" ਇਹ ਹੈ ਕਿ ਜਮੀਨ ਤੇ ਆਧਾਰਿਤ ਹੋਣਾ ਭ੍ਰਮ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ ਪਰ ਇਸਨੂੰ ਖਤਮ ਨਹੀਂ ਕਰਦਾ, ਅਤੇ ਬਚਤ ਵਿੱਚ ਬਿਲਕੁਲ ਉਹੀ ਖਤਰਨਾਕ ਕਿਸਮ ਸ਼ਾਮਲ ਹੈ: ਆਤਮਵਿਸ਼ਵਾਸੀ, ਚੰਗੀ ਤਰ੍ਹਾਂ ਫਾਰਮੈਟ ਕੀਤੀਆਂ, ਹਵਾਲਾ-ਚੈੱਕ-ਪਾਸ ਕਰਨ ਵਾਲੀਆਂ ਉਕਤੀਆਂ ਜੋ ਗਲਤ ਹਨ।
ਇੱਕ ਚੱਲ ਰਹੀ, ਜਨਤਕ ਰਿਕਾਰਡ ਦੇ ਤੌਰ 'ਤੇ ਅਸਲੀ ਅਦਾਲਤੀ ਮਾਮਲਿਆਂ ਦੀਆਂ ਜਾਣਕਾਰੀਆਂ ਜੋ AI-ਹਾਲੂਸੀਨੇਟਿਡ ਹਵਾਲਿਆਂ ਨਾਲ ਜੁੜੀਆਂ ਹਨ, ਖੋਜਕਰਤਾ ਡੇਮਿਯਨ ਚਾਰਲੋਟਿਨ ਇੱਕ ਵਿਸ਼ਾਲ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ ਡੇਟਾਬੇਸ ਰੱਖਦੇ ਹਨ ਜੋ ਇਨ੍ਹਾਂ ਘਟਨਾਵਾਂ ਨੂੰ ਅਦਾਲਤਾਂ ਤੱਕ ਪਹੁੰਚਣ ਦੇ ਨਾਲ-ਨਾਲ ਟ੍ਰੈਕ ਕਰਦਾ ਹੈ। ਇਹ ਦੇਖਣ ਲਈ ਇੱਕ ਸ਼ਾਨਦਾਰ ਸਰੋਤ ਹੈ ਕਿ ਇਹ ਗਲਤੀਆਂ ਕਿੰਨੀ ਵਾਰੀ — ਅਤੇ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਕਿੰਨੀ ਦੂਰ — ਜਾਂਦੀਆਂ ਹਨ। ਅਸੀਂ ਇਸਨੂੰ ਦਰਸਾਉਂਦੇ ਹਾਂ ਬਜਾਏ ਇਸਨੂੰ ਦੁਹਰਾਉਣ ਦੇ।
ਇੱਕ ਮਾਡਲ ਦੀ ਖੁਦ-ਪ੍ਰਮਾਣੀਕਰਨ ਕਿਉਂ ਫੇਲ ਹੁੰਦੀ ਹੈ
ਇੰਸਟਿੰਕਟਿਵ ਫਿਕਸ ਇਹ ਹੈ ਕਿ ਉਹੀ ਟੂਲ ਆਪਣੇ ਆਪ ਨੂੰ ਜਾਂਚਣ ਲਈ ਕਿਹਾ ਜਾਵੇ: "ਕੀ ਤੁਸੀਂ ਯਕੀਨੀ ਹੋ ਕਿ ਇਹ ਉਲਟੀ ਸਹੀ ਹੈ?" ਇਹ ਕਦੇ ਕਦੇ ਮਦਦ ਨਹੀਂ ਕਰਦਾ, ਅਤੇ ਅਕਸਰ ਚੀਜ਼ਾਂ ਨੂੰ ਹੋਰ ਵੀ ਖਰਾਬ ਕਰ ਦਿੰਦਾ ਹੈ।
- ਜਿਸ ਮਾਡਲ ਨੇ ਉਲਲੇਖ ਬਣਾਇਆ ਹੈ, ਉਸਦੇ ਕੋਲ ਰਾਏ ਦੀ ਕੋਈ ਸੱਚਾਈ ਦੀ ਯਾਦ ਨਹੀਂ ਹੈ — ਇਸਨੂੰ "ਪੁਸ਼ਟੀ" ਕਰਨ ਲਈ ਕਹਿਣਾ ਸਿਰਫ਼ ਉਸੇ ਪੈਟਰਨ-ਮੈਚਿੰਗ ਨੂੰ ਦੁਬਾਰਾ ਚਲਾਉਂਦਾ ਹੈ ਜਿਸਨੇ ਗਲਤੀ ਪੈਦਾ ਕੀਤੀ।
- "ਇਹ ਸਹੀ ਹੈ" ਵਰਗੇ ਪ੍ਰੰਪਟ ਅਕਸਰ ਇੱਕ ਵਿਸ਼ਵਾਸੀ ਹਾਂ ਵਾਪਸ ਕਰਦੇ ਹਨ — ਕਈ ਵਾਰੀ ਇੱਕ ਨਵੀਂ ਬਣਾਈ ਗਈ ਸਹਾਇਕ ਵਿਸਥਾਰ ਨਾਲ।
- ਇੱਕ ਮਾਡਲ ਦੇ ਆਤਮਵਿਸ਼ਵਾਸ ਸਕੋਰ ਦਾ ਉਧਾਰਨ ਸਹੀਤਾ ਨਾਲ ਕੋਈ ਸਬੰਧ ਨਹੀਂ ਹੈ, ਇਸ ਲਈ ਇਹ ਖਤਰਨਾਕਾਂ ਨੂੰ ਖੁਦ ਹੀ ਚਿੰਨਿਤ ਨਹੀਂ ਕਰ ਸਕਦਾ।
ਕਿਉਂਕਿ ਕ੍ਰਾਸ-ਮਾਡਲ ਅਸਹਿਮਤੀ ਇਸਨੂੰ ਫੜ ਲੈਂਦੀ ਹੈ
ਇੱਕ ਇਕੱਲਾ ਗ੍ਰਾਊਂਡ ਮਾਡਲ ਦੇ ਕੋਲ ਇੱਕ ਰੀਟਰੀਵਲ ਅਤੇ ਇੱਕ ਇਸਨੂੰ ਉਲਲੇਖ ਕਰਨ ਦਾ ਤਰੀਕਾ ਹੁੰਦਾ ਹੈ। ਕਈ ਸੁਤੰਤਰ ਮਾਡਲ ਹਰ ਇੱਕ ਆਪਣੇ ਆਪ ਰੀਟਰੀਵ ਕਰਦੇ ਅਤੇ ਉਲਲੇਖ ਕਰਦੇ ਹਨ। ਜਦੋਂ ਤੁਸੀਂ ਕਈ ਮਾਡਲਾਂ ਨੂੰ ਇੱਕੋ ਸਵਾਲ ਪੁੱਛਦੇ ਹੋ ਅਤੇ ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ ਇੱਕ ਉਲਲੇਖ ਪੇਸ਼ ਕਰਦਾ ਹੈ ਜੋ ਹੋਰ ਦੁਬਾਰਾ ਨਹੀਂ ਕਰ ਸਕਦੇ — ਜਾਂ ਜੋ ਹੋਰ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਅਸਹਾਇਕ ਮੰਨਦੇ ਹਨ — ਉਹ ਵਿਬਾਦ ਸੂਚਕ ਘੰਟੀ ਹੈ।
ਆਜ਼ਾਦੀ ਦਾ ਸਿਧਾਂਤ, ਉਧਾਰਾਂ 'ਤੇ ਲਾਗੂ ਕੀਤਾ ਗਿਆ
ਜੇ ਇੱਕ ਮਾਡਲ ਕਿਸੇ ਅਸਲੀ ਮਾਮਲੇ ਵਿੱਚ "ਅਦਾਲਤ ਨੇ X ਫੈਸਲਾ ਕੀਤਾ" ਬਣਾਉਂਦਾ ਹੈ, ਤਾਂ ਹੋਰ ਮਾਡਲ — ਜੋ ਆਪਣੇ ਹੀ ਰਾਏ ਦੀ ਪ੍ਰਾਪਤੀ 'ਤੇ ਆਧਾਰਿਤ ਹਨ — ਆਮ ਤੌਰ 'ਤੇ ਉਸ ਸਹੀ ਬਣਾਈ ਗਈ ਭਾਸ਼ਾ ਨੂੰ ਦੁਹਰਾਉਣਗੇ ਨਹੀਂ। ਇੱਕ ਉਲਲੇਖ ਜੋ ਸਿਰਫ ਇੱਕ ਮਾਡਲ ਹੀ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਜਿਸਨੂੰ ਹੋਰ ਮਾਡਲ ਖਰਾਬ ਦਰਜਾ ਦਿੰਦੇ ਹਨ, ਇੱਕ ਨੀਵਾਂ-ਸਹਿਮਤੀ ਦਾਅਵਾ ਵਜੋਂ ਸਾਹਮਣੇ ਆਉਂਦਾ ਹੈ। ਤੁਸੀਂ ਇੱਕ ਅਦ੍ਰਸ਼੍ਯ ਗਲਤੀ ਨੂੰ ਇੱਕ ਦਿੱਖਣ ਵਾਲੇ ਝੰਡੇ ਵਿੱਚ ਬਦਲ ਦਿੱਤਾ ਹੈ। ਇਹ ਇੱਕ ਉਲਲੇਖ ਨੂੰ ਪ੍ਰਾਇਮਰੀ ਸਰੋਤ ਦੇ ਖਿਲਾਫ ਜਾਂਚਣ ਦੀ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ — ਇਹ ਇੱਕ ਉੱਚ-ਭਰੋਸੇਯੋਗ ਸਕਰੀਨ ਹੈ, ਸਹੀਤਾ ਦਾ ਸਬੂਤ ਨਹੀਂ।
ਏਆਈ-ਸਹਾਇਤ ਕਾਨੂੰਨੀ ਖੋਜ ਲਈ ਇੱਕ ਪੁਸ਼ਟੀਕਰਨ ਚੈਕਲਿਸਟ
ਚਾਹੇ ਤੁਸੀਂ ਸਹਿਮਤੀ ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਰੋ ਜਾਂ ਨਾ ਕਰੋ, ਕਦੇ ਵੀ ਅਣਪੜ੍ਹੇ AI ਨਤੀਜੇ ਫਾਈਲ ਨਾ ਕਰੋ। ਘੱਟੋ-ਘੱਟ:
- ਕੇਸ ਮੌਜੂਦ ਹੈ ਇਹ ਪੁਸ਼ਟੀ ਕਰੋ — ਪਰ ਇੱਥੇ ਰੁਕੋ ਨਾ; ਇੱਕ ਵਾਸਤਵਿਕ ਉਧਰਣ ਉਹ ਹੈ ਜਿੱਥੇ ਖਤਰਨਾਕ ਗਲਤੀਆਂ ਛੁਪੀ ਹੋਈਆਂ ਹਨ
- ਮੂਲ ਸਰੋਤ ਨੂੰ ਖਿੱਚੋ ਅਤੇ ਸੰਦਰਭ ਵਿੱਚ ਉਲਲੇਖਿਤ ਭਾਸ਼ਾ ਨੂੰ ਪੜ੍ਹੋ — ਹਰ ਉਲਲੇਖ ਨੂੰ ਸ਼ਬਦਸ਼: ਉਸ ਰਾਏ ਦੇ ਖਿਲਾਫ ਜਾਂਚੋ, ਨਾ ਕਿ ਏਆਈ ਦੇ ਸੰਖੇਪ ਦੇ ਖਿਲਾਫ
- ਜਾਂਚ ਕਰੋ ਕਿ ਉਧਾਰਨ ਪ੍ਰਸਤਾਵ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ — ਇੱਕ ਵਾਸਤਵਿਕ ਉਧਾਰਨ ਨੂੰ ਇੱਕ ਦਾਅਵੇ ਨਾਲ ਜੋੜਿਆ ਜਾ ਸਕਦਾ ਹੈ ਜਿਸਦਾ ਉਹ ਵਾਸਤਵ ਵਿੱਚ ਸਮਰਥਨ ਨਹੀਂ ਕਰਦਾ
- ਸਵਤੰਤਰ ਮਾਡਲਾਂ ਨਾਲ ਪੁਰਾਣਾ ਜਾਂਚੋ — ਇੱਕ ਮਾਡਲ ਦੁਆਰਾ ਉਤਪਾਦਿਤ ਉਕਤੀਆਂ ਇੱਕ ਝੰਡਾ ਹੈ ਜਾਂਚ ਕਰਨ ਲਈ, ਫਾਇਲ ਕਰਨ ਲਈ ਤੱਥ ਨਹੀਂ।
- ਕਦੇ ਵੀ "ਗ੍ਰਾਊਂਡਿਡ" ਨੂੰ "ਪ੍ਰਮਾਣਿਤ" ਨਾ ਸਮਝੋ — RAG ਨਵੀਂ ਖੋਜ ਦੇ ਮੌਕੇ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ; ਇਹ ਤੁਹਾਡੇ ਚੈੱਕ ਕਰਨ ਦੇ ਫਰਜ਼ ਨੂੰ ਹਟਾਉਂਦਾ ਨਹੀਂ ਹੈ
ਆਜ਼ਾਦ ਮਾਡਲਾਂ ਵਿੱਚ ਸਹਿਮਤੀ ਤੁਹਾਡੀ ਇਹ ਯਕੀਨ ਦਿਲਾਉਂਦੀ ਹੈ ਕਿ ਇੱਕ ਉਧਾਰਨ ਵਾਸਤਵਿਕ ਹੈ। ਇਹ ਇਸਨੂੰ ਸਾਬਤ ਨਹੀਂ ਕਰਦੀ। ਪ੍ਰਾਥਮਿਕ ਸਰੋਤ ਹਮੇਸ਼ਾ ਅਧਿਕਾਰ ਹੈ — ਏਆਈ ਸਿਰਫ ਤੁਹਾਨੂੰ ਇਸਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਲੱਭਣ ਵਿੱਚ ਮਦਦ ਕਰਨ ਅਤੇ ਦੱਸਣ ਲਈ ਹੈ ਕਿ ਮਾਡਲ ਕਿੱਥੇ ਅਸਹਿਮਤ ਹਨ।
ਅਕਸਰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਸਵਾਲ
ਕਿਹੜਾ ਕਾਨੂੰਨੀ-ਏਆਈ ਫੇਲ ਹੈ ਜੋ ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਛੱਡ ਦਿੰਦੇ ਹਨ?
ਇਹ ਉਹ ਨਕਲੀ ਮਾਮਲਾ ਨਹੀਂ ਹੈ ਜਿਸ ਬਾਰੇ ਹਰ ਕੋਈ ਜਾਣਦਾ ਹੈ, ਬਲਕਿ ਇੱਕ ਬਣਾਵਟੀ ਉਧਰਣ ਜੋ ਇੱਕ ਅਸਲੀ ਹਵਾਲੇ ਦੇ ਅੰਦਰ ਛੁਪਾਈ ਗਈ ਹੈ — ਹਵਾਲਾ ਮੌਜੂਦ ਹੈ ਅਤੇ ਹਵਾਲਾ-ਜਾਂਚ ਪਾਸ ਕਰਦਾ ਹੈ, ਪਰ ਉਧਰਿਤ ਸ਼ਬਦ ਕਦੇ ਵੀ ਰਾਏ ਵਿੱਚ ਨਹੀਂ ਸਨ।
ਇੱਕ ਮਾਡਲ ਦੇ ਸਵੈ-ਚੈੱਕਿੰਗ ਨੇ ਕਿਉਂ ਝੂਠੇ ਉਧਾਰਨ ਨੂੰ ਨਹੀਂ ਪਕੜਿਆ?
ਕਿਉਂਕਿ ਹਵਾਲਾ ਵਾਸਤਵਿਕ ਹੈ, ਆਪ-ਪ੍ਰਮਾਣੀਕਰਨ ਇਸ ਗੱਲ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ ਕਿ ਮਾਮਲਾ ਮੌਜੂਦ ਹੈ ਅਤੇ ਇੱਥੇ ਹੀ ਰੁਕ ਜਾਂਦਾ ਹੈ; ਮਾਡਲ ਕੋਲ ਇਹ ਜਾਣਕਾਰੀ ਨਹੀਂ ਹੈ ਕਿ ਰਾਏ ਨੇ ਵਾਸਤਵ ਵਿੱਚ ਕੀ ਕਿਹਾ।
ਕਿਉਂਕਿ ਕ੍ਰਾਸ-ਮਾਡਲ ਤੁਲਨਾ ਬਣਾਈ ਗਈ ਉਕਤੀਆਂ ਨੂੰ ਫੜ ਲੈਂਦੀ ਹੈ?
ਵੱਖ-ਵੱਖ ਰੀਟ੍ਰੀਵਲਾਂ 'ਤੇ ਆਧਾਰਿਤ ਸੁਤੰਤਰ ਮਾਡਲ ਕਦੇ ਵੀ ਇੱਕੋ ਜਿਹੀ ਉਕਤਿ ਨਹੀਂ ਬਣਾਉਂਦੇ, ਇਸ ਲਈ ਉਨ੍ਹਾਂ ਦਾ ਅਸਹਿਮਤੀ ਇੱਕ ਹੀ ਮਾਡਲ ਦੁਆਰਾ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਣ ਵਾਲੀ ਬਣਾਵਟ ਨੂੰ ਸਾਹਮਣੇ ਲਿਆਉਂਦੀ ਹੈ।