ਲਾਲਚ

ਪਰਿਭਾਸ਼ਾ

ਏਆਈ ਵਿੱਚ, ਭਰਮ ਉਹਨਾਂ ਉਦਾਹਰਣਾਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਜਿੱਥੇ ਇੱਕ ਮਾਡਲ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰਦਾ ਹੈ ਜੋ ਪ੍ਰਵਾਹਿਤ ਹਨ ਪਰ ਅਸਲ ਵਿੱਚ ਗਲਤ ਜਾਂ ਬੇਤੁਕੇ ਹਨ। ਇਹ ਖਾਸ ਤੌਰ 'ਤੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਅਤੇ ਜਨਰੇਟਿਵ ਏਆਈ ਵਿੱਚ ਆਮ ਹੈ।

ਉਦੇਸ਼

ਮਨੋ-ਭਰਮਾਂ ਦਾ ਅਧਿਐਨ ਕਰਨ ਨਾਲ ਮਾਡਲ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਵਿੱਚ ਸੁਧਾਰ ਹੁੰਦਾ ਹੈ। ਇਹ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਗਲਤ ਆਉਟਪੁੱਟ ਦਾ ਪਤਾ ਲਗਾਉਣ ਅਤੇ ਘਟਾਉਣ ਲਈ ਸੁਰੱਖਿਆ ਉਪਾਅ ਡਿਜ਼ਾਈਨ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ।

ਮਹੱਤਤਾ

• ਜੇਕਰ ਧਿਆਨ ਨਾ ਦਿੱਤਾ ਜਾਵੇ ਤਾਂ AI ਵਿੱਚ ਵਿਸ਼ਵਾਸ ਘੱਟ ਜਾਂਦਾ ਹੈ।
• ਸਿਹਤ ਸੰਭਾਲ ਜਾਂ ਕਾਨੂੰਨ ਵਰਗੇ ਸੰਵੇਦਨਸ਼ੀਲ ਕਾਰਜਾਂ ਵਿੱਚ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ।
• ਮੌਜੂਦਾ ਜਨਰੇਟਿਵ ਮਾਡਲਾਂ ਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ।
• ਤੱਥਾਂ ਦੇ ਆਧਾਰ ਅਤੇ ਪ੍ਰਾਪਤੀ ਦੇ ਤਰੀਕਿਆਂ ਨਾਲ ਖੋਜ ਨੂੰ ਚਲਾਉਂਦਾ ਹੈ।

ਕਿਦਾ ਚਲਦਾ

1. ਮਾਡਲ ਨੂੰ ਇੱਕ ਪ੍ਰੋਂਪਟ ਜਾਂ ਪੁੱਛਗਿੱਛ ਮਿਲਦੀ ਹੈ।
2. ਸਿੱਖੇ ਹੋਏ ਪੈਟਰਨਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਆਉਟਪੁੱਟ ਤਿਆਰ ਕਰਦਾ ਹੈ, ਤੱਥ ਤਸਦੀਕ ਦੇ ਆਧਾਰ 'ਤੇ ਨਹੀਂ।
3. ਇਹ ਸੁਣਨ ਵਿੱਚ ਆਸਾਨ ਪਰ ਗਲਤ ਨਤੀਜੇ ਦੇ ਸਕਦਾ ਹੈ।
4. ਖੋਜ ਅਤੇ ਸੁਧਾਰ ਤਕਨੀਕਾਂ ਲਾਗੂ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ (ਜਿਵੇਂ ਕਿ, RAG)।

ਉਦਾਹਰਣਾਂ (ਅਸਲ ਦੁਨੀਆਂ)

• ਚੈਟਜੀਪੀਟੀ ਕਦੇ-ਕਦਾਈਂ ਪੁੱਛੇ ਜਾਣ 'ਤੇ ਗਲਤ ਤੱਥ ਪੈਦਾ ਕਰਦਾ ਹੈ।
• ਗੂਗਲ ਬਾਰਡ ਦੇ ਸ਼ੁਰੂਆਤੀ ਡੈਮੋ ਵਿੱਚ ਤੱਥਾਂ ਦੀਆਂ ਗਲਤੀਆਂ ਦਿਖਾਈਆਂ ਗਈਆਂ।
• ਏਆਈ-ਤਿਆਰ ਕੀਤੀ ਡਾਕਟਰੀ ਸਲਾਹ ਵਿੱਚ ਕਈ ਵਾਰ ਗਲਤੀਆਂ ਹੁੰਦੀਆਂ ਹਨ।

ਹਵਾਲੇ / ਹੋਰ ਪੜ੍ਹਨਾ

• "ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਵਿੱਚ ਭਰਮਾਂ ਨੂੰ ਘਟਾਉਣਾ" - arXiv ਪ੍ਰੀਪ੍ਰਿੰਟ।
• NIST AI ਜੋਖਮ ਪ੍ਰਬੰਧਨ ਢਾਂਚਾ।
• ਮਿਸ਼ੇਲ ਅਤੇ ਹੋਰ। "ਮਾਡਲ ਰਿਪੋਰਟਿੰਗ ਲਈ ਮਾਡਲ ਕਾਰਡ।" ACM FAccT।
• AI ਭਰਮਾਂ ਦੇ ਕਾਰਨ