ਸੁਪਰਵਾਈਜ਼ਡ ਫਾਈਨ-ਟਿਊਨਿੰਗ (SFT)

ਪਰਿਭਾਸ਼ਾ

ਸੁਪਰਵਾਈਜ਼ਡ ਫਾਈਨ-ਟਿਊਨਿੰਗ (SFT) ਇੱਕ ਖਾਸ ਕੰਮ ਲਈ ਲੇਬਲ ਕੀਤੇ ਡੇਟਾ 'ਤੇ ਪਹਿਲਾਂ ਤੋਂ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਹੈ, ਇਸਦੇ ਸਾਰੇ ਜਾਂ ਕੁਝ ਮਾਪਦੰਡਾਂ ਨੂੰ ਐਡਜਸਟ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।

ਉਦੇਸ਼

ਇਸਦਾ ਉਦੇਸ਼ ਆਮ-ਉਦੇਸ਼ ਵਾਲੇ ਮਾਡਲਾਂ ਨੂੰ ਬਿਹਤਰ ਸ਼ੁੱਧਤਾ ਨਾਲ ਵਿਸ਼ੇਸ਼ ਕਾਰਜਾਂ ਲਈ ਢਾਲਣਾ ਹੈ।

ਮਹੱਤਤਾ

• NLP ਅਤੇ ਵਿਜ਼ਨ ਟਾਸਕ ਵਿੱਚ ਮੁੱਖ ਤਕਨੀਕ।
• ਉੱਚ-ਗੁਣਵੱਤਾ ਵਾਲੇ ਲੇਬਲ ਵਾਲੇ ਡੇਟਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
• ਛੋਟੇ ਡੇਟਾਸੈੱਟਾਂ ਨਾਲ ਓਵਰਫਿਟਿੰਗ ਦੇ ਜੋਖਮ।
• ਅਕਸਰ RLHF ਦਾ ਪੂਰਵਗਾਮੀ।

ਕਿਦਾ ਚਲਦਾ

1. ਇੱਕ ਪ੍ਰੀ-ਟ੍ਰੇਂਡ ਮਾਡਲ ਚੁਣੋ।
2. ਟੀਚੇ ਵਾਲੇ ਕੰਮ ਲਈ ਲੇਬਲ ਵਾਲਾ ਡੇਟਾ ਇਕੱਠਾ ਕਰੋ।
3. ਮਾਡਲ ਨੂੰ ਨਿਗਰਾਨੀ ਹੇਠ ਸਿਖਲਾਈ ਦਿਓ।
4. ਇੱਕ ਹੋਲਡ-ਆਊਟ ਟੈਸਟ ਸੈੱਟ 'ਤੇ ਪ੍ਰਮਾਣਿਤ ਕਰੋ।
5. ਪ੍ਰਦਰਸ਼ਨ ਲਈ ਤੈਨਾਤ ਅਤੇ ਨਿਗਰਾਨੀ ਕਰੋ।

ਉਦਾਹਰਣਾਂ (ਅਸਲ ਦੁਨੀਆਂ)

• GPT ਨੇ ਗਾਹਕ ਸੇਵਾ ਗੱਲਬਾਤ ਨੂੰ ਠੀਕ ਕੀਤਾ।
• ਨਾਮੀ ਹਸਤੀ ਪਛਾਣ ਲਈ BERT ਨੂੰ ਵਧੀਆ ਬਣਾਇਆ ਗਿਆ।
• ਡਾਕਟਰੀ ਚਿੱਤਰ ਵਰਗੀਕਰਣ 'ਤੇ ਵਿਜ਼ਨ ਟ੍ਰਾਂਸਫਾਰਮਰ ਨੂੰ ਵਧੀਆ ਬਣਾਇਆ ਗਿਆ।

ਹਵਾਲੇ / ਹੋਰ ਪੜ੍ਹਨਾ

• ਡੇਵਲਿਨ ਅਤੇ ਹੋਰ। "BERT: ਡੂੰਘੇ ਦੋ-ਦਿਸ਼ਾਵੀ ਟ੍ਰਾਂਸਫਾਰਮਰਾਂ ਦੀ ਪੂਰਵ-ਸਿਖਲਾਈ।" NAACL 2019।
• ਹੱਗਿੰਗ ਫੇਸ ਟ੍ਰਾਂਸਫਾਰਮਰ ਦਸਤਾਵੇਜ਼।
• ਸਟੈਨਫੋਰਡ CS224N: ਡੀਪ ਲਰਨਿੰਗ ਦੇ ਨਾਲ NLP।
• SFT ਕੀ ਹੈ? ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ?