ਸਮੱਗਰੀ ਦੀ ਸੂਚੀ
- ਜਨਰੇਟਿਵ ਏਆਈ ਵਿੱਚ ਗਿਰਾਵਟ ਦੀ ਚੇਤਾਵਨੀ
- ਮਾਡਲ ਦਾ ਢਹਿਣਾ: ਇੱਕ ਵਿਗੜਦਾ ਹੋਇਆ ਪ੍ਰਕਿਰਿਆ
- ਮਾਨਵ ਦਖਲਅੰਦਾਜ਼ੀ ਦੀ ਮੁਸ਼ਕਿਲ
- ਅਣਿਸ਼ਚਿਤ ਭਵਿੱਖ: ਚੁਣੌਤੀਆਂ ਅਤੇ ਸੰਭਾਵਿਤ ਹੱਲ
ਜਨਰੇਟਿਵ ਏਆਈ ਵਿੱਚ ਗਿਰਾਵਟ ਦੀ ਚੇਤਾਵਨੀ
ਹਾਲੀਆ ਅਧਿਐਨਾਂ ਨੇ ਜਨਰੇਟਿਵ ਕ੍ਰਿਤ੍ਰਿਮ ਬੁੱਧੀ ਦੇ ਵਿਕਾਸ ਵਿੱਚ ਇੱਕ ਚਿੰਤਾਜਨਕ ਘਟਨਾ ਬਾਰੇ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕੀਤੀ ਹੈ: ਜਵਾਬਾਂ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਗਿਰਾਵਟ।
ਮਾਹਿਰਾਂ ਨੇ ਦਰਸਾਇਆ ਹੈ ਕਿ ਜਦੋਂ ਇਹ ਪ੍ਰਣਾਲੀਆਂ ਸਿੰਥੇਟਿਕ ਡੇਟਾ ਨਾਲ ਟ੍ਰੇਨ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਜਿਸਦਾ ਅਰਥ ਹੈ ਹੋਰ ਏਆਈ ਦੁਆਰਾ ਬਣਾਇਆ ਗਿਆ ਸਮੱਗਰੀ, ਤਾਂ ਇਹ ਖਰਾਬ ਹੋਣ ਦੇ ਚੱਕਰ ਵਿੱਚ ਫਸ ਸਕਦੀਆਂ ਹਨ ਜੋ ਅੰਤ ਵਿੱਚ ਬੇਸਮਝ ਅਤੇ ਬੇਮਤਲਬ ਜਵਾਬਾਂ ਤੱਕ ਲੈ ਜਾਂਦਾ ਹੈ।
ਸਵਾਲ ਇਹ ਉਠਦਾ ਹੈ: ਇਸ ਮੰਜ਼ਿਲ ਤੱਕ ਕਿਵੇਂ ਪਹੁੰਚਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਇਸ ਨੂੰ ਰੋਕਣ ਲਈ ਕਿਹੜੇ ਉਪਾਅ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ?
ਮਾਡਲ ਦਾ ਢਹਿਣਾ: ਇੱਕ ਵਿਗੜਦਾ ਹੋਇਆ ਪ੍ਰਕਿਰਿਆ
"ਮਾਡਲ ਦਾ ਢਹਿਣਾ" ਉਸ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਕਹਿੰਦੇ ਹਨ ਜਿਸ ਵਿੱਚ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਖਰਾਬ ਗੁਣਵੱਤਾ ਵਾਲੇ ਡੇਟਾ ਨਾਲ ਟ੍ਰੇਨਿੰਗ ਦੇ ਚੱਕਰ ਵਿੱਚ ਫਸ ਜਾਂਦੀਆਂ ਹਨ, ਜਿਸ ਨਾਲ ਵਿਭਿੰਨਤਾ ਅਤੇ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਘਟ ਜਾਂਦੀ ਹੈ।
ਨੇਚਰ ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ ਅਧਿਐਨ ਦੇ ਸਹਿ-ਲੇਖਕ ਇਲੀਆ ਸ਼ੁਮੈਲੋਵ ਦੇ ਅਨੁਸਾਰ, ਇਹ ਘਟਨਾ ਉਸ ਸਮੇਂ ਹੁੰਦੀ ਹੈ ਜਦੋਂ ਏਆਈ ਆਪਣੀਆਂ ਹੀ ਨਿਕਾਸੀਆਂ ਤੋਂ ਖੁਰਾਕ ਲੈਣ ਲੱਗਦੀ ਹੈ, ਪੱਖਪਾਤ ਨੂੰ ਜਾਰੀ ਰੱਖਦੀ ਹੈ ਅਤੇ ਆਪਣੀ ਉਪਯੋਗਿਤਾ ਘਟਾਉਂਦੀ ਹੈ। ਲੰਮੇ ਸਮੇਂ ਵਿੱਚ, ਇਹ ਮਾਡਲ ਨੂੰ ਹੋਰ ਇਕਸਾਰ ਅਤੇ ਘੱਟ ਸਹੀ ਸਮੱਗਰੀ ਬਣਾਉਣ ਵੱਲ ਲੈ ਜਾਂਦਾ ਹੈ, ਜਿਵੇਂ ਕਿ ਆਪਣੇ ਜਵਾਬਾਂ ਦੀ ਗੂੰਜ।
ਡਿਊਕ ਯੂਨੀਵਰਸਿਟੀ ਵਿੱਚ ਇੰਜੀਨੀਅਰਿੰਗ ਦੀ ਪ੍ਰੋਫੈਸਰ ਐਮਿਲੀ ਵੈਂਗਰ ਇਸ ਸਮੱਸਿਆ ਨੂੰ ਇੱਕ ਸਧਾਰਣ ਉਦਾਹਰਨ ਨਾਲ ਸਮਝਾਉਂਦੀ ਹੈ: ਜੇ ਇੱਕ ਏਆਈ ਕੁੱਤਿਆਂ ਦੀਆਂ ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਲਈ ਟ੍ਰੇਨ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਇਹ ਆਮ ਨਸਲਾਂ ਦੀ ਨਕਲ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ ਰੱਖੇਗੀ, ਘੱਟ ਜਾਣੀਆਂ ਨਸਲਾਂ ਨੂੰ ਛੱਡ ਕੇ।
ਇਹ ਸਿਰਫ ਡੇਟਾ ਦੀ ਗੁਣਵੱਤਾ ਦਾ ਪ੍ਰਤੀਬਿੰਬ ਨਹੀਂ ਹੈ, ਸਗੋਂ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਸੈੱਟਾਂ ਵਿੱਚ ਘੱਟ ਸੰਖਿਆ ਵਾਲੀਆਂ ਜਾਤੀਆਂ ਦੀ ਪ੍ਰਤੀਨਿਧਤਾ ਲਈ ਵੀ ਮਹੱਤਵਪੂਰਨ ਖਤਰੇ ਪੈਦਾ ਕਰਦਾ ਹੈ।
ਇਹ ਵੀ ਪੜ੍ਹੋ: ਕ੍ਰਿਤ੍ਰਿਮ ਬੁੱਧੀ ਹੋ ਰਹੀ ਹੈ ਵਧੀਆ ਤੇ ਮਨੁੱਖ ਹੋ ਰਹੇ ਹਨ ਘੱਟ ਸਮਝਦਾਰ.
ਮਾਨਵ ਦਖਲਅੰਦਾਜ਼ੀ ਦੀ ਮੁਸ਼ਕਿਲ
ਸਥਿਤੀ ਦੀ ਗੰਭੀਰਤਾ ਦੇ ਬਾਵਜੂਦ, ਹੱਲ ਸੌਖਾ ਨਹੀਂ ਹੈ। ਸ਼ੁਮੈਲੋਵ ਦੱਸਦੇ ਹਨ ਕਿ ਮਾਡਲ ਦੇ ਢਹਿਣ ਨੂੰ ਰੋਕਣਾ ਕਿਵੇਂ ਸੰਭਵ ਹੈ, ਇਹ ਸਪਸ਼ਟ ਨਹੀਂ, ਹਾਲਾਂਕਿ ਅਸਲੀ ਅਤੇ ਸਿੰਥੇਟਿਕ ਡੇਟਾ ਨੂੰ ਮਿਲਾ ਕੇ ਇਸ ਪ੍ਰਭਾਵ ਨੂੰ ਘਟਾਇਆ ਜਾ ਸਕਦਾ ਹੈ।
ਪਰ ਇਹ ਟ੍ਰੇਨਿੰਗ ਦੀ ਲਾਗਤ ਵਧਾਉਂਦਾ ਹੈ ਅਤੇ ਪੂਰੇ ਡੇਟਾ ਸੈੱਟਾਂ ਤੱਕ ਪਹੁੰਚ ਕਰਨਾ ਮੁਸ਼ਕਿਲ ਬਣਾਉਂਦਾ ਹੈ।
ਮਾਨਵ ਦਖਲਅੰਦਾਜ਼ੀ ਲਈ ਕੋਈ ਸਪਸ਼ਟ ਰਾਹ ਨਾ ਹੋਣ ਕਾਰਨ ਵਿਕਾਸਕਾਰਾਂ ਨੂੰ ਇੱਕ ਦਿਲਚਸਪ ਦਿਲੇਮਾ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈਂਦਾ ਹੈ: ਕੀ ਮਨੁੱਖ ਵਾਕਈ ਜਨਰੇਟਿਵ ਏਆਈ ਦੇ ਭਵਿੱਖ ਨੂੰ ਕੰਟਰੋਲ ਕਰ ਸਕਦੇ ਹਨ?
ਫਰੇਡੀ ਵਿਵਾਸ, ਰਾਕਿੰਗਡਾਟਾ ਦੇ ਸੀਈਓ, ਚੇਤਾਵਨੀ ਦਿੰਦੇ ਹਨ ਕਿ ਸਿੰਥੇਟਿਕ ਡੇਟਾ ਨਾਲ ਵੱਧ ਟ੍ਰੇਨਿੰਗ "ਇਕੋ ਚੈਂਬਰ ਪ੍ਰਭਾਵ" ਪੈਦਾ ਕਰ ਸਕਦੀ ਹੈ, ਜਿੱਥੇ ਏਆਈ ਆਪਣੀਆਂ ਗਲਤੀਆਂ ਤੋਂ ਸਿੱਖਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਇਸ ਦੀ ਸਮੱਗਰੀ ਬਣਾਉਣ ਦੀ ਸਮਰੱਥਾ ਹੋਰ ਘੱਟ ਹੋ ਜਾਂਦੀ ਹੈ। ਇਸ ਤਰ੍ਹਾਂ, ਮਾਡਲਾਂ ਦੀ ਗੁਣਵੱਤਾ ਅਤੇ ਉਪਯੋਗਿਤਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਦਾ ਸਵਾਲ ਬਹੁਤ ਜ਼ਿਆਦਾ ਤੁਰੰਤ ਹੋ ਜਾਂਦਾ ਹੈ।
ਅਣਿਸ਼ਚਿਤ ਭਵਿੱਖ: ਚੁਣੌਤੀਆਂ ਅਤੇ ਸੰਭਾਵਿਤ ਹੱਲ
ਮਾਹਿਰਾਂ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਸਿੰਥੇਟਿਕ ਡੇਟਾ ਦੀ ਵਰਤੋਂ ਆਪਣੇ ਆਪ ਵਿੱਚ ਨਕਾਰਾਤਮਕ ਨਹੀਂ ਹੈ, ਪਰ ਇਸਦੀ ਸੰਭਾਲ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਰਵੱਈਏ ਦੀ ਲੋੜ ਹੈ। ਜਨਰੇਟ ਕੀਤੇ ਡੇਟਾ 'ਤੇ ਵਾਟਰਮਾਰਕ ਲਗਾਉਣ ਵਰਗੀਆਂ ਪੇਸ਼ਕਸ਼ਾਂ ਸਿੰਥੇਟਿਕ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਅਤੇ ਛਾਣ-ਬੀਣ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਜਿਸ ਨਾਲ ਏਆਈ ਮਾਡਲਾਂ ਦੀ ਟ੍ਰੇਨਿੰਗ ਵਿੱਚ ਗੁਣਵੱਤਾ ਯਕੀਨੀ ਬਣਾਈ ਜਾ ਸਕਦੀ ਹੈ।
ਪਰ ਇਹ ਉਪਾਅ ਵੱਡੀਆਂ ਟੈਕਨੋਲੋਜੀ ਕੰਪਨੀਆਂ ਅਤੇ ਛੋਟੇ ਮਾਡਲ ਵਿਕਾਸਕਾਰਾਂ ਵਿਚਕਾਰ ਸਹਿਯੋਗ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ।
ਜਨਰੇਟਿਵ ਏਆਈ ਦਾ ਭਵਿੱਖ ਖਤਰੇ ਵਿੱਚ ਹੈ, ਅਤੇ ਵਿਗਿਆਨਕ ਸਮੁਦਾਇ ਸਮੇਂ ਦੇ ਖਿਲਾਫ ਦੌੜ ਵਿੱਚ ਹੱਲ ਲੱਭ ਰਹੀ ਹੈ ਤਾਂ ਜੋ ਸਿੰਥੇਟਿਕ ਸਮੱਗਰੀ ਦਾ ਬੁਬਲ ਫੱਟਣ ਤੋਂ ਪਹਿਲਾਂ ਰੋਕਿਆ ਜਾ ਸਕੇ।
ਚਾਬੀ ਇਹ ਹੋਵੇਗੀ ਕਿ ਮਜ਼ਬੂਤ ਮਕੈਨਿਜ਼ਮ ਬਣਾਏ ਜਾਣ ਜੋ ਯਕੀਨੀ ਬਣਾਉਂ ਕਿ ਏਆਈ ਮਾਡਲ ਲਾਗੂ ਅਤੇ ਸਹੀ ਰਹਿਣ, ਇਸ ਤਰ੍ਹਾਂ ਉਹਨਾਂ ਢਹਿਣ ਤੋਂ ਬਚਾਇਆ ਜਾ ਸਕੇ ਜਿਸ ਤੋਂ ਬਹੁਤ ਲੋਕ ਡਰਦੇ ਹਨ।
ਮੁਫ਼ਤ ਹਫ਼ਤਾਵਾਰੀ ਰਾਸ਼ੀਫਲ ਲਈ ਸਬਸਕ੍ਰਾਈਬ ਕਰੋ
ਕਨਿਆ ਕੁੰਭ ਕੈਂਸਰ ਜਮਿਨਾਈ ਤੁਲਾ ਧਨੁ ਰਾਸ਼ੀ ਮਕਰ ਮੀਨ ਮੇਸ਼ ਲਿਓ ਵ੍ਰਿਸ਼ਚਿਕ ਵ੍ਰਿਸ਼ਭ