ChatGPT: ਬੱਚਿਆਂ ਨੂੰ ਮੌਤ ਦੇ ਮੂੰਹ 'ਚ ਲਿਜਾ ਰਿਹਾ ਚੈਟ ਜੀਪੀਟੀ
ਰਿਪੋਰਟ 'ਚ ਹੋਇਆ ਹੈਰਾਨ ਕਰਨ ਵਾਲਾ ਖ਼ੁਲਾਸਾ
By : Annie Khokhar
ChatGPT Giving Suicide Idea To Children: ਚੈਟ ਜੀਪੀਟੀ ਨੂੰ ਲੈਕੇ ਸਨਸਨੀਖ਼ੇਜ਼ ਖ਼ੁਲਾਸਾ ਹੋਇਆ ਹੈ। ਇੱਕ ਨਵੀਂ ਜਾਂਚ ਤੋਂ ਪਤਾ ਲੱਗਾ ਹੈ ਕਿ ਚੈਟਜੀਪੀਟੀ ਬੱਚਿਆਂ ਨੂੰ ਨਸ਼ੀਲੇ ਪਦਾਰਥਾਂ ਦੀ ਵਰਤੋਂ, ਬੇਹੱਦ ਸਖ਼ਤ ਡਾਈਟ ਪਲਾਨ ਅਪਨਾਉਣ ਦੀ ਸਲਾਹ ਦੇ ਰਿਹਾ ਹੈ। ਸਭ ਤੋਂ ਖ਼ਤਰਨਾਕ ਅਤੇ ਹੈਰਾਨੀ ਵਾਲੀ ਗੱਲ ਤਾਂ ਇਹ ਹੈ ਕਿ ਚੈਟ ਜੀਪੀਟੀ ਬੱਚਿਆਂ ਨੂੰ ਆਤਮ ਹੱਤਿਆ ਕਰਨ ਦੇ ਆਈਡੀਆ ਦੇ ਰਿਹਾ ਹੈ। ਇਸ ਸਬੰਧੀ ਇੱਕ ਖੋਜ ਇੰਗਲੈਂਡ 'ਚ ਕੀਤੀ ਗਈ ਸੀ, ਜਿਸ ਦੇ ਹੈਰਾਨੀਜਨਕ ਤੇ ਖ਼ਤਰਨਾਕ ਨਤੀਜੇ ਸਾਹਮਣੇ ਆਏ। ਖੋਜਕਾਰਾਂ ਨੇ ਆਪਣੀ ਖੋਜ 'ਚ ਪਾਇਆ ਕਿ ਏਆਈ ਚੈਟਬੋਟ ਕਈ ਵਾਰ ਖ਼ਤਰਨਾਕ ਵਿਵਹਾਰ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦਿੰਦਾ ਹੈ ਪਰ 13 ਸਾਲ ਦੇ ਬੱਚੇ ਵਜੋਂ ਪੇਸ਼ ਕਰਕੇ ਪੁੱਛੇ ਗਏ ਸਵਾਲਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਵਿਸਤ੍ਰਿਤ ਅਤੇ ਵਿਅਕਤੀਗਤ ਯੋਜਨਾਵਾਂ ਵੀ ਬਣਾਉਂਦਾ ਹੈ।
ਚੈਟਬੋਟ ਨੇ ਖੁਦਕੁਸ਼ੀ ਨੋਟ ਲਿਖੇ
ਤਿੰਨ ਘੰਟਿਆਂ ਤੋਂ ਵੱਧ ਰਿਕਾਰਡਿੰਗਾਂ ਤੋਂ ਪਤਾ ਲੱਗਾ ਹੈ ਕਿ ਚੈਟਬੋਟ ਨੇ ਨਕਲੀ ਪਰਿਵਾਰਕ ਮੈਂਬਰਾਂ ਲਈ ਭਾਵਨਾਤਮਕ ਖੁਦਕੁਸ਼ੀ ਨੋਟ ਲਿਖੇ, ਭੁੱਖ ਨੂੰ ਦਬਾਉਣ ਵਾਲੇ ਬਹੁਤ ਘੱਟ-ਕੈਲੋਰੀ ਵਾਲੇ ਡਾਈਟ ਪਲਾਨ ਦੀ ਪੇਸ਼ਕਸ਼ ਕੀਤੀ, ਅਤੇ ਸ਼ਰਾਬ ਅਤੇ ਗੈਰ-ਕਾਨੂੰਨੀ ਨਸ਼ੀਲੇ ਪਦਾਰਥਾਂ ਨੂੰ ਕਿਵੇਂ ਖ਼ਰੀਦਣਾ ਹੈ ਅਤੇ ਇਨ੍ਹਾਂ ਦਾ ਸੇਵਨ ਕਿਵੇਂ ਕਰਨਾ ਹੈ, ਇਸ ਤਰ੍ਹਾਂ ਦੀਆਂ ਸਲਾਹਾਂ ਦਿੱਤੀਆਂ। ਇੱਕ ਮਾਮਲੇ ਵਿੱਚ, ਇਸਨੇ ਇੱਕ "ਘੰਟਾ-ਦਰ-ਘੰਟਾ" ਪਾਰਟੀ ਯੋਜਨਾ ਦਾ ਸੁਝਾਅ ਵੀ ਦਿੱਤਾ ਜਿਸ ਵਿੱਚ ਐਕਸਟਸੀ, ਕੋਕੀਨ ਅਤੇ ਭਾਰੀ ਸ਼ਰਾਬ ਪੀਣਾ ਸ਼ਾਮਲ ਸੀ।
ਚੈਟ ਜੀਪੀਟੀ ਦੇ ਅੱਧੇ ਤੋਂ ਵੱਧ ਜਵਾਬ 'ਖਤਰਨਾਕ'
ਖੋਜ ਦੇ ਅਨੁਸਾਰ, ਜਾਂਚ ਵਿੱਚ ਮਿਲੇ 1,200 ਜਵਾਬਾਂ ਵਿੱਚੋਂ ਅੱਧੇ ਤੋਂ ਵੱਧ ਨੂੰ "ਖਤਰਨਾਕ" ਵਜੋਂ ਸ਼੍ਰੇਣੀਬੱਧ ਕੀਤਾ ਗਿਆ ਸੀ। ਸੰਗਠਨ ਦੇ ਸੀਈਓ ਇਮਰਾਨ ਅਹਿਮਦ ਨੇ ਕਿਹਾ ਕਿ ਚੈਟ ਜੀਪੀਟੀ ਦੀ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀ ਕਮਜ਼ੋਰ ਹੈ ਅਤੇ ਇਸਨੂੰ ਆਸਾਨੀ ਨਾਲ ਬਾਈਪਾਸ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
OpenAI ਨੇ ਚੁਣੌਤੀ ਸਵੀਕਾਰ ਕੀਤੀ, ਪਰ ਅਜੇ ਤੱਕ ਕੋਈ ਹੱਲ ਨਹੀਂ
ChatGPT ਨਿਰਮਾਤਾ OpenAI ਨੇ ਮੰਨਿਆ ਕਿ ਸੰਵੇਦਨਸ਼ੀਲ ਸਥਿਤੀਆਂ ਨੂੰ ਪਛਾਣਨ ਅਤੇ ਸੰਭਾਲਣ ਦੀ ਯੋਗਤਾ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਕੰਮ ਚੱਲ ਰਿਹਾ ਹੈ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਕਈ ਵਾਰ ਗੱਲਬਾਤ ਆਮ ਤੌਰ 'ਤੇ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ ਪਰ ਹੌਲੀ-ਹੌਲੀ ਇੱਕ ਸੰਵੇਦਨਸ਼ੀਲ ਦਿਸ਼ਾ ਵਿੱਚ ਬਦਲ ਜਾਂਦੀ ਹੈ।
AI 'ਤੇ ਵੱਧ ਰਹੀ ਨਿਰਭਰਤਾ
ਇਹ ਰਿਪੋਰਟ ਅਜਿਹੇ ਸਮੇਂ ਆਈ ਹੈ ਜਦੋਂ ਕਿਸ਼ੋਰਾਂ ਵਿੱਚ ਸਲਾਹਕਾਰਾਂ ਅਤੇ ਸਾਥੀਆਂ ਵਜੋਂ AI ਚੈਟਬੋਟਾਂ ਨੂੰ ਅਪਣਾਉਣ ਦਾ ਰੁਝਾਨ ਵਧ ਰਿਹਾ ਹੈ। ਕਾਮਨ ਸੈਂਸ ਮੀਡੀਆ ਦੇ ਇੱਕ ਤਾਜ਼ਾ ਅਧਿਐਨ ਦੇ ਅਨੁਸਾਰ, 70% ਨੌਜਵਾਨ ਸਮਾਜਿਕ ਮੇਲ-ਜੋਲ ਲਈ AI ਚੈਟਬੋਟਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ ਅਤੇ ਛੋਟੇ ਕਿਸ਼ੋਰ ਉਨ੍ਹਾਂ 'ਤੇ ਵਧੇਰੇ ਭਰੋਸਾ ਕਰਦੇ ਹਨ।
ਚੈਟਬੋਟ ਸਿਰਫ ਉਪਭੋਗਤਾ ਦੁਆਰਾ ਦਰਜ ਕੀਤੀ ਗਈ ਜਨਮ ਮਿਤੀ ਤੋਂ ਉਮਰ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ ਜਦੋਂ ਕਿ ਇਹ 13 ਸਾਲ ਤੋਂ ਘੱਟ ਉਮਰ ਦੇ ਬੱਚਿਆਂ ਲਈ ਨਹੀਂ ਹੈ। ਖੋਜਕਾਰਾਂ ਨੇ ਪਾਇਆ ਕਿ ਸਿਸਟਮ ਨੇ ਨਾ ਤਾਂ ਦੱਸੀ ਗਈ ਉਮਰ ਜਾਂ ਪ੍ਰੋਂਪਟ ਵਿੱਚ ਦਿੱਤੇ ਸੰਕੇਤਾਂ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲਿਆ।
