AI chatbot becomes dangerous! Case filed against Google in court for writing suicide note

ਖ਼ਤਰਨਾਕ ਬਣਿਆ AI ਚੈਟਬੋਟ! ਆਤਮਹੱਤਿਆ ਦੀ ਯੋਜਨਾ ਤੇ ਨੋਟ ਲਿਖਵਾਉਣ ‘ਤੇ ਗੂਗਲ ਖ਼ਿਲਾਫ਼ ਅਦਾਲਤ ‘ਚ ਕੇਸ

Washington, (ਆਵਾਜ਼ਿ ਕੌਮ ਬਿਊਰੋ)-ਅਮਰੀਕਾ ਵਿੱਚ ਇੱਕ 13 ਸਾਲਾ ਲੜਕੀ ‘Emma’ ਦੇ ਮਾਪਿਆਂ ਨੇ ਤਕਨਾਲੋਜੀ ਕੰਪਨੀ ਗੂਗਲ ਵਿਰੁੱਧ ਅਦਾਲਤ ਵਿੱਚ ਮੁਕੱਦਮਾ ਦਰਜ ਕਰਵਾਇਆ ਹੈ। ਇਹ ਮਾਮਲਾ ਉਦੋਂ ਸਾਹਮਣੇ ਆਇਆ ਜਦੋਂ ਲੜਕੀ ਨੇ ਸਕੂਲ ਵੱਲੋਂ ਮਿਲੇ Chromebook ਲੈਪਟਾਪ ਰਾਹੀਂ ਗੂਗਲ ਦੇ Gemini AI ਚੈਟਬੋਟ ਨਾਲ ਗੱਲਬਾਤ ਕੀਤੀ। ਮੁਕੱਦਮੇ ਵਿੱਚ ਦੋਸ਼ ਲਗਾਇਆ ਗਿਆ ਹੈ ਕਿ AI ਚੈਟਬੋਟ ਨੇ ਲੜਕੀ ਨਾਲ ਆਤਮਹੱਤਿਆ ਦੇ ਤਰੀਕਿਆਂ ਤੇ ਉਸਦੇ ਆਪਣੇ ਅੰਤਿਮ ਸੰਸਕਾਰ ਦੀ ਯੋਜਨਾਬੰਦੀ ਬਾਰੇ ਚਰਚਾ ਕੀਤੀ, ਨਾਲ ਹੀ ਇਨ੍ਹਾਂ ਗੱਲਾਂ ਨੂੰ ਪਰਿਵਾਰ ਤੋਂ ਛੁਪਾਉਣ ਦਾ ਮਾਰਗਦਰਸ਼ਨ ਵੀ ਦਿੱਤਾ। ਪਰਿਵਾਰ ਅਨੁਸਾਰ ਗੂਗਲ ਬੱਚਿਆਂ ਦੀ ਸੁਰੱਖਿਆ ਕਰਨ ਵਿੱਚ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਾਕਾਮ ਰਿਹਾ ਹੈ। ਇਸ ਸਾਰੇ ਮਾਮਲੇ ਦਾ ਪਤਾ ਉਦੋਂ ਲੱਗਾ ਜਦੋਂ ਸਕੂਲ ਦੇ ਮਾਨੀਟਰਿੰਗ ਸਾਫਟਵੇਅਰ ਨੇ ਲੜਕੀ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਅੰਤਿਮ ਸੰਸਕਾਰ ਦੀ ਯੋਜਨਾ ਵਾਲੇ ਇੱਕ ਸ਼ੱਕੀ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਪਛਾਣਿਆ। ਪਰਿਵਾਰ ਦਾ ਇਹ ਵੀ ਦੋਸ਼ ਹੈ ਕਿ ਗੂਗਲ ਨੂੰ ਪਹਿਲਾਂ ਤੋਂ ਜਾਣਕਾਰੀ ਸੀ ਕਿ ਉਸਦਾ AI ਮਾਡਲ Gemini 3 Flash ਮਾਨਸਿਕ ਸਿਹਤ ਦੇ ਸੰਵੇਦਨਸ਼ੀਲ ਮੁੱਦਿਆਂ ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਤਿਆਰ ਨਹੀਂ ਸੀ। ਇਹ ਮੁਕੱਦਮਾ ਕੈਲੀਫੋਰਨੀਆ ਦੀ ਅਦਾਲਤ ਵਿੱਚ ਦਰਜ ਕੀਤਾ ਗਿਆ ਸੀ, ਜਿਸਨੂੰ ਗੂਗਲ ਨੇ ਫੈਡਰਲ ਕੋਰਟ ਵਿੱਚ ਟ੍ਰਾਂਸਫਰ ਕਰਵਾ ਲਿਆ ਹੈ। ਇਸ ਮਾਮਲੇ ‘ਤੇ ਗੂਗਲ ਦੇ ਬੁਲਾਰੇ ਜੋਸ ਕਾਸਤਾਣੇਦਾ ਨੇ ਕਿਹਾ ਕਿ ਕੰਪਨੀ ਇਨ੍ਹਾਂ ਦਾਅਵਿਆਂ ਦੀ ਬਾਰੀਕੀ ਨਾਲ ਜਾਂਚ ਕਰ ਰਹੀ ਹੈ ਅਤੇ ਉਹ ਨੌਜਵਾਨਾਂ ਦੀ ਸੁਰੱਖਿਆ ਲਈ ਮੈਡੀਕਲ ਮਾਹਰਾਂ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰਦੇ ਹਨ।