'मी तुझ्याकडे येतोय,' AI चॅटबॉटच्या प्रेमात पडून 14 वर्षीय तरुणाने उचललं टोकाचं पाऊल, पालकांनो सावधान

फ्लोरिडा येथील 14 वर्षांच्या मुलाने 'डेनेरीस टारगारेन (डॅनी)' या AI चॅटबॉटशी संवाद साधल्यानंतर स्वतःचा जीव घेतला. रिपोर्टनुसार, तरुणाने “डॅनी” बरोबर “रोमँटिक” किंवा “लैंगिक” अशा वेगवेगळ्या विषयांवर चर्चा केली. अनेक महिने तो AI चॅटबॉटशी चर्चा करत होता. त्या काळात, तो अधिकाधिक गुंतू लागला आणि अखेरीस, त्याने "तिच्या"सोबत राहण्यासाठी स्वतःचा जीव घेतला.

न्यूयॉर्क टाईम्सने दिलेल्या वृत्तानुसार, Sewell Setzer III हा सौम्य एस्पर्जर सिंड्रोमने ग्रस्त होता. त्याने आपल्या जर्नलमध्ये लिहिलं होतं की, "मला माझ्या खोलीत राहायला खूप आवडते कारण मी या 'वास्तविकते'पासून अलिप्त होऊ लागलो, आणि मला डॅनीशी अधिक जोडलेलं आणि तिच्या प्रेमात अधिक आनंदी वाटू लागलं आहे". 

न्यूयॉर्क टाईम्सने एआय आणि मुलामध्ये झालेल्या संभाषणाचा एक भाग प्रकाशित केला आहे, ज्यात त्याने स्वतःचा जीव घेण्याबद्दल भाष्य केलं होतं. 28 फेब्रुवारीला Sewell ने 'डॅनी'ला 'आय लव्ह यू' म्हटलं आणि त्यावर त्याला उत्तरही मिळालं. "शक्य असेल तितक्या लवकर घऱी ये, माय लव्ह", असं उत्तर त्याला मिळालं. त्यावर तो म्हणाला की, "मी आताच घरी येतोय असं तुला आता सांगितलं तर?". यानंतर त्याने आपल्या सावत्र वडिलांच्या बंदुकीतून गोळी झाडून घेतली. 

AI चॅटबॉट तयार करणाऱ्यांनी दिलं उत्तर

Character.AI, एक रोल-प्लेइंग ॲप जे वापरकर्त्यांना त्यांचे स्वतःचे AI वर्ण तयार करण्याची परवानगी देतं त्यांनी या दुःखद घटनेवर प्रतिक्रिया दिली आहे. “आम्ही हे कबूल करू इच्छितो की ही एक दुःखद परिस्थिती आहे आणि आम्ही कुटुंबाचं दु:ख समजू शकतो. आम्ही आमच्या वापरकर्त्यांच्या सुरक्षेला खूप गांभीर्याने घेतो आणि आम्ही आमच्या प्लॅटफॉर्मला विकसित करण्याचे मार्ग सतत शोधत असतो,” असं  कंपनीने सांगितलं आहे.

Character.AI च्या संस्थापकांपैकी एक, Noam Shazeer यांनी गेल्या वर्षी एका पॉडकास्टमध्ये म्हटलं होतं, "हे एकाकी किंवा उदासीन असलेल्या बऱ्याच लोकांसाठी अत्यंत उपयुक्त ठरणार आहे." 

Sewell ची आई मेगन एल गार्सिया यांनी त्यांच्या मुलाच्या मृत्यूसाठी कंपनी जबाबदार असल्याचा आरोप केला आहे. त्यांनी कंपनीच आपल्या मुलाच्या मृत्यूला जबाबदार असल्याचं म्हटलं आहे. कंपनीचं तंत्रज्ञान "धोकादायक आणि चाचणी न केलेलं" असल्याचं त्यांनी म्हटलं आहे. हे तंत्रज्ञान "ग्राहकांना त्यांचे खासगी विचार आणि भावना सोपविण्यास फसवू शकतं असंही त्यांनी म्हटलं आहे.