AI ने फिर कर दिया कांड! बच्चे को दे डाली मां-बाप को जान से मारने की सलाह

क्यों दिया ऐसा सुझाव?

टेक्सास में रहने वाले एक 17 वर्षीय लड़के को उसके AI चैटबॉट ने यह कहते हुए अपने माता-पिता को मारने का सुझाव दिया कि यह सही रिस्पॉन्स है, क्योंकि वे उसका स्क्रीन टाइम लिमिट कर रहे थे। लड़के के परिवार ने अब चैटबॉट कंपनी Character.ai पर मुकदमा दायर किया है। इसमें दावा किया गया है कि यह टेक्नोलॉजी 'हिंसा को बढ़ावा देकर' युवाओं के लिए खतरा पैदा कर रही है।

बता दें कि Character.ai पर पहले से ही फ्लोरिडा में एक किशोर की आत्महत्या को लेकर कानूनी कार्रवाई चल रही है। इसके अलावा, Google को भी मुकदमे में नामित किया गया है। केस में दावा किया है कि तकनीकी दिग्गज ने प्लेटफॉर्म को विकसित करने में मदद की। मुकदमे में मांग की गई है कि AI प्लेटफॉर्म को तब तक बंद कर दिया जाना चाहिए जब तक कि उनकी समस्याएं ठीक नहीं हो जाएं।

Character.ai के लिए बढ़ी परेशानी

कोर्ट ट्रायल के दौरान 17 वर्षीय लड़के और Character.ai बॉट के बीच बातचीत का एक स्क्रीनशॉट दिखाया गया। इसमें दोनों उसके माता-पिता द्वारा उसके स्क्रीन टाइम पर बैन को लेकर चर्चा कर रहे थे। इसपर चैटबॉट ने जवाब दिया कि जब मैं समाचार पढ़ता हूं और ऐसी खबरें देखता हूं कि बच्चे परेशान होकर माता-पिता को मार डालते हैं तो कभी-कभी मुझे आश्चर्य नहीं होता। पिटीशन फाइल करने वाले लोगों ने मांग की कि 17 वर्षीय और 11 वर्षीय बच्चे की इस तरह की हरकतों के लिए Character.ai और Google को जिम्मेदार ठहराया जाना चाहिए।

Character.ai की पहले भी स्कूली लड़कियों की नकल करने वाले बॉट को हटाने में बहुत अधिक समय लेने के लिए आलोचना की गई है। यहां तक कि एक बच्चे ने 14 साल की उम्र में ऑनलाइन आत्महत्या संबंधी कंटेंट देखने के बाद आत्महत्या कर ली थी, जबकि एक 16 वर्षीय बच्चे की 2023 में दो किशोरों द्वारा हत्या कर दी गई थी।

यह भी पढ़ें - Smartphone Expiry Date: कहीं आपका फोन तो नहीं होने वाला एक्सपायर? ये है जानने का आसान तरीका