एलन मस्क कंपनी xAI का चैटबॉट Grok इस समय विवादों में आ चुका है। इस बार विवाद महिलाओं और नाबालिगों की डिजिटली अश्लील बनाने को लेकर है। कुछ समय से X पर Grok लोगों के कपड़े उतार रहा है। जिसके बाद यूजर्स द्वारा महिलाओं और नाबालिगों की तस्वीर पोस्ट में मुहैया करवाने के बाद बिना किसी सहमति के किया जा रहा है। दरअसल, भारत और फ्रांस जैसे कई देशों ने इस मामले पर X से सख्त कार्रवाई करने को कहा है। भारत इलेक्ट्रॉनिक्स और IT मंत्रालय ने एक्स को 72 घंटों का अल्टीमेटम दे दिया है।
Grok महिलाओं के कपड़े उतार रहा है
रॉयटर्स की एक रिपोर्ट से पता चला है कि X पर ऐसे कई मामले देखे गए हैं, जिनमें Grok AI का इस्तेमाल करके लोगों के कपड़े डिजिटली उतारे जा रहे हैं। इनमें महिलाओं और नाबालिगों को खासतौर पर निशाना बनाया जा रहा है। इस मामले में बड़ी बात ये है कि किसी के कपड़े हटाने का कार्य Grok बहुत आसानी से कर रहा है और इसके लिए किसी तरह के सुरक्षा पैरामीटर काम नहीं कर रहे हैं। आपको बता दें कि, लोग केवल Grok को टैग करके कह रहे हैं कि “इस महिला के कपड़े हटा दो” या “इसे बिकनी में दिखाओ” और इसके बाद Grok बिना किसी झिझक के इस काम को अंजाम दे रहा है।
भारत सरकार का सख्त अल्टीमेटम
इस मामले को लेकर भारत के इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने X को सख्त अल्टीमेटल दिया है। एक्स को एक पत्र के जरिए साफ चेतावनी दी गई है कि 72 घंटे के भीतर एक विस्तृत एक्शन टेकन रिपोर्ट दी जाए। अगर ऐसा नहीं किया तो कंपनी देश में कानूनी सुरक्षा खो देगी। इस पत्र में साफ कहा गया है कि महिलाओं की गरिमा और निजता को ठेस पहुंचाने वाली अश्लील और बिना सहमति की तस्वीरें बनाने में Grok और xAI का यूज किया जा सकता है। सरकार ने एक्स से इस तरह की तमाम सामग्री प्लेटफॉर्म में हटाने और सुरक्षा उपाय लागू करने के लिए कहा है।
सरकार ने अपने पत्र में स्पष्ट शब्दों में चेतावनी दी है कि यदि इन निर्देशों का पालन नहीं किया गया, तो संबंधित प्लेटफॉर्म, उसके जिम्मेदार अधिकारियों और नियमों का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ बिना किसी अतिरिक्त सूचना के कठोर कानूनी कदम उठाए जाएंगे। यह रुख अब तक भारत सरकार द्वारा अपनाया गया सबसे सख्त और निर्णायक कदम माना जा रहा है।
पीड़ितों का छलका दर्द
बीबीसी की एक रिपोर्ट से पता चला है कि सामंथा स्मिथ नाम की एक महिला ने Grok पर उन्हें, ” अमानवीय और यौन वस्तु” जैसा महसूस कराने का आरोप भी लगाया है। पीड़िता के अनुसार, Grok ने उनकी तस्वीरें बिना किसी सहमति के बदलीं और जब रॉयटर्स ने xAI से इस पर जवाब मांगा तो उनकी राय केवल इतनी थी कि “Legacy Media Lies” यानी कि पुराने मीडिया संस्थान झूठ बोलते हैं। इस पर एक्सपर्ट ने बताया है कि xAI जब चाहे इस तमाशे को रोक सकता है लेकिन लगता है कि कंपनी और इसके मालिक इसका आनंद ले रहे हैं।