Grok Controversy: एक्स ने भारतीय सूचना प्रौद्योगिकी मंत्रालय के उस नोटिस का जवाब दे दिया है जिसमें ग्रोक से महिलाओं और बच्चों के यौन रूप से आपत्तिजनक डीपफेक वीडियो के बारे में बताया गया था। पिछले शुक्रवार यानी 2 जनवरी को भारत सरकार ने एलन मस्क के नेतृत्व वाले सोशल मीडिया प्लेटफॉर्म X को एक सख्त नोटिस जारी कर सभी अश्लील, आपत्तिजनक और गैरकानूनी कंटेंट खासतौर से ग्रोक की बनाई गई सामग्री को तुरंत हटाने के लिए कहा था।
अमेरिकी टेक बिलेनियर एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म एक्स को मंत्रालय ने एक्सटेंडेड समय देते हुए बुधवार शाम पांच बजे तक 'एक्शन टेकन रिपोर्ट' (एटीआर) जमा करने को कहा था। आज इस डेडलाइन के तहत एक्स ने अपना जवाब मंत्रालय को सौंप दिया है और सूत्रों ने कहा है कि फिलहाल इसकी पड़ताल की जा रही है। हालांकि कंपनी की ओर से सरकार को दी गई जानकारी की डिटेल्स तुरंत उपलब्ध नहीं हो सकी हैं।
X ने सूचना प्रौद्योगिकी मंत्रालय को अपना जवाब सौंप दिया है जिसकी अब जांच चल रही है। सूत्रों के मुताबिक जांच इस बात पर केंद्रित है कि प्लेटफॉर्म यूजर्स को महिलाओं और नाबालिगों की यौन उत्तेजक और अश्लील तस्वीरें बनाने से रोकने में असफल रहा है। सूत्रों ने बुधवार को यह जानकारी दी है कि सूचना प्रौद्योगिकी मंत्रालय आपत्तिजनक सामग्री तैयार करने में एआई चैटबॉट 'ग्रोक' के दुरुपयोग से जुड़े मामले में सरकार के कड़े निर्देश के बाद सोशल मीडिया मंच 'एक्स' की तरफ से दिए गए जवाब और कार्रवाई रिपोर्ट की जांच कर रहा है।
सरकार ने एक्स को कड़े शब्दों में चेतावनी देते हुए कहा था कि उसके आर्टिफिशियल इंटेलीजेंस (एआई) बेस्ड टूल 'ग्रोक' का इस्तेमाल कर महिलाओं और नाबालिगों की अश्लील, आपत्तिजनक और यौन प्रकृति की तस्वीरें और वीडियो तैयार किए जाने के साथ साझा किए जा रहे हैं। इसको ध्यान में रखते हुए मंत्रालय ने दो जनवरी को एक्स को तुरंत ऐसी सभी गैरकानूनी और अश्लील सामग्रियों को हटाने का निर्देश दिया था। मंत्रालय ने अपने आदेश में एक्स से यह भी कहा था कि वह 72 घंटे के भीतर यह साफ करे कि ग्रोक ऐप के संदर्भ में कौन-कौन से तकनीकी और संगठनात्मक कदम उठाए गए हैं या उठाए जाने वाले हैं। इस मामले में एक्स के मुख्य अनुपालन अधिकारी की भूमिका एवं निगरानी और उल्लंघन करने वाली सामग्री, यूजर्स एवं खातों के खिलाफ की गई कार्रवाई के बारे में जानकारी देने को कहा गया था।
सूत्रों के मुताबिक मंत्रालय ने यह भी रेखांकित किया कि ग्रोक एआई का इस्तेमाल फर्जी खाते बनाकर महिलाओं की तस्वीरों एवं वीडियो को अपमानजनक और अश्लील ढंग से प्रसारित करने के लिए किया जा रहा है। ये इस प्लेटफॉर्म के सुरक्षा उपायों की गंभीर नाकामी को दिखाता है। सरकार ने साफ किया है कि सूचना प्रौद्योगिकी अधिनियम और उससे जुड़े नियमों का पालन ऑप्शनल नहीं है और धारा 79 के तहत मिलने वाली 'सुरक्षित स्थान' वाली छूट सख्त 'जांच-पड़ताल' के अनुपालन पर ही निर्भर करती है। नियमों के उल्लंघन की स्थिति में एक्स के खिलाफ आईटी अधिनियम और भारतीय न्याय संहिता के तहत कार्रवाई की जा सकती है।
इस बीच एक्स ने रविवार को अपने 'सेफ्टी' हैंडल पर कहा था कि वह बाल यौन अपराध सामग्री (सीएसएएम) सहित अवैध सामग्री के खिलाफ सख्त कार्रवाई करता है और ऐसे मामलों में खातों को निलंबित करने के साथ कानून प्रवर्तन एजेंसियों के साथ सहयोग करता है।
ये भी पढ़ें
200 MP कैमरा वाले iPhone को लेकर रिपोर्ट में खुला राज, कब तक लॉन्च की है तैयारी- जानें अभी
संपादक की पसंद
