आखिरकार X ने मानी गलती, Grok पर नहीं बनेंगी आपत्तिजनक तस्वीरें, अश्लील डीपफेक पर लगाएगा लगाम

GrokAI: कई देशों में भारी विरोध और कार्रवाई झेलने के बाद आखिरकार एलन मस्क के सोशल मीडिया प्लेटफॉर्म ने अपने एआई चैटबॉट ग्रोक पर लगाम लगाने का फैसला कर लिया है। सोशल मीडिया प्लेटफॉर्म एक्स ने अपने एआई चैटबॉट ग्रोक को अवैध रूप से आपत्तिजनक कपड़ों में लोगों की तस्वीरें बनाने से रोकने के लिए टेक्निकल उपाय लागू किए हैं। यह कदम एआई चैटबॉट द्वारा बनाई गई अश्लील डीपफेक तस्वीरों को लेकर भारी विरोध का सामना करने के बाद उठाया गया है। एक्स ने अपने आधिकारिक सेफ्टी अकाउंट पर जानकारी दी कि यह बैन पेड ग्राहकों सहित सभी यूजर्स पर लागू होता है। इसके अलावा एक्स मंच पर ग्रोक अकाउंट के जरिये तस्वीर बनाने और उन्हें एडिट करने की सुविधा अब सिर्फ पेड सब्सक्राइबर्स के लिए ही अवेलेबल होगी। 

अब नहीं बनेंगे महिलाओं-बच्चों के डीपफेक

कंपनी का कहना है कि इससे सिक्योरिटी सिस्टम और मजबूत होगा जिससे यह सुनिश्चित करने में मदद मिलती है कि जो लोग ग्रोक खाते का दुरुपयोग करके कानून या मंच की नीतियों का उल्लंघन करने की कोशिश करते हैं उनकी जवाबदेही तय हो। एक्स ने जानकारी देते हुए मंच पर लिखा कि अब हम उन सभी क्षेत्रों में ग्रोक अकाउंट्स और ग्रोक इन एक्स में बिकनी, अंत:वस्त्र और इसी तरह के कपड़ों में लोगों की तस्वीरें बनाने की क्षमता को भौगोलिक रूप से अवरुद्ध कर रहे हैं जहां यह अवैध है।

किन सब्सक्राइबर्स पर लगी लगाम

एक्स ने कहा कि उसने ग्रोक खाते को बिकनी जैसे आपत्तिजनक कपड़ों में वास्तविक लोगों की तस्वीरों को एडिट करने से रोकने के लिए प्रौद्योगिकी उपाय लागू किए हैं। कंपनी ने कहा कि यह बैन पेड सब्सक्राइबर्स सहित सभी यूजर्स पर लागू होता है। एक्स ने स्पष्ट किया कि इससे उसके मौजूदा सुरक्षा नियमों में कोई बदलाव नहीं आएगा जिसके तहत एक्स पर पोस्ट किए गए सभी एआई प्रॉम्प्ट और जेनरेटेड कंटेंट को उसके निर्धारित नियमों का सख्ती से पालन करना होगा। इसमें कहा, कंटेंट चाहे जिस भी तरह तैयार की जाए या यूजर्स, पेड सब्सक्राइबर्स हो या फ्री सर्विस लेने वाला.

एक्स ने क्या दिया भारत सरकार को जवाब

एक्स ने अधिकारियों को भरोसा दिया था कि वह भारतीय कानूनों का पालन करेगा। भारत समेत दुनिया भर की सरकारों की ओर से ग्रोक पर दबाव बढ़ता जा रहा है क्योंकि नियामक संस्थाएं सामग्री नियंत्रण, डेटा सुरक्षा और बिना सहमति के यौन रूप से आपत्तिजनक तस्वीरों को लेकर जनरेटिव एआई इंजन की गहन जांच कर रही हैं। ये तस्वीरें पिछले कुछ दिनों में एक्स पर व्यापक स्तर पर फैल रही हैं। हमारा सुरक्षा दल अतिरिक्त सुरक्षा उपाय जोड़ने, उल्लंघन करने वाले और अवैध सामग्री को हटाने के लिए त्वरित एवं निर्णायक कार्रवाई करने, जरूरत पड़ने पर खातों को स्थायी रूप से निलंबित करने और स्थानीय सरकारों तथा कानून प्रवर्तन एजेंसियों के साथ सहयोग करने के लिए चौबीसों घंटे काम कर रहे हैं। एक्स ने कहा कि वह सभी के लिए एक सुरक्षित मंच प्रदान करने के वास्ते प्रतिबद्ध है। बाल यौन शोषण, बिना सहमति के न्यूडिटी और अवांछित यौन सामग्री को बिल्कुल भी बर्दाश्त नहीं किया जाएगा।  इसमें कहा गया है कि हम जरूरत पड़ने पर बाल यौन शोषण सामग्री मांगने वाले खातों की जानकारी कानून प्रवर्तन अधिकारियों को भी देते हैं। 

आईटी मिनिस्ट्री ने लगाई थी एक्स को फटकार

देश की आईटी मिनिस्ट्री ने दो जनवरी को एक्स को फटकार लगाते हुए उसे निर्देश दिया था कि वह ग्रोक से बनाई सभी अश्लील, आपत्तिजनक और गैरकानूनी सामग्री को तुरंत हटा दे, वर्ना उसे कानून के तहत कार्रवाई का सामना करना पड़ेगा। भारत के अलावा, ब्रिटेन और यूरोपीय संघ ने भी ग्रोक डीपफेक तस्वीरों को लेकर सवाल उठाए हैं। डीपफेक तस्वीरें एआई के जरिये तैयार की जाती हैं जो एकदम असली लगती हैं लेकिन वास्तव में ये नकली होती हैं। 

ये भी पढ़ें

भारत में 10,000mAh की विशाल बैटरी वाले फोन पर सस्पेंस खत्म! इस समय तक लॉन्च का दावा