वाशिंगटनः एलन मस्क का एआई चैटबॉट ग्रोक अब महिलाओं और लड़कियों समेत अन्य किसी की भी अश्लील फोटो और वीडियो नहीं बनाएगा। कंपनी ने ऐलान किया है कि ग्रोक को उन जगहों पर वास्तविक लोगों की तस्वीरों को अनड्रेस (कपड़े उतारकर) या खुली पोशाक में दिखाने से ब्लॉक कर दिया गया है जहां यह अवैध है। एलन मस्क के एआई चैटबॉट ग्रोक अब उन क्षेत्रों में वास्तविक लोगों की तस्वीरों को संपादित करके उन्हें बिकिनी, अंडरवियर या अन्य खुली पोशाक में नहीं दिखा सकेगा जहां ऐसा करना कानूनन प्रतिबंधित है।
वैश्विक स्तर पर हो रहा था विरोध
वैश्विक स्तर पर महिलाओं और बच्चों की सेक्सुअलाइज एआई-जनरेटेड तस्वीरों पर बढ़ते विरोध के बाद यह फैसला लिया गया है। इसमें कुछ देशों की सरकारों द्वारा प्रतिबंध और चेतावनियां शामिल हैं। कैलिफोर्निया राज्य (अमेरिका का सबसे अधिक आबादी वाला राज्य) ने बुधवार को ग्रोक द्वारा बनाई गई गैर-सहमति वाली यौन सामग्री के प्रसार की जांच की घोषणा की, जो महिलाओं और लड़कियों को परेशान कर रही है। शुरुआत में मीडिया के सवालों पर सिर्फ "legacy media lies" का जवाब मिला था। अब मस्क की कंपनी xAI ने कहा है कि वह कानून का उल्लंघन करने वाली सामग्री को जियोब्लॉक करेगी।
बिकनी, अंडरवियर या बिना कपड़ों के तस्वीर नहीं बनाएगा ग्रोक
कंपनी ने कहा, "हमने तकनीकी उपाय लागू किए हैं ताकि ग्रोक अकाउंट से वास्तविक लोगों की तस्वीरों को बिकिनी, अंडरवियर या अन्य खुली पोशाक में संपादित करने की अनुमति न मिले।" यह नियम सभी यूजर्स पर लागू है, जिसमें पेड सब्सक्राइबर्स भी शामिल हैं, जिन्हें अधिक फीचर्स मिलते हैं। xAI ने इमेज क्रिएशन या एडिटिंग को केवल पेड सब्सक्राइबर्स तक सीमित कर दिया है, "ताकि कानून या हमारी नीतियों का उल्लंघन करने वालों को जवाबदेह ठहराया जा सके।"ग्रोक के "स्पाइसी मोड" ने यूजर्स को स्पष्ट सामग्री बनाने की अनुमति दी थी, जिससे दुनिया भर में सरकारों से विरोध हुआ। मलेशिया और इंडोनेशिया ने कानूनी कार्रवाई की और ग्रोक तक पहुंच ब्लॉक कर दी।
यूके से यूरोप तक जांच के घेरे में ग्रोक
यूके और यूरोपीय संघ भी ग्रोक द्वारा किए गए ऑनलाइन सुरक्षा कानूनों के संभावित उल्लंघन की जांच कर रहे हैं। फ्रांस और भारत ने भी सख्त नियंत्रण की मांग करते हुए चेतावनी जारी की। ब्राजील ने ग्रोक के दुरुपयोग की जांच की मांग की। हाल के दिनों में ग्रोक की सबसे तेज आलोचना कर रही ब्रिटिश सरकार ने इस बदलाव का स्वागत किया, जबकि देश का रेगुलेटर ऑफकॉम जांच जारी रखेगा। टेक्नोलॉजी सेक्रेटरी लिज केंडल ने कहा, "मैं तब तक नहीं रुकूंगी जब तक सभी सोशल मीडिया प्लेटफॉर्म अपनी कानूनी जिम्मेदारियों को पूरा नहीं करते और सभी यूजर्स के लिए सुरक्षित और उम्र के अनुकूल सेवा नहीं प्रदान करते।"
बिना सहमति के अंतरंग तस्वीरें हों बैन
कैलिफोर्निया अटॉर्नी जनरल रॉब बोंटा ने xAI से आग्रह किया कि ग्रोक के एडिटिंग फंक्शंस से महिलाओं और लड़कियों की आगे कोई परेशानी न हो। उन्होंने कहा, "हमारे पास एआई-आधारित गैर-सहमति वाली अंतरंग छवियों या बाल यौन शोषण सामग्री के निर्माण और प्रसार के लिए जीरो टॉलरेंस है।"कैलिफोर्निया ने नाबालिगों को एआई-जनरेटेड यौन छवियों से बचाने और एआई चैटबॉट प्लेटफॉर्म्स को यूजर्स को याद दिलाने के कानून पारित किए हैं कि वे इंसान से बात नहीं कर रहे। हालांकि, डेमोक्रेटिक गवर्नर गेविन न्यूसम ने पिछले साल एक कानून को वीटो कर दिया था जो बच्चों की एआई चैटबॉट्स तक पहुंच सीमित करता।
यह भी पढ़ें
ग्रीनलैंड की सुरक्षा में पहुंचे यूरोपीय देशों के सैनिक, ट्रंप नहीं कर सकेंगे वेनेजुएला जैसी कार्रवाई
