AI कॉन्टेंट पर सरकार की सख्ती, डीपफेक पर पूरी तरह से लगाम लगाने की तैयारी

Deepfake और AI कॉन्टेंट को लेकर सरकार ने सख्ती दिखाई है। एआई जेनरेटेड कॉन्टेंट को लेकर आईटी मिनिस्ट्री ने नया प्रस्ताव दिया है। एआई कॉन्टेंट के जरिए फैल रहे अफवाहों को लेकर सरकार ने नए नियम बनाने की तैयारी की है। खास तौर पर सोशल मीडिया प्लेटफॉर्म Facebook, X और YouTube के जरिए फैल रहे अफवाहों को लगाम लगाने की तैयारी की जा रही है। सोशल मीडिया प्लेटफॉर्म्स को एआई जेनरेटेड कॉन्टेंट को और बेहतर तरीके से मॉनिटर करने के लिए नियम लाया जा रहा है।

डीपफेक रोकने के लिए बड़ी तैयारी

आईटी मिनिस्ट्री ने अपने प्रस्ताव में कहा है कि सोशल मीडिया प्लेटफॉर्म पर फर्जी ऑडियो, वीडियो और झूठी तस्वीरें आग की तरह तेजी से फैल जाते हैं, जो दर्शाते हैं कि एआई के जरिए किस तरह से रियलिस्टिक जैसे दिखने वाले मिसलीडिंग कॉन्टेंट प्रोड्यूस किए जा रहे हैं। इन कॉन्टेंट को गलत जानकारी फैलाने के लिए हथियार की तरह इस्तेमाल किया जा सकता है, जो चुनाव के समय किसी की इमेज को नुकसान पहुंचा सकता है। साथ ही, मैन्युपुलेशन और फाइनेंशियल फ्रॉड के लिए इनका इस्तेमाल किया जा सकता है।

आईटी मिनिस्ट्री ने एआई संबंधित नियमों को लेकर ड्राफ्ट तैयार कर लिया है, जिसपर 6 नवंबर तक स्टेकहोल्डर्स से कमेंट मांगा गया है। एआई कॉन्टेंट को लेकर नियम कड़े करने की वजह से सोशल मीडिया प्लेटफॉर्म की जवाबदेही बढ़ जाएगी। खास तौर पर उन प्लेटफॉर्म्स की जवाबदेही तय की जाएगी, जिनके 5 मिलियन यानी 50 लाख या उससे ज्यादा यूजर्स हैं। इन प्लेटफॉर्म्स को इस तरह के एआई जेनरेटेड फर्जी कॉन्टेंट्स को वेरिफाई करना होगा और फ्लैग करना होगा।

प्रस्ताव हुआ पारित

इसके अलावा नए ड्राफ्ट किए गए नियमों में एआई द्वारा जेनरेट कॉन्टेंट्स की लेबलिंग से लेकर एआई कॉन्टेंट क्रिएटर्स की भी निगरानी की जाएगी। किसी भी एआई जेनरेटेड वीडियो और ऑडियो क्लिप में कम से कम 10 प्रतिशत रीयल होना चाहिए। साथ ही, ऐसे कॉन्टेंट को अपलोड करने से पहले यूजर ऑथेंटिकेशन अनिवार्य होना चाहिए। इसके अलावा एआई कॉन्टेंट को सोशल मीडिया पर अपलोड करने से पहले तकनीकी सीमाओं का ध्यान रखना होगा।

एआई जेनरेटेड कॉन्टेंट की वजह से डीपफेक वीडियोज का चलन काफी बढ़ा है। इसे लेकर हाल ही में संसद में आईटी मिनिस्टर अश्विनी वैष्णव ने कहा था कि प्रमुख लोगों की तस्वीरों का गलत तरीके से इस्तेमाल किया जा रहा है, जो लोगों कि निजी जिंदगी को प्रभावित करती हैं। उन्होंने आगे कहा कि इस तरह के कॉन्टेंट को लेकर कदम उठाए जा रहे हैं। हमारा लक्ष्य इन कॉन्टेंट्स का पता लगाने का है कि ये सही हैं या फिर एआई के जरिए बनाए गए हैं।

यह भी पढ़ें -

सरकार ने आईटी नियमों में किया बदलाव, इंटरनेट से कॉन्टेंट हटाने से पहले जरूरी होगा ये काम