Explainer: Deepfake को लेकर पिछले दिनों एक चौंकाने वाला सर्वे सामने आया है। इस सर्वे के मुताबिक, भारत में हर 4 में से 1 शख्स डीपफेक कॉन्टेंट का सामना कर रहा है। इससे आप अंदाजा लगा सकते हैं कि डीपफेक किस तरह से अपना पैर पसार रहा है? हाल ही में कई सेलिब्रिटी और पॉलिटिकल लीडर डीपफेक कॉन्टेंट का शिकार हुए हैं। केन्द्र सरकार पिछले साल से ही डीपफेक या AI जेनरेटेड कॉन्टेंट को लेकर सख्त रूख अपनाया है। भारत में डीपफेक कॉन्टेंट का प्रचार-प्रसार करने पर भारी जुर्माने का भी प्रावधान है। यही नहीं, कई मामलों में आपको जेल भी जाना पड़ सकता है।
सर्वे में चौंकाने वाले आंकड़े
भारत में डीपफेक कॉन्टेंट का ज्यादातर इस्तेमाल साइबर फ्रॉड और अफवाह फैलाने के लिए किया जाता है। AI जेनरेटेड कॉन्टेंट को यूजर सच मान लेते हैं और फिर उसके शिकार हो जाते हैं। McAfee द्वारा हाल में किए गए सर्वे के मुताबिक, 2023 के मुकाबले 80 प्रतिशत से ज्यादा लोग अब डीपफेक की वजह से चिंतित हैं। वहीं, करीब 64 प्रतिशत लोगों का कहना है कि AI द्वारा होने वाले साइबर फ्रॉड में असली और नकली की पहचान बेहद मुश्किल है। हालांकि, इस सर्वे में भाग लेने वाले 30 प्रतिशत लोगों का कहना है कि वो AI जेनरेटेड कॉन्टेंट की पहचान करने में सक्षम हैं। साइबर सिक्योरिटी फर्म के इस सर्वे में दुनियाभर के 7,000 लोगों ने भाग लिया था।
Image Source : FILEDeepfake
Deepfake को लेकर क्या है कानून?
भारत में Deepfake को लेकर कड़े कानून हैं। IT Act 66E और IT Act 67 में इस तरह के कॉन्टेंट को ऑनलाइन शेयर करने पर जुर्माने के साथ-साथ जेल जाने का भी प्रावधान किया गया है। IT Act 66E के मुताबिक, अगर किसी शख्स का फोटो या वीडियो बिना उसकी अनुमति के सोशल और ऑनलाइन प्लेटफॉर्म पर पब्लिश किया जाता है, तो 3 साल तक की जेल और 2 लाख रुपये तक का जुर्माना लगाया जा सकता है।
IT Act 67 कहता है कि किसी भी शख्स की अश्लील फोटो बनाए जाने या फिर शेयर करने पर 3 साल की जेल और 5 लाख रुपये तक का जुर्माना देना होगा। वहीं, बार-बार वही गलती करने पर 5 साल तक की जेल और 10 लाख रुपये तक का जुर्माना देना पड़ सकता है।
पिछले साल 7 नवंबर 2023 को केन्द्र सरकार ने सोशल मीडिया इंटरमीडियरिज (SMI) को डीपफेक और AI जेनरेटेड कॉन्टेंट को लेकर एडवाइजरी जारी किया था। अपने एडवाइजरी में सरकार ने SMI से कहा था कि वो डीपफेक कॉन्टेंट की पहचान करें और उनपर ऐक्शन लें। किसी भी डीपफेक कॉन्टेंट के रिपोर्ट होने पर उसे सोशल और ऑनलाइन प्लेटफॉर्म से रिपोर्ट के 36 घंटे के अंदर हटाया जाना चाहिए, नहीं तो प्लेटफॉर्म पर भारतीय दंड संहिता के तहत कार्रवाई की जा सकती है।
Image Source : FILEDeepfake
Deepfake कॉन्टेंट की कैसे करें पहचान?
डीपफेक और AI जेनरेटेड कॉन्टेंट की पहचान करना एक आम यूजर के लिए बेहद मुश्किल है। हालांकि, अगर यूजर सतर्क रहे तो डीपफेक कॉन्टेंट से पार पाया जा सकता है।
- सोशल मीडिया पर शेयर किया गया कोई भी कॉन्टेंट अगर अजीब लगे या फिर कोई जान-पहचान का शख्स आपसे फोन कॉल पर अजीब डिमांड करें तो यह फर्जी हो सकता है।
- इस तरह के सोशल पोस्ट को भावनाओं में बहकर शेयर न करें और न ही किसी परिचित की आवाज सुनकर मदद करने की कोशिश करें।
- किसी भी AI जेनरेटेड डीपफेक वीडियो की पहचान वीडियो में दिखाए जा रहे शख्स के चेहरे, उंगलियों और आवाज पर केंद्रित करने पर की जा सकती है।
इनके अलावा AI जेनरेटेड डीपफेक की पहचान के लिए रिवर्स मशीन लर्निंग AI भी तैयार किया जा रहा है, जिससे डीपफेक की जांच करना और आसान हो जाएगा। साथ ही, डीपफेक कॉन्टेंट शेयर करने वाले अपराधियों के लोकेशन को भी ट्रैक करने में सुविधा होगी।
