Deepfake वीडियो और AI जेनरेटेड अपवाहों वाले पोस्ट पर ब्रेक लगाने के लिए WhatsApp ने तैयारी की है। मेटा के इंस्टैंट मैसेजिंग प्लेटफॉर्म ने भारत में तेजी से पैर पसार रहे डीपफेक और एआई द्वारा तैयार किए गए अफवाहों पर रोक लगाने के लिए मिसइंफॉर्मेशन कॉम्बैट अलायंस (MCA) के साथ साझेदारी की है। मेटा ने बताया कि वो जल्द भारत में इस तरह के फर्जी वीडियो और पोस्ट आदि पर रोक लगाने के लिए हेल्पलाइन नंबर जारी करेगा।
मेटा का यह फैसला 20 लीडिंग टेक कंपनियों Meta, Google, Amazon, Microsoft आदि द्वारा ग्लोबल चुनाव में डीपफेक और फर्जी अपवाहों पर लगाम लगाने के लिए साथ मिलकर काम करने के बाद आया है। लीडिंग टेक कंपनियों ने MCA बनाकर इस तरह के फर्जी वीडियो और अफवाहों पर लगाम लगाने की तैयारी शुरू कर दी है। WhatsApp का हेल्पलाइन नंबर एक तरह का चैटबॉट होगा, जिसके जरिए यूजर्स आसानी से इस तरह की अफवाहों को रिपोर्ट कर सकते है।
कई सेलिब्रिटीज हो चुके डीपफेक के शिकार
पिछले दिनों सचिन तेंदुलकर, रश्मिका मंदाना, सारा तेंदुलकर समेत कई जानी-मानी हस्तियां डीपफेक वीडियो का शिकार हुए हैं। इन सेलिब्रिटीज ने डीपफेक को लेकर सरकार से पॉलिसी बनाने की अपील की थी। सेलिब्रिटीज के अपील के बाद सरकार ने डीपफेक को रोकने के लिए सोशल मीडिया और टेक कंपनियों को निर्देश जारी किया था।
क्या होता है डीपफेक?
बता दें यह एक तरह का एआई जेनरेटेड कॉन्टेंट होता है, जो वीडियो और इमेज के फॉर्मेट में रहता है। लोगों के चेहरे का गलत इस्तेमाल करके सोशल मीडिया पर अफवाह फैलाया जाता है। एक आम यूजर के लिए डीपफेक वीडियो या इमेज और रीयल वीडियो और इमेज में अंतर लगाना बेहद मुश्किल होता है।
क्या है ऐक्शन प्लान?
MCA का कहना है कि वो डीपफेक या अन्य एआई जेनरेटेड कॉन्टेंट पर रोक लगाने के लिए एक डीपफेक एनालिसिस यूनिट बनाएंगे, जो फैक्ट चेकिंग सदस्यों और ऑर्गेनाइजेशन के साथ मिलकर काम करेंगे। उनके पास हर रिपोर्ट किए गए मैसेज और कॉन्टेंट का एक्सेस होगा। अगर, कोई रिपोर्ट किया गया कॉन्टेंट या मैसेज अपवाह या एआई द्वारा जेनरेटेड पाया जाएगा, तो उसे तत्काल प्रभाव से इंटरनेट से हटा लिया जाएगा। इस तरह के अफवाह फैलाने वाले मैसेज भी डिलीट कर दिए जाएंगे।
वाट्सऐप का यह हेल्पलाइन चैटबॉट हिन्दी और अंग्रेजी के साथ-साथ भारतीय क्षेत्रीय भाषाओं जैसे कि तमिल, तेलुगू आदि में भी उपलब्ध रहेगा। इसके लिए डीफफेक एनालिसिस यूनिट फोर पिलर अप्रोच डिटेक्शन, प्रिवेंशन, रिपोर्टिंग और ड्राइविंग अवेयरनेस पर काम करेगी। यूनिट अफवाह फैलाने वाले कॉन्टेंट का पता लगाएगी और उसे रोकेगी। यही नहीं, यह यूनिट यूजर्स को इस तरह के कॉन्टेंट को लेकर अवेयर भी करेगी और रिपोर्ट करने के लिए कहेगी। इस तरह से एआई द्वारा फैलाए जाने वाले अफवाह पर रोक लगाने में मदद मिल सकती है।
यह भी पढ़ें - 20000 रुपये से कम में दमदार फीचर्स वाले 5 स्मार्टफोन, देखें पूरी लिस्ट
