AI- Deepfake Video: AI के संभावित गलत इस्तेमाल से फिक्रमंद, केंद्र सरकार ने पिछले महीने कहा था कि, सोशल मीडिया मध्यस्थों को "किसी भी पूर्वाग्रह या भेदभाव की इजाजत नहीं देनी चाहिए या इंतेखाबी अमल की अखंडता को खतरे में नहीं डालना चाहिए."
Trending Photos
8
8
11
9 "चुनाव में AI निर्मित कंटेंट, फेक न्यूज़ और Deepfake वीडियो बिगाड़ सकता है खेल, सरकार अलर्ट !")
Lok Sabha Election 2024: लोकसभा इलेक्शन में अब बहुत ही कम समय बचा है. देश में 7 चरणों में आम चुनाव के लिए वोट डाले जाएंगे. इस बीच चीन द्वारा अपने हितों को फायदा पहुंचाने के लिए AI-जनित कंटेंट बनाने और उसका प्रसार करने की स्कीम के बारे में माइक्रोसॉफ्ट की चेतावनी के बाद केंद्र सरकार ने सख्त रुख अपनाया है. उसने पूरी सख्ती के साथ वर्ल्ड डिजीटल कंपनियों को AI और इलेक्शन के दौरान इसके संभावित गलत इस्तेमाल के बारे में एक नई एडवाइजरी के मुताबिक अपने प्लेटफार्मों में सुधार लाने के लिए कहा है.
चुनाव के लिए खतरा है AI
इस साल दुनिया भर में, खास तौर से भारत, साउथ कोरिया और अमेरिका में इलेक्शन हो रहे हैं. माइक्रोसॉफ्ट संकट विश्लेषण केंद्र के मैनेजिंग डायरेक्टर क्लिंट वाट्स के मुताबिक, "हमारा आकलन है कि चीन कम से कम अपने हितों को फायदा पहुंचाने के लिए एआई-जनित कंटेंट का निर्माण और उसमें और फैलाव करेगा. एक्सपोज़र मैनेजिंग कंपनी टेनेबल के मुताबिक, एआई-जनित डीपफेक और फर्जी कंटेंट के जरिए से फैली गलत खबर इलेक्शन के लिए सबसे बड़ा खतरा है. टेनेबल के सीनियर स्टाफ रिसर्च इंजीनियर सतनाम नारंग ने हाल ही में न्यूज एजेंसी को बताया कि, 2024 के लोकसभा इलेक्शन के लिए सबसे बड़ा खतरा वोटर्स को लक्ष्य बनाकर फैलाई गई गलत खबर और दुष्प्रचार है.
अलर्ट है सरकार
AI के संभावित गलत इस्तेमाल से फिक्रमंद, केंद्र सरकार ने पिछले महीने कहा था कि, सोशल मीडिया मध्यस्थों को "किसी भी पूर्वाग्रह या भेदभाव की इजाजत नहीं देनी चाहिए या इंतेखाबी अमल की अखंडता को खतरे में नहीं डालना चाहिए."आईटी मिनिस्ट्री की एक नई एडवाइजरी अब खास तौर से एआई से संबंधित है, जिसमें कहा गया है कि डिजिटल प्लेटफॉर्म को पूरी जवाबदेही लेनी होगी और वह ऐसा कहकर बच नहीं सकते कि यह AI मॉडल "परीक्षणाधीन" है. एडवाइजरी के मुताबिक, "आईटी एक्ट या आईटी नियमों के प्रावधानों का अनुपालन न करने पर प्लेटफार्मों या इसके यूजरों की पहचान होने पर संभावित दंडात्मक परिणाम होंगे, जिसमें आईटी एक्ट और आपराधिक संहिता के कई अन्य कानूनों के तहत अभियोजन शामिल है, लेकिन यह इन्हीं तक सीमित नहीं है".
पीएम ने जताई थी चिंता
बीते माह के आखिर में माइक्रोसॉफ्ट के को-फाउंडर बिल गेट्स के साथ बातचीत में पीएम नरेंद्र मोदी ने भी भारत जैसे लोकतांत्रिक देश में डीपफेक के बारे में तश्वीश का इजहार किया था. पीएम मोदी ने जोर देकर कहा, "मैंने एआई और इसके खतरात पर अग्रणी विचारकों के साथ बातचीत की है. मैंने सलाह दी कि हमें गलत खबर को रोकने के लिए एआई-जनित कंटेंट पर स्पष्ट वॉटरमार्क के साथ शुरुआत करनी चाहिए. एआई-जनित सामग्री के उचित स्रोतों का भी जिक्र किया जाना चाहिए". पीएम ने बिल गेट्स से कहा, "कोई लोगों को धोखा देने के लिए मेरी आवाज का गलत इस्तेमाल भी किया जा सकता है और इस तरह के डीपफेक से बड़े पैमाने पर हंगामा हो सकता है. हमें डीपफेक पर 'क्या करें और क्या न करें' के बारे में मजबूती से गौर करने की जरूरत है."
