अप्रैल में दक्षिण कोरिया के संसदीय चुनाव होने में 50 दिन से भी कम समय शेष होने के कारण आर्टिफिशियल इंटेलिजेंस (एआई) से उत्पन्न डीपफेक वीडियो और छवियों के प्रसार पर चिंताएं बढ़ रही हैं, जिससे चुनाव अधिकारियों की ओर से सतर्कता बढ़ा दी गई है। देश के चुनाव निगरानी संस्था, राष्ट्रीय चुनाव आयोग (एनईसी) के अनुसार, 29 जनवरी से पिछले सप्ताह के अंत तक 129 टुकड़े एआई-जनित मीडिया सामग्री का पता लगाया गया था, जो नए संशोधित चुनाव कानून का उल्लंघन है। योनहाप समाचार एजेंसी की रिपोर्ट के अनुसार, यह कानून चुनावी प्रचार उद्देश्यों के लिए डीपफेक के उपयोग पर प्रतिबंध लगाता है, जिसमें अपराधियों के लिए सात साल तक की जेल या 10 मिलियन वॉन ($ 7,500) का जुर्माना हो सकता है।
डीपफेक पर एनईसी की कार्रवाई दुष्प्रचार के उभरते परिदृश्य के प्रति एक सक्रिय प्रतिक्रिया का प्रतिनिधित्व करती है, जैसा कि एआई प्रौद्योगिकी में प्रगति से संभव हुआ है। दिसंबर में नेशनल असेंबली द्वारा पारित संशोधित कानून का उद्देश्य झूठी सूचनाओं के प्रसार को रोकना और उभरते खतरों के खिलाफ चुनावी प्रक्रिया की अखंडता की रक्षा करना है। पिछले चुनावों में घरेलू और अंतरराष्ट्रीय स्तर पर डीपफेक जोड़तोड़ का इस्तेमाल पहले ही किया जा चुका है, जिससे यह चिंता बढ़ गई है कि एआई-निर्मित वीडियो और छवियां लोकतंत्र के लिए सबसे बड़े खतरों में से एक हैं।
2022 में प्रांतीय चुनावों के दौरान, एक AI-जनित वीडियो सोशल मीडिया पर प्रसारित हुआ जिसमें राष्ट्रपति यूं सुक येओल को सत्तारूढ़ पार्टी के एक स्थानीय उम्मीदवार का समर्थन करते हुए दिखाया गया था। न्यू हैम्पशायर के मतदाताओं को अमेरिकी राष्ट्रपति जो बिडेन का प्रतिरूपण करते हुए एक एआई-जनित रोबोकॉल प्राप्त हुआ, जिसमें उन्हें राज्य के राष्ट्रपति प्राथमिक चुनाव में मतदान न करने की सलाह दी गई थी। जैसे-जैसे एआई तकनीक का विकास और प्रसार जारी है, विशेषज्ञ चुनाव अधिकारियों द्वारा नियोजित पारंपरिक सत्यापन प्रक्रियाओं को पीछे छोड़ते हुए डीपफेक उत्पादन की बढ़ती परिष्कार और गति के बारे में चेतावनी देते हैं। सियोल महिला विश्वविद्यालय की प्रोफेसर किम म्युहंग-जू ने कहा, “डीपफेक प्रौद्योगिकियों के माध्यम से विश्वसनीय नकली के उत्पादन की गति एनईसी की सत्यापन प्रक्रिया की तुलना में बहुत तेज है।