Staf Ahli Menteri Komunikasi dan Informatika bidang Sosial, Ekonomi, dan Budaya Wijaya Kusumawardhana mengatakan pihaknya dapat membantu KPU untuk melacak, mendalami, hingga menangani konten deepfake politik yang bisa menimbulkan perpecahan saat Pilkada serentak 2024.
"Kalau ada permasalahan penyalahguna teknologi, khususnya seperti deepfake atau hal yang lainnya tentu kita kan membantu. Membantu apa? Membantu KPU untuk menemukan di mana dan siapa yang melakukan itu," kata Wijaya kepada wartawan di Jakarta, Senin.
Baca juga: Google perbarui sistem Search untuk cegah penyebaran konten deepfake
Deepfake merupakan salah satu bentuk konten yang diciptakan menggunakan kecerdasan artifisial (artificial intelligence/AI), dalam hal ini konten tersebut biasanya berupa video atau audio yang disunting membuat sosok palsu terlihat seakan nyata seperti aslinya dan kerap digunakan untuk penipuan yang tentunya merugikan masyarakat.
Platform verifikasi identitas asal Inggris, Sumsub, dalam laporannya "Identity Fraud Report 2023" mengungkap kasus deepfake untuk Asia Pasifik di 2023 mengalami peningkatan sebesar 1.530 persen dari 2022.
Dalam konteks politik, konten deepfake tentunya dapat disalahgunakan untuk memecah-belah opini publik mengenai sosok politikus dan bisa menyebabkan polarisasi sehingga hal ini harus dicegah.
Baca juga: Pemerintah harus antisipasi hoaks diproduksi AI selama Pilkada
Di Indonesia, dalam konteks Pemilu 2024 sempat tersebar konten deepfake pada Oktober 2023 dengan bentuk konten video Presiden Joko Widodo berpidato menggunakan Bahasa Mandarin.
Untungnya saat itu kegaduhan berhasil diredam karena Kementerian Kominfo segera menelusuri dan memberikan klarifikasi bahwa video itu merupakan bentuk deepfake dari konten yang sebenarnya dan berupa video pidato dari kanal YouTube "The U.S. - Indonesia Society (USINDO)" pada 13 November 2015 dengan menggunakan bahasa Indonesia.
Baca juga: Pentingnya literasi visual bagi Generasi Z
Agar hal tersebut tidak kembali terulang di momen Pilkada 2024 maka Kementerian Kominfo terus berkomitmen mengawal ruang digital agar bisa bebas dari konten-konten deepfake yang menyesatkan masyarakat.
Wijaya menyebutkan pihaknya sangat terbuka untuk berkolaborasi dengan KPU dan Bawaslu untuk meneliti sumber-sumber konten deepfake tersebut apabila konten tersebut dirasa berpotensi merugikan masyarakat.
"Kami ada tim untuk meneliti hal-hal semacam itu," kata Wijaya.
Baca juga: "Deepfake", pemanfaatan AI, dan Pemilu
Baca juga: Pemilih jangan sampai terjebak "deepfake"
Pewarta: Livia Kristianti
Editor: Siti Zulaikha
Copyright © ANTARA 2024
