Komdigi Dorong Platform Digital Sediakan Fitur Cek Deepfake

Kementerian Komunikasi dan Digital (Komdigi) menegaskan pentingnya langkah kolaboratif dalam menghadapi ancaman konten manipulatif berbasis kecerdasan buatan (AI), khususnya deepfake. Pemerintah mendorong platform digital global untuk menghadirkan fitur pengecekan konten AI yang dapat digunakan masyarakat secara gratis.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, menilai fitur ini sangat krusial di tengah maraknya peredaran konten palsu yang dibuat dengan teknologi AI. Deepfake, yang mampu menghasilkan gambar, video, maupun rekaman audio palsu dengan kualitas nyaris sempurna, kini semakin sering disalahgunakan untuk kepentingan negatif.

“Kami berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” ujar Nezar dalam keterangan resminya, Kamis (11/9/2025).

Lonjakan Konten Deepfake yang Mengkhawatirkan

Nezar menyoroti data dari Sensity AI yang menunjukkan jumlah konten deepfake meningkat hingga 550 persen dalam lima tahun terakhir. Angka tersebut bahkan bisa jauh lebih besar, mengingat semakin mudahnya aplikasi pembuat video dan foto deepfake digunakan oleh publik.

Menurutnya, platform digital seperti Meta maupun Google memiliki kemampuan komputasi dan algoritma canggih yang seharusnya bisa diarahkan untuk kepentingan publik.

“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” tambah Nezar.

Regulasi dan Upaya Pemerintah

Pemerintah Indonesia saat ini telah memiliki sejumlah perangkat hukum yang dapat dijadikan landasan, seperti UU ITE, UU PDP, dan PP Tunas, serta berbagai aturan teknis lainnya. Tidak berhenti di situ, Komdigi juga tengah mempersiapkan regulasi khusus pemanfaatan AI agar penggunaannya tetap etis dan bertanggung jawab.

Nezar menegaskan, tujuan pemerintah bukan untuk menghambat inovasi, melainkan menyeimbangkannya dengan regulasi agar teknologi AI tidak menjadi senjata penyebaran hoaks.

Selain regulasi, Komdigi juga memperkuat kolaborasi dengan berbagai pihak, termasuk Masyarakat Anti Fitnah Indonesia (Mafindo) dan media massa, melalui program cek fakta.

“Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegas Nezar.

Mafindo: Deepfake Banyak Disalahgunakan untuk Penipuan

Sementara itu, Ketua Mafindo Septiaji Eko Nugroho menuturkan bahwa fenomena deepfake mulai dikenal di Indonesia sejak 2023 dan kini berkembang sangat cepat. Menurutnya, konten deepfake paling banyak dimanfaatkan untuk penipuan digital dibandingkan isu lain, termasuk politik.

“Untuk isu politik juga ada, tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake,” ungkap Septiaji.

Fenomena ini, lanjutnya, menjadi alarm bagi masyarakat untuk lebih kritis dalam menyaring informasi. Pasalnya, rekayasa visual maupun audio yang dihasilkan deepfake sering kali sangat meyakinkan, sehingga mudah menipu orang awam.

Pentingnya Literasi Digital

Pakar komunikasi digital menilai dorongan pemerintah ini sejalan dengan kebutuhan masyarakat akan literasi digital yang lebih baik. Keberadaan fitur pengecekan konten AI di platform besar diyakini akan membantu publik lebih cepat membedakan mana konten asli dan mana yang manipulatif.

Namun, literasi digital tetap menjadi benteng pertama bagi masyarakat. Edukasi publik tentang cara mengenali tanda-tanda konten manipulatif dan tidak mudah percaya pada informasi yang beredar, terutama di media sosial, sangat penting untuk meminimalisir dampak negatif deepfake.

Kolaborasi Global Jadi Kunci

Ancaman deepfake tidak hanya dialami Indonesia, melainkan juga dunia. Oleh karena itu, kolaborasi global dengan platform digital raksasa dinilai sebagai langkah penting. Teknologi deteksi deepfake sebaiknya tidak hanya dikembangkan, tetapi juga diakses secara luas oleh publik tanpa biaya.

Dengan demikian, masyarakat bisa lebih terlindungi dari penyalahgunaan teknologi AI yang berpotensi merusak tatanan sosial, politik, maupun ekonomi.