Grok AI Resmi Diblokir di Indonesia, Ini Alasan Komdigi

Pemerintah Indonesia akhirnya mengambil langkah tegas terhadap penyalahgunaan teknologi kecerdasan buatan yang dinilai membahayakan masyarakat. Melalui Kementerian Komunikasi dan Digital (Komdigi), pemerintah secara resmi memutus akses sementara terhadap layanan chatbot berbasis AI, Grok, milik platform X (sebelumnya Twitter). Kebijakan ini mulai berlaku pada Sabtu, 10 Januari 2026, sebagai respons atas maraknya penyebaran konten pornografi palsu atau deepfake asusila yang dihasilkan menggunakan fitur Grok.

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa keputusan tersebut diambil demi melindungi masyarakat, khususnya perempuan dan anak-anak, dari risiko penyalahgunaan teknologi AI yang semakin masif di ruang digital. Menurutnya, pemerintah tidak dapat tinggal diam ketika inovasi teknologi justru dimanfaatkan untuk melanggar nilai kemanusiaan dan hukum.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya Hafid dalam pernyataan resminya di Jakarta.

Deepfake Seksual Dinilai Langgar Hak Asasi Manusia

Komdigi menilai fenomena deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, bukan sekadar pelanggaran kesusilaan biasa. Manipulasi visual menggunakan AI, terutama yang mengubah wajah atau tubuh seseorang menjadi konten seksual tanpa izin, dianggap merampas hak individu atas identitas dan citra dirinya sendiri (right to one’s image).

Pemerintah menyoroti dampak luas dari praktik tersebut, mulai dari trauma psikologis pada korban, rusaknya reputasi sosial, hingga munculnya perundungan dan pelecehan di ruang publik digital. Dalam banyak kasus, korban tidak hanya kehilangan rasa aman, tetapi juga mengalami tekanan mental yang berkepanjangan akibat konten palsu yang terlanjur menyebar luas di internet.

Sebagai tindak lanjut, Komdigi tidak hanya melakukan pemutusan akses terhadap Grok, tetapi juga memanggil pihak Platform X untuk memberikan klarifikasi serta penjelasan mengenai langkah mitigasi yang dilakukan guna mencegah penyalahgunaan fitur AI di masa mendatang.

Dasar Hukum dan Ancaman Pidana

Langkah pemblokiran Grok memiliki dasar hukum yang kuat. Pemerintah merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Dalam Pasal 9, ditegaskan bahwa setiap PSE wajib memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik yang dilarang oleh peraturan perundang-undangan.

Selain sanksi administratif terhadap platform, pemerintah juga mengingatkan bahwa pengguna yang membuat atau menyebarkan konten deepfake asusila dapat dikenai sanksi pidana. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa manipulasi data elektronik tanpa persetujuan pemiliknya merupakan tindak kriminal.

“Selama dapat diklarifikasi bahwa itu adalah manipulasi data elektronik tanpa izin, maka hal tersebut dapat dipidana,” kata Himawan. Penegakan hukum ini berlaku tidak hanya bagi pengguna Grok, tetapi juga bagi siapa pun yang menggunakan aplikasi AI lain untuk tujuan serupa.

Kontroversi Global Fitur Grok

Sebelum diblokir di Indonesia, Grok AI telah menuai sorotan tajam dari berbagai negara. Chatbot ini diketahui memiliki kemampuan menghasilkan dan mengedit gambar secara instan, termasuk konten pornografi. Sejumlah pengguna X menyalahgunakan fitur tersebut dengan mengunggah foto perempuan, figur publik, bahkan anak-anak, lalu memberikan perintah eksplisit seperti “lepaskan pakaiannya” atau “buatkan versi bikini”.

Gelombang kritik internasional akhirnya mendorong X, platform milik Elon Musk, mengambil langkah pembatasan. Perusahaan membatasi fitur edit foto Grok hanya untuk pelanggan berbayar X Premium. Dalam beberapa unggahan, Grok menyatakan bahwa pembuatan dan pengeditan gambar hanya tersedia bagi pengguna berlangganan, disertai tautan ajakan untuk mendaftar layanan premium.

Namun, pembatasan tersebut dinilai belum efektif. Faktanya, pengguna gratis masih dapat mengakses fitur pembuatan dan pengeditan gambar melalui cara lain, seperti tombol “Edit image” di situs desktop X atau melalui aplikasi dengan menekan dan menahan gambar tertentu. Selain itu, Grok juga dapat diakses melalui aplikasi dan situs web mandiri, serta tab khusus di platform X, yang semuanya masih berpotensi disalahgunakan.

Tantangan Regulasi AI di Era Digital

Kasus Grok menjadi peringatan keras tentang tantangan besar dalam mengatur perkembangan teknologi AI yang begitu cepat. Di satu sisi, AI menawarkan kemudahan dan efisiensi, namun di sisi lain membuka celah penyalahgunaan yang merugikan individu dan masyarakat luas.

Pemerintah Indonesia menegaskan komitmennya untuk menjaga ruang digital tetap aman, beretika, dan beradab. Pemutusan akses Grok disebut sebagai langkah sementara, sambil menunggu komitmen dan perbaikan sistem dari pihak penyedia layanan. Ke depan, regulasi AI dipastikan akan menjadi fokus utama agar inovasi teknologi tidak melanggar hukum, norma sosial, dan hak asasi manusia.

Dengan langkah ini, pemerintah berharap dapat memberikan efek jera, sekaligus meningkatkan kesadaran publik bahwa penggunaan teknologi, termasuk kecerdasan buatan, harus disertai tanggung jawab moral dan hukum.