Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital resmi memutus akses sementara fitur Grok milik platform X.
Pemblokiran ini mulai berlaku Sabtu 10 Januari 2026 sebagai respons atas maraknya penyalahgunaan Grok untuk membuat konten pornografi palsu berbasis deepfake.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan langkah ini diambil untuk melindungi perempuan, anak, dan masyarakat luas dari dampak berbahaya teknologi AI.
Pemerintah menilai deepfake seksual nonkonsensual bukan sekadar pelanggaran kesusilaan, tetapi pelanggaran serius terhadap hak asasi manusia.
Konten manipulatif tersebut dianggap merusak martabat korban, menimbulkan dampak psikologis, serta menghilangkan kendali individu atas identitas visualnya di ruang digital.
Selain memblokir akses Grok, Komdigi juga memanggil pihak Platform X untuk dimintai klarifikasi terkait pengendalian fitur AI mereka.
Langkah pemutusan akses ini didasarkan pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Aturan tersebut mewajibkan platform digital memastikan sistemnya tidak memfasilitasi atau menyebarkan konten terlarang.
Polri juga mengingatkan bahwa pembuatan dan penyebaran deepfake tanpa persetujuan merupakan tindak pidana.
Bareskrim Polri menegaskan manipulasi data elektronik dapat diproses hukum, baik menggunakan Grok maupun aplikasi AI lainnya.
Sebelumnya, Grok disorot karena mampu menghasilkan konten pornografi instan, termasuk manipulasi foto perempuan dan anak-anak.
Meski X membatasi fitur edit foto Grok untuk pelanggan berbayar, celah penyalahgunaan masih terbuka melalui berbagai fitur lain.
Situasi ini mendorong pemerintah bertindak cepat demi mencegah penyalahgunaan AI yang makin meluas.
