Jakarta, Natmed.id – Pemerintah Indonesia memutus akses sementara terhadap Grok, aplikasi chatbot berbasis kecerdasan artifisial (AI), sebagai langkah tegas untuk merespons ancaman penyalahgunaan teknologi AI dalam pembuatan konten pornografi palsu berbasis deepfake yang dinilai membahayakan perempuan, anak, dan masyarakat luas.
Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid menegaskan pemblokiran sementara tersebut merupakan bentuk kehadiran negara dalam melindungi hak asasi manusia, privasi, dan martabat warga negara di ruang digital.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam keterangan resmi yang dikutip Senin 12 Januari 2026.
Praktik pembuatan konten seksual nonkonsensual berbasis deepfake bukan sekadar persoalan teknologi, melainkan ancaman nyata terhadap keamanan publik, integritas individu, serta nilai kemanusiaan. Ia menegaskan bahwa ruang digital tidak boleh menjadi wilayah tanpa aturan.
“Ruang digital tidak boleh menjadi wilayah bebas hukum. Kemajuan teknologi harus berjalan seiring dengan tanggung jawab etika dan kepatuhan terhadap hukum,” tegasnya.
Langkah pemutusan akses sementara ini diambil seiring meningkatnya kekhawatiran publik terhadap maraknya manipulasi visual berbasis AI yang kerap menyasar kelompok rentan. Konten deepfake seksual dinilai berpotensi merusak reputasi, menimbulkan trauma psikologis, serta melanggar hak privasi korban.
Selain memblokir sementara Grok, Kementerian Komunikasi dan Digital juga meminta klarifikasi dan komitmen perbaikan dari X, platform yang mengelola layanan tersebut. Pemerintah menuntut tanggung jawab penyelenggara sistem elektronik agar memastikan layanan mereka tidak disalahgunakan.
“Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang diajukan oleh penyelenggara sistem elektronik,” ujar Meutya.
Kebijakan pemutusan akses sementara ini dilakukan berdasarkan kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Regulasi tersebut mewajibkan setiap platform digital memastikan layanannya tidak memuat, memfasilitasi, atau mendistribusikan konten yang dilarang oleh hukum Indonesia.
Pemerintah menegaskan aturan tersebut berlaku tanpa pengecualian, termasuk bagi layanan berbasis teknologi mutakhir seperti kecerdasan artifisial.
Indonesia tercatat menjadi negara pertama di dunia yang secara resmi melakukan pemutusan akses sementara terhadap Grok. Kebijakan ini diambil setelah ditemukan indikasi kuat penyalahgunaan teknologi AI untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake.
Langkah tersebut memicu perhatian dan perbincangan global mengenai batasan etika pengembangan AI serta peran negara dalam melindungi warganya dari dampak negatif teknologi canggih.
Pemblokiran Grok menandai sikap tegas pemerintah Indonesia bahwa inovasi digital tidak boleh mengorbankan keselamatan, martabat, dan nilai kemanusiaan. Ke depan, kebijakan ini diharapkan menjadi momentum penguatan regulasi AI sekaligus mendorong platform teknologi untuk lebih bertanggung jawab dalam mengelola produk dan layanannya.
