Pemblokiran sementara layanan kecerdasan buatan Grok AI di Indonesia menandai eskalasi serius dalam tata kelola teknologi generatif. Keputusan ini diambil setelah pemerintah menilai bahwa pemanfaatan Grok berpotensi menimbulkan pelanggaran hak asasi manusia, khususnya melalui produksi dan penyebaran konten pornografi palsu berbasis manipulasi foto pribadi tanpa persetujuan.
Kasus Grok mulai mencuat ke ruang publik pada awal Januari 2026. Sejumlah laporan menunjukkan bahwa fitur AI tersebut digunakan untuk menghasilkan deepfake seksual, termasuk manipulasi foto individu nyata yang beredar tanpa kendali. Praktik ini memicu kekhawatiran luas karena dampaknya tidak hanya bersifat moral, tetapi juga menyentuh aspek psikologis, sosial, dan reputasi korban.
Menanggapi temuan tersebut, Kementerian Komunikasi dan Digital (Kemkomdigi) melakukan penelusuran awal terhadap sistem Grok. Hasilnya menunjukkan belum adanya pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), terutama ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Situasi tersebut mendorong pemerintah mengambil langkah tegas. Dalam pernyataan resmi pada 10 Januari 2026, Menteri Komunikasi dan Digital RI, Meutya Hafid, menegaskan bahwa pemutusan akses Grok dilakukan sebagai bentuk perlindungan negara terhadap warga.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya.
Pemerintah memandang praktik deepfake seksual nonkonsensual bukan sekadar pelanggaran etika digital, melainkan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Dalam konteks ini, negara menempatkan diri sebagai pelindung ketika teknologi berpotensi merampas kendali individu atas identitas visualnya.
Selain pemutusan akses, Kemkomdigi juga meminta Platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok. Langkah ini menegaskan bahwa tanggung jawab tidak hanya berada pada pengguna, tetapi juga pada penyedia sistem dan platform yang memfasilitasi teknologi tersebut.
Dari sisi hukum, tindakan pemerintah memiliki dasar yang jelas. Pemutusan akses dilakukan berdasarkan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik yang dilarang.
Seiring berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi dan eksploitasi seksual juga semakin tegas. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara minimal enam bulan hingga maksimal sepuluh tahun atau pidana denda.
Meski demikian, pemblokiran Grok bukanlah tujuan akhir. Pemerintah membuka ruang dialog dan evaluasi. Akses layanan kemudian dapat kembali dibuka secara terbatas setelah adanya komitmen dari penyedia layanan untuk memperbaiki sistem, termasuk memperketat moderasi, mencegah pembuatan deepfake asusila, serta menyediakan mekanisme respons cepat terhadap laporan pelanggaran.
Dalam kerangka ini, syarat utama bagi Grok untuk dapat kembali beroperasi di Indonesia mencakup perlindungan efektif terhadap privasi dan hak citra diri, kepatuhan penuh terhadap hukum nasional, serta kerja sama aktif dengan regulator. Tanpa pemenuhan syarat tersebut, sanksi administratif hingga pemutusan akses tetap menjadi opsi.
Kasus Grok menjadi preseden penting dalam tata kelola AI di Indonesia. Negara menegaskan bahwa inovasi teknologi tidak dapat berjalan di ruang hampa nilai. Ketika kecerdasan artifisial bersinggungan langsung dengan tubuh, identitas, dan martabat manusia, batas hukum dan etika tidak lagi bisa dinegosiasikan.
