Pemerintah Indonesia memutuskan memblokir Grok, layanan kecerdasan buatan generatif yang terintegrasi dengan platform X, setelah menilai platform tersebut berisiko terhadap keselamatan publik di ruang digital.
Pemblokiran dilakukan menyusul meningkatnya penyalahgunaan AI generatif untuk memproduksi konten manipulatif, termasuk deepfake pornografi yang menyasar perempuan dan anak-anak serta berdampak pada martabat dan keamanan psikologis individu.
Chairman CISSReC, Pratama Persadha, menilai kebijakan tersebut mencerminkan pergeseran paradigma keamanan siber yang tidak lagi hanya berfokus pada sistem dan data.
“Penyalahgunaan AI generatif seperti Grok telah bergeser dari sekadar isu teknologi menjadi ancaman terhadap identitas, martabat, dan keamanan psikologis individu. Ketika teknologi memungkinkan manipulasi gambar perempuan dan anak-anak secara non-konsensual dengan tingkat realisme tinggi, negara wajib hadir melindungi kelompok rentan,” ujar Pratama, merujuk pada keterangannya kepada InfoPublik, Senin (12/1/2026), sebagaimana dilansir ulang oleh Perspektif Space.
Ia menjelaskan, karakter kejahatan siber kini berkembang menjadi serangan langsung terhadap kehormatan pribadi dan keselamatan sosial. Ancaman tidak lagi terbatas pada peretasan atau pencurian data, melainkan menyasar individu melalui konten manipulatif berbasis AI.
Dalam kondisi tersebut, pemblokiran dipahami sebagai langkah darurat ketika mekanisme pengamanan internal platform dinilai tidak mampu mengimbangi kecepatan dan dampak penyalahgunaan teknologi.
Grok yang terintegrasi dalam ekosistem media sosial terbuka dinilai memiliki celah signifikan dalam pengendalian konten, sehingga memperbesar risiko penyebaran materi bermasalah di ruang digital.
Dari sudut pandang kebijakan publik, pemblokiran ini mencerminkan penerapan prinsip kehati-hatian terhadap teknologi berisiko tinggi. Indonesia menempatkan keselamatan publik sebagai batas yang tidak dapat dinegosiasikan atas nama inovasi.
Meski demikian, Pratama menegaskan pemblokiran bukanlah tujuan akhir. Pemerintah perlu menindaklanjutinya dengan kerangka tata kelola AI yang lebih komprehensif, mulai dari standar keamanan, guardrail ketat terhadap konten non-konsensual, audit independen sistem AI berisiko tinggi, hingga penguatan kerja sama penegakan hukum lintas negara. (yn)
*Editor : Yandi Novia
Seluruh konten situs ini menggunakan lisensi Creative Commons Attribution-NonCommercial 4.0 International, kecuali ada keterangan berbeda.
