Di awal 2026, Kementerian Komunikasi dan Digital (Komdigi) resmi memblokir sementara Grok AI, asisten kecerdasan buatan milik Elon Musk yang terintegrasi di platform X. Indonesia mencatat sejarah baru dalam tata kelola teknologi digital. Alasannya serius: ancaman deepfake seksual yang dinilai semakin tak terkendali.
Keputusan ini lahir dari kekhawatiran nyata. Laporan masyarakat soal foto dan gambar porno hasil manipulasi AI meningkat tajam. Banyak di antaranya menggunakan wajah orang sungguhan tanpa izin, dengan hasil visual yang nyaris mustahil dibedakan dari foto asli. Pemerintah menilai Grok AI gagal membangun sistem pengaman yang cukup kuat untuk mencegah praktik berbahaya tersebut.
Ketika Grok AI Menjadi Ancaman Privasi
Komdigi menyebut kemampuan Grok AI mengubah foto biasa menjadi konten pornografi hanya lewat instruksi teks sebagai titik paling mengkhawatirkan. Tanpa filter ketat, teknologi ini membuka ruang luas bagi pelecehan digital berbasis deepfake.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan bahwa timnya menemukan minimnya pengaturan spesifik untuk melindungi warga Indonesia. Celah ini berpotensi dimanfaatkan untuk merusak reputasi, menjatuhkan korban secara sosial, bahkan memicu trauma psikologis berkepanjangan.
AI tidak boleh dibiarkan berkembang tanpa etika. Jika dibiarkan, dampaknya bisa jauh lebih merusak daripada kejahatan digital konvensional, ujar Alexander.
Regulasi Jadi Senjata Pemerintah
Pemblokiran Grok AI berpijak pada aturan PSE Lingkup Privat yang mewajibkan platform digital bertanggung jawab atas konten yang difasilitasi. Pemerintah menilai pengelola Grok AI belum patuh terhadap kewajiban tersebut di Indonesia.
Meski demikian, Komdigi menegaskan pintu dialog tetap terbuka. Akses Grok AI bisa dipulihkan jika pengembang bersedia melakukan audiensi dan menerapkan sistem filter Tuna55 yang sesuai dengan hukum serta nilai sosial di Indonesia, terutama terkait perlindungan perempuan dan anak.
Pro dan Kontra di Dalam Negeri
Langkah tegas pemerintah disambut positif oleh pegiat perlindungan korban kekerasan digital. Mereka menilai pemblokiran ini sebagai bentuk keberpihakan negara terhadap korban deepfake yang sering kali mengalami dampak seumur hidup.
Di sisi lain, sebagian pengguna internet dan pengembang teknologi menyayangkan kebijakan tersebut. Mereka menilai Grok AI sebagai alat inovatif yang seharusnya diperbaiki, bukan dihentikan. Namun pemerintah menegaskan satu prinsip: kemajuan teknologi tidak boleh mengorbankan keselamatan manusia.
Kasus Grok AI menjadi pesan keras bagi seluruh pengembang AI global. Tahun 2026 tampaknya bukan sekadar tahun inovasi, melainkan juga era penentuan—apakah kecerdasan buatan akan tumbuh sebagai solusi, atau justru ancaman bagi ruang digital yang aman dan beretika.
