Jakarta – Kementerian Komunikasi dan Digital (Komdigi) memblokir sementara asisten kecerdasan buatan (Artificial Intelligence/AI) milik platform X, Grok, menyusul temuan konten deepfake bermuatan asusila yang dinilai melanggar ketentuan hukum di Indonesia.
Menteri Komunikasi dan Digital Meutya Hafid menjelaskan bahwa pemblokiran sementara tersebut dilakukan berdasarkan landasan hukum yang jelas, yakni Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, khususnya Pasal 9.
Dalam regulasi tersebut, setiap PSE diwajibkan memastikan platform yang dikelolanya tidak memuat, memfasilitasi, maupun mendistribusikan konten yang dilarang, termasuk konten pornografi dan eksploitasi seksual.
“Pemblokiran sementara ini dilakukan berdasarkan ketentuan yang berlaku. Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ujar Meutya Hafid dalam keterangan resminya, Sabtu (10/1/2026).
Grok sendiri merupakan asisten AI yang dikembangkan oleh xAI dan terintegrasi langsung dengan platform X. Berdasarkan keterangan resmi X, Grok dirancang untuk membantu pengguna menjawab pertanyaan, memecahkan masalah, serta menghasilkan ide dengan sentuhan kecerdasan buatan dan humor.
Grok memiliki kemampuan unik untuk menentukan apakah akan menelusuri unggahan publik di X atau melakukan pencarian web secara real-time di internet guna menjawab pertanyaan pengguna. Sebagai bagian dari sistemnya, Grok juga dapat mengakses dan membagikan data publik pengguna, seperti profil publik, unggahan, tingkat interaksi (engagement), serta minat pengguna.
Selain itu, apabila pengguna berinteraksi menggunakan perintah suara, Grok akan menyalin atau menerjemahkan masukan tersebut. Data berupa suara, transkripsi, maupun terjemahan tersebut dapat dibagikan dengan xAI untuk kepentingan pengembangan sistem.
Namun dalam perkembangannya, Grok menuai kritik tajam karena dinilai memungkinkan pembuatan konten asusila berbasis foto melalui perintah (prompt) sederhana. Sejumlah pengguna menilai praktik tersebut sebagai bentuk pelecehan seksual digital, terlebih karena ditemukan potensi penyalahgunaan terhadap foto pribadi, termasuk foto anak-anak.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyatakan bahwa manipulasi digital semacam itu merupakan bentuk perampasan kendali individu atas identitas visualnya dan berpotensi menimbulkan dampak psikologis, sosial, hingga kerusakan reputasi.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” kata Alexander dalam keterangan tertulis, Rabu (7/1/2026).
Sebagai langkah pencegahan, sejumlah pengguna X mulai membatasi akses data mereka agar tidak dimanfaatkan oleh Grok maupun pihak ketiga. Pengguna dapat mengatur hal tersebut melalui menu pengaturan privasi di platform X, dengan menonaktifkan izin berbagi data publik serta interaksi dengan Grok dan xAI untuk keperluan pelatihan dan penyempurnaan sistem.
Kementerian Komunikasi dan Digital menegaskan akan terus memantau perkembangan serta menindaklanjuti hasil klarifikasi dari pihak X sebelum memutuskan langkah lanjutan terkait operasional Grok di Indonesia.
