PERKEMBANGAN teknologi kecerdasan buatan atau artificial intelligence (AI) melaju pesat dalam beberapa tahun terakhir. Teknologi ini dimanfaatkan di berbagai sektor, mulai dari pendidikan, industri kreatif, hingga layanan informasi publik.

AI bekerja dengan memproses data dalam jumlah besar untuk menghasilkan teks, gambar, maupun suara. Kemampuannya menghadirkan efisiensi sekaligus memunculkan tantangan baru dalam pengawasan dan etika digital.

Salah satu produk AI yang belakangan menjadi perhatian adalah Grok AI. Grok merupakan chatbot berbasis kecerdasan buatan yang dikembangkan perusahaan xAI dan terintegrasi dengan platform media sosial X.

Grok AI dirancang untuk berinteraksi dengan pengguna melalui percakapan berbasis teks. Seiring pengembangannya, Grok juga memiliki kemampuan menghasilkan konten visual berbasis teknologi generatif.

Namun, kemampuan tersebut dinilai berpotensi disalahgunakan. Pemerintah menilai terdapat risiko pembuatan konten manipulatif, termasuk visual hasil rekayasa digital tanpa persetujuan pihak terkait.

Atas pertimbangan tersebut, pemerintah melalui Kementerian Komunikasi dan Digital (Kemkomdigi) memutuskan memblokir sementara Grok AI di Indonesia. Langkah ini diambil sebagai upaya melindungi masyarakat dari dampak negatif penyalahgunaan teknologi kecerdasan buatan.

Selanjutnya, Ketika Fitur AI Berubah Menjadi Ancaman

Kemampuan kecerdasan buatan tidak hanya menghadirkan kemudahan. Di sisi lain, fitur AI juga membuka ruang penyalahgunaan yang berpotensi merugikan masyarakat.

Grok AI memiliki kemampuan menghasilkan konten berbasis teks dan visual. Fitur tersebut dinilai rawan dimanfaatkan untuk membuat konten manipulatif berbasis rekayasa digital.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengatakan hasil penelusuran awal menemukan lemahnya pengaturan pencegahan konten sensitif pada Grok AI. Sistem tersebut dinilai belum secara tegas membatasi produksi konten pornografi berbasis foto nyata.

Kondisi itu berpotensi melanggar hak privasi serta hak atas citra diri warga Indonesia. Risiko muncul ketika foto seseorang dimanipulasi atau diedarkan tanpa persetujuan yang sah.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu 7 Januari 2026.

Penyalahgunaan teknologi deepfake dinilai dapat menimbulkan dampak sosial yang luas. Mulai mulai dari pencemaran nama baik, tekanan psikologis hingga kerugian sosial dan reputasi korban.

Kemkomdigi menilai manipulasi digital foto pribadi bukan sekadar persoalan kesusilaan. Praktik tersebut dianggap sebagai perampasan kendali individu atas identitas visualnya.

Atas dasar itu, pemerintah menilai diperlukan langkah pencegahan. Pemblokiran dilakukan untuk mencegah meluasnya dampak negatif teknologi Grok AI.

Selanjutnya, Regulasi sebagai Garis Batas Digital

Pemblokiran Grok AI dilakukan dengan merujuk pada kerangka regulasi nasional. Pemerintah menegaskan setiap aktivitas digital di Indonesia harus tunduk pada hukum yang berlaku.

Kemkomdigi menggunakan aturan Penyelenggara Sistem Elektronik (PSE) lingkup privat sebagai dasar kebijakan. Regulasi ini mewajibkan platform digital mencegah penyebaran konten yang dilarang oleh peraturan perundang-undangan.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” kata Alexander Sabar di Jakarta, Rabu 7 Januari 2026.

Sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Pasal 9, dimana setiap PSE bertanggung jawab atas penyelenggaraan sistem elektronik serta pengelolaan informasi/dokumen elektronik secara andal, aman, dan bertanggung jawab.

Penyedia layanan harus bertanggung jawab atas sistem dan fitur yang mereka operasikan. Termasuk memastikan teknologi yang digunakan tidak memfasilitasi pelanggaran undang-undang ataupun hak individu.

Pemerintah menilai kepatuhan terhadap regulasi menjadi syarat utama beroperasinya platform digital. Tidak ada pengecualian bagi perusahaan teknologi global.

Seluruh PSE wajib mematuhi peraturan perundang-undangan di Indonesia. Ketidakpatuhan dapat berujung pada sanksi administratif hingga pemutusan akses layanan.

Penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi dapat dikenai sanksi hukum. Hal yang sama berlaku bagi manipulasi citra pribadi tanpa hak.

Langkah pemblokiran dipandang sebagai bentuk penegakan aturan, bukan pembatasan inovasi. Regulasi ditempatkan sebagai garis batas agar perkembangan teknologi tetap beretika.

Selanjutnya, Pemblokiran Sementara dalam Kerangka Evaluasi

Pemerintah menegaskan pemblokiran Grok AI tidak bersifat permanen. Kebijakan ini ditempatkan sebagai langkah sementara dalam rangka evaluasi menyeluruh.

Pemerintah juga membuka ruang komunikasi dengan penyelenggara platform. Dialog dilakukan untuk mendorong kepatuhan terhadap regulasi yang berlaku di Indonesia.

Menteri Komunikasi dan Digital, Meutya Hafid mengatakan Kemkomdigi memblokir sementara chatbot kecerdasan buatan Grok AI. Hingga pihak X sebagai pemilik platform menyampaikan kepastian kepatuhan kepada pemerintah.

"Kepatuhan PSE dengan pengenaan sanksi administratif, kami terapkan kepada aplikasi berbasis kecerdasan artifisial Grok yang hingga saat ini masih dalam proses evaluasi. Jadi, statusnya masih dalam blokir oleh Kemkomdigi, menunggu kepastian kepatuhan dari Grok untuk disampaikan kepada pemerintah," kata Meutya di Jakarta Pusat, Senin, 26 Januari 2026

Kemkomdigi menyebut evaluasi dilakukan terhadap sistem, fitur, dan kebijakan moderasi konten. Tujuannya memastikan layanan digital tidak menimbulkan dampak negatif, terutama perempuan dan anak dari risiko penyebaran konten pornografi palsu yang dihasilkan AI.

Akses terhadap Grok AI dapat kembali dibuka apabila kewajiban tersebut dipenuhi oleh penyelenggara platform dalam hal ini X. Keputusan lanjutan akan ditentukan berdasarkan hasil evaluasi teknis dan kebijakan yang berlaku nantinya.

Selanjutnya, Dukungan Legislator terhadap Langkah Pemerintah

Dewan Perwakilan Rakyat (DPR) menyatakan dukungan terhadap kebijakan pemblokiran Grok AI. Langkah tersebut dinilai sebagai bentuk perlindungan negara terhadap masyarakat di ruang digital.

DPR menilai perkembangan kecerdasan buatan memerlukan pengawasan yang memadai. Tanpa regulasi yang jelas, teknologi berpotensi menimbulkan dampak sosial yang merugikan.

Anggota Komisi I DPR RI, Andina Thresia Narang menyampaikan apresiasi terhadap langkah KemKomdigi yang memblokir aplikasi Grok AI. Ia menilai kebijakan tersebut sebagai langkah awal untuk melindungi masyarakat dari potensi dampak buruk penggunaan teknologi yang tidak bertanggung jawab.

Menurut Andina, keberadaan aplikasi berbasis kecerdasan buatan seperti Grok tidak bisa hanya dipandang sebagai bentuk inovasi teknologi. Aspek keamanan siber, perlindungan data pribadi, serta dampaknya terhadap kelompok rentan juga harus menjadi perhatian serius.

“Oleh sebab itu, kami mengapresiasi Komdigi atas keputusan pemblokiran ini karena aplikasi Grok memang menimbulkan kekhawatiran besar. Mulai dari isu kedaulatan teknologi di ruang siber, perlindungan data pribadi, hingga aspek perlindungan anak yang tidak kalah penting,” ujar Andina di Senayan, Jakarta, Selasa 13 Januari 2026.

Legislator memandang pemblokiran sementara sebagai langkah proporsional. Kebijakan ini memberi ruang evaluasi tanpa menghambat inovasi teknologi, bukan hanya untuk Grok saja tetapi aplikasi lain yang memiliki karakteristik serupa.

DPR juga menyoroti tentang edukasi digital untuk masyarakat, agar banyak pengguna lebih berpedoman dan memahami risiko hukum, etika dan dampak panjang. Penguatan regulasi juga dinilai penting untuk menjawab tantangan teknologi di masa depan.

Selanjutnya, Langkah Serupa di Berbagai Negara

Indonesia bukan satu-satunya negara yang mengambil langkah pembatasan terhadap Grok AI. Sejumlah negara juga menerapkan kebijakan serupa untuk merespons risiko penyalahgunaan kecerdasan buatan Grok AI.

Malaysia menjadi salah satu negara yang sempat membatasi akses Grok AI. Pemerintah setempat mengambil langkah tersebut setelah muncul kekhawatiran terkait konten visual berbasis AI yang dinilai sensitif .

Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan ini merupakan pencegahan saat proses hukum dan regulasi sedang berlangsung. "Konten yang diduga melibatkan perempuan dan anak di bawah umur merupakan masalah serius,” kata MCMC dikutip dari Reuters, Jumat 30 Januari 2026.

Filipina juga memutuskan untuk memblokir Grok AI, meski belum diperlakukan secara penuh. Pemerintah Filipina telah mengungkapkan rencana dan kajian serius untuk membatasi akses Grok.

"Koordinasi Kejahatan Siber Filipina (CICC) sudah bekerja sama dengan Komisi Telekomunikasi Nasional (NTC) untuk memblokirnya," kata Sekretaris Teknologi Informasi dan Komunikasi Filipina, Henry Aguda.

Sedangkan negara-negara Asia Tenggara lain seperti Singapura, Thailand, dan Vietnam belum mengumumkan kebijakan pemblokiran resmi terhadap Grok. Namun, sejumlah otoritas disebut tengah memperketat pengawasan dan menyiapkan regulasi terkait penggunaan kecerdasan buatan.

Di kawasan Eropa, pendekatan yang ditempuh lebih bersifat pengawasan ketat. Uni Eropa membuka penyelidikan terhadap penggunaan Grok AI di platform X terkait potensi pelanggaran aturan layanan digital .

Beberapa negara lain belum menerapkan pemblokiran penuh. Namun, opsi pembatasan tetap terbuka apabila risiko terhadap publik dinilai meningkat.

Fenomena ini menunjukkan tantangan global dalam tata kelola kecerdasan buatan. Negara-negara berupaya menyeimbangkan inovasi teknologi dengan perlindungan masyarakat.