RRI.CO.ID, Jayapura - Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang digunakan untuk membuat dan menyebarkan konten pornografi, termasuk manipulasi foto pribadi warga tanpa persetujuan. Dilansir dari laman infopublik.id, Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah penyalahgunaan teknologi tersebut. Hal ini berpotensi melanggar hak privasi dan hak atas citra diri warga Indonesia.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Alexander, yang dilansir dari laman infopublik.id, Rabu, 7 Januari 2026.

Alexander menegaskan, manipulasi digital terhadap foto pribadi bukan hanya soal kesusilaan, tetapi juga perampasan kendali individu atas identitas visual yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi. Ia menambahkan, Kemkomdigi tengah berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memperkuat mekanisme perlindungan, termasuk sistem moderasi konten, pencegahan pembuatan deepfake asusila, dan prosedur penanganan cepat laporan pelanggaran privasi.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” ujar Alexander. Ia juga mengingatkan bahwa PSE yang terbukti melanggar bisa dikenai sanksi administratif hingga pemutusan akses layanan, serta sanksi pidana sesuai Undang-Undang Nomor 1 Tahun 2023 tentang KUHP.

Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto atau pelanggaran hak citra diri dapat menempuh jalur hukum, termasuk pelaporan kepada aparat penegak hukum dan pengaduan ke Kemkomdigi.

“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” kata dia.