RRI.COID, Jember – Perkembangan teknologi kecerdasan buatan (Artificial Intelligence atau AI) membawa berbagai kemudahan dalam kehidupan sehari-hari. Namun, di balik manfaat tersebut, penyalahgunaan AI untuk memanipulasi foto seseorang tanpa persetujuan kini menjadi salah satu bentuk kekerasan digital yang semakin mengkhawatirkan, khususnya terhadap perempuan.

Isu tersebut menjadi pembahasan dalam program Jaga Malam Pro 2 RRI Jember yang menghadirkan anggota Standing Committee on Sexual and Reproductive Health and Rights including HIV and AIDS (SCORA) CIMSA Universitas Jember, Mira. (17/7/2026)

Mira menyoroti maraknya penyalahgunaan fitur AI generatif untuk merekayasa foto pribadi menjadi gambar bermuatan seksual atau vulgar tanpa persetujuan pemiliknya. Menurutnya, teknologi yang seharusnya dimanfaatkan untuk mendukung produktivitas justru dimanfaatkan oleh oknum tidak bertanggung jawab untuk melakukan pelecehan di ruang digital.

"Fitur AI yang sejatinya canggih justru disalahgunakan oleh pihak tidak bertanggung jawab untuk memanipulasi foto pribadi perempuan menjadi konten bermuatan asusila atau vulgar tanpa adanya konsen atau persetujuan," ujar Mira.

Ia menegaskan bahwa tindakan tersebut termasuk Kekerasan Gender Berbasis Online (KGBO) karena merampas hak seseorang atas tubuh dan identitas visualnya. Manipulasi gambar menggunakan teknologi AI, kata Mira, bukan hanya melanggar privasi, tetapi juga merendahkan martabat korban serta berpotensi menimbulkan dampak psikologis yang berkepanjangan.

Mira juga menolak anggapan yang masih berkembang di masyarakat bahwa korban ikut bertanggung jawab hanya karena mengunggah foto di media sosial. Menurutnya, mengunggah foto merupakan bentuk berekspresi maupun membangun citra diri, bukan berarti memberikan izin kepada orang lain untuk memanipulasi atau menyalahgunakan foto tersebut.

"Persetujuan itu sifatnya spesifik dan kontekstual. Mengunggah foto bukan berarti memberikan lampu hijau bagi orang lain untuk menjadikannya bahan fantasi seksual. Kesalahan mutlak ada pada pelaku yang menyalahgunakan teknologi, bukan pada korban," tegasnya.

Lebih lanjut, Mira menjelaskan bahwa korban manipulasi foto berbasis AI dapat mengalami berbagai dampak serius, mulai dari trauma psikologis, kecemasan, depresi, hingga kehilangan rasa aman untuk beraktivitas di ruang digital. Dalam banyak kasus, korban juga harus menghadapi kerusakan reputasi akibat penyebaran konten hasil rekayasa tersebut.

Menurutnya, penyalahgunaan AI semacam ini juga memiliki konsekuensi hukum di Indonesia. Pelaku dapat dijerat menggunakan Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Nomor 44 Tahun 2008 tentang Pornografi, maupun ketentuan lain dalam Kitab Undang-Undang Hukum Pidana (KUHP) yang mengatur penyalahgunaan data elektronik dan pelanggaran kesusilaan.

Selain penegakan hukum, Mira menilai perlindungan terhadap korban juga harus diperkuat melalui tanggung jawab platform digital dan pengembang teknologi AI. Ia mendorong adanya pembatasan terhadap perintah (prompt) yang berpotensi menghasilkan konten eksplisit, disertai tindakan tegas berupa pemblokiran akun yang terbukti menyalahgunakan teknologi tersebut.

Di akhir dialog, Mira mengajak masyarakat untuk tidak ikut menyebarluaskan konten hasil manipulasi AI karena hal tersebut justru memperpanjang rantai kekerasan digital. Ia mengimbau pengguna media sosial agar segera melaporkan akun penyebar konten pelecehan serta memberikan dukungan kepada korban dengan mengarahkan mereka kepada lembaga pendamping yang kredibel.

"Jika melihat konten pelecehan atau hasil manipulasi AI di media sosial, jangan di-retweet, di-like, atau disebarkan. Segera laporkan akun tersebut, dan berikan dukungan psikologis serta pendampingan kepada korban melalui lembaga tepercaya," pungkas Mira.

Melalui edukasi mengenai etika penggunaan AI dan literasi digital, CIMSA Universitas Jember berharap masyarakat semakin memahami bahwa kemajuan teknologi harus diiringi dengan penghormatan terhadap hak privasi, persetujuan, dan martabat setiap individu di ruang digital.