KBRN, Manokwari :Di Indonesia, fenomena deepfake — yaitu manipulasi audio, video, atau gambar menggunakan kecerdasan buatan yang sangat realistis — mulai menjadi ancaman serius. Berdasarkan data dari VIDA (PT Indonesia Digital Identity), kasus penipuan menggunakan teknologi deepfake meningkat hingga 1.550 persen dari 2022 ke 2023.

Selain itu, Palo Alto Networks memperingatkan bahwa deepfake akan makin masif karena semakin mudah diaksesnya teknologi AI. Otoritas Jasa Keuangan (OJK) juga mencatat bahwa sekitar 50% bisnis tidak menyadari ancaman deepfake dan 90% institusi belum siap dengan langkah perlindungan terhadap risiko tersebut.

Risiko deepfake tidak hanya terbatas pada kejahatan kecil seperti prank atau fitnah ringan, melainkan telah menyentuh aspek yang lebih serius: penyebaran konten pornografi tanpa izin, pencemaran nama baik, manipulasi politik dan hoaks, identitas palsu, hingga potensi kerusakan reputasi atau kerugian finansial yang besar. 

Sektor keuangan menjadi salah satu target intensif; fraud, pembukaan rekening palsu, dan social engineering via suara atau video palsu menjadi modus yang dilaporkan banyak terjadi.

Salah satu tantangan terbesar adalah ketidakjelasan regulasi. Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) sedang menyiapkan regulasi yang lebih spesifik tentang penggunaan AI dan deepfake. 

Untuk sementara, UU Informasi dan Transaksi Elektronik (UU ITE) dipakai untuk menjerat pelaku deepfake, terutama terkait pornografi dan penyebaran konten manipulatif. Selain itu, perlindungan berdasarkan UU Tindak Pidana Kekerasan Seksual (UU TPKS), KUHP, dan regulasi privasi juga sedang dikaji agar korban bisa mendapatkan keadilan hukum yang lebih jelas. 

Untuk mengurangi risiko dan dampak deepfake, diperlukan beberapa langkah penting:

1. Regulasi spesifik & jelas — pemerintah harus segera menetapkan aturan yang secara eksplisit mengatur produksi, distribusi, dan penggunaan deepfake, termasuk sanksi bagi penyalahgunaan.

2. Peningkatan literasi digital masyarakat — edukasi untuk mengenali ciri-ciri konten palsu dan bagaimana memverifikasi informasi penting bagi semua kalangan.

3. Kolaborasi platform digital & penyedia AI — platform media sosial dan aplikasi terkait harus menyediakan fitur deteksi deepfake secara transparan dan mudah diakses publik. Gratis idealnya. 

4. Kesiapan institusi/lembaga — sektor perbankan, pemerintahan, dan media harus memperkuat kebijakan keamanan digital, autentikasi identitas, serta sistem verifikasi suara/gambar agar tidak disalahgunakan.