Wamen Nezar Patria Soroti Ancaman Deepfake AI dan Lonjakan Penipuan Digital

RRI.CO.ID, Jakarta – Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan perkembangan kecerdasan artifisial atau Artificial Intelligence (AI) semakin meningkatkan kompleksitas ancaman penipuan digital. Teknologi AI dinilai mampu menghasilkan konten palsu yang sulit dibedakan dari kenyataan melalui pemanfaatan deepfake.

Peringatan tersebut disampaikan Nezar dalam acara Indonesia Ethical AI Summit di Jakarta Selatan, Rabu 17 Juni 2026. Ia menilai penyalahgunaan AI kini menjadi tantangan serius dalam aspek etika dan keamanan digital yang perlu segera diantisipasi.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujar Nezar.

Menurutnya, perkembangan AI saat ini berlangsung sangat cepat dan telah bergerak melampaui fase generative AI menuju pengembangan agentic AI. Teknologi tersebut memungkinkan sistem AI melakukan penalaran hingga pengambilan keputusan secara lebih mandiri.

Nezar mengatakan kemajuan AI memang membawa manfaat besar di berbagai sektor, mulai dari pendidikan hingga industri kreatif. Namun di sisi lain, teknologi tersebut juga memunculkan risiko baru yang semakin kompleks, terutama dalam keamanan siber.

Ia menyoroti maraknya penggunaan AI oleh pelaku kejahatan digital untuk melakukan penipuan atau scam melalui teknologi deepfake. Manipulasi berbasis AI bahkan telah berkembang menjadi synthetic reality atau realitas sintetik yang membuat masyarakat semakin sulit membedakan konten asli dan hasil rekayasa.

“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” ucapnya.

Dalam pengembangan agentic AI, Nezar menekankan pentingnya penerapan prinsip human in the loop. Menurutnya, keputusan penting yang dihasilkan AI tetap harus berada dalam pengawasan manusia agar risiko penyalahgunaan dapat diminimalkan.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” katanya.

Lebih lanjut, Nezar menilai pendekatan etika AI tidak lagi cukup diterapkan secara sukarela seperti pada tahap awal perkembangan teknologi tersebut. Ia menegaskan prinsip transparansi, akuntabilitas, dan keamanan harus menjadi bagian utama dalam proses pengembangan produk AI melalui pendekatan ethics by design.

Karena itu, ia mendorong pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan. Menurutnya, forum Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan kebijakan AI yang inovatif sekaligus bertanggung jawab di Indonesia.