Wamen Komdigi: Deepfake AI Jadi Tantangan Baru Keamanan Digital

RRI.CO.ID, Jakarta - Kemajuan kecerdasan artifisial atau Artificial Intelligence (AI) dinilai membawa tantangan baru di bidang keamanan digital. Teknologi ini tidak hanya memberikan manfaat di berbagai sektor, tetapi juga berpotensi dimanfaatkan untuk membuat konten palsu yang semakin sulit dikenali masyarakat.

Wakil Menteri Komunikasi dan Digital (Wamen Komdigi) Nezar Patria mengatakan, salah satu ancaman yang perlu diwaspadai adalah penyalahgunaan AI melalui teknologi deepfake. Menurutnya, kemampuan AI meniru suara maupun wajah seseorang telah berkembang sangat pesat dan dapat digunakan untuk berbagai bentuk penipuan digital.

"Sekarang suara kita bisa ditiru. Gambar wajah kita bisa ditiru dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus," ujar Nezar dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu, 17 Juni 2026.

Ia menjelaskan, perkembangan AI saat ini tidak lagi terbatas pada generative AI, tetapi telah memasuki era agentic AI yang memiliki kemampuan bernalar dan mengambil keputusan secara lebih mandiri. Perkembangan tersebut membuka peluang besar bagi kemajuan teknologi, namun juga menghadirkan risiko baru yang memerlukan perhatian serius.

Dalam bidang keamanan siber, Nezar menilai pelaku kejahatan digital mulai memanfaatkan AI untuk melakukan berbagai modus penipuan. Bahkan, hasil manipulasi berbasis AI kini berkembang menjadi synthetic reality atau realitas sintetik yang membuat batas antara konten asli dan hasil rekayasa semakin sulit dibedakan.

Menurutnya, kondisi tersebut menuntut peningkatan literasi digital dan kewaspadaan masyarakat. Selain itu, pengembangan teknologi AI juga harus dibarengi dengan tata kelola yang kuat agar manfaatnya dapat dirasakan tanpa mengabaikan aspek keamanan.

Nezar menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI. Prinsip ini memastikan bahwa manusia tetap memiliki kendali dan pengawasan terhadap keputusan-keputusan penting yang dihasilkan oleh sistem AI.

"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat. Termasuk menerapkan prinsip human in the loop dalam decision making," katanya.

Lebih lanjut, ia menilai pendekatan etika dalam pengembangan AI tidak lagi cukup dilakukan secara sukarela. Prinsip transparansi, akuntabilitas, dan keamanan harus diterapkan sejak tahap perancangan melalui pendekatan ethics by design.

Karena itu, Nezar mengajak pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak awal. Ia berharap Indonesia Ethical AI Summit dapat menjadi wadah untuk merumuskan langkah bersama dalam membangun ekosistem AI yang inovatif sekaligus bertanggung jawab.