Deepfake Makin Canggih, Komdigi Ingatkan Bahaya Penipuan Berbasis AI

RRI.CO.ID, Manado - Teknologi AI memang makin memudahkan banyak hal, tapi di sisi lain juga membuka celah baru bagi kejahatan digital. Salah satu yang kini jadi perhatian adalah maraknya konten palsu berbasis AI yang semakin sulit dibedakan dari yang asli.

Dikutip dari Komdigi.go.id, Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan bahwa perkembangan AI turut meningkatkan risiko penipuan digital. Dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6/2026), ia menyoroti teknologi deepfake yang kini mampu meniru suara, wajah, hingga video seseorang dengan sangat realistis.

Menurut Nezar, perkembangan AI saat ini bergerak sangat cepat, bahkan telah memasuki era agentic AI yang mampu melakukan penalaran dan mengambil keputusan secara mandiri. Meski membawa banyak manfaat, kemajuan tersebut juga memunculkan ancaman baru yang perlu diantisipasi.

Ia menjelaskan, pelaku kejahatan siber kini memanfaatkan AI untuk menciptakan konten manipulatif atau synthetic reality yang sulit dikenali masyarakat awam. Kondisi ini membuat kasus penipuan digital semakin marak karena banyak orang terkecoh oleh gambar, suara, atau video palsu yang tampak meyakinkan.

Karena itu, Nezar menekankan pentingnya penerapan prinsip human in the loop, yakni memastikan manusia tetap terlibat dalam pengambilan keputusan AI. Ia juga mendorong pengembang, industri, dan akademisi untuk memperkuat prinsip transparansi, keamanan, dan akuntabilitas agar teknologi AI berkembang secara bertanggung jawab.

Di tengah pesatnya perkembangan AI, literasi digital menjadi bekal yang semakin penting. Sebab, semakin canggih teknologinya, semakin besar pula tantangan untuk memastikan teknologi tersebut dimanfaatkan secara aman dan tidak disalahgunakan.