RRI.CO.ID, Lhokseumawe - Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) turut memicu peningkatan penyalahgunaan teknologi deepfake, yakni manipulasi video, gambar, maupun suara yang dibuat menyerupai seseorang secara realistis. Sejumlah penelitian terbaru menunjukkan penggunaan deepfake tidak lagi terbatas untuk hiburan, tetapi telah berkembang menjadi sarana penipuan digital, penyebaran hoaks, hingga pencurian identitas.

Berdasarkan 2025 Identity Fraud Report yang diterbitkan oleh Entrust Cybersecurity Institute, serangan deepfake kini terjadi rata-rata setiap lima menit di seluruh dunia. Laporan tersebut juga mencatat pemalsuan dokumen digital meningkat 244 persen dibandingkan tahun sebelumnya, didorong semakin mudahnya akses terhadap teknologi AI generatif. Penelitian tersebut disusun berdasarkan jutaan proses verifikasi identitas digital yang dilakukan di 195 negara sepanjang periode September 2023 hingga Agustus 2024.

Laporan itu menyebutkan bahwa pelaku kejahatan siber kini memanfaatkan teknologi face swap, kloning suara (voice cloning), hingga identitas sintetis untuk melakukan pembukaan rekening palsu, mengambil alih akun, menjalankan aksi phishing, serta menyebarkan informasi yang menyesatkan. Deepfake dinilai menjadi salah satu ancaman siber dengan pertumbuhan tercepat karena mampu menghasilkan konten yang semakin sulit dibedakan dari materi asli.

Kekhawatiran serupa juga disampaikan Deloitte Center for Technology, Media & Telecommunications. Dalam kajiannya, Deloitte menyebut meningkatnya kualitas konten hasil AI membuat masyarakat semakin sulit membedakan informasi asli dan hasil rekayasa. Sebanyak 68 persen responden yang mengenal AI generatif mengaku khawatir teknologi tersebut akan dimanfaatkan untuk melakukan penipuan, sementara 59 persen menyatakan kesulitan membedakan konten buatan manusia dengan konten yang dihasilkan AI.

Ancaman deepfake juga mendapat perhatian dunia internasional. Perserikatan Bangsa-Bangsa (PBB) melalui International Telecommunication Union (ITU) mendorong negara dan penyedia platform digital memperkuat sistem verifikasi konten digital. Langkah tersebut dinilai penting untuk menekan risiko penyebaran hoaks, manipulasi informasi, hingga penipuan keuangan yang memanfaatkan teknologi AI.

Para peneliti menilai meningkatnya kemampuan AI menghasilkan gambar, video, dan suara yang realistis menjadi tantangan baru bagi keamanan digital. Selain pengembangan teknologi pendeteksi deepfake, peningkatan literasi digital masyarakat dinilai menjadi langkah penting agar pengguna internet tidak mudah percaya terhadap informasi visual maupun audio yang beredar di media sosial tanpa proses verifikasi terlebih dahulu.