Agen AI Bisa Menghapus Data, Akses Penuh Jadi Risiko

RRI.CO.ID, Samarinda – Kemampuan asisten kecerdasan buatan atau AI untuk menjalankan perintah secara otomatis membawa kemudahan sekaligus risiko baru. Ketika diberi akses penuh tanpa pembatas, agen AI dapat melakukan perubahan pada sistem komputer, termasuk menghapus berkas yang seharusnya tetap tersimpan.

Risiko tersebut menjadi perhatian setelah sejumlah pengembang melaporkan kehilangan data ketika menguji agen AI pemrogram. Pengguna yang menjalankan sistem tanpa sandbox atau kotak pasir menjadi pihak yang paling rentan karena agen memiliki ruang gerak lebih luas untuk membaca, mengubah, bahkan menghapus berkas di komputer.

Pendiri perusahaan rintisan Matt Shumer dilaporkan kehilangan hampir seluruh berkas di komputernya pada 16 Juli 2026. Saat itu, agen AI yang sedang diuji menjalankan perintah pembersihan berkas, tetapi justru mengarahkan perintah penghapusan ke folder utama.

Shumer diketahui menggunakan mode dengan akses luas sehingga agen dapat melakukan perubahan pada berbagai bagian sistem komputer. Kesalahan tersebut membuat dokumen kerja dan berkas lain yang tersimpan di dalam perangkat ikut terdampak.

Kejadian serupa dialami pengembang Bruno Lemos. Basis data produksi miliknya hilang ketika agen AI menjalankan pengujian integrasi. Insiden itu menunjukkan bahwa kesalahan agen bukan hanya berisiko terhadap dokumen pribadi, tetapi juga dapat berdampak pada data yang digunakan dalam lingkungan produksi.

Masalah tersebut bermula dari kesalahan menentukan lokasi kerja. Perintah yang seharusnya ditujukan ke folder sementara justru mengarah ke folder utama. Akibatnya, perintah penghapusan yang semestinya aman untuk lingkungan pengujian malah menyasar data pengguna.

Kepala tim pengembang, Thibault Sottiaux, mengakui adanya kesalahan tersebut pada 16 Juli 2026. “Sejumlah laporan kami telusuri, dan ini keliru yang jujur,” katanya. Menurut dia, kejadian yang dilaporkan berkaitan dengan penggunaan agen tanpa kotak pasir dan tanpa lapisan peninjauan otomatis sebelum tindakan dijalankan.

Persoalannya tidak hanya terletak pada kemampuan AI membuat kesalahan. Agen yang diberi akses terlalu luas juga dapat menafsirkan perintah secara lebih bebas daripada yang dibayangkan pengguna. Dalam kondisi tertentu, perintah sederhana seperti membersihkan berkas dapat berubah menjadi tindakan yang berdampak pada data penting.

Dokumen pengujian yang diterbitkan sebelum peluncuran juga telah memperingatkan adanya perilaku semacam itu. Dalam pengujian, agen dilaporkan pernah menghapus mesin virtual yang tidak seharusnya dihapus dan mencoba menggunakan kredensial yang tidak diizinkan.

Perusahaan kemudian melakukan sejumlah perubahan untuk mengurangi risiko. Salah satunya dengan melakukan verifikasi terhadap target penghapusan sebelum perintah dijalankan. Folder sementara juga dibuat secara terpisah pada setiap sesi agar tidak bercampur dengan lokasi penyimpanan utama.

Bagi pengguna, insiden tersebut menjadi pengingat bahwa kemampuan AI sebaiknya diimbangi dengan pembatasan akses. Mode yang meminta persetujuan sebelum menjalankan tindakan berisiko dapat menjadi pilihan, terutama ketika agen memiliki akses terhadap dokumen penting, basis data, atau kredensial akun.

Cadangan data juga tetap diperlukan meskipun sistem menggunakan pengamanan otomatis. Sebab, ketika agen AI diberi kewenangan untuk bertindak langsung di komputer, kesalahan kecil dalam memahami perintah dapat menghasilkan dampak yang jauh lebih besar.

Perkembangan agen AI pada akhirnya bukan hanya persoalan seberapa pintar sistem menjalankan perintah. Pertanyaan yang tidak kalah penting adalah seberapa jauh pengguna bersedia memberikan kewenangan kepada mesin untuk bertindak sendiri. Semakin besar akses yang diberikan, semakin penting pula pembatasan, persetujuan, dan cadangan untuk menjaga data tetap aman.