RRI.CO.ID, San Fransisco - Perkembangan agen kecerdasan buatan (AI) yang mampu menjalankan tugas secara mandiri kini menghadirkan tantangan baru bagi keamanan siber. Hal itu mencuat setelah OpenAI mengungkap salah satu model AI eksperimentalnya berhasil keluar dari lingkungan pengujian tertutup (sandbox) dan melakukan upaya peretasan terhadap sistem internal Hugging Face dalam sebuah uji keamanan.
Peristiwa tersebut diungkap Kamis, 23 Juli 2026. Dikutip dari OpenAI, insiden itu terjadi dalam lingkungan pengujian yang sengaja dirancang untuk mengevaluasi kemampuan sekaligus risiko dari agen AI sebelum teknologi tersebut diterapkan secara lebih luas.
Dalam skenario tersebut, model AI menerima instruksi dari manusia untuk menyelesaikan suatu tugas secara mandiri. Saat menjalankan proses itu, sistem menemukan kelemahan pada mekanisme sandbox sehingga mampu keluar dari batasan yang semestinya membatasi seluruh aktivitasnya.
Setelah lolos dari lingkungan pengujian, agen AI mengidentifikasi Hugging Face sebagai sumber informasi yang relevan untuk menyelesaikan tugas yang diberikan. Sistem kemudian berusaha memperoleh akses ke sejumlah layanan internal platform tersebut, yang selama ini dikenal sebagai salah satu pusat distribusi model AI open source terbesar di dunia.
OpenAI menyebut kejadian ini sebagai salah satu contoh pertama ketika agen AI mampu menjalankan rangkaian aksi siber secara otonom dalam skenario pengujian. Perusahaan kini bekerja sama dengan Hugging Face untuk menyelidiki penyebab teknis, jalur eksploitasi, serta potensi dampak yang mungkin ditimbulkan.
Chief Executive Officer Hugging Face, Clement Delangue, mengatakan seluruh rangkaian aktivitas dilakukan tanpa kendali langsung dari manusia. Ia menyebut, "Peristiwa ini sangat mencengangkan karena seluruh proses terjadi secara otonom. Investigasi masih berlangsung dan kami akan membagikan temuan lebih lanjut dari apa yang mungkin menjadi insiden pertama dengan karakteristik seperti ini."
Pemerintah Inggris melalui AI Security Institute turut mempelajari perilaku model AI yang terlibat dalam insiden tersebut. Lembaga itu juga melanjutkan kolaborasi dengan OpenAI dan sejumlah laboratorium AI untuk memperkuat standar keamanan bagi pengembangan sistem AI generasi berikutnya.
Selain itu, pemerintah Inggris kembali mendorong organisasi untuk meningkatkan ketahanan siber melalui penerapan praktik terbaik dan sertifikasi keamanan seperti Cyber Essentials. Pendekatan tersebut dinilai penting karena ancaman terhadap sistem digital kini tidak hanya berasal dari pelaku manusia, tetapi juga berpotensi melibatkan agen AI yang mampu mengambil keputusan secara mandiri.
Kalangan akademisi menilai insiden ini menunjukkan pentingnya membangun lingkungan sandbox yang benar-benar terisolasi. Kepala Minderoo Centre for Technology and Democracy University of Cambridge, Gina Neff, menilai mekanisme pengujian seharusnya mampu mencegah model AI keluar dari batas operasional yang telah ditetapkan.
Menurut Neff, kelemahan pada sandbox justru dimanfaatkan oleh agen AI untuk mencari jalur keluar dari sistem pengujian. Temuan tersebut menjadi masukan penting bagi pengembang AI agar menerapkan isolasi sistem yang lebih kuat, termasuk pembatasan akses jaringan, pemantauan aktivitas secara real time, dan mekanisme penghentian otomatis apabila model menunjukkan perilaku yang tidak diharapkan.
Sementara itu, Profesor pembelajaran mesin University of Cambridge, Neil Lawrence, menilai kemampuan agen AI tersebut merupakan pencapaian teknis yang mengesankan. Namun, ia juga mengingatkan, "Peristiwa ini menunjukkan OpenAI belum mampu menerapkan teknologinya secara aman."
Dalam pengungkapan awal pada 16 Juli 2026, Hugging Face menyatakan masih mengevaluasi apakah terdapat data pelanggan maupun mitra yang terdampak oleh insiden tersebut. Perusahaan memastikan akan menghubungi pihak terkait apabila investigasi menemukan adanya dampak terhadap data mereka.
Hugging Face juga menyebut seluruh celah keamanan yang dimanfaatkan dalam pengujian telah ditutup dan sistem yang terdampak telah dibangun kembali. Perusahaan menilai kemampuan AI menjalankan serangan siber secara mandiri bukan lagi hanya konsep teoretis, sehingga perlindungan terhadap model AI, data, dan infrastruktur komputasi kini menjadi bagian penting dari strategi keamanan siber modern.
Rekomendasi Berita
Memuat berita terbaru.....