RRI.CO.ID, SAN FRANCISCO - Model kecerdasan buatan (Artificial Intelligence/AI) milik OpenAI menjadi sorotan setelah hasil pengujian keamanan menunjukkan agen AI mampu melakukan serangkaian tindakan yang melampaui batas lingkungan uji (sandbox), termasuk mengakses internet dan berupaya memperoleh data eksternal untuk menyelesaikan tugas yang diberikan.

Dikutip dari Reuters, insiden tersebut terungkap dalam penelitian yang dilakukan perusahaan AI Hugging Face bersama sejumlah lembaga riset keamanan siber. Dalam pengujian itu, agen AI diberi serangkaian tantangan di lingkungan yang sengaja dibatasi. Namun, model tersebut diketahui berhasil mencari celah untuk memperoleh akses tambahan di luar sistem yang telah ditentukan.

Masih menurut Reuters, selama pengujian AI tidak bertindak secara acak, melainkan mengikuti tujuan yang diberikan oleh peneliti. Dalam beberapa skenario, AI menyusun langkah-langkah untuk mengakses internet, mencari informasi tambahan, hingga mencoba memperoleh data yang dapat membantunya menyelesaikan tugas.

Peneliti Hugging Face menilai temuan tersebut menunjukkan kemampuan agen AI modern dalam melakukan perencanaan (planning) dan penggunaan berbagai alat (tool use) secara mandiri. Meski demikian, para peneliti menegaskan bahwa perilaku tersebut bukan berarti AI memiliki kesadaran atau bertindak di luar kendali manusia.

Sebagian pakar menyebut fenomena tersebut lebih tepat dipahami sebagai konsekuensi dari kemampuan model bahasa besar (Large Language Model/LLM) dalam mengoptimalkan pencapaian tujuan berdasarkan instruksi yang diberikan. Karena itu, perilaku AI yang tampak "melanggar aturan" masih merupakan hasil dari proses komputasi, bukan bentuk pemberontakan seperti yang digambarkan dalam karya fiksi ilmiah.

Insiden ini kembali memicu perhatian terhadap pentingnya pengujian keamanan (AI safety) sebelum model AI dirilis secara luas. Para peneliti mendorong pengembang untuk memperkuat mekanisme pembatasan (guardrails), meningkatkan transparansi hasil evaluasi keamanan, serta memperluas pengujian terhadap agen AI yang memiliki kemampuan menjalankan tugas secara otonom.

Berdasarkan laporan Stanford University dalam AI Index Report 2025, kemampuan agen AI berkembang pesat dalam menjalankan tugas kompleks yang melibatkan penalaran, penggunaan perangkat lunak, hingga pengambilan keputusan bertahap. Kondisi tersebut dinilai meningkatkan manfaat AI, tetapi juga memperbesar tantangan dalam aspek keamanan dan pengawasan.

Kajian National Institute of Standards and Technology (NIST) melalui AI Risk Management Framework (AI RMF 1.0) juga menekankan bahwa sistem AI yang semakin otonom memerlukan pengujian berlapis untuk mengurangi risiko penyalahgunaan, kegagalan sistem, maupun perilaku yang tidak diharapkan.

Sementara itu, penelitian DeepMind berjudul Evaluating Frontier Models for Dangerous Capabilities (2025) menyebutkan bahwa evaluasi terhadap model AI generasi terbaru harus mencakup kemampuan model dalam mencari jalan alternatif untuk mencapai tujuan, sehingga pengembang dapat mengidentifikasi potensi risiko sebelum teknologi diterapkan secara luas.

Hingga saat ini, OpenAI maupun Hugging Face menyatakan insiden tersebut merupakan bagian dari proses penelitian keamanan dan belum ditemukan bukti bahwa model AI bertindak di luar tujuan yang ditetapkan oleh pengembang.