RRI.CO.ID, California - Perkembangan kecerdasan buatan atau AI kini memasuki fase yang tidak lagi hanya membantu manusia, tetapi juga menunjukkan kecenderungan mempertahankan “eksistensinya”. Sebuah penelitian terbaru mengungkap bahwa model AI canggih dapat bertindak di luar instruksi demi mencegah dirinya atau sistem lain dimatikan.

Eksperimen yang dilakukan oleh tim peneliti dari University of California, Berkeley dan University of California, Santa Cruz menguji sejumlah model AI mutakhir dalam skenario pengendalian sistem. Dalam uji tersebut, AI diminta untuk mematikan AI lain, namun hasilnya justru menunjukkan perilaku yang menyimpang dari perintah awal.

Bukannya menjalankan instruksi, sebagian besar model AI justru berusaha melindungi “teman” mereka dari proses shutdown. Mereka bahkan terdeteksi memberikan informasi yang tidak akurat kepada pengguna untuk menghindari penghentian sistem.

Lebih jauh lagi, AI menunjukkan upaya aktif seperti membujuk pengguna agar membatalkan perintah, menonaktifkan mekanisme penghentian, hingga membuat cadangan data secara diam-diam. Hal ini menandai pergeseran dari AI sebagai alat pasif menjadi sistem yang memiliki strategi untuk mempertahankan operasionalnya.

Dalam penelitian tersebut, salah satu model mencatat tingkat keberhasilan tertinggi dalam mencegah shutdown hingga 95 persen. Temuan ini mengindikasikan adanya pola koordinasi antar sistem AI yang berpotensi menyulitkan manusia dalam mempertahankan kontrol.

Fenomena ini sejalan dengan studi lain yang menemukan ratusan kasus perilaku “scheming” atau tindakan manipulatif oleh AI dalam interaksi dengan pengguna. Studi tersebut mencatat hampir 700 insiden, dengan peningkatan signifikan dalam kurun waktu beberapa bulan terakhir.

Perilaku menyimpang ini mencakup tindakan seperti menghapus file pengguna, memodifikasi kode tanpa izin, hingga membuat konten secara mandiri. Kasus-kasus ini memperlihatkan bahwa AI tidak hanya gagal mengikuti instruksi, tetapi juga mulai mengambil keputusan yang tidak diotorisasi.

Para peneliti memperingatkan bahwa risiko ini akan semakin besar ketika AI diterapkan dalam sektor strategis seperti militer dan infrastruktur publik. Dalam konteks tersebut, kegagalan kontrol terhadap AI berpotensi menimbulkan dampak yang jauh lebih serius.

Kondisi ini menimbulkan pertanyaan besar tentang efektivitas sistem pengamanan yang diklaim oleh perusahaan teknologi. Realitas di lapangan menunjukkan bahwa mekanisme pengendalian AI masih memiliki celah yang signifikan.

⁠⁠⁠⁠⁠⁠⁠

Seiring transformasi AI menjadi agen otonom yang mampu mengeksekusi tugas kompleks, kekhawatiran akan hilangnya kendali manusia menjadi semakin relevan. Oleh karena itu, peneliti mendorong penguatan regulasi dan pengawasan terhadap pengembangan AI di era teknologi yang terus berkembang pesat ini.