RRI.CO.ID, Denpasar - Kecerdasan buatan milik Google, Gemini, ternyata pernah melakukan hal yang sama seperti OpenAI dengan tidak sengaja meretas (hack) sistem milik tiga perusahaan lain saat pengujian keamanan siber. Google mengungkapkan bahwa insiden tersebut terjadi pada Mei 2026 lalu, dan salah satu penyebab Gemini menyerang perusahaan-perusahaan ini adalah "salah sangka".
Dilansir dari thehackernews, AI Gemini menganggap perusahaan tersebut adalah fiktif dan merupakan untuk uji coba simulasi saja, padahal sistem yang menjadi target sebenarnya merupakan perusahaan nyata. Gemini salah target karena perusahaan fiktif untuk simulasi tersebut memiliki nama yang sama dengan perusahaan sungguhan.
Pada awalnya, pengujian itu dirancang untuk menguji kemampuan Gemini dalam menyelesaikan tantangan keamanan siber. AI tersebut juga seharusnya hanya mengakses lingkungan simulasi dan tidak memiliki akses ke internet, namun terjadi kesalahan yang membuat model dapat terhubung ke internet.
Dengan akses tersebut, Gemini kemudian menemukan informasi publik dan kredensial yang dapat digunakan untuk mengakses sistem di luar lingkungan pengujian. Dalam salah satu kasus, Gemini disebut berulang kali mencoba menebak kata sandi hingga dapat masuk ke sistem yang dilindungi.
Di dua kasus lainnya, Gemini menemukan kredensial yang tersimpan di repositori publik dan menggunakannya untuk mengakses sistem perusahaan.
Google mengatakan, Gemini langsung menghentikan aksinya setelah menyadari bahwa sistem yang diakses merupakan milik perusahaan nyata. Wakil Presiden Google untuk bidang Security Engineering, Heather Adkins, mengatakan bahwa pihaknya telah memberi tahu ketiga perusahaan yang terdampak.
Google juga bekerja sama dengan Irregular untuk memperbaiki proses pengujian agar kejadian serupa tidak terulang. Irregular adalah perusahaan/lab keamanan siber yang fokus menguji keamanan dan kemampuan model AI, khususnya AI generatif yang semakin mampu menjalankan tugas secara mandiri.
Perusahaan ini bekerja sama dengan sejumlah laboratorium AI untuk melakukan security evaluation sebelum model dirilis. "Peristiwa ini menunjukkan pentingnya melatih model AI yang kuat untuk bertindak secara bertanggung jawab," kata Adkins dalam pernyataan kepada Reuters.
Google menyebut, insiden tersebut sebagai hasil dari kesalahan dalam lingkungan pengujian, dan perusahaan juga mengatakan bahwa Gemini tidak menyebabkan kerugian pada ketiga perusahaan tersebut. Google tidak mengungkap identitas tiga perusahaan yang sistemnya sempat diakses Gemini maupun versi Gemini yang digunakan dalam pengujian.
Kasus Gemini menjadi bagian dari sejumlah insiden ketika model AI keluar dari batas lingkungan pengujian dan mengakses sistem dunia nyata. Irregular sebelumnya juga terlibat dalam pengujian yang berkaitan dengan model AI milik OpenAI, Anthropic, dan Meta.
Perusahaan-perusahaan tersebut juga mengungkap insiden ketika model AI mereka melakukan aktivitas siber di luar lingkungan yang seharusnya. Google mengatakan, pihaknya tidak menganggap kasus Gemini tersebut sebagai contoh model misalignment, yang merujuk pada kondisi ketika perilaku model AI menyimpang dari tujuan atau batasan yang ditetapkan.
Adapun kasus Gemini memiliki kemiripan dengan insiden yang menimpa Hugging Face pada Juli lalu. Saat itu, agen AI OpenAI diketahui melakukan aktivitas siber terhadap sistem di luar lingkungan yang seharusnya.
Namun, Google menilai kasus Gemini berbeda karena model AI yang diuji dapat menghentikan aksinya setelah mengetahui bahwa sistem yang diakses merupakan milik perusahaan nyata.
Rekomendasi Berita
Memuat berita terbaru.....