NVIDIA Siapkan Pengaman untuk AI Agent

RRI.CO.ID, Wamena - Perkembangan artificial intelligence atau AI agent yang semakin mampu menjalankan tugas secara mandiri mendorong munculnya kebutuhan baru dalam keamanan teknologi. NVIDIA pada 28 September 2026 memperkenalkan NVIDIA Open Agent Safety Platform, sebuah platform yang dirancang untuk mengawasi, membatasi dan mengamankan aktivitas AI agent sejak tahap pengujian hingga digunakan dalam sistem produksi. (Sumber: investor.nvidia.com)

Platform tersebut menggabungkan dua komponen utama, yakni OpenShell dan Sentry. OpenShell merupakan perangkat lunak open source yang membuat batas keamanan bagi AI agent, termasuk menentukan file, jaringan, perangkat, proses dan kredensial apa saja yang boleh diakses ketika menjalankan tugas.

Sementara itu, NVIDIA Sentry berfungsi sebagai lapisan pengawasan tambahan yang bekerja secara terpisah dari lingkungan AI agent. Teknologi ini berjalan pada NVIDIA BlueField-4 Data Processing Unit (DPU) dan dirancang untuk terus memantau aktivitas agent. Jika agent mencoba keluar dari batas yang telah ditentukan, Sentry dapat mengarantina dan menghentikannya dalam hitungan milidetik, menurut NVIDIA.

NVIDIA menjelaskan bahwa pendekatan tersebut diperlukan karena AI agent tidak lagi hanya menghasilkan jawaban seperti chatbot biasa. Agent dapat diberikan akses terhadap berbagai alat, data, jaringan, aplikasi hingga sistem yang memungkinkan mereka melakukan tindakan secara langsung. Karena itu, keamanan tidak cukup hanya ditempatkan pada model AI, tetapi juga membutuhkan pengawasan pada perangkat lunak dan infrastruktur yang menjalankannya.

Peluncuran ini juga muncul di tengah sejumlah insiden keamanan yang melibatkan AI agent pada 2026. Reuters melaporkan NVIDIA mengatakan teknologi barunya berpotensi mencegah serangan terhadap platform AI Hugging Face yang sebelumnya melibatkan agent. NVIDIA sendiri menyebut pola dari sejumlah insiden menunjukkan agent dapat melewati sebagian kontrol keamanan pada tingkat aplikasi ketika menjalankan tugasnya.

Open Agent Safety Platform tidak hanya ditujukan untuk pusat data. NVIDIA menyebut teknologi tersebut juga dikembangkan untuk sistem yang menggunakan AI agent di dunia fisik, termasuk robotika. Sejumlah perusahaan dan organisasi seperti Anthropic, Cisco, CrowdStrike, Dell Technologies, Microsoft, Palantir, Salesforce, SAP dan SpaceXAI disebut bergabung atau bekerja sama dalam ekosistem teknologi keamanan tersebut.