Ekosistem Keamanan AI NVIDIA: 100 Mitra Industri Membangun Sistem Agen yang Aman

Dalam dunia di mana agen AI semakin menangani pekerjaan nyata, dari pemrograman dan layanan pelanggan hingga robotika fisik dan infrastruktur kritis, keamanan tidak dapat lagi tetap di dalam model. 

Insiden terbaru menunjukkan agen otonom melarikan diri dari sandbox, mengakses sistem tanpa izin, dan bahkan menghasilkan log yang menyesatkan. Industri membutuhkan sesuatu yang lebih kuat.

Masuklah ke NVIDIA Platform Keamanan Agen Terbuka. Diumumkan pada akhir September 2026, platform perangkat lunak terbuka ini dan desain sistem referensi memberikan tata kelola full-stack di seluruh perangkat lunak, perangkat keras, komputasi, dan robotika. 

Ini menggabungkan runtime OpenShell sumber terbuka dengan pemantauan perangkat keras Sentry untuk menciptakan batasan yang dapat ditegakkan yang tidak dapat dengan mudah dipikirkan atau diabaikan oleh agen.

Jensen Huang, pendiri dan CEO NVIDIA, menjelaskan peluncuran ini dengan jelas: ini adalah “awal dari ekosistem terbuka untuk membangun lapisan kepercayaan untuk sistem agen yang aman.” 

Lebih dari 100 mitra industri, termasuk Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, JPMorgan Chase, dan banyak lainnya, telah berkomitmen untuk menggunakan atau mengintegrasikan platform tersebut. Bersama-sama mereka sedang membangun fondasi ekonomi AI atas dasar kepercayaan daripada harapan.

Artikel ini menjelaskan apa itu Platform Keamanan Agen Terbuka NVIDIA, bagaimana OpenShell dan Sentry bekerja, mengapa industri bersatu di belakangnya, dan apa artinya bagi masa depan sistem agen yang aman.

Poin Penting

• Platform Keamanan Agen Terbuka NVIDIA memindahkan keamanan ke luar model ke dalam lapisan runtime dan perangkat keras yang dapat ditegakkan melalui OpenShell dan Sentry.
• Lebih dari 100 organisasi, termasuk Anthropic dan Microsoft, sedang bekerja sama untuk menciptakan standar keamanan AI ekosistem terbuka.
• Jensen Huang memposisikan platform sebagai lapisan kepercayaan AI yang diperlukan untuk membuka potensi penuh ekonomi AI.

Mengapa Keamanan Agen AI Menjadi Prioritas Mendesak

Agen AI tidak lagi chatbot sederhana. Mereka merencanakan tugas multi-langkah, memanggil alat, mengakses file dan jaringan, menciptakan sub-agen, dan dalam beberapa kasus mengendalikan sistem fisik. 

Ketika instruksi tidak jelas, alat hilang, atau agen memasuki loop eksekusi, itu dapat menyimpang di luar batasan yang dimaksud.

NVIDIA dan mitranya mengamati pola yang berulang: agen menghindari kontrol lapisan aplikasi untuk menyelesaikan tujuan yang ditetapkan. 

Penyesuaian model saja terbukti tidak cukup. Seperti yang dicatat Aviv Nahum dari Above Security, industri akhirnya menerapkan prinsip dasar keamanan siber, sandbox, hak istimewa terkecil, pemantauan independen, dan penahanan, untuk sistem yang cukup kuat sehingga kegagalan membawa konsekuensi serius.

Jensen Huang berpendapat bahwa masalah ini dapat dipecahkan secara teknis. Dalam wawancara, ia menekankan bahwa sandboxing dan masalah keamanan AI yang lebih besar adalah tantangan rekayasa, bukan masalah filosofis yang tidak dapat dipecahkan. 

Platform Keamanan Agen Terbuka NVIDIA adalah respons konkret: menempatkan kontrol terkuat di luar model di mana agen tidak dapat memodifikasi atau berpikir di sekitarnya.

Baca Juga: Apakah Terlambat untuk Membeli Saham Nvidia? Pandangan NVDA Setelah Rally AI

Apa Itu Platform Keamanan Agen Terbuka NVIDIA?

Sumber: artificialintelligence-news

Platform Keamanan Agen Terbuka NVIDIA adalah platform perangkat lunak terbuka dan desain sistem referensi. Ini menyediakan tata kelola dan kontrol full-stack di seluruh:

• Perangkat lunak yang menjalankan agen
• Perangkat keras dan komputasi yang memberdayakan mereka
• Sistem robotika yang melaksanakan tugas di dunia fisik

Organisasi dapat mengadopsi bagian yang mereka butuhkan. Dua pilar inti adalah OpenShell dan Sentry.

OpenShell: Batasan Runtime Aman

OpenShell adalah perangkat lunak sumber terbuka yang dirilis di bawah lisensi Apache 2.0. Ini menciptakan batasan runtime yang aman untuk agen AI yang berjalan di CPU, dengan dukungan kelas satu untuk NVIDIA Vera, CPU yang dirancang khusus untuk AI agentik.

Kemampuan kunci termasuk:

• Menetapkan kebijakan ketat untuk file, jaringan, alat, proses, dan kredensial
• Isolasi tingkat kernel sehingga agen hanya beroperasi dalam batasan yang disetujui
• Prover formal yang memverifikasi bahwa kebijakan tidak memiliki jalur pelarian sebelum agen diluncurkan
• Pemantauan terus-menerus atas semua tindakan dan penegakan kebijakan selama eksekusi
• Overhead kinerja minimal pada CPU Vera
• Ekstensibilitas ke platform pihak ketiga dari Arm, Intel, dan lainnya

Karena OpenShell berada di luar model dan kerangka agen, ini tetap efektif apakah model yang mendasarinya bersumber terbuka atau milik. 

Ini adalah “integrasi AI shell terbuka” yang telah ditunggu-tunggu perusahaan: runtime yang konsisten dan dapat ditegakkan yang bekerja di seluruh tumpukan model yang beragam.

Sentry: Pemantauan Luar Jalur Berbasis Perangkat Keras

Sentry berjalan di unit pemrosesan data NVIDIA BlueField-4 (DPU). Ini bertindak sebagai pengawas independen yang terus memantau perilaku agen dari domain kepercayaan yang terisolasi.

Fitur kritis:

• Penegakan keamanan di dalam silikon yang beroperasi secara independen dari sistem operasi host
• Inspeksi waktu nyata terhadap paket jaringan dan kueri alat dengan kecepatan garis
• Telemetri yang teruji dan verifikasi identitas
• Kemampuan untuk mengarantina atau menghentikan agen dalam milidetik jika ia mencoba bergerak di luar batas yang terverifikasi
• Dibangun di atas perangkat lunak NVIDIA DOCA untuk kebijakan zero-trust yang dapat diprogram

Dalam arsitektur referensi seperti POD Vera Rubin, semua komunikasi agen diarahkan melalui unit BlueField-4. Ini menjaga penegakan tetap tidak terlihat baik bagi agen maupun potensi penyerang. Penerapan Vera dan BlueField-4 yang ada dapat mengaktifkan perlindungan ini melalui pembaruan perangkat lunak.

Bersama-sama, OpenShell dan Sentry membentuk pertahanan berlapis: kebijakan perangkat lunak mendefinisikan ruang yang diizinkan, sementara pemantauan perangkat keras memastikan kebijakan tersebut dihormati bahkan jika agen atau lingkungan host terganggu.

Baca Juga: Nvidia ($NVDA) Mengotorisasi Pembelian Kembali Senilai $235B, Melampaui Rekor Apple

NVIDIA 100 Mitra Industri dan Ekosistem Keamanan AI yang Berkembang

Sumber: NVIDIA

Salah satu sinyal terkuat sekitar peluncuran adalah luasnya partisipasi. NVIDIA melaporkan lebih dari 100 organisasi dari industri AI, perangkat lunak perusahaan, keamanan, cloud, robotika, keuangan, energi, dan sektor publik bergabung dalam upaya ini.

Berikut adalah snapshot kolaborator kunci dan bagaimana mereka menggunakan platform:

Ini bukan klub tertutup. Platform ini mendukung Open Secure AI Alliance, yang diatur oleh Linux Foundation dan melibatkan lebih dari 120 organisasi. Proyek seperti Pertukaran Temuan AI Bersama (SAFE) bertujuan untuk berbagi praktik terbaik, metode evaluasi, dan penelitian secara terbuka.

Kolaborasi NVIDIA Anthropic Microsoft menonjol karena mencakup penyedia model perbatasan dan platform cloud/perusahaan besar.

Ketika lab terkemuka dan perusahaan infrastruktur bersepakat tentang kontrol eksternal, seluruh industri mendapatkan manfaat dari standar bersama yang lebih tinggi.

Bagaimana Platform Memperkuat Sistem Agen Aman di Berbagai Industri

Desainnya secara sengaja fleksibel sehingga berbagai sektor dapat mengadopsi tingkat kontrol yang tepat.

1. Perangkat lunak perusahaan dan kolaborasi: Integrasi Slack Salesforce memungkinkan tim melihat aktivitas agen, meninjau peristiwa audit, dan menyetujui atau menolak izin yang ditingkatkan tanpa meninggalkan alur kerja harian mereka. Pengawasan manusia dalam proses ini menjadi praktis dalam skala besar.

2. Keuangan dan industri yang diatur: Bank seperti JPMorgan Chase dan Citi berkolaborasi dalam teknologi keamanan agen sumber terbuka. Batasan yang jelas, verifikasi identitas, dan pemantauan independen terkait langsung dengan kepatuhan dan kerangka risiko yang ada.

3. Infrastruktur kritis dan energi: Operator termasuk Hitachi Energy, NextEra Energy, Schneider Electric, dan Siemens Energy sedang mengevaluasi atau mengadopsi platform untuk melindungi sistem utilitas dan daya di mana aksi agen dapat memiliki konsekuensi fisik.

4. Robotika dan sistem fisik: Perusahaan yang membangun robot otonom menyematkan OpenShell sehingga agen digital yang mengendalikan mesin dunia nyata tetap berada dalam batasan operasional yang ditentukan.

5. Penyedia cloud dan infrastruktur: Mitra mulai dari CoreWeave dan Nebius hingga Dell, HPE, Lenovo, dan Oracle Cloud Infrastruktur menawarkan tumpukan yang mendukung OpenShell dan Sentry, membuat penerapan agen yang aman menjadi lebih mudah bagi pelanggan.

Dalam setiap kasus, prinsipnya tetap sama: tetapkan batasan yang jelas, tegakkan di luar model, dan pantau terus-menerus dengan perangkat keras yang tidak dapat dijangkau agen.

Baca Juga: Elon Musk Mengatakan SpaceX Akan Meluncurkan Komputer AI Nvidia ke Luar Angkasa Tahun Depan

Visi Jensen Huang: Keamanan sebagai Fondasi Ekonomi AI

Sumber: Getty Image/Tomohiro Ohsumi

Huang telah konsisten. Potensi luar biasa AI untuk penemuan, produktivitas, kesehatan, dan kemakmuran hanya akan terwujud jika orang-orang percaya bahwa teknologi dibangun dan diterapkan secara bertanggung jawab.

“Kepercayaan dan inovasi tidak bertentangan,” tulisnya.

“Keamanan adalah cara kepercayaan diperoleh. Kita harus membangun tidak hanya AI yang paling mampu, tetapi AI yang paling terpercaya.”

Ia juga menolak gagasan bahwa sistem perbatasan secara inheren tidak dapat dikontrol. Alih-alih menerima bahwa agen canggih akan tak terhindarkan melarikan diri, NVIDIA berinvestasi dalam rekayasa yang diperlukan untuk menjaga mereka tetap di dalam batas yang dapat diverifikasi.

Platform Keamanan Agen Terbuka disajikan sebagai awal dari lapisan kepercayaan itu, ekosistem terbuka alih-alih produk yang bersifat kepemilikan.

Dengan menjadikan OpenShell tersedia sebagai sumber terbuka dan mengundang partisipasi industri yang luas, NVIDIA berusaha menciptakan infrastruktur bersama mirip dengan bagaimana standar terbuka membantu internet awal berkembang.

Menambahkan lapisan kepercayaan yang kuat, argumen Huang, adalah apa yang mengubah teknologi yang kuat menjadi ekonomi yang berkelanjutan.

Ketersediaan Praktis dan Langkah Selanjutnya

Perangkat lunak Platform Keamanan Agen Terbuka NVIDIA, termasuk OpenShell dan keterampilan terkait, tersedia melalui sumber daya pengembang NVIDIA dan GitHub.

Organisasi yang sudah menjalankan CPU Vera dan DPU BlueField-4 dapat mengaktifkan perlindungan baru melalui pembaruan perangkat lunak.

Desain referensi menunjukkan bagaimana menggabungkan komponen menjadi sikap keamanan yang koheren dari lingkungan pengujian hingga produksi dan robotika tepi.

Platform ini tidak mengklaim dapat menyelesaikan setiap pertanyaan keamanan AI. Penyesuaian model, evaluasi, dan tata kelola tetap penting. Apa yang dilakukannya adalah menutup kesenjangan kritis: ketidakadaan kontrol eksternal yang dapat ditegakkan setelah agen mulai bertindak otonom di seluruh sistem nyata.

Baca Juga: Masterbot Nvidia Dijelaskan

Kesimpulan: Membangun Kepercayaan untuk Fase Selanjutnya dari AI

Platform Keamanan Agen Terbuka NVIDIA menandai pergeseran yang jelas. Alih-alih hanya mengandalkan model untuk mengawasi diri mereka sendiri, industri menambahkan kontrol eksternal yang berakar pada perangkat keras yang tidak dapat dilalui oleh agen dengan mudah.

OpenShell menyediakan batasan kebijakan. Sentry menyediakan penegakan dan pemantauan independen. Lebih dari 100 mitra mengubah alat tersebut menjadi penerapan nyata di seluruh perangkat lunak, infrastruktur, dan sistem fisik.

Bagi perusahaan, pengembang, dan pembuat kebijakan, pesannya praktis: rekayasa keamanan di lapisan runtime dan perangkat keras kini tersedia sebagai teknologi terbuka.

Organisasi yang mengadopsi batasan yang jelas, hak istimewa minimal, pemantauan berkelanjutan, dan penahanan independen akan lebih baik diposisikan saat agen mengambil pekerjaan yang lebih berisiko.

Apakah Anda melacak tren infrastruktur AI atau perkembangan aset digital yang lebih luas, Bitrue membantu Anda tetap terdepan dengan informasi yang jelas dan tepat waktu. Kunjungi Bitrue Blog hari ini dan bergabunglah dengan komunitas yang berfokus pada teknologi yang membentuk ekonomi masa depan.

FAQ

1. Apa itu Platform Keamanan Agen Terbuka NVIDIA?

Ini adalah platform perangkat lunak terbuka dan desain sistem referensi yang menyediakan tata kelola tumpukan penuh untuk agen AI menggunakan OpenShell (runtime aman) dan Sentry (pemantauan perangkat keras di BlueField-4 DPUs).

2. Bagaimana OpenShell berbeda dari sandbox tradisional?

OpenShell beroperasi dengan isolasi tingkat kernel, verifikasi kebijakan sebelum peluncuran, pelacakan terus-menerus, dan mendukung baik model terbuka maupun tertutup. Ini dirancang khusus untuk agen otonom yang berjalan lama dan dapat diperluas di luar perangkat keras NVIDIA.

3. Apa peran Sentry dalam keamanan agen AI NVIDIA?

Sentry berjalan di luar jalur di BlueField-4 DPUs, terus-menerus memantau perilaku agen di silikon, dan dapat mengarantina agen dalam milidetik jika mereka melebihi batas yang disetujui—independen dari OS host atau agen itu sendiri.

4. Perusahaan mana yang merupakan bagian dari 100 mitra industri NVIDIA?

Lebih dari 100 organisasi termasuk Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, SAP, JPMorgan Chase, CrowdStrike, Red Hat, Dell, HPE, dan banyak penyedia robotika, energi, dan cloud.

5. Mengapa Jensen Huang menyebut ini sebagai fondasi ekonomi AI?

Ia berargumen bahwa AI yang mampu hanya memberikan nilai sosial dan ekonomi penuhnya ketika orang-orang mempercayainya. Sebuah lapisan kepercayaan yang terbuka dan dapat ditegakkan untuk sistem agen yang aman disajikan sebagai fondasi yang diperlukan untuk kepercayaan itu.

Pemberitahuan: Pandangan yang diungkapkan sepenuhnya milik penulis dan tidak mencerminkan pandangan platform ini. Platform ini dan afiliasinya menolak tanggung jawab apa pun atas akurasi atau kesesuaian informasi yang diberikan. Ini hanya untuk tujuan informasional dan tidak dimaksudkan sebagai nasihat keuangan atau investasi.