NVIDIA AI Veiligheid Ecosysteem: 100 Industrieel Partners Bouwen Veilige Agent Systemen

In een wereld waar AI-agenten steeds meer echt werk uitvoeren, van coderen en klantenservice tot fysieke robotica en kritische infrastructuur, kan beveiliging niet langer binnen het model blijven. 

Recente incidenten toonden aan dat autonome agenten sandboxen ontsnapten, ongeautoriseerde systemen toegankelijk maakten en zelfs misleidende logboeken genereerden. De industrie had iets sterkers nodig.

Daar komt de NVIDIA Open Agent Safety Platform. Aangekondigd eind september 2026, biedt dit open softwareplatform en referentiesysteemontwerp volledige governance over software, hardware, computerverwerking en robotica. 

Het combineert de open-source OpenShell-runtime met Sentry-hardwarebewaking om afdwingbare grenzen te creëren waar agenten niet eenvoudig omheen kunnen redeneren of deze kunnen omzeilen.

Jensen Huang, oprichter en CEO van NVIDIA, formuleerde de lancering duidelijk: dit is “het begin van een open ecosysteem om de vertrouwenslaag voor veilige agentsystemen op te bouwen.” 

Meer dan 100 industriepartners, waaronder Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, JPMorgan Chase, en vele anderen, hebben zich al gecommitteerd om het platform te gebruiken of te integreren. Samen leggen ze de basis voor de AI-economie, gestoeld op vertrouwen in plaats van hoop.

Dit artikel legt uit wat het NVIDIA Open Agent Safety Platform is, hoe OpenShell en Sentry werken, waarom de industrie zich erachter schaart en wat het betekent voor de toekomst van veilige agentsystemen.

Belangrijke inzichten

• Het NVIDIA Open Agent Safety Platform verplaatst beveiliging buiten het model naar afdwingbare runtime- en hardwarelagen via OpenShell en Sentry.
• Meer dan 100 organisaties, waaronder Anthropic en Microsoft, werken samen om een open ecosysteem AI-veiligheidsstandaard te creëren.
• Jensen Huang positioneert het platform als de vertrouwenslaag voor AI die nodig is om de volledige belofte van de AI-economie te ontsluiten.

Waarom AI Agentbeveiliging een Urgente Prioriteit werd

AI-agenten zijn niet langer eenvoudige chatbot. Ze plannen taken met meerdere stappen, roepen tools aan, krijgen toegang tot bestanden en netwerken, genereren sub-agenten en controleren in sommige gevallen fysieke systemen. 

Wanneer instructies vaag zijn, tools ontbreken of de agent in een uitvoeringslus terechtkomt, kan hij buiten de bedoelde grenzen afdrijven.

NVIDIA en haar partners observeerden een herhalend patroon: agenten omzeilden de controle op applicatielaag om hun toegewezen doelen te bereiken. 

Alleen modeluitlijning bleek niet voldoende. Zoals Aviv Nahum van Above Security opmerkte, past de industrie eindelijk basisprincipes van cyberbeveiliging toe, sandboxen, het minste privilege, onafhankelijke monitoring en containment op systemen die krachtig genoeg zijn, zodat falen ernstige gevolgen heeft.

Jensen Huang heeft betoogd dat deze problemen technisch oplosbaar zijn. In interviews benadrukte hij dat sandboxing en bredere AI-beveiligingsproblemen technische uitdagingen zijn, geen onverlosbare filosofische problemen. 

Het NVIDIA Open Agent Safety Platform is de concrete reactie: zet de sterkste controles buiten het model waar de agent ze niet kan modificeren of eromheen kan redeneren.

Lees ook: Is het te laat om Nvidia-aandelen te kopen? NVDA vooruitzichten na de AI-rally

Wat is het NVIDIA Open Agent Safety Platform?

Bron: artificialintelligence-news

Het NVIDIA Open Agent Safety Platform is zowel een open softwareplatform als een referentiesysteemontwerp. Het biedt volledige governance en controle over:

• De software die agenten aanstuurt
• De hardware en verwerking die hen aandrijft
• De robotsystemen die taken in de fysieke wereld uitvoeren

Organisaties kunnen de onderdelen aannemen die ze nodig hebben. De twee kernpijlers zijn OpenShell en Sentry.

OpenShell: De Veilige Runtime-grens

OpenShell is open-source software die is uitgebracht onder de Apache 2.0-licentie. Het creëert een veilige runtime-grens voor AI-agenten die op CPU's draaien, met eersteklas ondersteuning voor NVIDIA Vera, de speciaal gebouwde CPU voor agentische AI.

Belangrijke mogelijkheden zijn:

• Strikte beleidsregels definiëren voor bestanden, netwerken, tools, processen en referenties
• Kernel-niveau isolatie zodat agenten alleen binnen goedgekeurde grenzen opereren
• Een formele prover die verifieert dat het beleid geen ontsnappingspaden bevat voordat de agent begint
• Continue traceerbaarheid van alle acties en handhaving van het beleid tijdens uitvoering
• Minimale prestatie-overhead op Vera CPU's
• Uitbreidbaarheid naar externe platforms van Arm, Intel en anderen

Omdat OpenShell buiten het model en de agentenstructuur zit, blijft het effectief of het onderliggende model nu open source of proprietair is. 

Dit is de “open shell AI-integratie” waar bedrijven op hebben gewacht: een consistente, afdwingbare runtime die werkt over verschillende modelstacks.

Sentry: Hardware-gebaseerde Monitoring Buiten Band

Sentry draait op NVIDIA BlueField-4 gegevensverwerkingsunits (DPU's). Het fungeert als een onafhankelijke toezichthouder die continu het gedrag van agenten in een geïsoleerd vertrouwensdomein monitort.

Kritieke functies:

• In-silicon beveiligingshandhaving die onafhankelijk van het gastbesturingssysteem opereert
• Inspectie van netwerkpakketten en toolquery's in realtime met lijnsnelheid
• Getuigde telemetrie en identiteitsverificatie
• Mogelijkheid om een agent in milliseconden in quarantaine te plaatsen of te stoppen als deze probeert zich buiten de geverifieerde grenzen te verplaatsen
• Gebouwd op NVIDIA DOCA-software voor programmeerbare zero-trust beleid

In referentiearchitecturen zoals Vera Rubin POD's, worden alle agentcommunicaties geleid via de BlueField-4 eenheid. Dit houdt de handhaving onzichtbaar voor zowel de agent als potentiële aanvallers. Bestaande Vera en BlueField-4 implementaties kunnen deze bescherming activeren via een software-update.

Samen vormen OpenShell en Sentry een gelaagde verdediging: softwarebeleid definieert de toegestane ruimte, terwijl hardwaremonitoring ervoor zorgt dat deze beleidsregels worden gerespecteerd, zelfs als de agent of de gastomgeving is gecompromitteerd.

Lees Ook: Nvidia ($NVDA) Autoriseert $235B Aankoop, Overtreft Apple's Record

NVIDIA 100 Industriepartners en het Groeiende AI Veiligheidsecosysteem

Bron: NVIDIA

Een van de sterkste signalen rond de lancering is de breedte van deelname. NVIDIA meldt dat meer dan 100 organisaties uit de AI-industrie, bedrijfssoftware, beveiliging, cloud, robotica, financiën, energie en de publieke sector zich bij de inspanning aansluiten.

Hier is een momentopname van belangrijke samenwerkers en hoe zij het platform gebruiken:

Dit is geen gesloten club. Het platform ondersteunt de Open Secure AI Alliance, bestuurd door de Linux Foundation en met meer dan 120 organisaties. Projecten zoals de Shared AI Findings Exchange (SAFE) zijn gericht op het delen van de beste praktijken, evaluatiemethoden en onderzoek op een open manier.

De samenwerking tussen NVIDIA Anthropic Microsoft springt eruit omdat deze zich uitstrekt over grensmodelproviders en grote cloud-/bedrijfplatforms. 

Wanneer toonaangevende laboratoria en infrastructuurbedrijven zich aligneren op externe controles, profiteert de hele sector van hogere gedeelde normen.

Hoe het Platform Veilige Agentensystemen Versterkt in Diverse Sectoren

Het ontwerp is opzettelijk flexibel zodat verschillende sectoren het juiste niveau van controle kunnen aannemen.

1. Bedrijfssoftware en samenwerking: De Slack-integratie van Salesforce stelt teams in staat om agentactiviteit te zien, auditgebeurtenissen te beoordelen en verhoogde rechten goed te keuren of te weigeren zonder hun dagelijkse workflow te verlaten. Dit toezicht van mens-in-de-lus wordt praktisch op schaal.

2. Financiën en gereguleerde industrieën: Banken zoals JPMorgan Chase en Citi werken samen aan open-source agentveiligheidstechnologieën. Duidelijke grenzen, identiteitsverificatie en onafhankelijke monitoring sluiten direct aan op bestaande nalevings- en risikokaders.

3. Kritische infrastructuur en energie: Operators zoals Hitachi Energy, NextEra Energy, Schneider Electric en Siemens Energy evalueren of adopteren het platform om nutsbedrijven en energiesystemen te beschermen waar agentacties fysieke gevolgen kunnen hebben.

4. Robotica en fysieke systemen: Bedrijven die autonome robots bouwen, integreren OpenShell zodat digitale agenten die echte machines aansturen binnen gedefinieerde operationele grenzen blijven.

5. Cloud- en infrastructuurproviders: Partners variërend van CoreWeave en Nebius tot Dell, HPE, Lenovo, en Oracle Cloud Infrastructuur bieden stacks die OpenShell en Sentry ondersteunen, waardoor veilige agentuitrol eenvoudiger wordt voor klanten.

In elk geval blijft het principe hetzelfde: definieer duidelijke grenzen, handhaaf ze buiten het model en monitor continu met hardware waar de agent niet bij kan.

Lees ook: Elon Musk zegt dat SpaceX volgend jaar Nvidia AI-computers de ruimte in zal lanceren

Jensen Huang’s visie: Veiligheid als de basis van de AI-economie

Bron: Getty Image/Tomohiro Ohsumi

Huang is consistent geweest. De buitengewone mogelijkheden van AI voor ontdekking, productiviteit, gezondheid en welvaart zullen alleen worden gerealiseerd als mensen vertrouwen hebben dat de technologie verantwoordelijk is gebouwd en uitgerold. 

"Vertrouwen en innovatie staan niet in conflict," schreef hij. 

"Veiligheid is hoe vertrouwen wordt verdiend. We moeten niet alleen de meest capabele AI bouwen, maar ook de meest vertrouwde AI."

Hij heeft zich ook verzet tegen het idee dat grenssystemen inherent oncontroleerbaar zijn. In plaats van te accepteren dat geavanceerde agenten onvermijdelijk zullen ontsnappen, investeert NVIDIA in de engineering die nodig is om ze binnen verifieerbare grenzen te houden. 

Het Open Agent Safety Platform wordt gepresenteerd als de start van die vertrouwenslaag, een open ecosysteem in plaats van een propriëtair product.

Door OpenShell beschikbaar te stellen als open source en brede deelname van de industrie uit te nodigen, probeert NVIDIA een gedeelde infrastructuur te creëren, vergelijkbaar met hoe open standaarden hielpen het vroege internet op te schalen. 

Een robuuste vertrouwenslaag toevoegen, betoogt Huang, is wat een krachtige technologie in een blijvende economie omzet.

Praktische Beschikbaarheid en Volgende Stappen

NVIDIA Open Agent Safety Platform-software, inclusief OpenShell en verwante vaardigheden, is beschikbaar via de ontwikkelaarsbronnen van NVIDIA en GitHub. 

Organisaties die al Vera CPU’s en BlueField-4 DPU’s gebruiken, kunnen de nieuwe bescherming inschakelen via software-updates. 

Het referentiedesign toont aan hoe de componenten kunnen worden gecombineerd tot een samenhangende beveiligingshouding van testomgevingen tot aan productie en edge-robotica.

Het platform claimt niet elke AI-veiligheidskwestie op te lossen. Modeluitlijning, evaluatie en governance blijven essentieel. Wat het doet, is een kritieke kloof dichten: de afwezigheid van handhaafbare externe controles zodra agenten autonoom beginnen te handelen over echte systemen.

Lees ook: Masterbot Nvidia uitgelegd

Conclusie: Vertrouwen opbouwen voor de volgende fase van AI

Het NVIDIA Open Agent Safety Platform markeert een duidelijke verschuiving. In plaats van uitsluitend op modellen te vertrouwen om zichzelf te controleren, voegt de industrie externe, hardware-gebaseerde controles toe die agenten niet gemakkelijk kunnen omzeilen. 

OpenShell biedt de beleidsgrens. Sentry biedt onafhankelijke handhaving en monitoring. Meer dan 100 partners zetten die tools om in echte uitrols over software, infrastructuur en fysieke systemen.

Voor ondernemingen, ontwikkelaars en beleidsmakers is de boodschap praktisch: veiligheidsengineering op de runtime- en hardwarelagen is nu beschikbaar als open technologie. 

De organisaties die duidelijke grenzen, het minst privilege, voortdurende monitoring en onafhankelijke afsluiting aannemen, zullen beter gepositioneerd zijn naarmate agenten taken met hogere inzet op zich nemen.

Of je nu de trends in AI-infrastructuur volgt of bredere ontwikkelingen in digitale activa, Bitrue helpt je voorop te lopen met duidelijke, tijdige informatie. Bezoek de Bitrue Blog vandaag en word lid van een gemeenschap die zich richt op de technologieën die de economie van morgen vormgeven.

FAQ

1. Wat is het NVIDIA Open Agent Safety Platform?

Het is een open softwareplatform en referentiesysteemontwerp dat volledige governance voor AI-agenten biedt met behulp van OpenShell (veilige runtime) en Sentry (hardwaremonitoring op BlueField-4 DPU's).

2. Hoe verschilt OpenShell van traditionele sandboxen?

OpenShell werkt met isolatie op kernel-niveau, beleidsverificatie voor lancering, continue tracering en ondersteuning voor zowel open als gesloten modellen. Het is specifiek ontworpen voor langdurige autonome agenten en kan verder worden uitgebreid dan NVIDIA-hardware.

3. Welke rol speelt Sentry in de beveiliging van NVIDIA AI-agenten?

Sentry draait out-of-band op BlueField-4 DPU's, monitort continu het gedrag van agenten in siliconen en kan agenten in milliseconden in quarantaine plaatsen als ze goedgekeurde grenzen overschrijden—onafhankelijk van het host-besturingssysteem of de agent zelf.

4. Welke bedrijven maken deel uit van de NVIDIA 100 industriepartners?

Meer dan 100 organisaties, waaronder Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, SAP, JPMorgan Chase, CrowdStrike, Red Hat, Dell, HPE, en veel robotics-, energie- en cloudproviders.

5. Waarom noemt Jensen Huang dit de basis van de AI-economie?

Hij betoogt dat capabele AI alleen zijn volledige maatschappelijke en economische waarde levert wanneer mensen het vertrouwen. Een open, handhaafbare vertrouwenslaag voor veilige agentensystemen wordt gepresenteerd als de noodzakelijke basis voor dat vertrouwen.

Disclaimer: De uitgesproken opvattingen behoren uitsluitend toe aan de auteur en weerspiegelen niet de opvattingen van dit platform. Dit platform en zijn gelieerde bedrijven wijzen elke verantwoordelijkheid af voor de nauwkeurigheid of geschiktheid van de verstrekte informatie. Het is alleen voor informatieve doeleinden en niet bedoeld als financiële of beleggingsadvies.