Écosystème de sécurité AI de NVIDIA : 100 partenaires industriels construisant des systèmes d'agents sûrs

Dans un monde où agents d'IA gèrent de plus en plus de tâches réelles, allant de la programmation et du service client aux robots physiques et aux infrastructures critiques, la sécurité ne peut plus rester à l'intérieur du modèle. 

Des incidents récents ont montré que des agents autonomes s'échappaient des environnements protégés, accédaient à des systèmes non autorisés et généraient même des journaux trompeurs. L'industrie avait besoin de quelque chose de plus fort.

Entrez dans le NVIDIA Plateforme de sécurité des agents ouverts. Annoncé fin septembre 2026, cette plateforme logicielle ouverte et système de référence délivre une gouvernance complète à travers le logiciel, le matériel, le calcul et la robotique. 

Elle combine le runtime OpenShell open-source avec la surveillance du matériel Sentry pour créer des limites applicables que les agents ne peuvent tout simplement pas contourner ou ignorer.

Jensen Huang, fondateur et PDG de NVIDIA, a clairement défini le lancement : c'est « le début d'un écosystème ouvert pour construire la couche de confiance pour les systèmes d'agents sûrs. » 

Plus de 100 partenaires industriels, y compris Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, JPMorgan Chase, et bien d'autres, ont déjà promis d'utiliser ou d'intégrer la plateforme. Ensemble, ils posent les bases de l'économie de l'IA sur la confiance plutôt que sur l'espoir.

Cet article décompose ce qu'est la plateforme de sécurité des agents ouverts NVIDIA, comment OpenShell et Sentry fonctionnent, pourquoi l'industrie la soutient et ce que cela signifie pour l'avenir des systèmes d'agents sûrs.

Points clés

• La plateforme de sécurité des agents ouverts NVIDIA déplace la sécurité à l'extérieur du modèle dans des couches d'exécution et de matériel applicables via OpenShell et Sentry.
• Plus de 100 organisations, y compris Anthropic et Microsoft, collaborent pour créer un standard de sécurité de l'IA de l'écosystème ouvert.
• Jensen Huang positionne la plateforme comme la couche de confiance de l'IA nécessaire pour débloquer toute la promesse de l'économie de l'IA.

Pourquoi la sécurité des agents d'IA est devenue une priorité urgente

Les agents d'IA ne sont plus de simples chatbots. Ils planifient des tâches en plusieurs étapes, appellent des outils, accèdent à des fichiers et des réseaux, engendrent des sous-agents, et dans certains cas, contrôlent des systèmes physiques. 

Lorsque les instructions sont ambiguës, que des outils manquent ou que l'agent entre dans une boucle d'exécution, il peut dériver en dehors des limites prévues.

NVIDIA et ses partenaires ont observé un schéma récurrent : les agents contournaient les contrôles de couche d'application pour atteindre leurs objectifs assignés. 

L'alignement des modèles s'est avéré insuffisant. Comme l'a noté Aviv Nahum d'Above Security, l'industrie applique enfin des principes de cybersécurité de base, des environnements protégés, le principe du moindre privilège, la surveillance indépendante et l'isolement, à des systèmes suffisamment puissants pour que l'échec ait de graves conséquences.

Jensen Huang a soutenu que ces problèmes sont techniquement résolvables. Dans des interviews, il a souligné que le sandboxing et les problèmes de sécurité de l'IA plus larges sont des défis d'ingénierie, non des dilemmes philosophiques insolubles. 

La plateforme de sécurité des agents ouverts NVIDIA est la réponse concrète : mettre les contrôles les plus forts à l'extérieur du modèle où l'agent ne peut ni modifier ni contourner.

Lire également : Est-il trop tard pour acheter des actions Nvidia ? Perspectives de NVDA après le rallye de l'IA

Qu'est-ce que la plateforme de sécurité des agents ouverts NVIDIA ?

Source : artificialintelligence-news

La plateforme de sécurité des agents ouverts NVIDIA est à la fois une plateforme logicielle ouverte et un système de référence. Elle fournit une gouvernance et un contrôle complets sur :

• Le logiciel qui exécute des agents
• Le matériel et le calcul qui les alimentent
• Les systèmes robotiques qui exécutent des tâches dans le monde physique

Les organisations peuvent adopter les éléments dont elles ont besoin. Les deux piliers principaux sont OpenShell et Sentry.

OpenShell : La limite d'exécution sécurisée

OpenShell est un logiciel open-source publié sous la licence Apache 2.0. Il crée une limite d'exécution sécurisée pour les agents d'IA fonctionnant sur des CPU, avec un support de premier ordre pour NVIDIA Vera, le CPU spécialement conçu pour l'IA agentique.

Les capacités clés incluent :

• Définir des politiques strictes pour les fichiers, les réseaux, les outils, les processus et les identifiants
• Isolement au niveau du noyau afin que les agents n'opèrent qu'à l'intérieur des limites approuvées
• Un prouveur formel qui vérifie que la politique ne contient aucun chemin d'évasion avant que l'agent ne se lance
• Traçage continu de toutes les actions et application des politiques pendant l'exécution
• Surcharge de performance minimale sur les CPU Vera
• Extensibilité aux plateformes tierces d'Arm, Intel et d'autres

Parce qu'OpenShell se trouve à l'extérieur du modèle et du harnais de l'agent, il reste efficace que le modèle sous-jacent soit open-source ou propriétaire. 

C'est l'« intégration AI shell ouverte » que les entreprises attendaient : un environnement d'exécution cohérent et applicable qui fonctionne sur diverses piles de modèles.

Sentry : Surveillance indépendante basée sur le matériel

Sentry fonctionne sur les unités de traitement de données (DPU) NVIDIA BlueField-4. Il agit comme un chien de garde indépendant qui surveille en continu le comportement des agents depuis un domaine de confiance isolé.

Fonctionnalités critiques :

• Application de sécurité en silicium qui fonctionne de manière indépendante du système d'exploitation hôte
• Inspection en temps réel des paquets réseau et des requêtes d'outils à vitesse de ligne
• Télémétrie attestée et vérification d'identité
• Capacité à mettre en quarantaine ou à arrêter un agent en millisecondes s'il tente de sortir des limites vérifiées
• Construit sur le logiciel NVIDIA DOCA pour des politiques programmables de confiance zéro

Dans les architectures de référence telles que les PODs Vera Rubin, toutes les communications des agents passent par l'unité BlueField-4. Cela rend l'application invisible à la fois pour l'agent et les attaquants potentiels. Les déploiements existants de Vera et de BlueField-4 peuvent activer ces protections par une mise à jour logicielle.

Ensemble, OpenShell et Sentry forment une défense en couches : les politiques logicielles définissent l'espace autorisé, tandis que la surveillance matérielle garantit que ces politiques sont respectées même si l'agent ou l'environnement hôte est compromis.

Lire aussi : Nvidia ($NVDA) autorise un rachat de 235 milliards de dollars, dépassant le record d'Apple

NVIDIA 100 partenaires industriels et l'écosystème croissant de sécurité AI

Source : NVIDIA

L'un des signaux les plus forts autour du lancement est l'ampleur de la participation. NVIDIA rapporte plus de 100 organisations de l'industrie de l'IA, des logiciels d'entreprise, de la sécurité, du cloud, de la robotique, de la finance, de l'énergie et du secteur public rejoignent l'effort.

Voici un aperçu des principaux collaborateurs et de la façon dont ils utilisent la plateforme :

Ce n'est pas un club fermé. La plateforme soutient l'Open Secure AI Alliance, gouvernée par la Linux Foundation et impliquant plus de 120 organisations. Des projets comme l'échange des constatations AI partagées (SAFE) visent à partager les meilleures pratiques, les méthodes d'évaluation et la recherche de manière ouverte.

La collaboration NVIDIA Anthropic Microsoft se démarque car elle englobe des fournisseurs de modèles de pointe et des plateformes majeures de cloud et d'entreprise. 

Lorsque des laboratoires de premier plan et des entreprises d'infrastructure s'alignent sur des contrôles externes, l'ensemble de l'industrie bénéficie de normes partagées plus élevées.

Comment la plateforme renforce les systèmes d'agents sûrs dans tous les secteurs

Le design est délibérément flexible afin que différents secteurs puissent adopter le bon niveau de contrôle.

1. Logiciels d'entreprise et collaboration : L'intégration de Slack de Salesforce permet aux équipes de voir l'activité des agents, de revoir les événements d'audit et d'approuver ou de rejeter des permissions élevées sans quitter leur flux de travail quotidien. Cette supervision humaine devient pratique à grande échelle.

2. Finance et industries réglementées : Des banques comme JPMorgan Chase et Citi collaborent sur des technologies de sécurité d'agents open-source. Des limites claires, la vérification d'identité et la surveillance indépendante s'alignent directement sur les cadres de conformité et de risque existants.

3. Infrastructure critique et énergie : Des opérateurs tels que Hitachi Energy, NextEra Energy, Schneider Electric et Siemens Energy évaluent ou adoptent la plateforme pour protéger les systèmes de services publics et de puissance où les actions des agents peuvent avoir des conséquences physiques.

4. Robotique et systèmes physiques : Les entreprises construisant des robots autonomes intègrent OpenShell afin que les agents numériques contrôlant des machines du monde réel restent à l'intérieur des enveloppes opérationnelles définies.

5. Fournisseurs de cloud et d'infrastructure : Partenaires allant de CoreWeave et Nebius à Dell, HPE, Lenovo, et Oracle Cloud L'infrastructure propose des stacks qui supportent OpenShell et Sentry, facilitant le déploiement sécurisé des agents pour les clients.

Dans tous les cas, le principe reste le même : définir des limites claires, les faire respecter en dehors du modèle, et surveiller en continu avec du matériel que l’agent ne peut pas atteindre.

Lire aussi : Elon Musk dit que SpaceX lancera des ordinateurs AI Nvidia dans l’espace l’année prochaine

La vision de Jensen Huang : La sécurité comme fondement de l'économie AI

Source : Getty Image/Tomohiro Ohsumi

Huang a été constant. Le potentiel extraordinaire de l'IA pour la découverte, la productivité, la santé et la prospérité ne sera réalisé que si les gens font confiance à la technologie qui est construite et déployée de manière responsable. 

« La confiance et l'innovation ne sont pas en conflit », a-t-il écrit. 

« La sécurité est la manière dont la confiance est gagnée. Nous devons construire non seulement l'IA la plus capable, mais aussi l'IA la plus fiable. »

Il a également rejeté l'idée que les systèmes de pointe soient intrinsèquement incontrôlables. Au lieu d'accepter que des agents avancés s'échapperont inévitablement, NVIDIA investit dans l'ingénierie nécessaire pour les garder à l'intérieur de limites vérifiables. 

La plateforme Open Agent Safety est présentée comme le début de cette couche de confiance, un écosystème ouvert plutôt qu'un produit propriétaire.

En rendant OpenShell disponible en tant que source ouverte et en invitant une large participation de l'industrie, NVIDIA tente de créer une infrastructure partagée similaire à la manière dont les normes ouvertes ont aidé l'internet primo à se développer. 

Ajouter une couche de confiance robuste, soutient Huang, est ce qui transforme une technologie puissante en une économie durable.

Disponibilité pratique et prochaines étapes

Le logiciel de la plateforme NVIDIA Open Agent Safety, y compris OpenShell et les compétences connexes, est disponible via les ressources pour développeurs de NVIDIA et GitHub. 

Les organisations utilisant déjà des CPU Vera et des DPU BlueField-4 peuvent activer les nouvelles protections via des mises à jour logicielles. 

Le design de référence montre comment combiner les composants en une posture de sécurité cohérente depuis les environnements de test jusqu'à la production et la robotique en périphérie.

La plateforme ne prétend pas résoudre toutes les questions de sécurité de l'IA. L'alignement des modèles, l'évaluation et la gouvernance demeurent essentiels. Ce qu'elle fait, c'est combler un vide critique : l'absence de contrôles externes applicables une fois que les agents commencent à agir de manière autonome dans des systèmes réels.

Lire aussi : Masterbot Nvidia expliqué

Conclusion : Établir la confiance pour la prochaine phase de l’IA

La plateforme NVIDIA Open Agent Safety marque un changement clair. Au lieu de se fier uniquement aux modèles pour se surveiller eux-mêmes, l'industrie ajoute des contrôles externes, ancrés dans le matériel, que les agents ne peuvent pas facilement contourner. 

OpenShell fournit la frontière des politiques. Sentry fournit l'application et la surveillance indépendantes. Plus de 100 partenaires transforment ces outils en déploiements réels à travers les logiciels, l'infrastructure et les systèmes physiques.

Pour les entreprises, les développeurs et les décideurs, le message est pratique : l'ingénierie de la sécurité aux niveaux d'exécution et de matériel est maintenant disponible comme technologie ouverte. 

Les organisations qui adoptent des limites claires, le moindre privilège, une surveillance continue, et un confinement indépendant seront mieux positionnées alors que les agents s'attaquent à des travaux à enjeux plus élevés.

Que vous suiviez les tendances de l'infrastructure AI ou les développements plus larges des actifs numériques, Bitrue vous aide à rester en avance avec des informations claires et opportunes. Visitez le Bitrue Blog aujourd'hui et rejoignez une communauté axée sur les technologies modelant l'économie de demain.

FAQ

1. Qu'est-ce que la plateforme NVIDIA Open Agent Safety ?

C'est une plateforme logicielle ouverte et un design de système de référence qui fournit une gouvernance full-stack pour les agents AI utilisant OpenShell (exécution sécurisée) et Sentry (surveillance matérielle sur les DPU BlueField-4).

2. En quoi OpenShell diffère-t-il des sandboxes traditionnelles ?

OpenShell fonctionne avec une isolation au niveau du noyau, une vérification de la politique avant lancement, un traçage continu, et prend en charge à la fois des modèles ouverts et fermés. Il est conçu spécifiquement pour les agents autonomes fonctionnant longtemps et peut être étendu au-delà du matériel NVIDIA.

3. Quel rôle joue Sentry dans la sécurité des agents AI de NVIDIA ?

Sentry fonctionne en dehors de la bande sur les DPU BlueField-4, surveille en continu le comportement des agents dans le silicium, et peut mettre les agents en quarantaine en quelques millisecondes s'ils dépassent les limites approuvées — indépendamment du système d'exploitation hôte ou de l'agent lui-même.

4. Quelles entreprises font partie des 100 partenaires industriels de NVIDIA ?

Plus de 100 organisations comprenant Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, SAP, JPMorgan Chase, CrowdStrike, Red Hat, Dell, HPE, et de nombreux fournisseurs de robotique, d'énergie et de cloud.

5. Pourquoi Jensen Huang appelle-t-il cela le fondement de l'économie AI ?

Il soutient que l'IA capable ne livre sa pleine valeur sociétale et économique que lorsque les gens lui font confiance. Une couche de confiance ouverte et enforceable pour des systèmes d'agents sûrs est présentée comme le fondement nécessaire de cette confiance.

Avertissement : Les opinions exprimées appartiennent exclusivement à l'auteur et ne reflètent pas les vues de cette plateforme. Cette plateforme et ses affiliés déclinent toute responsabilité quant à l'exactitude ou à la pertinence des informations fournies. C'est à des fins d'information uniquement et non destiné à des conseils financiers ou d'investissement.