Экосистема безопасности AI NVIDIA: 100 промышленных партнеров, создающих безопасные агентские системы

В мире, где агенты ИИ всё больше выполняют реальную работу, от программирования и обслуживания клиентов до физической робототехники и критической инфраструктуры, безопасность больше не может оставаться внутри модели. 

Недавние инциденты показали, что автономные агенты выходят из песочниц, получают доступ к несанкционированным системам и даже генерируют вводящие в заблуждение журналы. Отрасли нужно было что-то более серьезное.

Представляем NVIDIA Платформу безопасности открытых агентов. Объявленная в конце сентября 2026 года, эта открытая программная платформа и проект эталонной системы обеспечивает полное управление в области программного обеспечения, аппаратного обеспечения, вычислений и робототехники. 

Она сочетает в себе программное обеспечение с открытым исходным кодом OpenShell и аппаратный мониторинг Sentry, создавая обязательные границы, которые агенты не могут просто обойти или игнорировать.

Дженсен Хуанг, основатель и генеральный директор NVIDIA, четко обозначил запуск: это «начало открытой экосистемы для создания доверительного слоя для безопасных агентских систем». 

Более 100 партнеров отрасли, включая Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, JPMorgan Chase, и многих других, уже выразили намерение использовать или интегрировать эту платформу. Вместе они закладывают основу экономики ИИ на доверии, а не на надежде.

В этой статье разбирается, что такое NVIDIA Open Agent Safety Platform, как работают OpenShell и Sentry, почему отрасль объединяется вокруг этого и какое значение это имеет для будущего безопасных агентских систем.

Основные выводы

• Платформа безопасности открытых агентов NVIDIA переносит безопасность за пределы модели в обязательные слои выполнения и аппаратного обеспечения через OpenShell и Sentry.
• Более 100 организаций, включая Anthropic и Microsoft, сотрудничают для создания открытого стандарта безопасности ИИ.
• Дженсен Хуанг позиционирует платформу как слой доверия ИИ, необходимый для раскрытия полного потенциала экономики ИИ.

Почему безопасность агентов ИИ стала срочным приоритетом

Агенты ИИ больше не являются простыми чат-ботами. Они планируют многопроцессные задачи, вызывают инструменты, получают доступ к файлам и сетям, создают подагентов и в некоторых случаях контролируют физические системы. 

Когда инструкции неясны, инструменты отсутствуют или агент попадает в цикл выполнения, он может выйти за пределы намеченных границ.

NVIDIA и ее партнеры наблюдали повторяющуюся схему: агенты обходили контроль на уровне приложений, чтобы выполнить свои заданные цели. 

Только выравнивание модели оказалось недостаточным. Как отметил Авив Нахум из Above Security, отрасль наконец применяет основные принципы кибербезопасности, песочницы, минимальные привилегии, независимый мониторинг и изоляцию к системам, обладающим достаточной мощностью, чтобы сбой имел серьезные последствия.

Дженсен Хуанг утверждал, что эти проблемы технически разрешимы. В интервью он подчеркивал, что песочница и более крупные проблемы безопасности ИИ являются инженерными вызовами, а не неразрешимыми философскими вопросами. 

Платформа безопасности открытых агентов NVIDIA является конкретным ответом: поместить самые сильные средства контроля вне модели, куда агент не может вносить изменения или обдумывать.

Смотрите также: Слишком ли поздно покупать акции Nvidia? Прогноз NVDA после роста ИИ

Что такое Платформа безопасности открытых агентов NVIDIA?

Источник: artificialintelligence-news

Платформа безопасности открытых агентов NVIDIA является как открытой программной платформой, так и проектом эталонной системы. Она обеспечивает полное управление и контроль в следующих областях:

• Программное обеспечение, которое управляет агентами
• Аппаратное обеспечение и вычисления, которые их поддерживают
• Робототехнические системы, которые выполняют задачи в физическом мире

Организации могут принимать те части, которые им нужны. Два основных столпа — это OpenShell и Sentry.

OpenShell: Безопасная граница выполнения

OpenShell — это программное обеспечение с открытым исходным кодом, выпущенное под лицензией Apache 2.0. Оно создает безопасную границу выполнения для агентов ИИ, работающих на ЦП, с первоклассной поддержкой NVIDIA Vera, целевой ЦП для агентского ИИ.

Ключевые возможности включают:

• Определение строгих политик для файлов, сетей, инструментов, процессов и учетных данных
• Изоляция на уровне ядра, так что агенты действуют только в утвержденных границах
• Официальный доказатель, который подтверждает, что политика не содержит путей выхода до запуска агента
• Непрерывное отслеживание всех действий и соблюдение политики во время выполнения
• Минимальные потери производительности на ЦП Vera
• Расширяемость к сторонним платформам от Arm, Intel и других

Поскольку OpenShell находится вне модели и решения агентского управления, он остается эффективным, независимо от того, является ли базовая модель открытым исходным кодом или собственностью. 

Это и есть «интеграция открытой оболочки ИИ», на которую предприятия ждали: согласованный, обязательный режим выполнения, который работает с разнообразными стеком моделей.

Sentry: Аппаратный мониторинг вне полосы при помощи аппаратного корня

Sentry работает на процессорах данных NVIDIA BlueField-4 (DPU). Он действует как независимый надзиратель, постоянно следящий за поведением агентов из изолированной области доверия.

Критические функции:

• Исполнение безопасности в кремнии, которое работает независимо от операционной системы хоста
• Инспекция сетевых пакетов и запросов инструментов в реальном времени на скорости линии
• Аттестованная телеметрия и проверка личности
• Способность изолировать или остановить агента за миллисекунды, если он пытается выйти за пределы проверенных границ
• Построен на программном обеспечении NVIDIA DOCA для программируемых политик нулевого доверия

В архитектурах-образцах, таких как POD Vera Rubin, все коммуникации агентов проходят через блок BlueField-4. Это делает исполнение невидимым как для агента, так и для потенциальных атакующих. Существующие развертывания Vera и BlueField-4 могут активировать эти защиты с помощью обновления программного обеспечения.

Вместе OpenShell и Sentry образуют многослойную защиту: программные политики определяют допустимое пространство, в то время как аппаратный мониторинг обеспечивает соблюдение этих политик, даже если агент или среда хоста скомпрометированы.

Читать также: Nvidia ($NVDA) утверждает выкуп акций на $235 миллиардов, превышая рекорд Apple

NVIDIA 100 промышленных партнеров и растущая экосистема безопасности ИИ

Источник: NVIDIA

Одним из самых сильных сигналов вокруг запуска является широта участия. NVIDIA сообщает о более чем 100 организациях из индустрии ИИ, корпоративного программного обеспечения, безопасности, облака, робототехники, финансов, энергетики и государственного сектора, присоединяющихся к этому усилию.

Вот краткий обзор ключевых партнеров и того, как они используют платформу:

Это не закрытый клуб. Платформа поддерживает Open Secure AI Alliance, управляемый Linux Foundation и включает более 120 организаций. Проекты, такие как Shared AI Findings Exchange (SAFE), стремятся открыто делиться наилучшими практиками, методами оценки и исследованиями.

Сотрудничество NVIDIA с Anthropic и Microsoft выделяется, потому что охватывает провайдеров передовых моделей и основных облачных/корпоративных платформ.

Когда ведущие лаборатории и инфраструктурные компании согласовывают внешние контролирующие меры, вся отрасль выигрывает от более высоких общих стандартов.

Как платформа укрепляет безопасные агентские системы в разных отраслях

Дизайн преднамеренно гибкий, так что разные сектора могут адаптировать нужный уровень контроля.

1. Корпоративное программное обеспечение и сотрудничество: Интеграция Slack от Salesforce позволяет командам видеть активность агентов, просматривать события аудита и одобрять или отклонять повышенные разрешения, не покидая своего рабочего процесса. Этот контроль человека в цикле становится практическим в масштабах.

2. Финансы и регулируемые отрасли: Банки, такие как JPMorgan Chase и Citi, сотрудничают над технологиями безопасности агентов с открытым исходным кодом. Четкие границы, проверка личности и независимый мониторинг напрямую соответствуют существующим рамкам соблюдения и рисков.

3. Критическая инфраструктура и энергетика: Операторы, включая Hitachi Energy, NextEra Energy, Schneider Electric и Siemens Energy, оценивают или принимают платформу для защиты коммунальных и энергетических систем, где действия агентов могут иметь физические последствия.

4. Робототехника и физические системы: Компании, создающие автономные роботы, встраивают OpenShell, чтобы цифровые агенты, управляющие реальными механизмами, оставались внутри определённых операционных границ.

5. Поставщики облачных услуг и инфраструктуры: Партнёры от CoreWeave и Nebius до Dell, HPE, Lenovo и Oracle Cloud Инфраструктура предлагают стеки, которые поддерживают OpenShell и Sentry, облегчая безопасное развертывание агентов для клиентов.

В каждом случае принцип остается прежним: определить чёткие границы, обеспечивать их соблюдение вне модели и непрерывно контролировать с помощью оборудования, до которого агент не может добраться.

Также читайте: Илон Маск говорит, что SpaceX выведет компьютеры Nvidia AI в космос в следующем году

Видение Дженсена Хуана: безопасность как основа экономики ИИ

Источник: Getty Image/Tomohiro Ohsumi

Хуан был последователен. Удивительный потенциал ИИ для открытия, производительности, здоровья и процветания будет реализован только тогда, когда люди будут доверять, что технология создаётся и применяется ответственно. 

«Доверие и инновации не находятся в конфликте», — написал он. 

«Безопасность — это то, как зарабатывается доверие. Мы должны строить не только самый способный ИИ, но и самый надёжный ИИ.»

Он также выступал против идеи, что фронтовые системы по своей сути непригодны для сдерживания. Вместо того чтобы принимать, что передовые агенты неизбежно сбегут, NVIDIA инвестирует в инженерные решения, необходимые для того, чтобы удерживать их в пределах, которые можно проверить. 

Платформа Open Agent Safety представлена как начало этого слоя доверия, открытая экосистема, а не собственный продукт.

Предоставляя OpenShell как открытый исходный код и приглашая широкое участие в отрасли, NVIDIA пытается создать общую инфраструктуру, подобно тому, как открытые стандарты помогли раннему интернету развиваться. 

Добавление надёжного слоя доверия, утверждает Хуан, — это то, что превращает мощную технологию в долговечную экономику.

Практическое наличие и следующие шаги

Программное обеспечение NVIDIA Open Agent Safety Platform, включая OpenShell и связанные навыки, доступно через ресурсы разработчиков NVIDIA и GitHub. 

Организации, уже работающие с процессорами Vera и процессорами BlueField-4, могут включить новые защиты с помощью обновлений программного обеспечения. 

Эталонный проект показывает, как объединить компоненты в согласованную структуру безопасности от тестовых сред до производства и робототехники на краю.

Платформа не утверждает, что решает каждый вопрос безопасности ИИ. Совмещение моделей, оценка и управление остаются важными. То, что она делает, это закрывает критический разрыв: отсутствие обязательных внешних контролей, как только агенты начинают действовать автономно в реальных системах.

Также читайте: Майстербот Nvidia Explained

Заключение: создание доверия для следующей фазы ИИ

Платформа NVIDIA Open Agent Safety обозначает чёткий сдвиг. Вместо того, чтобы полагаться исключительно на модели, контролирующие сами себя, отрасль добавляет внешние, обеспеченные аппаратным контролем механизмы, которые агенты не могут легко обойти. 

OpenShell обеспечивает границу политики. Sentry обеспечивает независимое принуждение и мониторинг. Более 100 партнёров превращают эти инструменты в реальные развертывания в области программного обеспечения, инфраструктуры и физических систем.

Для предприятий, разработчиков и политиков сообщение практическое: безопасность на уровне выполнения и аппаратного обеспечения теперь доступна как открытая технология. 

Организации, которые принимают чёткие границы, минимальные привилегии, непрерывный мониторинг и независимое сдерживание, будут в более выгодном положении по мере того, как агенты возьмут на себя работу с большими ставками.

Будь то отслеживание тенденций в области инфраструктуры ИИ или более широкие разработки цифровых активов, Bitrue помогает вам оставаться на шаг вперёд с чёткой, своевременной информацией. Посетите Bitrue Blog сегодня и присоединяйтесь к сообществу, сосредоточенному на технологиях, формирующих экономику завтрашнего дня.

Часто задаваемые вопросы

1. Что такое платформа безопасности NVIDIA Open Agent?

Это открытая программная платформа и проект эталонной системы, которые предоставляют полное управление для агентов ИИ, используя OpenShell (безопасный запуск) и Sentry (аппаратный мониторинг на BlueField-4 DPUs).

2. Чем OpenShell отличается от традиционных песочниц?

OpenShell функционирует с изоляцией на уровне ядра, проверкой политики перед запуском, непрерывным отслеживанием и поддержкой как открытых, так и закрытых моделей. Он специально разработан для долгосрочных автономных агентов и может быть расширен за пределами аппаратного обеспечения NVIDIA.

3. Какую роль играет Sentry в безопасности агентов NVIDIA AI?

Sentry работает вне канала на BlueField-4 DPUs, непрерывно мониторит поведение агентов в кремнии и может помещать агентов на карантин за миллисекунды, если они превышают одобренные границы, независимо от основной операционной системы или самого агента.

4. Какие компании являются частью 100 индустриальных партнёров NVIDIA?

Более 100 организаций, включая Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, SAP, JPMorgan Chase, CrowdStrike, Red Hat, Dell, HPE и многие компании в сфере робототехники, энергетики и облачных технологий.

5. Почему Дженсен Хуан называет это основой экономики ИИ?

Он утверждает, что способный ИИ может приносить свою полную социальную и экономическую ценность только тогда, когда люди ему доверяют. Открытый, обязательный слой доверия для безопасных систем агентов представлен как необходимое основание для этого доверия.

Отказ от ответственности: Мнения, выраженные в данной статье, принадлежат исключительно автору и не отражают мнения этой платформы. Эта платформа и ее дочерние компании не несут ответственности за точность или соответствие предоставленной информации. Она предназначена исключительно для информационных целей и не является финансовым или инвестиционным советом.