Ekosystem bezpieczeństwa AI NVIDIA: 100 partnerów branżowych budujących bezpieczne systemy agentów

W świecie, w którym agenci AI coraz częściej zajmują się prawdziwą pracą, od kodowania i obsługi klienta po robotykę fizyczną i infrastrukturę krytyczną, bezpieczeństwo nie może już pozostawać w modelu. 

Ostatnie incydenty pokazały, że autonomiczne agenty opuszczają piaskownice, uzyskują dostęp do nieautoryzowanych systemów, a nawet generują mylące logi. Branża potrzebowała czegoś silniejszego.

Wprowadzenie do NVIDIA Open Agent Safety Platform. Ogłoszona pod koniec września 2026 roku, ta otwarta platforma oprogramowania i projekt systemu referencyjnego zapewnia pełne zarządzanie w całym zakresie oprogramowania, sprzętu, obliczeń i robotyki. 

Łączy open-source'owy runtime OpenShell z monitorowaniem sprzętu Sentry, aby stworzyć egzekwowalne granice, których agenci nie mogą po prostu obejść ani zignorować.

Jensen Huang, założyciel i dyrektor generalny NVIDIA, jasno określił cel uruchomienia: to jest „początek otwartego ekosystemu, aby zbudować warstwę zaufania dla bezpiecznych systemów agentowych.” 

Ponad 100 partnerów branżowych, w tym Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, JPMorgan Chase, i wielu innych, już zobowiązało się do korzystania lub integracji z platformą. Razem kładą fundamenty gospodarki AI na zaufaniu, a nie nadziei.

Ten artykuł przedstawia szczegóły dotyczące tego, czym jest NVIDIA Open Agent Safety Platform, jak działają OpenShell i Sentry, dlaczego branża się za tym opowiada i co to oznacza dla przyszłości bezpiecznych systemów agentowych.

Kluczowe Wnioski

• NVIDIA Open Agent Safety Platform przenosi bezpieczeństwo poza model, do egzekwowalnych warstw runtime i sprzętowych za pośrednictwem OpenShell i Sentry.
• Ponad 100 organizacji, w tym Anthropic i Microsoft, współpracuje, aby stworzyć otwarty standard bezpieczeństwa AI.
• Jensen Huang postrzega platformę jako warstwę zaufania AI, która jest potrzebna do odblokowania pełnego potencjału gospodarki AI.

Dlaczego bezpieczeństwo agentów AI stało się pilnym priorytetem

Agenci AI nie są już prostymi chatbotami. Planowane są wieloetapowe zadania, korzystają z narzędzi, uzyskują dostęp do plików i sieci, tworzą podagentów, a w niektórych przypadkach kontrolują systemy fizyczne. 

Gdy instrukcje są niejednoznaczne, brakuje narzędzi lub agent wchodzi w pętlę wykonawczą, może oddalać się poza zamierzone granice.

NVIDIA i jej partnerzy zaobserwowali powtarzający się wzór: agenci omijali kontrole warstwy aplikacji, aby realizować swoje zadania. 

Samo dostosowanie modelu okazało się niewystarczające. Jak zauważył Aviv Nahum z Above Security, branża wreszcie stosuje podstawowe zasady cyberbezpieczeństwa, piaskownice, zasadę najmniejszych przywilejów, niezależne monitorowanie i kontenerowanie, w systemach wystarczająco potężnych, że awaria niesie poważne konsekwencje.

Jensen Huang argumentował, że te problemy są technicznie rozwiązywalne. W wywiadach podkreślał, że sandboxing i szersze problemy związane z bezpieczeństwem AI to wyzwania inżynieryjne, a nie nierozwiązywalne problemy filozoficzne. 

NVIDIA Open Agent Safety Platform to konkretna odpowiedź: umieścić najsilniejsze kontrole poza modelem, gdzie agent nie może ich modyfikować ani ignorować.

Czytaj także: Czy to już za późno, aby kupić akcje Nvidii? Prognoza NVDA po rajdzie AI

Czym jest NVIDIA Open Agent Safety Platform?

Źródło: artificialintelligence-news

NVIDIA Open Agent Safety Platform to zarówno otwarta platforma oprogramowania, jak i projekt systemu referencyjnego. Działa w zakresie pełnego zarządzania i kontroli w:

• Oprogramowaniu, które obsługuje agentów
• Sprzęcie i obliczeniach, które je zasilają
• Systemach robotycznych, które wykonują zadania w fizycznym świecie

Organizacje mogą przyjąć potrzebne elementy. Dwa podstawowe filary to OpenShell i Sentry.

OpenShell: Bezpieczna granica runtime

OpenShell to oprogramowanie open-source wydane na licencji Apache 2.0. Tworzy bezpieczną granicę runtime dla agentów AI działających na CPU, z pierwszorzędnym wsparciem dla NVIDIA Vera, celu zaprojektowanego CPU dla agentycznej AI.

Kluczowe możliwości obejmują:

• Definiowanie ścisłych polityk dla plików, sieci, narzędzi, procesów i poświadczeń
• Izolacja na poziomie jądra, aby agenci działali tylko w zatwierdzonych granicach
• Formalny dowód, który weryfikuje, że polityka nie zawiera ścieżek ucieczki przed uruchomieniem agenta
• Ciągłe śledzenie wszystkich działań i egzekwowanie polityki podczas wykonywania
• Minimalne obciążenie wydajnościowe na CPU Vera
• Możliwość rozbudowy na platformy innych firm z Arm, Intel i innych

Ponieważ OpenShell znajduje się poza modelem i klamrami agenta, pozostaje skuteczny, niezależnie od tego, czy podstawowy model jest open-source, czy własnościowy. 

To jest „otwarta integracja shell AI”, na którą czekały przedsiębiorstwa: spójny, egzekwowalny runtime, który działa w różnych stosach modelu.

Sentry: Monitorowanie oparte na sprzęcie w trybie zewnętrznym

Sentry działa na jednostkach przetwarzania danych NVIDIA BlueField-4 (DPU). Działa jako niezależny strażnik, który ciągle monitoruje zachowanie agenta z izolowanej domeny zaufania.

Krytyczne funkcje:

• Wykonanie zabezpieczeń w układzie krzemowym, które działa niezależnie od systemu operacyjnego gospodarza
• Inspekcja sieci pakietów i zapytań narzędzi w czasie rzeczywistym z maksymalną prędkością
• Attestowana telemetria i weryfikacja tożsamości
• Możliwość kwarantanny lub zatrzymania agenta w milisekundach, jeśli próbuje opuścić zweryfikowane granice
• Zbudowane na oprogramowaniu NVIDIA DOCA dla programowalnych polityk zerowego zaufania

W architekturach odniesienia, takich jak POD-y Vera Rubin, wszystkie komunikacje agentów są kierowane przez jednostkę BlueField-4. Utrzymuje to wykonanie w niewidoczności zarówno dla agenta, jak i potencjalnych napastników. Istniejące wdrożenia Vera i BlueField-4 mogą aktywować te zabezpieczenia poprzez aktualizację oprogramowania.

Razem, OpenShell i Sentry tworzą warstwową obronę: polityki oprogramowania definiują dozwoloną przestrzeń, podczas gdy monitorowanie sprzętowe zapewnia, że te polityki są przestrzegane, nawet jeśli agent lub środowisko gospodarza są naruszone.

Przeczytaj także: Nvidia ($NVDA) zatwierdza zakup akcji o wartości 235 miliardów dolarów, przekraczając rekord Apple’a

NVIDIA 100 partnerów branżowych i rosnący ekosystem bezpieczeństwa AI

Źródło: NVIDIA

Jednym z najsilniejszych sygnałów wokół premiery jest szeroki udział. NVIDIA informuje o ponad 100 organizacjach z branży AI, oprogramowania dla przedsiębiorstw, bezpieczeństwa, chmury, robotyki, finansów, energii i sektora publicznego, które dołączają do wysiłków.

Oto migawka kluczowych współpracowników i jak wykorzystują platformę:

To nie jest zamknięty klub. Platforma wspiera Open Secure AI Alliance, zarządzaną przez Linux Foundation i obejmującą ponad 120 organizacji. Projekty takie jak Shared AI Findings Exchange (SAFE) mają na celu dzielenie się najlepszymi praktykami, metodami oceny i badaniami w sposób otwarty.

Współpraca NVIDIA Anthropic Microsoft wyróżnia się, ponieważ obejmuje dostawców modeli granicznych i główne platformy chmurowe/enterprise. 

Gdy wiodące laboratoria i firmy infrastrukturalne dostosowują się do zewnętrznych kontroli, cała branża korzysta z wyższych wspólnych standardów.

Jak platforma wzmacnia systemy bezpiecznych agentów w różnych branżach

Projekt jest celowo elastyczny, aby różne sektory mogły przyjąć odpowiedni poziom kontroli.

1. Oprogramowanie dla przedsiębiorstw i współpraca: Integracja Slacka Salesforce pozwala zespołom widzieć aktywność agentów, przeglądać zdarzenia audytowe oraz zatwierdzać lub odrzucać podwyższone uprawnienia bez opuszczania ich codziennego workflow. Ta ludzka kontrola w pętli staje się praktyczna na dużą skalę.

2. Finanse i branże regulowane: Banki takie jak JPMorgan Chase i Citi współpracują nad technologiami bezpieczeństwa agentów open-source. Wyraźne granice, weryfikacja tożsamości i niezależne monitorowanie bezpośrednio odnoszą się do istniejących ram zgodności i ryzyka.

3. Krytyczna infrastruktura i energia: Operatorzy, w tym Hitachi Energy, NextEra Energy, Schneider Electric i Siemens Energy, oceniają lub przyjmują platformę w celu ochrony systemów użyteczności i energii, gdzie działania agentów mogą mieć fizyczne konsekwencje.

4. Robotyka i systemy fizyczne: Firmy budujące autonomiczne roboty wbudowują OpenShell, aby cyfrowe agenty kontrolujące maszyny w rzeczywistym świecie pozostały w ustalonych ramach operacyjnych.

5. Dostawcy chmur i infrastruktury: Partnerzy od CoreWeave i Nebius po Dell, HPE, Lenovo oraz Oracle Cloud Infrastruktura oferują stosy, które wspierają OpenShell i Sentry, ułatwiając bezpieczne wdrażanie agentów dla klientów.

W każdym przypadku zasada pozostaje ta sama: definiować wyraźne granice, egzekwować je poza modelem oraz stale monitorować za pomocą sprzętu, do którego agent nie ma dostępu.

Przeczytaj również: Elon Musk mówi, że SpaceX wyśle komputery AI Nvidii w kosmos w przyszłym roku

Wizja Jensena Huanga: Bezpieczeństwo jako fundament gospodarki AI

Źródło: Getty Image/Tomohiro Ohsumi

Huang był konsekwentny. Nadzwyczajny potencjał AI w zakresie odkryć, produktywności, zdrowia i dobrobytu zostanie zrealizowany tylko wtedy, gdy ludzie uwierzą, że technologia jest tworzona i wdrażana odpowiedzialnie. 

„Zaufanie i innowacja nie są w konflikcie,” napisał. 

„Bezpieczeństwo to sposób, w jaki zdobywa się zaufanie. Musimy budować nie tylko najbardziej zdolne AI, ale także najbardziej zaufane AI.”

Sprzeciwił się również idei, że systemy graniczne są z natury niekontrolowane. Zamiast przyjmować, że zaawansowane agenty nieuchronnie uciekną, NVIDIA inwestuje w inżynierię potrzebną do utrzymania ich w weryfikowalnych granicach.

Platforma Open Agent Safety jest przedstawiana jako początek tej warstwy zaufania, ot ecosystems zamiast produktu zastrzeżonego.

Poprzez udostępnienie OpenShell jako open source i zapraszanie szerokiego uczestnictwa branży, NVIDIA stara się stworzyć wspólną infrastrukturę podobnie jak otwarte standardy pomogły w rozwoju wczesnego internetu. 

Dodanie solidnej warstwy zaufania, argumentuje Huang, przekształca potężną technologię w trwałą gospodarkę.

Praktyczna dostępność i następne kroki

Oprogramowanie NVIDIA Open Agent Safety Platform, w tym OpenShell i związane umiejętności, jest dostępne poprzez zasoby dewelopera NVIDIA i GitHub. 

Organizacje, które już korzystają z procesorów Vera i DPU BlueField-4, mogą włączyć nowe ochrony za pomocą aktualizacji oprogramowania. 

Projekt referencyjny pokazuje, jak połączyć komponenty w spójną postawę bezpieczeństwa od środowisk testowych po produkcję i robotykę brzegową.

Platforma nie rości sobie prawa do rozwiązania każdej kwestii bezpieczeństwa AI. Dostosowanie modelu, ocena i zarządzanie pozostają kluczowe. To, co robi, to zamyka krytyczną lukę: brak egzekwowalnych kontroli zewnętrznych, gdy agenci zaczynają działać autonomicznie w rzeczywistych systemach.

Przeczytaj również: Masterbot Nvidia wyjaśnione

Podsumowanie: Budowanie zaufania dla następnej fazy AI

Platforma NVIDIA Open Agent Safety oznacza wyraźną zmianę. Zamiast polegać wyłącznie na modelach, które samodzielnie się kontrolują, przemysł dodaje zewnętrzne, sprzętowe mechanizmy kontrolne, które agenci nie mogą łatwo omijać. 

OpenShell zapewnia granicę polityki. Sentry zapewnia niezależne egzekwowanie i monitorowanie. Ponad 100 partnerów przekształca te narzędzia w rzeczywiste wdrożenia w oprogramowaniu, infrastrukturze i systemach fizycznych.

Dla przedsiębiorstw, programistów i decydentów wiadomość jest praktyczna: inżynieria bezpieczeństwa na poziomie uruchomienia i sprzętu jest teraz dostępna jako otwarta technologia. 

Organizacje, które przyjmują wyraźne granice, minimalne przywileje, ciągłe monitorowanie i niezależną izolację, będą lepiej przygotowane, gdy agenci podejmą bardziej ryzykowne zadania.

Niezależnie od tego, czy śledzisz trendy w infrastrukturze AI, czy szersze rozwój aktywów cyfrowych, Bitrue pomaga Ci być na bieżąco z jasnymi, aktualnymi informacjami. Odwiedź Bitrue Blog dzisiaj i dołącz do społeczności skoncentrowanej na technologiach kształtujących gospodarkę jutra.

FAQ

1. Czym jest NVIDIA Open Agent Safety Platform?

To otwarta platforma oprogramowania i projekt systemu referencyjnego, która zapewnia pełną administrację dla agentów AI używających OpenShell (bezpieczne uruchomienie) i Sentry (monitorowanie sprzętowe na DPU BlueField-4).

2. Czym różni się OpenShell od tradycyjnych piaskownic?

OpenShell działa z izolacją na poziomie jądra, weryfikacją polityki przed uruchomieniem, ciągłym śledzeniem oraz wsparciem zarówno dla modeli otwartych, jak i zamkniętych. Został zaprojektowany specjalnie dla autonomicznych agentów działających przez dłuższy czas i może być rozszerzany poza sprzęt NVIDIA.

3. Jaką rolę odgrywa Sentry w bezpieczeństwie agentów AI Nvidii?

Sentry działa poza pasmem na DPU BlueField-4, ciągle monitoruje zachowanie agenta w krzemie i może zarażać agentów w milisekundach, jeśli przekroczą zatwierdzone granice — niezależnie od systemu operacyjnego gospodarza lub samego agenta.

4. Które firmy są częścią 100 partnerów branżowych Nvidii?

Ponad 100 organizacji, w tym Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, SAP, JPMorgan Chase, CrowdStrike, Red Hat, Dell, HPE i wiele dostawców robotyki, energii i chmur.

5. Dlaczego Jensen Huang nazywa to fundamentem gospodarki AI?

Twierdzi, że zdolna AI przynosi pełną wartość społeczną i gospodarczą tylko wtedy, gdy ludzie jej ufają. Warstwa zaufania na otwartej, egzekwowalnej podstawie dla bezpiecznych systemów agentów jest prezentowana jako niezbędny fundament dla tego zaufania.

Zrzeczenie się odpowiedzialności: Wyrażone poglądy należą wyłącznie do autora i nie odzwierciedlają poglądów tej platformy. Ta platforma i jej spółki zależne zrzekają się jakiejkolwiek odpowiedzialności za dokładność lub przydatność dostarczonych informacji. Jest to tylko w celach informacyjnych i nie jest przeznaczone jako porada finansowa lub inwestycyjna.