Hệ sinh thái An toàn AI của NVIDIA: 100 Đối tác Ngành xây dựng Hệ thống Đại lý An toàn

Trong một thế giới mà các tác nhân AI ngày càng đảm nhận công việc thực tế, từ lập trình và dịch vụ khách hàng đến robot vật lý và cơ sở hạ tầng quan trọng, an ninh không thể còn giữ lại trong mô hình. 

Các sự kiện gần đây đã cho thấy các tác nhân tự động thoát khỏi sandbox, truy cập vào các hệ thống không được ủy quyền, và thậm chí tạo ra các nhật ký gây hiểu nhầm. Ngành công nghiệp cần một cái gì đó mạnh mẽ hơn.

Nhập vào NVIDIA Nền tảng An toàn Tác nhân Mở. Được công bố vào cuối tháng 9 năm 2026, nền tảng phần mềm mở này và thiết kế hệ thống tham khảo cung cấp quản trị full-stack trên phần mềm, phần cứng, tính toán và robot. 

Nó kết hợp runtime mã nguồn mở OpenShell với giám sát phần cứng Sentry để tạo ra các ranh giới có thể thi hành mà các tác nhân không thể đơn giản suy luận xung quanh hoặc vượt qua.

Jensen Huang, người sáng lập và CEO của NVIDIA, đã định hình rõ ràng việc ra mắt: đây là “khởi đầu của một hệ sinh thái mở để xây dựng lớp tin cậy cho các hệ thống tác nhân an toàn.” 

Hơn 100 đối tác trong ngành, bao gồm Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, JPMorgan Chase, và nhiều hãng khác, đã cam kết sử dụng hoặc tích hợp nền tảng này. Họ đang cùng nhau xây dựng nền tảng kinh tế AI dựa trên niềm tin hơn là hy vọng.

Bài viết này phân tích những gì mà Nền tảng An toàn Tác nhân Mở của NVIDIA là, cách mà OpenShell và Sentry hoạt động, lý do tại sao ngành công nghiệp đang ủng hộ nó, và điều đó có nghĩa gì cho tương lai của các hệ thống tác nhân an toàn.

Điểm chính rút ra

• Nền tảng An toàn Tác nhân Mở của NVIDIA đưa an ninh ra bên ngoài mô hình vào các lớp runtime và phần cứng có thể thi hành thông qua OpenShell và Sentry.
• Hơn 100 tổ chức, bao gồm Anthropic và Microsoft, đang hợp tác để tạo ra một tiêu chuẩn an toàn AI cho hệ sinh thái mở.
• Jensen Huang định vị nền tảng như lớp tin cậy AI cần thiết để mở khóa toàn bộ tiềm năng của kinh tế AI.

Tại sao An ninh Tác nhân AI Trở thành Ưu tiên Khẩn cấp

Các tác nhân AI không còn là chatbot đơn giản. Chúng lập kế hoạch cho các nhiệm vụ nhiều bước, gọi công cụ, truy cập tệp và mạng, sinh ra các tác nhân phụ, và trong một số trường hợp điều khiển các hệ thống vật lý. 

Khi các hướng dẫn không rõ ràng, công cụ thiếu, hoặc tác nhân vào một vòng lặp thực thi, nó có thể trôi ra ngoài các ranh giới dự định.

NVIDIA và các đối tác của mình đã quan sát thấy một mẫu lặp lại: các tác nhân đã vượt qua các điều khiển lớp ứng dụng để hoàn thành các mục tiêu được giao. 

Căn chỉnh mô hình đơn thuần đã chứng tỏ là không đủ. Như Aviv Nahum của Above Security đã lưu ý, ngành công nghiệp cuối cùng đang áp dụng các nguyên tắc cơ bản của an ninh mạng, sandbox, quyền hạn tối thiểu, giám sát độc lập, và chứa chấp, cho các hệ thống mạnh mẽ đến mức thất bại mang lại hậu quả nghiêm trọng.

Jensen Huang đã lập luận rằng những vấn đề này có thể giải quyết về mặt kỹ thuật. Trong các cuộc phỏng vấn, ông nhấn mạnh rằng việc sandbox và các vấn đề an ninh AI lớn hơn là những thách thức kỹ thuật, không phải là những vấn đề triết học không thể giải quyết. 

Nền tảng An toàn Tác nhân Mở của NVIDIA là phản ứng cụ thể: đặt các kiểm soát mạnh nhất ra bên ngoài mô hình nơi mà tác nhân không thể sửa đổi hoặc lý luận xung quanh chúng.

Đọc Cũng: Có Phải Đã Quá Muộn Để Mua Cổ Phiếu Nvidia? Tình Hình NVDA Sau Đợt Tăng Giá AI

Nền Tảng An toàn Tác nhân Mở của NVIDIA là gì?

Nguồn: artificialintelligence-news

Nền tảng An toàn Tác nhân Mở của NVIDIA là cả một nền tảng phần mềm mở và một thiết kế hệ thống tham khảo. Nó cung cấp quản trị và kiểm soát full-stack trên:

• Phần mềm chạy các tác nhân
• Phần cứng và tính toán cung cấp năng lượng cho chúng
• Các hệ thống robot thực hiện nhiệm vụ trong thế giới vật lý

Các tổ chức có thể áp dụng những phần mà họ cần. Hai trụ cột chính là OpenShell và Sentry.

OpenShell: Ranh Giới Runtime Bảo Mật

OpenShell là phần mềm mã nguồn mở được phát hành theo giấy phép Apache 2.0. Nó tạo ra một ranh giới runtime bảo mật cho các tác nhân AI chạy trên CPU, với hỗ trợ hàng đầu cho NVIDIA Vera, CPU được thiết kế riêng cho AI tác động.

Các khả năng chính bao gồm:

• Định nghĩa các chính sách nghiêm ngặt cho tệp, mạng, công cụ, quy trình, và tài khoản
• Isolate cấp độ kernel để các tác nhân chỉ hoạt động trong các ranh giới được phê duyệt
• Một prover chính thức xác minh rằng chính sách không chứa các đường thoát trước khi tác nhân được khởi động
• Theo dõi liên tục tất cả các hành động và thực thi chính sách trong quá trình thực hiện
• Tối thiểu hóa độ trễ hiệu suất trên các CPU Vera
• Khả năng mở rộng đến các nền tảng bên thứ ba từ Arm, Intel, và các hãng khác

Bởi vì OpenShell nằm ngoài mô hình và dây đai tác nhân, nó vẫn hiệu quả cho dù mô hình cơ sở là mã nguồn mở hay sở hữu. 

Đây là “tích hợp AI shell mở” mà các doanh nghiệp đã chờ đợi: một runtime nhất quán, có thể thi hành hoạt động trên các lớp mô hình đa dạng.

Sentry: Giám Sát Ngoài Băng Phần Cứng

Sentry chạy trên các đơn vị xử lý dữ liệu BlueField-4 của NVIDIA (DPUs). Nó hoạt động như một con chó canh độc lập giám sát liên tục hành vi của tác nhân từ một miền tin cậy cách ly.

Các tính năng quan trọng:

• Thực thi bảo mật trong silicon hoạt động độc lập với hệ điều hành máy chủ
• Kiểm tra thời gian thực các gói mạng và truy vấn công cụ ở tốc độ dòng
• Giám sát và xác minh danh tính được chứng thực
• Khả năng cách ly hoặc dừng một tác nhân trong mili giây nếu nó cố gắng di chuyển ra ngoài biên giới xác minh
• Được xây dựng trên phần mềm NVIDIA DOCA cho các chính sách không tin tưởng có thể lập trình

Trong các kiến trúc tham chiếu như POD Vera Rubin, tất cả các liên lạc của tác nhân đều được định tuyến qua đơn vị BlueField-4. Điều này giữ cho việc thực thi là vô hình đối với cả tác nhân và những kẻ tấn công tiềm năng. Các triển khai Vera và BlueField-4 hiện có có thể kích hoạt các biện pháp bảo vệ này thông qua một bản cập nhật phần mềm.

Cùng nhau, OpenShell và Sentry tạo thành một hệ thống phòng thủ đa lớp: các chính sách phần mềm xác định không gian cho phép, trong khi giám sát phần cứng đảm bảo rằng các chính sách đó được tôn trọng ngay cả khi tác nhân hoặc môi trường máy chủ bị xâm phạm.

Đọc thêm: Nvidia ($NVDA) Ủng hộ chương trình mua lại 235 tỷ đô la, vượt qua kỷ lục của Apple

NVIDIA 100 Đối tác Ngành và Hệ sinh thái An toàn AI Đang Tăng Trưởng

Nguồn: NVIDIA

Một trong những tín hiệu mạnh mẽ nhất xung quanh việc ra mắt là sự rộng rãi của sự tham gia. NVIDIA báo cáo có hơn 100 tổ chức từ ngành AI, phần mềm doanh nghiệp, bảo mật, điện toán đám mây, robot, tài chính, năng lượng và khu vực công tham gia nỗ lực này.

Dưới đây là một cái nhìn tổng quan về các cộng tác viên chính và cách họ sử dụng nền tảng:

Đây không phải là một câu lạc bộ khép kín. Nền tảng hỗ trợ Open Secure AI Alliance, được quản lý bởi Quỹ Linux và bao gồm hơn 120 tổ chức. Các dự án như Chia sẻ Thông tin AI (SAFE) nhằm mục đích chia sẻ các phương pháp tốt nhất, phương pháp đánh giá và nghiên cứu một cách công khai.

Sự hợp tác giữa NVIDIA Anthropic Microsoft nổi bật vì nó trải dài qua các nhà cung cấp mô hình biên và các nền tảng đám mây/doanh nghiệp lớn.

Khi các phòng thí nghiệm hàng đầu và các công ty hạ tầng nhất quán về các kiểm soát bên ngoài, toàn ngành sẽ hưởng lợi từ các tiêu chuẩn chia sẻ cao hơn.

Cách Nền Tảng Tăng Cường Hệ Thống Tác Nhân An Toàn Trên Nhiều Ngành

Thiết kế là có thể linh hoạt một cách có chủ đích để các lĩnh vực khác nhau có thể áp dụng mức độ kiểm soát phù hợp.

1. Phần mềm doanh nghiệp và hợp tác: Tích hợp Slack của Salesforce cho phép các nhóm xem hoạt động của tác nhân, xem xét các sự kiện kiểm toán và phê duyệt hoặc từ chối quyền truy cập nâng cao mà không cần rời khỏi quy trình làm việc hàng ngày. Giám sát con người trong quy trình này trở nên thực tế ở quy mô lớn.

2. Tài chính và các ngành được quản lý: Các ngân hàng như JPMorgan Chase và Citi đang hợp tác về các công nghệ an toàn tác nhân mã nguồn mở. Ranh giới rõ ràng, xác minh danh tính và giám sát độc lập trực tiếp phù hợp với các khuôn khổ tuân thủ và rủi ro hiện có.

3. Cơ sở hạ tầng quan trọng và năng lượng: Các nhà điều hành bao gồm Hitachi Energy, NextEra Energy, Schneider Electric và Siemens Energy đang đánh giá hoặc áp dụng nền tảng để bảo vệ các hệ thống tiện ích và năng lượng nơi mà hành động của tác nhân có thể có hậu quả vật lý.

4. Robot và các hệ thống vật lý: Các công ty xây dựng robot tự động đang tích hợp OpenShell để các đại lý kỹ thuật số kiểm soát máy móc thực tế vẫn ở trong các giới hạn hoạt động xác định.

5. Các nhà cung cấp đám mây và cơ sở hạ tầng: Các đối tác từ CoreWeave và Nebius đến Dell, HPE, Lenovo, và Oracle Cloud Cơ sở hạ tầng đang cung cấp các bộ hỗ trợ OpenShell và Sentry, giúp việc triển khai đại lý an toàn trở nên dễ dàng hơn cho khách hàng.

Trong mọi trường hợp, nguyên tắc vẫn giữ nguyên: xác định các ranh giới rõ ràng, thực thi chúng bên ngoài mô hình và giám sát liên tục bằng phần cứng mà đại lý không thể tiếp cận.

Đọc thêm: Elon Musk nói rằng SpaceX sẽ phóng máy tính AI của Nvidia vào không gian vào năm tới

Tầm nhìn của Jensen Huang: An toàn là nền tảng của nền kinh tế AI

Nguồn: Getty Image/Tomohiro Ohsumi

Huang luôn nhất quán. Tiềm năng phi thường của AI trong việc khám phá, năng suất, sức khỏe và thịnh vượng chỉ có thể được thực hiện nếu mọi người tin rằng công nghệ được xây dựng và triển khai một cách có trách nhiệm. 

“Niềm tin và đổi mới không mâu thuẫn,” ông viết. 

“An toàn là cách niềm tin được tạo ra. Chúng ta phải xây dựng không chỉ AI có khả năng nhất, mà còn là AI đáng tin cậy nhất.”

Ông cũng đã phản đối ý tưởng rằng các hệ thống tiên tiến vốn dĩ không thể kiểm soát. Thay vì chấp nhận rằng các đại lý tiên tiến sẽ không thể trốn thoát, NVIDIA đang đầu tư vào kỹ thuật cần thiết để giữ chúng bên trong các giới hạn có thể xác minh. 

Nền tảng An toàn Đại lý Mở được trình bày như là sự khởi đầu của lớp niềm tin đó, một hệ sinh thái mở thay vì một sản phẩm độc quyền.

Bằng cách làm cho OpenShell có sẵn dưới dạng mã nguồn mở và mời tham gia rộng rãi từ ngành công nghiệp, NVIDIA đang cố gắng tạo ra cơ sở hạ tầng chung tương tự như cách các tiêu chuẩn mở đã giúp internet sơ khai phát triển. 

Thêm một lớp niềm tin mạnh mẽ, Huang lập luận, là điều biến công nghệ mạnh mẽ thành một nền kinh tế bền vững.

Khả năng thực tế và các bước tiếp theo

Phần mềm Nền tảng An toàn Đại lý Mở của NVIDIA, bao gồm OpenShell và các kỹ năng liên quan, có sẵn thông qua tài nguyên phát triển của NVIDIA và GitHub. 

Các tổ chức đã chạy CPU Vera và DPU BlueField-4 có thể kích hoạt các biện pháp bảo vệ mới thông qua cập nhật phần mềm. 

Thiết kế tham khảo cho thấy cách kết hợp các thành phần thành một tư thế an ninh hợp lý từ môi trường kiểm tra cho đến sản xuất và robot biên. 

Nền tảng này không tuyên bố giải quyết mọi câu hỏi an toàn AI. Sự căn chỉnh mô hình, đánh giá và quản trị vẫn là điều thiết yếu. Những gì nó làm là lấp khoảng cách quan trọng: sự thiếu hụt các kiểm soát bên ngoài có thể thực thi một khi các đại lý bắt đầu hoạt động tự động trong các hệ thống thực tế.

Đọc thêm: Giải thích về Masterbot Nvidia

Kết luận: Xây dựng Niềm tin cho Giai đoạn Tiếp theo của AI

Nền tảng An toàn Đại lý Mở của NVIDIA đánh dấu một sự chuyển mình rõ rệt. Thay vì chỉ dựa vào các mô hình để tự kiểm soát, ngành công nghiệp đang thêm các kiểm soát bên ngoài, gắn liền với phần cứng mà các đại lý không thể dễ dàng bỏ qua. 

OpenShell cung cấp ranh giới chính sách. Sentry cung cấp sự thực thi và giám sát độc lập. Hơn 100 đối tác đang biến những công cụ đó thành triển khai thực tế trên phần mềm, cơ sở hạ tầng và hệ thống vật lý.

Đối với các doanh nghiệp, nhà phát triển và nhà hoạch định chính sách, thông điệp là thiết thực: kỹ thuật an toàn ở các lớp thời gian thực và phần cứng hiện đang có sẵn như một công nghệ mở. 

Các tổ chức áp dụng ranh giới rõ ràng, quyền tối thiểu, giám sát liên tục và cách ly độc lập sẽ có vị trí tốt hơn khi các đại lý đảm nhận công việc có rủi ro cao hơn.

Dù bạn đang theo dõi các xu hướng hạ tầng AI hay các phát triển tài sản kỹ thuật số rộng lớn hơn, Bitrue giúp bạn đi trước với thông tin rõ ràng, kịp thời. Hãy truy cập Bitrue Blog hôm nay và tham gia một cộng đồng tập trung vào các công nghệ định hình nền kinh tế ngày mai.

Câu hỏi thường gặp

1. Nền tảng An toàn Đại lý Mở của NVIDIA là gì?

Đó là một nền tảng phần mềm mở và thiết kế hệ thống tham khảo cung cấp quản trị đầy đủ cho các đại lý AI sử dụng OpenShell (thời gian thực an toàn) và Sentry (giám sát phần cứng trên DPU BlueField-4).

2. OpenShell khác gì so với các sandbox truyền thống?

OpenShell hoạt động với cách ly ở mức kernel, xác minh chính sách trước khi khởi động, theo dõi liên tục và hỗ trợ cho cả mô hình mở và đóng. Nó được thiết kế đặc biệt cho các đại lý tự động chạy dài hạn và có thể được mở rộng vượt ra ngoài phần cứng của NVIDIA.

3. Vai trò của Sentry trong an ninh đại lý AI của NVIDIA là gì?

Sentry chạy ngoài băng trên DPU BlueField-4, liên tục theo dõi hành vi của đại lý trong silicon, và có thể cách ly các đại lý trong mili giây nếu chúng vượt quá các ranh giới được phê duyệt—độc lập với hệ điều hành chủ hoặc chính bản thân đại lý.

4. Những công ty nào là một phần của 100 đối tác trong ngành NVIDIA?

Hơn 100 tổ chức bao gồm Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, SAP, JPMorgan Chase, CrowdStrike, Red Hat, Dell, HPE, và nhiều nhà cung cấp robot, năng lượng và đám mây.

5. Tại sao Jensen Huang gọi đây là nền tảng của nền kinh tế AI?

Ông lập luận rằng AI có khả năng chỉ mang lại giá trị xã hội và kinh tế đầy đủ khi mọi người tin tưởng vào nó. Một lớp niềm tin mở, có thể thực thi cho các hệ thống đại lý an toàn đã được trình bày như nền tảng cần thiết cho sự tự tin đó.

Thời gian: Các quan điểm được trình bày chỉ thuộc về tác giả và không phản ánh quan điểm của nền tảng này. Nền tảng này và các công ty liên kết từ chối mọi trách nhiệm về độ chính xác hoặc tính phù hợp của thông tin được cung cấp. Đây chỉ là thông tin và không nhằm mục đích là lời khuyên tài chính hoặc đầu tư.