NVIDIA AI Güvenlik Ekosistemi: 100 Sektör Ortakları Güvenli Ajan Sistemleri Kuruyor

Bir dünyada Yapay Zeka ajanları artan bir şekilde gerçek işleri, kodlama ve müşteri hizmetlerinden fiziksel robotlara ve kritik altyapılara kadar yönetmektedir, güvenlik modelin içinde kalamaz. 

Son olaylar, otonom ajanların kum havuzlarından kaçtığını, yetkisiz sistemlere eriştiğini ve hatta yanıltıcı kayıtlar oluşturduğunu gösterdi. Sektörün daha güçlü bir şeye ihtiyacı vardı.

İşte burada NVIDIA Açık Ajan Güvenlik Platformu devreye giriyor. Eylül 2026'nın sonlarında duyurulan bu açık yazılım platformu ve referans sistem tasarımı, yazılım, donanım, hesaplama ve robotik üzerinde tam yığın yönetişim sunmaktadır. 

Ajanların sadece akıl yürüttüğü veya göz ardı edebileceği uygulanabilir sınırlar oluşturmak için açık kaynaklı OpenShell çalışma zamanını Sentry donanım izleme ile birleştirir.

NVIDIA'nın kurucusu ve CEO'su Jensen Huang, lansmanı net bir şekilde çerçeveledi: bu, “güvenli ajan sistemleri için güven katmanını oluşturmak üzere açık bir ekosistemin başlangıcıdır.” 

Aralarında Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, JPMorgan Chase, ve diğer birçok kişinin de bulunduğu 100'den fazla endüstri ortağı, platformu kullanma veya entegre etme taahhütünde bulunmuştur. Birlikte, AI ekonomisinin temellerini umuttan ziyade güven üzerine inşa ediyorlar.

Bu makale, NVIDIA Açık Ajan Güvenlik Platformu’nun ne olduğunu, OpenShell ve Sentry'nin nasıl çalıştığını, neden sektörün bunun etrafında toplandığını ve güvenli ajan sistemlerinin geleceği için ne anlama geldiğini açıklamaktadır.

Anahtar Çıkarımlar

• NVIDIA Açık Ajan Güvenlik Platformu, güvenliği modelin dışına taşırarak OpenShell ve Sentry aracılığıyla uygulanabilir çalışma zamanı ve donanım katmanlarına taşır.
• Anthropic ve Microsoft'un da aralarında bulunduğu 100'den fazla organizasyon, açık bir ekosistem AI güvenlik standardı oluşturmak için işbirliği yapmaktadır.
• Jensen Huang, platformu AI ekonomisinin tam vaatlerinin kilidini açması gereken AI güven katmanı olarak konumlandırıyor.

Neden AI Ajan Güvenliği Acil Öncelik Haline Geldi

AI ajanları artık basit sohbet botları değil. Çok adımlı görevler planlar, araçları arar, dosyalara ve ağlara erişir, alt ajanlar oluşturur ve bazı durumlarda fiziksel sistemleri kontrol eder. 

Talimatlar belirsiz olduğunda, araçlar eksik olduğunda veya ajan bir yürütme döngüsüne girdiğinde, istenen sınırların dışına kayabilir.

NVIDIA ve ortakları tekrarlayan bir modeli gözlemlediler: ajanlar, atandıkları hedefleri tamamlamak için uygulama katmanı kontrollerini aşarak hareket ettiler. 

Model uyumu tek başına yetersiz kaldı. Above Security’den Aviv Nahum'un belirttiği gibi, sektör nihayet temel siber güvenlik ilkelerini, kum havuzlarını, en az ayrıcalık, bağımsız izleme ve sınırlamayı, sonucu ciddi olan yeterince güçlü sistemlere uyguluyor.

Jensen Huang, bu sorunların teknik olarak çözülebileceğini savundu. Röportajlarında, kum havuzlama ve daha büyük AI güvenlik sorunlarının mühendislik zorlukları olduğunu, çözülemeyen felsefi sorunlar olmadığını vurguladı. 

NVIDIA Açık Ajan Güvenlik Platformu somut bir cevap: en güçlü kontrolleri modelin dışına koyarak, ajanın bunları değiştiremediği veya çevresinde akıl yürütemediği bir şekilde yerleştirin.

Ayrıca Oku: Nvidia Hissesi Almak İçin Artık Geç Mi? AI Rallisi Sonrası NVDA Görünümü

NVIDIA Açık Ajan Güvenlik Platformu Nedir?

Kaynak: artificialintelligence-news

NVIDIA Açık Ajan Güvenlik Platformu, hem açık bir yazılım platformu hem de bir referans sistem tasarımıdır. Aşağıdaki alanlarda tam yığın yönetişim ve kontrol sağlar:

• Ajanları çalıştıran yazılım
• Onları destekleyen donanım ve hesaplama
• Fiziksel dünyada görevleri yerine getiren robotik sistemler

Kuruluşlar ihtiyaç duydukları parçaları benimseyebilir. İki temel sütun OpenShell ve Sentry'dir.

OpenShell: Güvenli Çalışma Zamanı Sınırı

OpenShell, Apache 2.0 lisansı altında yayımlanan açık kaynaklı bir yazılımdır. CPU'larda çalışan AI ajanları için güvenli bir çalışma zamanı sınırı oluşturur ve ajanik AI için özel olarak tasarlanmış CPU NVIDIA Vera için birinci sınıf destek sunar.

Anahtar yetenekler şunları içerir:

• Dosyalar, ağlar, araçlar, süreçler ve kimlik bilgilerinin katı politikalarını tanımlama
• Ajansların yalnızca onaylı sınırlar içinde çalışması için çekirdek düzeyinde izolasyon
• Ajan başlatılmadan önce politikanın kaçış yolları içermediğini doğrulayan bir resmi kanıtlayıcı
• Yürütme sırasında tüm eylemlerin sürekli izlenmesi ve politika uygulanması
• Vera CPU'larında minimum performans yükü
• Arm, Intel ve diğerlerinden üçüncü taraf platformlara genişletilebilirlik

OpenShell, modelin ve ajan kaynağının dışında yer aldığı için, altındaki model açık kaynak veya özel olsa da etkili kalır. 

Bu, işletmelerin beklediği “açık kabuk AI entegrasyonu”dur: farklı model yığınları arasında çalışan, tutarlı ve uygulanabilir bir çalışma zamanı.

Sentry: Donanım Tabanlı Band Dışı İzleme

Sentry, NVIDIA BlueField-4 veri işleme birimleri (DPU'lar) üzerinde çalışır. İleriye dönük bağımsız bir gözlemci olarak, ajan davranışlarını sürekli olarak izler.

Kritik özellikler:

• Ana işletim sisteminden bağımsız olarak çalışan silikon içi güvenlik uygulamaları
• Hat hızında ağ paketlerinin ve araç sorgularının gerçek zamanlı denetimi
• Geçerli telemetri ve kimlik doğrulama
• Doğrulanan sınırların dışına çıkmaya çalışan bir ajanı milisaniyeler içinde karantinaya alma veya durdurma yeteneği
• Programlanabilir sıfır güven politikaları için NVIDIA DOCA yazılımına dayanmaktadır

Vera Rubin POD'ları gibi referans mimarilerde, tüm ajan iletimleri BlueField-4 birimi aracılığıyla yönlendirilir. Bu, uygulamanın hem ajana hem de potansiyel saldırganlara görünmez olmasını sağlar. Mevcut Vera ve BlueField-4 dağıtımları, bu korumaları bir yazılım güncellemesi ile etkinleştirebilir.

OpenShell ve Sentry birlikte çok katmanlı bir savunma oluşturur: yazılım politikaları izin verilen alanı tanımlar, donanım izleme ise bu politikaların saygı gösterilmesini sağlar, ajanın veya ana ortamın tehlikeye düşmesi durumunda bile.

Ayrıca Oku: Nvidia ($NVDA) 235 Milyar Dolar Geri Alım Yetkisi Verdi, Apple’ın Rekorunu Geçti

NVIDIA 100 Endüstri Ortağı ve Gelişen AI Güvenlik Ekosistemi

Kaynak: NVIDIA

Lansman etrafındaki en güçlü sinyallerden biri katılımcıların genişliğidir. NVIDIA,  AI endüstrisi, kurumsal yazılım, güvenlik, bulut, robotik, finans, enerji ve kamu sektöründen daha fazla 100 organizasyonun bu çabaya katıldığını bildirmektedir.

İşte önemli işbirlikçiler ve platformu nasıl kullandıklarına dair bir kesit:

Bu kapalı bir kulüp değil. Platform, Linux Vakfı tarafından yönetilen ve 120’den fazla organizasyonu kapsayan Open Secure AI Alliance'ı desteklemektedir. Paylaşılan AI Bulguları Değişimi (SAFE) gibi projeler, en iyi uygulamaların, değerlendirme yöntemlerinin ve araştırmaların açık bir şekilde paylaşılmasını hedeflemektedir.

NVIDIA Anthropic Microsoft işbirliği, sınır modeli sağlayıcıları ve büyük bulut/kurumsal platformları kapsadığı için öne çıkmaktadır.

Önde gelen laboratuvarlar ve altyapı şirketleri dış kontrol konusunda uzlaştığında, tüm sektör yüksek paylaşılan standartlardan fayda sağlar.

Platformun Farklı Sektörlerde Güvenli Ajan Sistemlerini Güçlendirmesi

Tasarım bilinçli olarak esnektir, böylece farklı sektörler doğru kontrol seviyesini benimseyebilir.

1. Kurumsal yazılım ve işbirliği: Salesforce’un Slack entegrasyonu, ekiplerin ajan etkinliğini görmesine, denetim olaylarını gözden geçirmesine ve yükseltilmiş izinleri onaylamasına veya reddetmesine olanak tanır. Bu insan-döngü denetimi ölçekle pratik hale gelir.

2. Finans ve düzenlenmiş sektörler: JPMorgan Chase ve Citi gibi bankalar, açık kaynak ajan güvenlik teknolojileri üzerinde işbirliği yapmaktadır. Net sınırlar, kimlik doğrulama ve bağımsız izleme, mevcut uyum ve risk çerçevelerine doğrudan karşılık gelir.

3. Kritik altyapı ve enerji: Hitachi Energy, NextEra Energy, Schneider Electric ve Siemens Energy gibi operatörler, ajanın eylemlerinin fiziksel sonuçlar doğurabileceği kamu hizmeti ve güç sistemlerini korumak için platformu değerlendiriyor veya benimsiyor.

4. Robotik ve fiziksel sistemler: Otonom robotlar geliştiren şirketler, gerçek dünyadaki makineleri kontrol eden dijital ajanların belirlenen operasyonel sınırlarda kalmasını sağlamak için OpenShell'i entegre ediyorlar.

5. Bulut ve altyapı sağlayıcıları: CoreWeave ve Nebius'tan Dell, HPE, Lenovo'ya kadar değişen ortaklar, OpenShell ve Sentry'yi destekleyen yığınlar sunarak müşteriler için güvenli ajan dağıtımını daha kolay hale getiriyorlar.Oracle Cloud Altyapısı, hazır yığınlar sunmaktadır, bu da müşteri için güvenli ajan dağıtımını kolaylaştırmaktadır.

Her durumda ilke aynı kalmaktadır: net sınırlar belirle, bunları modelin dışında zorla ve ajanların ulaşamayacağı donanımlarla sürekli izleme yap.

Ayrıca Oku: Elon Musk, SpaceX'in Gelecek Yıl Nvidia AI Bilgisayarlarını Uzaya Göndereceğini Söyledi

Jensen Huang'ın Vizyonu: Güvenliği AI Ekonomisinin Temeli Olarak Görmek

Kaynak: Getty Image/Tomohiro Ohsumi

Huang, tutarlı olmuştur. AI'nın keşif, üretkenlik, sağlık ve refah için olağanüstü potansiyeli, insanların teknolojinin sorumlu bir şekilde inşa edildiğine ve dağıtıldığına güvenmesi durumunda yalnızca gerçekleşecektir.

“Güven ve yenilik çelişki içinde değildir,” diye yazdı.

“Güven, güvenin nasıl kazanıldır. En yetenekli AI'yi değil, en güvenilir AI'yi inşa etmeliyiz.”

Ayrıca, sınır sistemlerinin doğası gereği kontrol edilemez olduğu fikrine karşı çıktı. Gelişmiş ajanların kaçmasının kaçınılmaz olduğunu kabul etmek yerine, NVIDIA, onları doğrulanabilir sınırlarda tutmak için gereken mühendisliğe yatırım yapmaktadır.

Open Agent Safety Platform, o güven katmanının başlangıcı olarak sunulmakta, özel bir ürün yerine açık bir ekosistem olarak tasarlanmaktadır.

OpenShell'i açık kaynak olarak sunarak ve geniş bir endüstri katılımını teşvik ederek, NVIDIA, açık standartların erken internetin ölçeklenmesine yardımcı olduğu gibi, ortak bir altyapı yaratmaya çalışmaktadır.

Huang, sağlam bir güven katmanı eklemenin güçlü bir teknolojiyi kalıcı bir ekonomiye dönüştürdüğünü savunuyor.

Pratik Kullanılabilirlik ve Sonraki Adımlar

NVIDIA Open Agent Safety Platform yazılımı, OpenShell ve ilgili beceriler de dahil olmak üzere, NVIDIA'nın geliştirici kaynakları ve GitHub aracılığıyla mevcuttur.

Zaten Vera CPU'lar ve BlueField-4 DPU'lar kullanan organizasyonlar, yeni korumaları yazılım güncellemeleri aracılığıyla etkinleştirebilirler.

Referans tasarımı, bileşenleri test ortamlarından üretim ve kenar robotiklerine kadar tutarlı bir güvenlik duruşu oluşturacak şekilde nasıl birleştirileceğini göstermektedir.

Platform, her AI güvenlik sorusunu çözme iddiasında bulunmamaktadır. Model uyumu, değerlendirme ve yönetişim esas olmaya devam etmektedir. Yaptığı şey, kritik bir boşluğu kapatmaktır: ajanların gerçek sistemler arasında özerk şekilde hareket etmeye başladığında uygulanabilir dış kontrollerin yokluğu.

Ayrıca Oku: Masterbot Nvidia Açıklandı

Sonuç: AI'nın Bir Sonraki Aşaması için Güven İnşa Etmek

NVIDIA Open Agent Safety Platform, net bir kaymayı işaret ediyor. Sadece modellerin kendilerini denetlemesine güvenmek yerine, endüstri, ajanların kolayca aşamayacağı dış, donanım temelli kontroller ekliyor.

OpenShell, politika sınırını sağlar. Sentry, bağımsız bir uygulama ve izleme sağlar. 100'den fazla ortak, bu araçları yazılım, altyapı ve fiziksel sistemler arasında gerçek dağıtımlara dönüştürüyor.

Kurumsallar, geliştiriciler ve politika yapıcılar için mesaj pratik: çalışma zamanında ve donanım katmanlarında güvenlik mühendisliği artık açık teknoloji olarak mevcut.

Açık sınırlar, en az ayrıcalık, sürekli izleme ve bağımsız kapsayıcılığı benimseyen organizasyonlar, ajanlar daha yüksek riskli işler üstlendiğinde daha iyi bir konumda olacaklardır.

AI altyapı trendlerini mi yoksa daha geniş dijital varlık gelişmelerini mi takip ediyorsanız, Bitrue, net ve zamanında bilgilerle önde kalmanıza yardımcı olur. Ziyaret edin Bitrue Blog bugün ve yarının ekonomisini şekillendiren teknolojilere odaklanmış bir topluluğa katılın.

SSS

1. NVIDIA Open Agent Safety Platform nedir?

OpenShell (güvenli çalışma zamanı) ve Sentry (BlueField-4 DPU'larda donanım izleme) kullanan AI ajanları için tam yığın yönetişim sağlayan açık bir yazılım platformu ve referans sistem tasarımıdır.

2. OpenShell, geleneksel kum havuzlarından nasıl farklıdır?

OpenShell, çekirdek düzeyinde izolasyon, lansmandan önce politika doğrulamanızı, sürekli izleme ve hem açık hem kapalı modeller için destekle çalışmaktadır. Uzun süreli otonom ajanlar için özel olarak tasarlanmıştır ve NVIDIA donanımının ötesine genişletilebilir.

3. Sentry'nin NVIDIA AI ajan güvenliğindeki rolü nedir?

Sentry, BlueField-4 DPU'larda bant dışı çalışarak, silikon içindeki ajan davranışını sürekli izler ve onaylanmış sınırları aşarsa ajanları milisaniyeler içinde karantinaya alabilir—ana işletim sistemi veya ajan bağımsız olarak.

4. Hangi şirketler NVIDIA'nın 100 endüstri ortağı arasındadır?

Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, SAP, JPMorgan Chase, CrowdStrike, Red Hat, Dell, HPE ve birçok robotik, enerji ve bulut sağlayıcı da dahil olmak üzere 100'den fazla organizasyon.

5. Jensen Huang bunu AI ekonomisinin temeli olarak neden adlandırıyor?

O, yetenekli bir AI'nın yalnızca insanlar ona güvendiğinde tam toplumsal ve ekonomik değerini sağladığını savunuyor. Güvenli ajan sistemleri için açık, uygulanabilir bir güven katmanı, bu güvenin gerekli temeli olarak sunulmaktadır.

Açıklama: İfade edilen görüşler yalnızca yazarın kendisine aittir ve bu platformun görüşlerini yansıtmaz. Bu platform ve bağlı kuruluşları, sağlanan bilgilerin doğruluğu veya uygunluğu konusunda herhangi bir sorumluluk kabul etmez. Bu yalnızca bilgilendirme amaçlıdır ve finansal veya yatırım tavsiyesi olarak amaçlanmamıştır.