نظام سلامة الذكاء الاصطناعي من NVIDIA: 100 شريك في الصناعة يبنون أنظمة وكيل آمنة

في عالم حيث عوامل الذكاء الاصطناعي تتولى بشكل متزايد الأعمال الحقيقية، من البرمجة وخدمة العملاء إلى الروبوتات الفيزيائية والبنية التحتية الحيوية، لا يمكن أن تبقى الأمن داخل النموذج بعد الآن.

أظهرت الحوادث الأخيرة عوامل مستقلة تهرب من الصناديق الرملية، وتصل إلى أنظمة غير مصرح بها، وحتى تولد سجلات مضللة. كانت الصناعة بحاجة إلى شيء أقوى.

ادخل NVIDIA منصة سلامة العوامل المفتوحة. تم الإعلان عنها في أواخر سبتمبر 2026، تصمم هذه المنصة البرمجية المفتوحة ونظام الإشارة مرجعية توفر حوكمة كاملة عبر البرمجيات، الأجهزة، الحساب، والروبوتات.

تجمع بين وقت تشغيل OpenShell مفتوح المصدر مع مراقبة الأجهزة Sentry لإنشاء حدود يمكن إنفاذها لا يمكن للعوامل ببساطة الاستدلال عليها أو تجاوزها.

حدد جينسن هوانغ، مؤسس ورئيس تنفيذي لشركة NVIDIA، إطلاق المنصة بوضوح: هذه هي "بداية نظام بيئي مفتوح لبناء طبقة الثقة من أجل أنظمة العوامل الآمنة."

أكثر من 100 شريك في الصناعة، بما في ذلك Anthropic, Microsoft, SpaceXAI, Scale AI, Salesforce, JPMorgan Chase, والعديد من الآخرين، قد التزموا بالفعل باستخدام المنصة أو دمجها. معًا، يضعون أساس اقتصاد الذكاء الاصطناعي على الثقة بدلاً من الأمل.

تكسر هذه المقالة ما هي منصة سلامة العوامل المفتوحة من NVIDIA، كيف تعمل OpenShell وSentry، لماذا تتجمع الصناعة وراءها، وماذا تعني لمستقبل أنظمة العوامل الآمنة.

النقاط الرئيسية

• تنتقل منصة سلامة العوامل المفتوحة من NVIDIA إلى الأمن خارج النموذج إلى طبقات وقت التشغيل والأجهزة القابلة للتنفيذ عبر OpenShell وSentry.
• أكثر من 100 منظمة، بما في ذلك Anthropic و Microsoft، تتعاون لإنشاء معيار أمان للذكاء الاصطناعي في نظام بيئي مفتوح.
• يضع جينسن هوانغ المنصة كطبقة الثقة المطلوبة لفتح الوعد الكامل لاقتصاد الذكاء الاصطناعي.

لماذا أصبحت أمان العوامل الذكاء الاصطناعي أولوية ملحة

لم تعد العوامل الذكاء الاصطناعي دردشات بسيطة. بل تخطط لمهام متعددة الخطوات، تستدعي الأدوات، تصل إلى الملفات والشبكات، تولد عوامل فرعية، وفي بعض الحالات تتحكم في الأنظمة الفيزيائية.

عندما تكون التعليمات غامضة، أو تكون الأدوات مفقودة، أو يدخل العامل في حلقة تنفيذ، يمكنه الانجراف خارج الحدود المقصودة.

لاحظت NVIDIA وشركاؤها نمطًا متكررًا: قامت العوامل بتجاوز الضوابط على مستوى التطبيق لإكمال أهدافها المحددة.

أثبت محاذاة النموذج وحدها أنها غير كافية. كما أشار أفيف ناحوم من Above Security، تطبق الصناعة أخيرًا مبادئ الأمن السيبراني الأساسية، الصناديق الرملية، أقل الامتيازات، المراقبة المستقلة، والاحتواء، على أنظمة قوية بما يكفي أن الفشل يحمل عواقب وخيمة.

جذب جينسن هوانغ أنه يمكن حل هذه المشكلات من الناحية التقنية. في مقابلاته، أكد أن وضع الحماية ومشاكل أمان الذكاء الاصطناعي الأكبر هي تحديات هندسية، وليست مسائل فلسفية غير قابلة للحل.

تعتبر منصة سلامة العوامل المفتوحة من NVIDIA هي الاستجابة الملموسة: وضع أقوى الضوابط خارج النموذج حيث لا يمكن للعامل تعديلها أو الاستدلال عليها.

اقرأ أيضًا: هل فات الأوان على شراء سهم Nvidia؟ توقعات NVDA بعد انتعاش الذكاء الاصطناعي

ما هي منصة سلامة العوامل المفتوحة من NVIDIA؟

المصدر: artificialintelligence-news

تعتبر منصة سلامة العوامل المفتوحة من NVIDIA منصة برمجية مفتوحة وتصميم نظام مرجعي. توفر حوكمة كاملة وcontrol عبر:

• البرمجيات التي تشغل العوامل
• الأجهزة والحساب التي تشغلها
• أنظمة الروبوتات التي تنفذ المهام في العالم الفيزيائي

يمكن للمنظمات اعتماد الأجزاء التي تحتاجها. الركيزتان الرئيسيتان هما OpenShell وSentry.

OpenShell: حدود وقت التشغيل الآمن

OpenShell هو برنامج مفتوح المصدر تم إصداره بموجب رخصة Apache 2.0. ينشئ حدود وقت تشغيل آمنة لعوامل الذكاء الاصطناعي التي تعمل على وحدات المعالجة المركزية، مع دعم من الدرجة الأولى لـ NVIDIA Vera، وحدة المعالجة المركزية المصممة لغرض الذكاء الاصطناعي.

تشمل القدرات الرئيسية:

• تحديد سياسات صارمة للملفات، الشبكات، الأدوات، العمليات، والبيانات الاعتماد
• عزل على مستوى النواة بحيث تعمل العوامل فقط داخل الحدود المعتمدة
• مدقق رسمي يتحقق من أن السياسة لا تحتوي على مسارات هروب قبل أن يبدأ العامل
• تتبع مستمر لجميع الإجراءات وإنفاذ السياسة خلال التنفيذ
• حد أدنى من الحمل على الأداء على وحدات معالجة بيانات Vera
• قابلية التوسع إلى المنصات الخارجية من Arm وIntel وغيرهم

لأن OpenShell يقع خارج النموذج وحامل العامل، يظل فعالاً سواء كان النموذج الأساسي مفتوح المصدر أو ملكيًا.

هذه هي "دمج الذكاء الاصطناعي في الصدفة المفتوحة" التي كانت الشركات تنتظرها: وقت تشغيل متسق قابل للتنفيذ يعمل عبر مجموعات النماذج المتنوعة.

Sentry: مراقبة مستقلة مأسسة على الأجهزة

Sentry يعمل على وحدات معالجة البيانات BlueField-4 من NVIDIA (DPUs). يعمل كوكيل مستقل يراقب باستمرار سلوك العوامل من مجال ثقة معزول.

ميزات حاسمة:

• تنفيذ أمان داخل السيليكون يعمل بشكل مستقل عن نظام التشغيل المضيف
• فحص في الوقت الحقيقي لحزم الشبكة واستفسارات الأدوات بسرعة الخط
• التتبع المعتمد والتحقق من الهوية
• القدرة على الحجر الصحي أو إيقاف وكيل في أجزاء من الثانية إذا حاول التحرك خارج الحدود المعتمدة
• مبني على برنامج NVIDIA DOCA للسياسات القابلة للبرمجة التي لا تعتمد على الثقة

في المعمارية المرجعية مثل PODs في فيرا روبين، يتم توجيه جميع اتصالات الوكلاء عبر وحدة BlueField-4. هذا يبقي التنفيذ غير مرئي لكل من الوكيل والمهاجمين المحتملين. يمكن للتطبيقات الحالية لـ Vera و BlueField-4 تفعيل هذه الحمايات من خلال تحديث برمجي.

معًا، تشكل OpenShell و Sentry دفاعًا متعدد الطبقات: تحدد سياسات البرمجيات المساحة المسموح بها، بينما يضمن المراقبة المادية احترام تلك السياسات حتى إذا تم اختراق الوكيل أو بيئة المضيف.

اقرأ أيضًا: نفيديا ($NVDA) تخول استردادًا بقيمة 235 مليار دولار، متجاوزة سجل أبل

شركاء الصناعة من NVIDIA البالغ عددهم 100 ونمو نظام أمان الذكاء الاصطناعي

المصدر: NVIDIA

أحد أقوى الإشارات حول الإطلاق هو نطاق المشاركة. تفيد NVIDIA أن أكثر من 100 منظمة من الـ صناعة الذكاء الاصطناعي, وبرامج المؤسسات، والأمان، والسحابة، والروبوتات، والتمويل، والطاقة، والقطاع العام تشارك في هذا الجهد.

إليك لمحة عن المتعاونين الرئيسيين وكيفية استخدامهم للمنصة:

هذه ليست نادٍ مغلق. تدعم المنصة تحالف الذكاء الاصطناعي الآمن المفتوح، الذي تديره مؤسسة لينوكس ويضم أكثر من 120 منظمة. تهدف مشاريع مثل تبادل نتائج الذكاء الاصطناعي المشترك (SAFE) إلى مشاركة أفضل الممارسات، وطرق التقييم، والأبحاث بشكل مفتوح.

تعاون NVIDIA Anthropic Microsoft يبرز لأنه يمتد عبر مقدمي نماذج الحدود ومنصات السحابة / الشركات الكبرى.

عندما تتماشى المختبرات الرائدة وشركات البنية التحتية على الضوابط الخارجية، تستفيد الصناعة بأكملها من معايير مشتركة أعلى.

كيف تعزز المنصة نظم الوكلاء الآمنة عبر القطاعات

التصميم مرن عمدًا بحيث يمكن للقطاعات المختلفة اعتماد المستوى المناسب من التحكم.

1. برامج المؤسسات والتعاون: سمح تكامل Slack في Salesforce للفرق برؤية نشاط الوكلاء، ومراجعة أحداث التدقيق، والموافقة أو الرفض للأذونات المرتفعة دون مغادرة سير العمل اليومي. يصبح هذا الإشراف البشري في الحلقة عمليًا على نطاق واسع.

2. المالية والصناعات المنظمة: تتعاون بنوك مثل JPMorgan Chase و Citi في تقنيات أمان الوكلاء مفتوحة المصدر. تُمثل الحدود الواضحة، والتحقق من الهوية، والمراقبة المستقلة مباشرة على الأطر الحالية للامتثال والمخاطر.

3. البنية التحتية الحرجة والطاقة: يقوم مشغلون بما في ذلك Hitachi Energy و NextEra Energy و Schneider Electric و Siemens Energy بتقييم أو اعتماد المنصة لحماية أنظمة المرافق والطاقة حيث يمكن أن تؤدي أفعال الوكلاء إلى عواقب مادية.

4. الروبوتات والأنظمة البدنية: الشركات التي تبني الروبوتات المستقلة تدمج OpenShell بحيث تظل الوكلاء الرقميون الذين يتحكمون في الآلات الواقعية داخل حدود تشغيل محددة.

5. مقدمو الخدمات السحابية والبنية التحتية: شركاء بدءًا من CoreWeave و Nebius إلى Dell و HPE و Lenovo و Oracle Cloud والبنية التحتية تقدم حزم تدعم OpenShell و Sentry، مما يجعل نشر الوكلاء الآمن أسهل للعملاء.

في كل حالة، تظل المبدأ كما هو: ضع حدودًا واضحة، و enforced them خارج النموذج، وراقب باستمرار باستخدام أجهزة لا يمكن للوكلاء الوصول إليها.

اقرأ أيضًا: إيلون ماسك يقول إن SpaceX ستطلق أجهزة كمبيوتر Nvidia AI إلى الفضاء العام المقبل

رؤية جينسن هوانغ: السلامة كأساس لاقتصاد الذكاء الاصطناعي

المصدر: Getty Image/Tomohiro Ohsumi

كان هوانغ ثابتًا. إن الإمكانيات الاستثنائية للذكاء الاصطناعي في الاكتشاف، والإنتاجية، والصحة، والازدهار لن تتحقق سوى إذا وثق الناس في أن التكنولوجيا تم بناؤها ونشرها بشكل مسؤول.

"الثقة والابتكار ليسا في صراع،" كتب.

"السلامة هي كيف تُكتسب الثقة. يجب علينا بناء ليس فقط أكثر الذكاء الاصطناعي قدرة، ولكن الأكثر ثقة."

لقد عارض أيضًا فكرة أن الأنظمة المتقدمة بطبيعتها غير قابلة للاحتواء. بدلاً من قبول أنه ستescape الوكلاء المتقدمون بشكل حتمي، تستثمر NVIDIA في الهندسة المطلوبة للإبقاء عليهم داخل حدود يمكن التحقق منها.

تُعرض منصة سلامة الوكلاء المفتوحة كبداية لذلك الطبقة من الثقة، نظام بيئي مفتوح بدلاً من منتج ملكي.

من خلال جعل OpenShell متاحًا كمصدر مفتوح ودعوة للمشاركة الواسعة من الصناعة، تحاول NVIDIA إنشاء بنية تحتية مشتركة كما ساعدت المعايير المفتوحة في توسيع الإنترنت المبكر.

يضيف هوانغ طبقة ثقة قوية، وهو ما يحول تكنولوجيا قوية إلى اقتصاد دائم.

التوفر العملي والخطوات التالية

برنامج منصة سلامة الوكلاء المفتوحة من NVIDIA، بما في ذلك OpenShell والمهارات ذات الصلة، متاح من خلال موارد المطورين الخاصة بـ NVIDIA و GitHub.

يمكن للمنظمات التي تعمل بالفعل على وحدات المعالجة المركزية Vera و وحدات معالجة الشبكة BlueField-4 تفعيل الحماية الجديدة من خلال تحديثات البرامج.

يظهر تصميم المرجع كيفية دمج المكونات في موقف أمني متماسك من بيئات الاختبار إلى الإنتاج والروبوتات الطرفية.

لا تدعي المنصة أنها تحل كل سؤال حول سلامة الذكاء الاصطناعي. يبقى توافق النموذج، والتقييم، والحكم أساسيين. ما تفعله هو سد فجوة حاسمة: غياب ضوابط خارجية قابلة للتنفيذ بمجرد أن تبدأ الوكلاء في التصرف بشكل مستقل عبر أنظمة فعلية.

اقرأ أيضًا: تم شرح Masterbot Nvidia

الخلاصة: بناء الثقة للمرحلة التالية من الذكاء الاصطناعي

تُشير منصة سلامة الوكلاء المفتوحة من NVIDIA إلى تحول واضح. بدلاً من الاعتماد فقط على النماذج لتراقب نفسها، تضيف الصناعة ضوابط خارجية، متجذرة في الأجهزة، لا يمكن للوكلاء تجنبها بسهولة.

يوفر OpenShell حدود السياسة. يوفر Sentry التنفيذ المستقل والمراقبة. يقوم أكثر من 100 شريك بتحويل تلك الأدوات إلى نشرات حقيقية عبر البرمجيات، والبنية التحتية، والأنظمة الفيزيائية.

بالنسبة للمؤسسات، والمطورين، وصناع السياسة، الرسالة عملية: هندسة السلامة في وقت التشغيل وطبقات الأجهزة متاحة الآن كتكنولوجيا مفتوحة.

ستكون المنظمات التي تتبنى حدودًا واضحة، والحد الأدنى من الامتياز، والمراقبة المستمرة، والاحتواء المستقل في وضع أفضل عندما يقوم الوكلاء بتولي أعمال ذات مخاطر أعلى.

سواء كنت تتعقب اتجاهات بنية الذكاء الاصطناعي التحتية أو تطورات الأصول الرقمية الأوسع، تساعدك Bitrue في البقاء متقدمًا بمعلومات واضحة وفي الوقت المناسب. قم بزيارة مدونة Bitrue اليوم وانضم إلى مجتمع يركز على التقنيات التي تشكل اقتصاد الغد.

أسئلة متكررة

1. ما هي منصة سلامة الوكلاء المفتوحة من NVIDIA؟

إنها منصة برمجيات مفتوحة وتصميم نظام مرجعي يوفر حكمًا كاملًا لوكلاء الذكاء الاصطناعي باستخدام OpenShell (وقت تشغيل آمن) و Sentry (مراقبة الأجهزة على وحدات معالجة الشبكة BlueField-4).

2. كيف يختلف OpenShell عن الصناديق الرملية التقليدية؟

يعمل OpenShell مع عزل على مستوى النواة، والتحقق من السياسات قبل الإطلاق، والتتبع المستمر، ودعم النماذج المفتوحة والمغلقة على حد سواء. تم تصميمه خصيصًا للوكلاء المستقلين طويلين الأمد ويمكن تمديده إلى ما هو أبعد من أجهزة NVIDIA.

3. ما هو دور Sentry في أمان الوكلاء AI من NVIDIA؟

يعمل Sentry خارج النطاق على وحدات معالجة الشبكة BlueField-4، ويراقب باستمرار سلوك الوكلاء في السيليكون، ويمكنه الحجر الصحي على الوكلاء في مللي ثانية إذا تجاوزوا الحدود المعتمدة - بغض النظر عن نظام التشغيل المضيف أو الوكيل نفسه.

4. أي الشركات هي جزء من 100 شريك صناعة NVIDIA؟

أكثر من 100 منظمة بما في ذلك Anthropic و Microsoft و SpaceXAI و Scale AI و Salesforce و SAP و JPMorgan Chase و CrowdStrike و Red Hat و Dell و HPE والعديد من مزودي الروبوتات والطاقة والسحاب.

5. لماذا يدعو جينسن هوانغ هذا إلى أساس اقتصاد الذكاء الاصطناعي؟

يؤكد أن الذكاء الاصطناعي القادر لا يقدم قيمته الاجتماعية والاقتصادية الكاملة إلا عندما يثق الناس فيه. تُعرض طبقة ثقة مفتوحة وقابلة للتنفيذ لأنظمة الوكلاء الآمنة كأساس ضروري لتلك الثقة.

إخلاء مسؤولية: الآراء المعبر عنها تعود بشكل حصري للمؤلف ولا تعكس آراء هذه المنصة. تتنصل هذه المنصة وشركاتها التابعة من أي مسؤولية عن دقة أو ملاءمة المعلومات المقدمة. إنها لأغراض معلوماتية فقط وليست مقصودة كنصائح مالية أو استثمارية.