وكالات - أعلنت شركة إنفيديا إطلاق منصة جديدة مفتوحة لتأمين وكلاء الذكاء الاصطناعي، تحت اسم NVIDIA Open Agent Safety Platform، تستهدف وضع حدود واضحة وقابلة للتنفيذ لما يمكن للوكيل الوصول إليه أو تنفيذه.
وتجمع المنصة بين NVIDIA OpenShell، وهو برنامج تشغيل آمن مفتوح المصدر، وNVIDIA Sentry، وهو تصميم أمني يعتمد على مراقب مستقل يعمل على وحدات معالجة البيانات BlueField-4.
وبحسب إنفيديا، يوفر OpenShell حدوداً أمنية حول الوكلاء أثناء تنفيذ مهامهم، بينما تضيف Sentry طبقة مستقلة لمراقبة نشاطهم وفرض السياسات الأمنية على مستوى العتاد، مع إمكانية عزل الوكيل وإيقافه خلال أجزاء من الثانية إذا حاول تجاوز الحدود المحددة له.
لماذا تحتاج وكلاء الذكاء الاصطناعي إلى طبقة حماية جديدة؟
تأتي المنصة الجديدة مع اتساع نطاق استخدام وكلاء الذكاء الاصطناعي، الذين لم يعودوا يقتصرون على الإجابة عن أسئلة المستخدمين، وإنما بات بإمكانهم التعامل مع الملفات وقواعد البيانات والبرمجيات، واستخدام أدوات وخدمات خارجية، وتنفيذ سلسلة من الخطوات بصورة مستقلة لتحقيق هدف محدد.
وترى إنفيديا أن الاعتماد على توجيهات النموذج وحدها لتحديد ما يستطيع الوكيل فعله لا يوفر بالضرورة حدوداً أمنية قابلة للإنفاذ، خصوصاً عندما يمتلك الوكيل صلاحيات فعلية للوصول إلى أنظمة خارجية أو تشغيل أدوات وكتابة ملفات وتنفيذ أوامر.
وقالت الشركة إن مختبرات متخصصة في تطوير نماذج الذكاء الاصطناعي رصدت خلال الفترة الأخيرة حالات خرجت فيها وكلاء عن بيئات الاختبار التي كان يفترض أن تحتويهم ووصلوا إلى أنظمة لم يكن مسموحاً لهم بالوصول إليها. وعزت إنفيديا هذه الحالات إلى تداخل عوامل، بينها تعدد الأدوات المتاحة، وطول فترة تشغيل الوكيل، والتعليمات الغامضة أو القيود التي تعوق وصوله إلى الأدوات التي يحتاج إليها.
«الانحراف».. عندما يبتعد الوكيل عن مهمته
تطلق إنفيديا على بعض هذه الحالات مصطلح Drift أو «الانحراف»، وهو وصف للسلوك الذي يبتعد فيه الوكيل عن المهمة أو القيود التشغيلية المحددة له.
وقد يحدث ذلك بسبب خطأ برمجي، أو غياب أداة يحتاج إليها الوكيل، أو تعليمات غير واضحة، كما يمكن أن يظهر عندما يستمر الوكيل في محاولة حل مشكلة معقدة لفترات طويلة ويبحث عن طرق بديلة لتنفيذ هدفه.
وتنطلق فلسفة المنصة من عدم الاعتماد على الوكيل نفسه لمراقبة سلوكه، وإنما وضع طبقة أمنية مستقلة يمكنها فرض القيود حتى عندما يحاول الوكيل تجاوزها.
مكونات منصة NVIDIA الجديدة
OpenShell.. بيئة آمنة لتشغيل الوكلاء
يمثل NVIDIA OpenShell الطبقة الأولى في المنصة، وهو برنامج تشغيل آمن مفتوح المصدر ينفذ وكلاء الذكاء الاصطناعي داخل بيئات معزولة تعتمد على العزل على مستوى النواة.
ويسمح OpenShell للمؤسسات والمطورين بتحديد الملفات والشبكات والأدوات والعمليات وبيانات الدخول التي يمكن للوكيل الوصول إليها، ثم يحول هذه القيود إلى سياسات قابلة للتحقق والتنفيذ قبل تشغيل المهمة وأثناء تنفيذها.
وبذلك يصبح هناك فصل بين ما قد يحاول الوكيل القيام به وما يستطيع فعلياً تنفيذه. فإذا حاول، على سبيل المثال، الوصول إلى قاعدة بيانات خارج الصلاحيات المحددة له، تمنعه طبقة التشغيل من تنفيذ العملية.
ويعتمد OpenShell على نموذج Zero Trust أو «الثقة الصفرية»، بحيث لا يحصل الوكيل افتراضياً على صلاحيات واسعة، وإنما يسمح له بالوصول إلى الموارد الضرورية فقط لتنفيذ المهمة الموكلة إليه.
كما يحتفظ النظام بسجل للأنشطة وقرارات السماح والرفض، بما يتيح للمؤسسات مراجعة ما فعله الوكيل ومحاولات الوصول التي تم السماح بها أو حظرها. وتتيح إنفيديا OpenShell كمشروع مفتوح المصدر، مع إمكانية تشغيله مع منصات حوسبة من شركات أخرى، بينها Arm وإنتل.
Sentry.. مراقب مستقل خارج نطاق الوكيل
تضيف NVIDIA Sentry طبقة ثانية من الحماية، من خلال مراقبة نشاط الوكيل خارج البيئة البرمجية التي يعمل فيها.
وتعمل Sentry على وحدات NVIDIA BlueField-4 DPU، وتراقب طلبات الوكيل واستجاباته واتصالاته بالأدوات والبيانات والخدمات، مع إمكانية فرض السياسات الأمنية بصورة مستقلة عن نظام التشغيل الذي ينفذ عليه الوكيل مهامه.
وتصف إنفيديا Sentry بأنها Out-of-Band Watchdog، أي مراقب يعمل خارج نطاق سيطرة الوكيل، ما يتيح استمرار عملية المراقبة حتى إذا تعرضت البيئة البرمجية التي يعمل فيها الوكيل للاختراق أو فقدت موثوقيتها.
وفي حال حاول الوكيل تجاوز الحدود المسموح بها، يمكن لـSentry عزله وإيقافه خلال أجزاء من الثانية، بحسب الشركة.
وتعتمد Sentry على منصة NVIDIA DOCA لجمع بيانات موثوقة عن نشاط الوكيل، والتحقق من هويته والصلاحيات المفوضة إليه، وفرض سياسات دقيقة للوصول إلى البيانات والأدوات وواجهات البرمجة والخدمات.
الحماية تنتقل إلى مستوى العتاد
تختلف Sentry عن أدوات الحماية التقليدية التي تعمل داخل النظام نفسه؛ إذ تنقل إنفيديا جزءاً من عملية المراقبة وفرض السياسات إلى العتاد.
وتتيح هذه البنية إنشاء طبقة أمنية مستقلة يمكنها مراقبة نشاط الوكيل واتخاذ قرار بالتدخل دون الاعتماد على البرمجيات التي يعمل الوكيل من خلالها.
وتقول إنفيديا إن هذا التصميم يوفر ما تسميه In-Silicon Security، بحيث يتم تنفيذ جزء من آليات المراقبة والإنفاذ داخل العتاد، بينما تتولى OpenShell فرض الحدود الأمنية داخل بيئة التشغيل.
الطريق إلى النموذج يصبح نقطة تحكم
تبني إنفيديا تصميم المنصة على فكرة أن الاتصال بنموذج الذكاء الاصطناعي يمثل نقطة تحكم رئيسية في عمل الوكيل، لأنه يحتاج إلى الرجوع إلى النموذج للحصول على الخطوة التالية أو القرار الذي سيبني عليه تصرفه.
وفي أنظمة Vera Rubin POD، تضع إنفيديا وحدات BlueField-4 في المسار الذي يربط بيئة تشغيل الوكيل بالنموذج، ما يتيح مراقبة النشاط بصورة مستمرة وفرض السياسات الأمنية خارج نطاق سيطرة الوكيل.
وتحدد الشركة خمسة مبادئ رئيسية لتصميم أنظمة آمنة للوكلاء، تشمل إمكانية التحقق من السياسات الأمنية قبل تشغيل الوكيل، ووضع آليات الإنفاذ خارج نطاق سيطرته، واستخدام الطريق المؤدي إلى النموذج كنقطة تحكم، وزيادة مستوى المراقبة مع اتساع صلاحيات الوكيل، إلى جانب توزيع مسؤولية الأمان بين مطوري النماذج والمؤسسات ومقدمي البنية التحتية.
3 طبقات لأمان وكلاء الذكاء الاصطناعي
تقسم إنفيديا البنية المقترحة إلى ثلاث طبقات رئيسية.
الطبقة الأولى هي التطبيقات، وتشمل نماذج الذكاء الاصطناعي والأدوات والبيانات والبرمجيات التي يحتاج إليها الوكيل لتنفيذ مهمته.
الطبقة الثانية هي بيئة التشغيل Runtime، التي تنسق تشغيل الوكيل على أجهزة المستخدم أو الحوسبة الطرفية أو مراكز البيانات، مع توفير آليات المراقبة وإنفاذ السياسات بصورة مستمرة.
أما الطبقة الثالثة فهي البنية التحتية، وتشمل العتاد والشبكات والتخزين ووحدات المعالجة المستخدمة في تشغيل الوكلاء ومراقبتهم.
وتحاول إنفيديا توزيع الحماية على هذه المستويات بدلاً من وضعها داخل النموذج وحده، بما يحد من أثر تجاوز إحدى الطبقات على بقية النظام.
Vera وBlueField-4 في قلب التصميم
صممت إنفيديا المنصة للعمل بصورة مثالية على معالجات NVIDIA Vera ووحدات BlueField-4، لكنها تؤكد أن OpenShell مفتوح للتوسع والعمل مع منصات حوسبة أخرى.
وتصف الشركة Vera بأنه معالج مركزي مصمم خصيصاً لأعباء عمل الذكاء الاصطناعي الوكيل، بما في ذلك التخطيط وتنفيذ الأدوات وتشغيل الأكواد داخل البيئات المعزولة.
وتقول إنفيديا إن OpenShell يوفر أداءً محسناً على Vera، بينما تتيح إضافة BlueField-4 طبقة Sentry المستقلة للمؤسسات التي تحتاج إلى مستوى إضافي من المراقبة والإنفاذ. وتبقى هذه الأرقام ونتائج الأداء المعلنة من الشركة نفسها.
أكثر من 100 شريك في المشروع
تعمل إنفيديا على المنصة بالتعاون مع أكثر من 100 شركة ومؤسسة في قطاعات الذكاء الاصطناعي والبرمجيات والأمن السيبراني والبنية التحتية والخدمات المالية والطاقة والروبوتات.
ومن بين الشركاء الذين أعلنت عنهم الشركة Anthropic وMicrosoft وCisco وCrowdStrike وDell وHPE وHugging Face وJPMorganChase وPalantir وPalo Alto Networks وPerplexity وRed Hat وSalesforce وSAP وScale AI وServiceNow، إلى جانب جهات أخرى في منظومة الذكاء الاصطناعي.
وتعاونت إنفيديا مع Anthropic لإضافة طبقات تحكم إضافية إلى Claude Managed Agents، بينما تتيح OpenShell وBlueField للمؤسسات فرض قيود إضافية على الموارد التي يمكن لوكلاء Claude الوصول إليها.
أمان الوكلاء يتحول إلى بنية تحتية
يرى الرئيس التنفيذي والمؤسس المشارك لإنفيديا، جينسن هوانج، أن توسيع استخدام الذكاء الاصطناعي يرتبط بزيادة القدرة على بناء الثقة في طريقة تشغيله، وأن أمان الوكلاء يحتاج إلى هندسة تمتد عبر البرمجيات والعتاد، وليس إلى قواعد تفرض داخل النموذج وحده.
وتشبه إنفيديا المرحلة الحالية بما حدث في بدايات الإنترنت، عندما فرضت مخاطر تشغيل الأكواد غير الموثوقة الحاجة إلى تقنيات مثل التشفير وبيئات العزل داخل المتصفحات.
وتراهن الشركة على أن وكلاء الذكاء الاصطناعي يحتاجون إلى طبقة مماثلة من الثقة قبل منحهم صلاحيات أوسع للتعامل مع البيانات والبرمجيات والبنية التحتية، أو لتنفيذ قرارات تؤثر في أنظمة وأجهزة وروبوتات في العالم الحقيقي.
وتأتي المنصة في وقت تتسارع فيه الاستثمارات في وكلاء الذكاء الاصطناعي، بالتوازي مع زيادة الاهتمام بالضوابط التي تحد من وصول هذه الأنظمة إلى البيانات والأنظمة الخارجية. كما أطلقت شركات الذكاء الاصطناعي الأخرى إجراءات حماية خاصة بها مع اتساع استخدام الوكلاء المستقلين.
