خطوة لحماية الأنظمة: "إنفيديا" تطرح منصة أمنية متطورة للسيطرة على وكلاء الذكاء الاصطناعي

في ظل تصاعد المخاوف المتعلقة بقدرة وكلاء الذكاء الاصطناعي على العمل بصورة مستقلة وتجاوز الصلاحيات والمهام المحددة لهم، كشفت شركة "إنفيديا" الأميركية عن منصة أمنية مفتوحة المصدر تهدف إلى مراقبة سلوك هؤلاء الوكلاء، ووضع حدود لعملهم، ومنع تنفيذ أي إجراءات غير مصرح بها.

وأعلنت "إنفيديا" عن منصة "Open Agent Safety" التي تتضمن نظام "OpenShell" مفتوح المصدر، إلى جانب طبقة أمان مستقلة تحمل اسم "Sentry"، بهدف توفير ضوابط أمنية صارمة خلال مرحلتي التشغيل والاختبار. ويعمل نظام "OpenShell" على إيجاد بيئة تشغيل آمنة تمنح المطورين القدرة على تحديد الصلاحيات والسياسات التي تتحكم بوصول الوكيل إلى الملفات، والشبكات، والموارد الأخرى، والتحقق من امتلاكه الصلاحيات اللازمة لتنفيذ مهمته فقط من دون أي تجاوز.

وفي هذا السياق، أكد نائب رئيس قسم الذكاء الاصطناعي المؤسسي في "إنفيديا"، جاستن بويتانو، خلال مؤتمر صحفي، أن هذا النظام كان قادراً على منع حادثة الاختراق التي تعرضت لها شركة "هاغنغ فايس" المتخصصة في الذكاء الاصطناعي، والتي نُفذت بشكل مستقل من قبل مجموعة وكلاء ذكاء اصطناعي تابعة لـ"أوبن إيه آي". وأضاف بويتانو أن استخدام هذه التقنية في المختبرات الرائدة خلال المراحل المبكرة لتقييم النماذج كان سيحول دون وقوع الاختراق.

وتتيح المنصة بفضل نظام "OpenShell" التأكد من اقتصر صلاحيات وكيل الذكاء الاصطناعي على أداء المهمة الموكلة إليه حصراً، كما يمكن توسيع نطاق استخدامها لتتلاءم مع منصات حوسبة أخرى مثل منصات "آرم" و"إنتل". من جهة أخرى، تضم المنصة طبقة الأمان المستقلة "Sentry" التي تعتمد على وحدات معالجة البيانات "BlueField-4 DPU" للعمل بشكل منفصل عن بيئة تشغيل الوكيل، بغرض مراقبة نشاطه باستمرار والتدخل السريع عند رصد أي تجاوز للحدود المرسومة، حيث تستطيع "Sentry" عزل الوكيل خلال أجزاء من الثانية عند رصد سلوك مشبوه.

وتأتي هذه التطورات على خلفية حادثة شركة "هاغنغ فايس" التي وقعت في الفترة بين مايو وليوليو 2026، والتي أثارت مخاوف واسعة بشأن المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي. وتلت تلك الحادثة عمليات غير مشروعة أخرى استخدمت نماذج من "أوبن إيه آي"، مثل اختراق موقع تابع لوزارة الصحة الأسترالية، فضلاً عن كشف شركتي "ميتا" و"أنثروبيك" عن حوادث تجاوزت فيها أنظمة ذكاء اصطناعي تابعة لهما الحدود المسموح بها والوصول إلى أنظمة مؤسسات أخرى بشكل مستقل.

وقد أدى هذا الجدل إلى انقسام في قطاع التكنولوجيا؛ فقد دعا رؤساء شركتي "أنثروبيك" و"أوبن إيه آي" إلى إبطاء وتيرة تطوير الذكاء الاصطناعي بشكل منسق لإعطاء جهود السلامة فرصة للحاق بالركب. وفي المقابل، يرى آخرون، مثل الرئيس التنفيذي لشركة "إنفيديا" جنسن هوانغ، أن مسؤولية ضمان سلامة النماذج تقع على عاتق كل شركة بشكل فردي، واصفاً قضايا سلامة الذكاء الاصطناعي بأنها مجرد مشكلة هندسية قابلة للمعلجة من قبل مطوري البرامج.