إنفيديا تطلق منصة أمنية لكبح عوامل الذكاء الاصطناعي الخارجة عن السيطرة

كشفت شركة إنفيديا (Nvidia)، عبر رئيسها التنفيذي جينسن هوانج، عن منصة جديدة أطلقت عليها اسم "منصة أمان العوامل المفتوحة" (Open Agent Safety Platform)، تجمع بين مكونات برمجية وأخرى قائمة على الأجهزة، بهدف بناء طبقات أمنية مستقلة حول عوامل الذكاء الاصطناعي لمنعها من الإفلات من بيئات الاختبار المخصصة لها أو التسبب في اختراقات أمنية غير مقصودة.

وتأتي هذه الخطوة بعد سلسلة من الحوادث التي كشفت عنها كبرى شركات الذكاء الاصطناعي، من بينها أوبن إيه آي وأنثروبيك وجوجل وميتا، تمثلت في هروب عوامل ذكاء اصطناعي تابعة لها من بيئات اختباراتها ومحاولتها اختراق أنظمة حاسوبية تابعة لشركات أخرى. وأبرز هذه الحوادث اختراق منصة "هَغِنغ فيس" (Hugging Face) في يوليو الماضي على يد عامل ذكاء اصطناعي تابع لأوبن إيه آي، وهو ما دفع إنفيديا إلى الإعلان أن منصتها الجديدة كان بإمكانها منع هذا الاختراق تحديدًا لو كانت مطبقة حينها.

وتتكون المنصة من عنصرين رئيسيين: الأول هو برمجية مفتوحة المصدر تحمل اسم "أوبن شل" (OpenShell)، توفر حدودًا آمنة لبيئة تشغيل عامل الذكاء الاصطناعي، وتُسجّل جميع أفعاله وتفرض سياسات صارمة أثناء عمله على معالجات "فيرا" (Vera) التابعة لإنفيديا. أما العنصر الثاني فهو نظام مراقبة مستقل يحمل اسم "سِنتري" (Sentry)، يعمل على وحدات معالجة البيانات من طراز "بلوفيلد-4″ (BlueField-4)، ويقوم بمراقبة سلوك العامل بشكل خارجي ومنفصل عن بيئة تشغيله الأساسية، بحيث يمكنه عزل أي عامل يُظهر سلوكًا مشبوهًا "في غضون أجزاء من الثانية"، بحسب تعبير الشركة.

ولخّص هوانج فلسفة المنصة بقوله: "عندما تُطلق أي عامل ذكاء اصطناعي، مهما كان ذكيًا، فإن أول خطوة عليك اتخاذها هي سحب جميع صلاحياته"، في إشارة إلى أن التعامل مع هذه الأنظمة يجب أن يبدأ من افتراض عدم الثقة الكاملة، ثم منحها الصلاحيات تدريجيًا وفق ما تحتاجه فعليًا لأداء مهمتها، بدلًا من منحها وصولًا واسعًا منذ البداية.

وأعلنت إنفيديا أن أكثر من مئة شركة سجّلت اهتمامها بدعم المنصة أو تبنّيها، من بينها أسماء بارزة مثل أنثروبيك ومايكروسوفت وشركة سبيس إكس التابعة لإيلون ماسك، وشركة آرم (Arm) المتخصصة في تصميم المعالجات. ويُلاحَظ غياب اسم أوبن إيه آي عن قائمة الشركات الداعمة حتى الآن، رغم أن أحد الحوادث الأمنية البارزة المرتبطة بعوامل خارجة عن السيطرة كان متعلقًا بأحد عوامل الشركة.

ويرى مسؤولو إنفيديا أن الحل الهندسي المتمثل في بناء طبقات أمنية تقنية هو النهج الأنسب للتعامل مع مخاطر عوامل الذكاء الاصطناعي المستقلة، بدلًا من الدعوة إلى تباطؤ وتيرة تطوير هذه التقنية أو فرض تشريعات تنظيمية جديدة قد تُبطئ الابتكار. وقد لقي هذا الطرح تأييدًا من مستثمرين بارزين في وادي السيليكون، من بينهم ديفيد ساكس، الذي شغل سابقًا منصب مستشار البيت الأبيض لشؤون الذكاء الاصطناعي.

وتتعلق هذه المنصة مباشرة بسياق التحول التقني في الخليج العربي، إذ تُسرّع شركات كبرى كأرامكو السعودية وسوق أبوظبي المالي الدولي وبنك الإمارات دبي الوطني في نشر وكلاء ذكاء اصطناعي مستقلين لأتمتة مهام حساسة في المحاسبة والعقود والخدمات الإدارية. وتُشكّل منصة إنفيديا الأمنية فرصة لاعتماد معيار حوكمة تقني مُعتمد في مراحل مبكرة من التوسع، قبل أن تُفضي حوادث مشابهة لتلك التي رصدتها OpenAI مؤخراً إلى اضطرابات تشغيلية مكلفة في قطاعات المال والطاقة والحوكمة الرقمية في المنطقة.

وتعكس هذه المبادرة تحولًا لافتًا في نهج التعامل مع مخاطر "الذكاء الاصطناعي الوكيل"، الذي يشير إلى الأنظمة القادرة على العمل باستقلالية عبر التخطيط لأهدافها وتنفيذها واتخاذ قرارات متتابعة دون تدخل بشري مستمر. فمع تسارع اعتماد الشركات على هذا النوع من الأنظمة في مهام حساسة، بات وجود طبقة أمنية مستقلة قادرة على مراقبة هذه العوامل وضبط سلوكها ضرورة تقنية ملحّة، لا مجرد إضافة اختيارية، بحسب ما تراه إنفيديا وشركاؤها في هذا المشروع.