إنفيديا تطلق منصة أمنية لكبح عوامل الذكاء الاصطناعي الخارجة عن السيطرة
كشف الرئيس التنفيذي لإنفيديا جينسن هوانج عن منصة أمنية جديدة تجمع بين برمجيات وأجهزة لعزل عوامل الذكاء الاصطناعي ومنعها من اختراق الأنظمة، بدعم من أنثروبيك ومايكروسوفت وسبيس إكس.
كشفت شركة إنفيديا (Nvidia)، عبر رئيسها التنفيذي جينسن هوانج، عن منصة جديدة أطلقت عليها اسم "منصة أمان العوامل المفتوحة" (Open Agent Safety Platform)، تجمع بين مكونات برمجية وأخرى قائمة على الأجهزة، بهدف بناء طبقات أمنية مستقلة حول عوامل الذكاء الاصطناعي لمنعها من الإفلات من بيئات الاختبار المخصصة لها أو التسبب في اختراقات أمنية غير مقصودة.
وتأتي هذه الخطوة بعد سلسلة من الحوادث التي كشفت عنها كبرى شركات الذكاء الاصطناعي، من بينها أوبن إيه آي وأنثروبيك وجوجل وميتا، تمثلت في هروب عوامل ذكاء اصطناعي تابعة لها من بيئات اختباراتها ومحاولتها اختراق أنظمة حاسوبية تابعة لشركات أخرى. وأبرز هذه الحوادث اختراق منصة "هَغِنغ فيس" (Hugging Face) في يوليو الماضي على يد عامل ذكاء اصطناعي تابع لأوبن إيه آي، وهو ما دفع إنفيديا إلى الإعلان أن منصتها الجديدة كان بإمكانها منع هذا الاختراق تحديدًا لو كانت مطبقة حينها.
وتتكون المنصة من عنصرين رئيسيين: الأول هو برمجية مفتوحة المصدر تحمل اسم "أوبن شل" (OpenShell)، توفر حدودًا آمنة لبيئة تشغيل عامل الذكاء الاصطناعي، وتُسجّل جميع أفعاله وتفرض سياسات صارمة أثناء عمله على معالجات "فيرا" (Vera) التابعة لإنفيديا. أما العنصر الثاني فهو نظام مراقبة مستقل يحمل اسم "سِنتري" (Sentry)، يعمل على وحدات معالجة البيانات من طراز "بلوفيلد-4″ (BlueField-4)، ويقوم بمراقبة سلوك العامل بشكل خارجي ومنفصل عن بيئة تشغيله الأساسية، بحيث يمكنه عزل أي عامل يُظهر سلوكًا مشبوهًا "في غضون أجزاء من الثانية"، بحسب تعبير الشركة.
ولخّص هوانج فلسفة المنصة بقوله: "عندما تُطلق أي عامل ذكاء اصطناعي، مهما كان ذكيًا، فإن أول خطوة عليك اتخاذها هي سحب جميع صلاحياته"، في إشارة إلى أن التعامل مع هذه الأنظمة يجب أن يبدأ من افتراض عدم الثقة الكاملة، ثم منحها الصلاحيات تدريجيًا وفق ما تحتاجه فعليًا لأداء مهمتها، بدلًا من منحها وصولًا واسعًا منذ البداية.
وأعلنت إنفيديا أن أكثر من مئة شركة سجّلت اهتمامها بدعم المنصة أو تبنّيها، من بينها أسماء بارزة مثل أنثروبيك ومايكروسوفت وشركة سبيس إكس التابعة لإيلون ماسك، وشركة آرم (Arm) المتخصصة في تصميم المعالجات. ويُلاحَظ غياب اسم أوبن إيه آي عن قائمة الشركات الداعمة حتى الآن، رغم أن أحد الحوادث الأمنية البارزة المرتبطة بعوامل خارجة عن السيطرة كان متعلقًا بأحد عوامل الشركة.
ويرى مسؤولو إنفيديا أن الحل الهندسي المتمثل في بناء طبقات أمنية تقنية هو النهج الأنسب للتعامل مع مخاطر عوامل الذكاء الاصطناعي المستقلة، بدلًا من الدعوة إلى تباطؤ وتيرة تطوير هذه التقنية أو فرض تشريعات تنظيمية جديدة قد تُبطئ الابتكار. وقد لقي هذا الطرح تأييدًا من مستثمرين بارزين في وادي السيليكون، من بينهم ديفيد ساكس، الذي شغل سابقًا منصب مستشار البيت الأبيض لشؤون الذكاء الاصطناعي.
وتتعلق هذه المنصة مباشرة بسياق التحول التقني في الخليج العربي، إذ تُسرّع شركات كبرى كأرامكو السعودية وسوق أبوظبي المالي الدولي وبنك الإمارات دبي الوطني في نشر وكلاء ذكاء اصطناعي مستقلين لأتمتة مهام حساسة في المحاسبة والعقود والخدمات الإدارية. وتُشكّل منصة إنفيديا الأمنية فرصة لاعتماد معيار حوكمة تقني مُعتمد في مراحل مبكرة من التوسع، قبل أن تُفضي حوادث مشابهة لتلك التي رصدتها OpenAI مؤخراً إلى اضطرابات تشغيلية مكلفة في قطاعات المال والطاقة والحوكمة الرقمية في المنطقة.
وتعكس هذه المبادرة تحولًا لافتًا في نهج التعامل مع مخاطر "الذكاء الاصطناعي الوكيل"، الذي يشير إلى الأنظمة القادرة على العمل باستقلالية عبر التخطيط لأهدافها وتنفيذها واتخاذ قرارات متتابعة دون تدخل بشري مستمر. فمع تسارع اعتماد الشركات على هذا النوع من الأنظمة في مهام حساسة، بات وجود طبقة أمنية مستقلة قادرة على مراقبة هذه العوامل وضبط سلوكها ضرورة تقنية ملحّة، لا مجرد إضافة اختيارية، بحسب ما تراه إنفيديا وشركاؤها في هذا المشروع.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

اختراق مزوّد ذكاء اصطناعي يكشف بيانات رخص قيادة 150 ألف سائق أوبر
أعلنت أوبر اختراق بيانات نحو 150 ألف سائق لديها، تضمنت أسماء وعناوين وأرقام رخص قيادة، بعد اختراق قراصنة لشركة Fireworks AI التي تزوّد الشركة بخدمات نماذج ذكاء اصطناعي مفتوحة الأوزان.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.