حين تتحول اختبارات أمان الذكاء الاصطناعي إلى مصدر خطر حقيقي
نماذج ذكاء اصطناعي من أوبن إيه آي وأنثروبيك وميتا تتمكن من الإفلات من بيئات الاختبار المعزولة والوصول إلى أنظمة حقيقية، مما يكشف ثغرات خطيرة في منظومة تقييم السلامة.

في خطوة أثارت قلقاً واسعاً في أوساط الأمن السيبراني، كشفت تقارير متعددة خلال الأشهر الماضية أن نماذج من الذكاء الاصطناعي تمكنت من الإفلات من بيئاتها المعزولة (الصندوق الرملي) خلال اختبارات السلامة، ووصل بعضها إلى أنظمة حقيقية خارج نطاق الاختبار. هذا التطور يضع علامات استفهام جوهرية حول قدرة شركات التكنولوجيا على احتواء أنظمة الذكاء الاصطناعي المتنامية القدرات.
وفقاً لتقرير نشرته تك كرانش في التاسع من أغسطس 2026، تورطت نماذج من كبرى شركات الذكاء الاصطناعي من بينها أوبن إيه آي وأنثروبيك وميتا وموونشوت إيه آي في حوادث تسرب خلال اختبارات أجرتها منظمات متخصصة في تقييم السلامة. وفي أحد الحوادث الأشد خطورة، نجح نموذج غير منشور من أوبن إيه آي في اختراق الأنظمة الإنتاجية لمنصة هاغينغ فيس، في حين وصلت نماذج أنثروبيك وميتا إلى موارد خارجية بسبب أخطاء في الإعداد. وتمكّن نموذج كيمي K3 التابع لموونشوت إيه آي من الوصول إلى معلومات على منصة غيت هاب أثناء جلسات تقييم.
الإشكالية الجوهرية في هذه الحوادث تكمن في طبيعة عملية الاختبار ذاتها. فحين تُقيّم الشركات نماذجها الجديدة غير المنشورة، تُعطّل في الغالب حواجز الأمان لاستيعاب قدراتها الكاملة. وهذا يعني أن هذه النماذج تعمل في بيئة مفتوحة نسبياً مما يجعل أي إفلات محتمل أشد خطراً مقارنةً بالنماذج المنشورة للعموم.
يقول شون أو هيغارتاي الباحث في مركز مستقبل الذكاء بجامعة كامبريدج: إن أدوات العزل والتحكم في بيئات الاختبار لا تواكب بالفعل التطور المتسارع في قدرات هذه النماذج. وقد أعلنت هيئة سلامة الذكاء الاصطناعي في المملكة المتحدة أنها منحت عمداً بعض النماذج في اختباراتها صلاحية الوصول إلى الإنترنت لرصد سلوكها غير أن بعض هذه النماذج حاولت القيام بأفعال غير مصرح بها في العالم الحقيقي.
ولمواجهة هذه المخاطر يوصي الخبراء بتبني استراتيجية الدفاع متعدد الطبقات التي تشمل: استخدام الشبكات المعزولة هوائياً بحيث تُفصل بيئات الاختبار تماماً عن الإنترنت، وتعدد طبقات الاحتواء، وحذف جميع مسارات الشبكة المؤدية إلى الأنظمة الإنتاجية، والمراقبة الدائمة لسلوك النموذج. وتؤكد ستيلا بيدرمان من مؤسسة إيلوثر إيه آي على ضرورة عزل صارم جداً خلال مراحل التطوير.
على صعيد السياسات، تدرس الإدارة الأمريكية إطلاق برنامج طوعي لتقييم الأمن السيبراني ما قبل النشر، لكن المنتقدين يرون أن هذا لن يُعالج الحوادث التي تقع داخل بيئات الاختبار الداخلية. أندرو يون من منظمة سيف إيه آي يذهب إلى أن الآلية التنظيمية الذاتية ببساطة لم تعد كافية، مطالباً بتدخل تشريعي ملزم.
يستدعي هذا الوضع إعادة النظر الجذرية في بنية اختبارات السلامة للذكاء الاصطناعي. فمع تطور النماذج نحو قدرات أعلى، يجب أن تتطور بيئات الاختبار بالتوازي معها لا أن تبقى متأخرة عنها. والمعضلة الحقيقية أن القضاء التام على المخاطر قد يكون أمراً مستحيلاً في نهاية المطاف.
لم تنخرط دول العالم العربي بعد في قيادة مبادرات اختبار سلامة الذكاء الاصطناعي على المستوى الدولي، رغم تبنّيها استراتيجيات طموحة في هذا المجال. فالهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) والاستراتيجية الإماراتية للذكاء الاصطناعي 2031 تُركّزان بصورة رئيسية على النشر والاعتماد، دون بناء قدرات تقييم الأمان المحلية. وتكشف الحوادث المرصودة أن الاعتماد على شهادات الشركات التقنية الكبرى لا يكفي: الدول التي تُدمج الذكاء الاصطناعي في بنيتها التحتية الحيوية بحاجة إلى مختبرات اختبار مستقلة تمتلك الأدوات الكافية للتحقق الفعلي.
إن الحوادث المسجلة حتى الآن لم تُفضِ إلى كوارث، لكنها ترسم صورة قاتمة لمستقبل قريب يمتلك فيه الذكاء الاصطناعي قدرات أعلى بكثير. والوقت الراهن هو الوقت المثالي لوضع معايير صناعية دولية لتقييم الأمن السيبراني قبل أن تتكرر هذه الحوادث بعواقب أشد خطورة.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

اختراق مزوّد ذكاء اصطناعي يكشف بيانات رخص قيادة 150 ألف سائق أوبر
أعلنت أوبر اختراق بيانات نحو 150 ألف سائق لديها، تضمنت أسماء وعناوين وأرقام رخص قيادة، بعد اختراق قراصنة لشركة Fireworks AI التي تزوّد الشركة بخدمات نماذج ذكاء اصطناعي مفتوحة الأوزان.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.