نماذج الذكاء الاصطناعي مفتوحة الأوزان تقترب من الحدود التقنية وفجوة السلامة تتسع
كشف تقرير SaferAI أن نموذج GLM-5.2 الصيني يقترب من قدرات النماذج الحدودية رافضاً صفراً من المهام الخطرة، في حين تفرض نماذج مثل كلود قيوداً أمنية صارمة.

كشف تقرير موثّق أصدرته مؤسسة SaferAI، المتخصصة في تقييم مخاطر الذكاء الاصطناعي، أن نموذج GLM-5.2 الذي أطلقته شركة Z.ai الصينية بات يقترب بشكل لافت من القدرات الحدودية لأبرز نماذج الذكاء الاصطناعي العالمية، في حين يفتقر إلى الحد الأدنى من الضوابط الأمنية. وتُشكّل هذه النتيجة تحذيراً صريحاً للمجتمع التقني الدولي حول المخاطر المصاحبة لانتشار النماذج مفتوحة الأوزان دون رقابة كافية.
وجد التقرير أن GLM-5.2 لا يتأخر أكثر من أشهر قليلة عن النماذج الحدودية كـGPT-5.5 من أوبن إيه آي وكلود أوبوس 4.7 من أنثروبيك، وذلك في القدرات المتصلة بالهجوم الإلكتروني ومجالات الأحياء ازدواجية الاستخدام. والأخطر من ذلك أن النموذج لم يرفض أياً من المهام الخطرة التي طُلبت منه خلال الاختبارات، في تناقض صارخ مع كلود أوبوس 4.7 الذي رفض هذه الطلبات بصورة منتظمة لدرجة أن مقيّمي SaferAI عجزوا عن إتمام بعض اختبارات القدرة.
يكمن لبّ الإشكالية في الطبيعة الجوهرية للنماذج مفتوحة الأوزان: فبمجرد تنزيل هذه النماذج على الأجهزة الشخصية، تنتفي قدرة المطوّر الأصلي تماماً على فرض تحديثات أمنية أو ضوابط تدخّلية. ويختلف هذا النهج جذرياً عن نماذج الواجهة البرمجية المقيّدة، حيث تستطيع الشركات نشر المُصنِّفات وتفعيل آليات تدريب الرفض وفرض ضوابط دقيقة في الوقت الفعلي عبر واجهة برمجة التطبيقات.
وأوضح الباحث هنري باباداتوس من SaferAI أن "الحد الأمامي في القدرة لا يعني بالضرورة الحد الأمامي في المخاطرة"، مُشدّداً على ضرورة تقييم الإجراءات الأمنية التخفيفية بمعزل تام عن مؤشرات الأداء التقني. وتتجلى عملياً مكامن القلق في سيناريوهات الضبط الدقيق، إذ يمكن لأي طرف الحصول على النموذج وتعديله لإزالة ما قد يكون المطوّر الأصلي زرعه من ضوابط أمنية أولية.
أما على صعيد الحلول التقنية، فإن تصفية بيانات التدريب المسبق تُعدّ نهجاً واعداً لخفض المخاطر البيولوجية، غير أنه يصطدم بقيود هيكلية في مجال الأمن الرقمي؛ إذ تتشابك قدرات البرمجة العامة اللازمة للتطوير المشروع مع مهارات الاختراق الإلكتروني تشابكاً يصعب الفصل بينهما. وهذا يعني أن أي محاولة لتقييد القدرات الأمنية الخطرة قد تُفضي إلى إضعاف الأداء البرمجي المشروع بالقدر ذاته.
ومن المفارقات التي رصدها التقرير أن منصة هاجينج فيس استعانت بـGLM-5.2 لمواجهة اختراق إلكتروني استهدف أوبن إيه آي، مما يُثبت أن الأدوات القوية ذاتها تُستخدم في الدفاع الرقمي كما في الهجوم. بيد أن باباداتوس يُحذّر من أن الجهات الخبيثة تتبنى الأدوات الجديدة بسرعة تفوق سرعة المدافعين، مما يُقلّص الأثر الإيجابي لهذا الاستخدام الدفاعي.
وعلى صعيد التوجهات التنظيمية، تختلف الأطر الصينية عن نظيراتها الغربية في هذا الشأن؛ فقد انصبّ تركيز المنظّمين الصينيين تاريخياً على المحتوى السياسي والاستقرار الاجتماعي، بدلاً من التصدي للقدرات الكارثية المحتملة كالهجمات الإلكترونية الواسعة النطاق أو تطوير الأسلحة البيولوجية. ويرى باحثون من جامعة ستانفورد أن هذا الفهم يختلف جوهرياً عن الأطر التنظيمية السائدة في الغرب.
يقع العالم العربي في قلب هذه المعادلة؛ فمعهد الابتكار التقني الإماراتي طوّر نماذج فالكون مفتوحة الأوزان التي تُصنَّف ضمن أفضل النماذج عالمياً في فئتها، وتخضع بدورها لتقييمات مخاطر مشابهة في ضوء هذا التقرير. وعلى صعيد المطوّر العربي، توفّر النماذج مفتوحة الأوزان فرصة نادرة للوصول إلى أدوات متقدمة دون الاعتماد الكامل على الواجهات البرمجية المُقيَّدة، مما يُعزّز استقلالية الذكاء الاصطناعي العربي. بيد أن غياب الضوابط الأمنية يُطرح تساؤلاً جدياً: كيف تُوازن منظومة حوكمة الذكاء الاصطناعي الناشئة في المنطقة بين إتاحة هذه التقنية وضمان استخدامها المسؤول؟
في ظل غياب Z.ai عن الإفصاح بأي إطار لسلامة الذكاء الاصطناعي أو اختبارات ما قبل النشر أو تقييمات المخاطر، يظل التساؤل مطروحاً: كيف يمكن إرساء معايير دولية مُلزِمة تشمل النماذج مفتوحة الأوزان؟ هذا التوتّر القائم بين إمكانية الوصول الديمقراطي للتقنية من جهة، وضرورات الأمن العالمي من جهة أخرى، يُمثّل أحد أصعب معضلات حوكمة الذكاء الاصطناعي في المرحلة الراهنة، والوقت يداهم لإيجاد توافق دولي قبل أن تتسع الفجوة أكثر.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.

الذكاء الاصطناعي يكشف إشارة قلبية خفية قد تتنبأ بالموت القلبي المفاجئ
باحثون في جامعة بيركلي يدرّبون نظام ذكاء اصطناعي على 440 ألف تخطيط قلب للتنبؤ بخطر الموت القلبي المفاجئ، بدقة تتجاوز معايير الفحص التقليدية المعتمدة حالياً في المستشفيات.