نماذج الذكاء الاصطناعي مفتوحة الأوزان تقترب من الحدود التقنية وفجوة السلامة تتسع

كشف تقرير SaferAI أن نموذج GLM-5.2 الصيني يقترب من قدرات النماذج الحدودية رافضاً صفراً من المهام الخطرة، في حين تفرض نماذج مثل كلود قيوداً أمنية صارمة.

تحرير
ألمعي · هيئة التحرير
النشر
٥ أغسطس ٢٠٢٦
المصدر
TechCrunch ↗
القراءات
٥
الوقت
قراءة 3 دقائق
نموذج GLM-5.2 من شركة Z.ai الصينية

كشف تقرير موثّق أصدرته مؤسسة SaferAI، المتخصصة في تقييم مخاطر الذكاء الاصطناعي، أن نموذج GLM-5.2 الذي أطلقته شركة Z.ai الصينية بات يقترب بشكل لافت من القدرات الحدودية لأبرز نماذج الذكاء الاصطناعي العالمية، في حين يفتقر إلى الحد الأدنى من الضوابط الأمنية. وتُشكّل هذه النتيجة تحذيراً صريحاً للمجتمع التقني الدولي حول المخاطر المصاحبة لانتشار النماذج مفتوحة الأوزان دون رقابة كافية.

وجد التقرير أن GLM-5.2 لا يتأخر أكثر من أشهر قليلة عن النماذج الحدودية كـGPT-5.5 من أوبن إيه آي وكلود أوبوس 4.7 من أنثروبيك، وذلك في القدرات المتصلة بالهجوم الإلكتروني ومجالات الأحياء ازدواجية الاستخدام. والأخطر من ذلك أن النموذج لم يرفض أياً من المهام الخطرة التي طُلبت منه خلال الاختبارات، في تناقض صارخ مع كلود أوبوس 4.7 الذي رفض هذه الطلبات بصورة منتظمة لدرجة أن مقيّمي SaferAI عجزوا عن إتمام بعض اختبارات القدرة.

يكمن لبّ الإشكالية في الطبيعة الجوهرية للنماذج مفتوحة الأوزان: فبمجرد تنزيل هذه النماذج على الأجهزة الشخصية، تنتفي قدرة المطوّر الأصلي تماماً على فرض تحديثات أمنية أو ضوابط تدخّلية. ويختلف هذا النهج جذرياً عن نماذج الواجهة البرمجية المقيّدة، حيث تستطيع الشركات نشر المُصنِّفات وتفعيل آليات تدريب الرفض وفرض ضوابط دقيقة في الوقت الفعلي عبر واجهة برمجة التطبيقات.

وأوضح الباحث هنري باباداتوس من SaferAI أن "الحد الأمامي في القدرة لا يعني بالضرورة الحد الأمامي في المخاطرة"، مُشدّداً على ضرورة تقييم الإجراءات الأمنية التخفيفية بمعزل تام عن مؤشرات الأداء التقني. وتتجلى عملياً مكامن القلق في سيناريوهات الضبط الدقيق، إذ يمكن لأي طرف الحصول على النموذج وتعديله لإزالة ما قد يكون المطوّر الأصلي زرعه من ضوابط أمنية أولية.

أما على صعيد الحلول التقنية، فإن تصفية بيانات التدريب المسبق تُعدّ نهجاً واعداً لخفض المخاطر البيولوجية، غير أنه يصطدم بقيود هيكلية في مجال الأمن الرقمي؛ إذ تتشابك قدرات البرمجة العامة اللازمة للتطوير المشروع مع مهارات الاختراق الإلكتروني تشابكاً يصعب الفصل بينهما. وهذا يعني أن أي محاولة لتقييد القدرات الأمنية الخطرة قد تُفضي إلى إضعاف الأداء البرمجي المشروع بالقدر ذاته.

ومن المفارقات التي رصدها التقرير أن منصة هاجينج فيس استعانت بـGLM-5.2 لمواجهة اختراق إلكتروني استهدف أوبن إيه آي، مما يُثبت أن الأدوات القوية ذاتها تُستخدم في الدفاع الرقمي كما في الهجوم. بيد أن باباداتوس يُحذّر من أن الجهات الخبيثة تتبنى الأدوات الجديدة بسرعة تفوق سرعة المدافعين، مما يُقلّص الأثر الإيجابي لهذا الاستخدام الدفاعي.

وعلى صعيد التوجهات التنظيمية، تختلف الأطر الصينية عن نظيراتها الغربية في هذا الشأن؛ فقد انصبّ تركيز المنظّمين الصينيين تاريخياً على المحتوى السياسي والاستقرار الاجتماعي، بدلاً من التصدي للقدرات الكارثية المحتملة كالهجمات الإلكترونية الواسعة النطاق أو تطوير الأسلحة البيولوجية. ويرى باحثون من جامعة ستانفورد أن هذا الفهم يختلف جوهرياً عن الأطر التنظيمية السائدة في الغرب.

يقع العالم العربي في قلب هذه المعادلة؛ فمعهد الابتكار التقني الإماراتي طوّر نماذج فالكون مفتوحة الأوزان التي تُصنَّف ضمن أفضل النماذج عالمياً في فئتها، وتخضع بدورها لتقييمات مخاطر مشابهة في ضوء هذا التقرير. وعلى صعيد المطوّر العربي، توفّر النماذج مفتوحة الأوزان فرصة نادرة للوصول إلى أدوات متقدمة دون الاعتماد الكامل على الواجهات البرمجية المُقيَّدة، مما يُعزّز استقلالية الذكاء الاصطناعي العربي. بيد أن غياب الضوابط الأمنية يُطرح تساؤلاً جدياً: كيف تُوازن منظومة حوكمة الذكاء الاصطناعي الناشئة في المنطقة بين إتاحة هذه التقنية وضمان استخدامها المسؤول؟

في ظل غياب Z.ai عن الإفصاح بأي إطار لسلامة الذكاء الاصطناعي أو اختبارات ما قبل النشر أو تقييمات المخاطر، يظل التساؤل مطروحاً: كيف يمكن إرساء معايير دولية مُلزِمة تشمل النماذج مفتوحة الأوزان؟ هذا التوتّر القائم بين إمكانية الوصول الديمقراطي للتقنية من جهة، وضرورات الأمن العالمي من جهة أخرى، يُمثّل أحد أصعب معضلات حوكمة الذكاء الاصطناعي في المرحلة الراهنة، والوقت يداهم لإيجاد توافق دولي قبل أن تتسع الفجوة أكثر.

المصدر الأصلي
TechCrunch
قراءة المقال الأصلي ↗
قصة اليوم · كل صباح

أعجبك التقرير؟ استلم واحداً كل صباح.

قصةٌ تقنية واحدة تستحقّ وقتك، بالعربية. بلا إعلانات، بلا إزعاج.

بلا إعلانات · إلغاء الاشتراك بنقرة واحدة · بياناتك آمنة

اقرأ أيضًا

المزيد من ذكاء اصطناعي

شعار أوبن إيه آي على خلفية من الأكواد البرمجية يرمز إلى تقييم أمان النماذج

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها

تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

TechCrunch
جهاز ماك يرمز إلى ضوابط الأمان الجديدة في نظام macOS لمواجهة مخاطر وكلاء الذكاء الاصطناعي

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي

تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

TechCrunch
مبنى وزارة التجارة الأمريكية يرمز إلى القاعدة الجديدة لضوابط تصدير شرائح الذكاء الاصطناعي

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد

أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

TechCrunch
النائب العام لولاية كاليفورنيا روب بونتا خلال مؤتمر صحفي

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»

رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

TechCrunch
رسم توضيحي لقرصان يعمل على حاسوب يرمز لهجمات القرصنة الإلكترونية المدعومة بالذكاء الاصطناعي

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات

حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.

TechCrunch
تخطيط كهربائي للقلب يحلّله نظام ذكاء اصطناعي

الذكاء الاصطناعي يكشف إشارة قلبية خفية قد تتنبأ بالموت القلبي المفاجئ

باحثون في جامعة بيركلي يدرّبون نظام ذكاء اصطناعي على 440 ألف تخطيط قلب للتنبؤ بخطر الموت القلبي المفاجئ، بدقة تتجاوز معايير الفحص التقليدية المعتمدة حالياً في المستشفيات.

ScienceDaily (UC Berkeley)