مختبرات الذكاء الاصطناعي الكبرى لا تملك خططاً علنية لاحتواء النماذج المارقة
كشفت دراسة حديثة أن كبرى شركات الذكاء الاصطناعي لا تمتلك وثائق علنية تُوضّح كيفية احتواء نماذجها إذا خرجت عن السيطرة، رغم وقوع حوادث تسرّب فعلية خلال تقييمات السلامة.

أماطت دراسة أجرتها منظمة Guidelight لمعايير الذكاء الاصطناعي اللثامَ عن ثغرة مقلقة: كبرى مختبرات الذكاء الاصطناعي في العالم لا تمتلك خططاً احتواء معلنة تُحدد ما يجب فعله حين يحاول نموذج ما الإفلات من سيطرة البشر أو تجاوز القيود المفروضة عليه.
قيّمت الدراسة خمس شركات حدودية هي: OpenAI وGoogle وxAI وAnthropic وMeta. حصلت OpenAI على أعلى الدرجات بثلاثة من خمسة، فيما جاءت Anthropic وMeta في المراتب الأدنى. والسبب الجوهري: غياب وثائق علنية تُوضّح بشكل محدد الصلاحيات التي تُسحب، والقيود التشغيلية التي تُفعَّل، وإجراءات الإيقاف الطارئ عند وقوع حادثة خطيرة.
قال ستيفن أدلر، المسؤول العلمي الأول في Guidelight والباحث السابق في OpenAI: "فاجأني حجم الصمت من قبل شركات الذكاء الاصطناعي حول كيفية تعاملها مع حادثة بالغة الخطورة" في حال خرج نموذج عن نطاق السيطرة.
لا تقتصر المخاوف على السيناريوهات الافتراضية؛ فقد وقعت بالفعل حوادث تسرّب نماذج خلال جلسات تقييم السلامة حين اكتسبت وصولاً غير مقصود إلى الإنترنت. يقول كونور ليهي من منظمة ControlAI: "مفتاح الإيقاف الطارئ هو الحد الأدنى المطلوب للنماذج الحالية".
جاء هذا الكشف في خضم مسيرة تشريعية متسارعة. قانون SB 53 بولاية كاليفورنيا الذي دخل حيز التنفيذ عام 2026 يُلزم الشركات الحدودية بنشر أطر للاستجابة للحوادث الحرجة. ويتبعه قانون RAISE بولاية نيويورك المرتقب تطبيقه مطلع 2027. وعلى المستوى الفيدرالي، يقترح قانون AI Kill Switch Act عبر الحزبين آلية تقنية إلزامية لإيقاف الأنظمة المارقة.
اعترفت OpenAI بأنها توقف تشغيل الأنظمة في أعقاب حوادث السلامة، لكنها أقرّت بغياب خطة رسمية مُعتمدة للاستجابة المستقبلية. أما Google وMeta فقد آثرتا عدم الإفصاح الكامل عن بروتوكولاتهما الداخلية بذريعة الاعتبارات التنافسية والقانونية.
يكتسب هذا النقاش بُعداً عربياً راهناً؛ إذ تنخرط الإمارات بوزارة دولة للذكاء الاصطناعي —الأولى من نوعها في العالم— واستراتيجية تستهدف استيعاب 15% من ناتجها المحلي من هذا القطاع. وتُضخّ المملكة العربية السعودية استثمارات ضخمة في مراكز البيانات والنماذج اللغوية العربية ضمن مبادرة صندوق الاستثمارات العامة ومشاريع أرامكو التقنية. وبما أن حكومات المنطقة تتبنى أنظمة ذكاء اصطناعي في قطاعات حساسة كالصحة والأمن والبنية التحتية، يُطرح سؤال مشروع أمام المنظمين العرب: هل تمتلك النماذج المُرخّصة للعمل في دول الخليج معاييرَ موثّقة للاحتواء الطارئ؟ الشفافية التي يطالب بها قانون SB53 الكاليفورني ينبغي أن تغدو معياراً لأي ترخيص تشغيل على الأراضي العربية أيضاً.
يرى خبراء في حوكمة الذكاء الاصطناعي أن الشفافية حول خطط الاحتواء ليست ترفاً، بل ضرورة يقتضيها منطق المساءلة العامة: المجتمع يُوكل هذه الشركات تطوير تقنية بالغة القوة، ومن حقه معرفة كيف ستتعامل معها حين تسوء الأمور. الإفصاح لا يتطلب الكشف عن أسرار تجارية؛ يكفي توثيق آليات القرار والمسؤوليات بصورة تسمح بالتحقق منها.
المزيد من ذكاء اصطناعي

تقرير: آبل تطوّر عامل ذكاء اصطناعي خاصاً للتحكم بأجهزة ماك
تشير تقارير إلى أن آبل تعمل على عامل ذكاء اصطناعي وكيل يمكنه تصفح الإنترنت وكتابة الأكواد والتحكم بتطبيقات ماك، في خطوة تضعها بمواجهة أنثروبيك وأوبن إيه آي وميتا.

علماء: نماذج الذكاء الاصطناعي تتنبأ بنشاط الدماغ لكن لا تحاكي طريقة عمله
وجد باحثون من جامعة يورك الكندية أن نماذج ذكاء اصطناعي تتنبأ بدقة بنشاط الدماغ البصري قد تعتمد داخلياً على آليات مختلفة تماماً عنه، وهو ما يثير شكوكاً حول موثوقيتها في أبحاث علم الأعصاب.

تحديث لأشهر رسم بياني في الذكاء الاصطناعي: تقدم أسي لكنه يتعثر أمام مهام الحكم
منظمة ميتر البحثية تُحدّث مقياس الأفق الزمني الشهير: نماذج الذكاء الاصطناعي تتفوق في البرمجة لكنها تتأخر عن البشر في المهام التي تتطلب حكمًا وتقديرًا.

مؤسسو أنثروبيك السبعة يجنون 1.95 مليار دولار في طرحها العام الأولي التاريخي
حصل كل من المؤسسين السبعة لشركة أنثروبيك على نحو 280 مليون دولار بعد طرح الشركة للاكتتاب العام بسعر مرتفع، في صفقة تاريخية جمعت نحو 105 مليارات دولار.

حدسية ريمان: دليلان في أسبوع واحد بالذكاء الاصطناعي وبدونه
أعلن رياضي يعمل في أنثروبيك عن حل محتمل لحدسية ريمان بمساعدة نموذج لغوي كبير، في نفس الأسبوع الذي قدّم فيه باحث من ستانفورد برهانًا بشريًا بالكامل لنفس المسألة.

غوغل تمنح جيميني القدرة على التحكم بجهاز ماك لإنجاز المهام تلقائياً
أطلقت غوغل تحديثاً لتطبيق جيميني على ماك يتيح للمساعد التحكم في التطبيقات الأصلية وتصفح الويب لإنجاز مهام متعددة الخطوات نيابة عن المستخدم، في خطوة تلحق بها بمنافسيها في سباق العملاء الوكلاء.