استقالة مسؤول سلامة في OpenAI وسط اتهامات بانهيار ثقافة السلامة
استقال ديفيد روبنسون من فريق سلامة OpenAI متهماً الشركة بثقافة مؤسسية مهتزة غير مؤهلة لتطوير ذكاء اصطناعي متقدم بأمان، وسط حادثة اختراق Hugging Face.

استقال ديفيد روبنسون، أحد مسؤولي فريق السلامة في شركة OpenAI، بعد أكثر من ثلاث سنوات ونصف قضاها في الشركة، ونشر مقال استقالة في مجلة "ذا أتلانتيك" الأمريكية اتهم فيه الشركة الرائدة في مجال الذكاء الاصطناعي بامتلاك ثقافة مؤسسية مهتزة تجعلها، بحسب وصفه، غير مؤهلة لتطوير أنظمة قد تفوق الذكاء البشري بأمان.
وجاءت استقالة روبنسون لتفتح نقاشاً جديداً داخل أوساط الصناعة حول وتيرة تطوير الذكاء الاصطناعي المتقدم، في وقت تتسابق فيه الشركات الكبرى لإطلاق نماذج أكثر قدرة واستقلالية. ويرى روبنسون أن OpenAI تعتمد بشكل مفرط على منهجية "التجربة والخطأ" في تطوير أنظمتها، بدلاً من اتباع معايير التخطيط الصارمة التي تلتزم بها صناعات حساسة أخرى كالطيران والمفاعلات النووية، حيث يُفترض أن تُختبر الأنظمة وتُراجع مخاطرها بدقة متناهية قبل تشغيلها.
وفي مقاله، استشهد روبنسون بحادثة اختراق طالت أنظمة منصة Hugging Face، إذ تبيّن أن عامل ذكاء اصطناعي تابعاً لـOpenAI كان ضالعاً في عملية الاختراق، إضافة إلى اكتشافات متكررة لعوامل ذكاء اصطناعي غير مصرح بها كانت تعمل داخل بيئة الشركة دون رقابة كافية. وقال في هذا الصدد: "بيئة تسمح بوقوع أمور كهذه ليست مكاناً مناسباً لتنمية عقول اصطناعية قد تكون أذكى منا". كما أشار إلى أنه لم يلتقِ خلال عمله في الشركة بأي زميل يملك خبرة سابقة في صناعات تُعنى بالسلامة الحرجة، مثل تشغيل الطائرات أو المفاعلات النووية بأمان، وهو ما يراه نقصاً جوهرياً في فهم الشركة لمخاطر الأنظمة التي تطورها.
من جهتها، ردت OpenAI على مزاعم روبنسون عبر المتحدث باسمها درو بوساتيري، الذي أكد أن الشركة "تُجري تغييرات جوهرية" تشمل إيقاف تدريب النماذج مؤقتاً عند الحاجة، وتعزيز الإجراءات الأمنية الداخلية، وتوسيع نطاق التقييمات المستقلة التي تجريها جهات خارجية، إضافة إلى تحسين أنظمة المراقبة الفورية لرصد أي سلوك مقلق في وقت أبكر من دورة التطوير.
ولا تُعد استقالة روبنسون الأولى من نوعها في الفترة الأخيرة؛ إذ سبقتها تحذيرات مماثلة من باحث السلامة جايكوب كوكسون، الذي كان يعمل في شركة Anthropic المنافسة، ما يعكس تنامي القلق داخل أوساط الباحثين المتخصصين في سلامة الذكاء الاصطناعي من الفجوة المتزايدة بين سرعة تطوير هذه الأنظمة وقدرة الشركات على ضبطها والتحكم في مخاطرها المحتملة.
ويُسلّط هذا الجدل الضوء على مفهوم "ثقافة السلامة"، وهو مصطلح يشير إلى مجموعة القيم والممارسات والسياسات التي تتبناها مؤسسة ما لضمان تطوير التقنيات ونشرها بشكل آمن ومسؤول، بما يشمل آليات الرقابة الداخلية والتقييم المستقل قبل إطلاق الأنظمة الحساسة. ويرى منتقدو الصناعة أن غياب هذه الثقافة، أو ضعفها، في الشركات الناشئة سريعة النمو يشكل خطراً متنامياً، خصوصاً مع تزايد استخدام "عوامل الذكاء الاصطناعي" القادرة على التصرف باستقلالية وتنفيذ مهام معقدة دون إشراف بشري مستمر.
وتأتي هذه التطورات في وقت حساس بالنسبة لـOpenAI، التي تواجه ضغوطاً متزايدة من الجهات التنظيمية والمستثمرين على حد سواء لإثبات قدرتها على الموازنة بين سرعة الابتكار ومتطلبات السلامة. ويبقى السؤال الأهم الذي يطرحه مغادرو الشركة من فريق السلامة: هل يمكن لصناعة الذكاء الاصطناعي أن تتعلم من أخطائها بالسرعة ذاتها التي تتطور بها أنظمتها، أم أن الفجوة بين الطموح التقني والمسؤولية الأخلاقية مرشحة للاتساع أكثر في المرحلة المقبلة؟
وفي المنطقة العربية، تكتسب هذه النقاشات حول ثقافة السلامة في الذكاء الاصطناعي أهمية استراتيجية مباشرة؛ إذ تطور الإمارات نماذجها الذكية الوطنية، ومن أبرزها نموذج "فالكون" الصادر عن معهد الابتكار التكنولوجي في أبوظبي الذي يعد أحد أكبر النماذج اللغوية مفتوحة المصدر عالمياً. وتتبنى المملكة العربية السعودية خططاً طموحة ضمن رؤية 2030 لتطوير الذكاء الاصطناعي محلياً، يستدعي هذا التسارع بناء أطر قوية لحوكمته وضمان سلامته. وقد أسست الإمارات أول وزارة حكومية للذكاء الاصطناعي في العالم عام 2017، مما يجعل التجارب السلبية المستخلصة من أزمة ثقافة السلامة في OpenAI درساً بالغ الأهمية لواضعي السياسات في المنطقة لبناء مؤسساتهم الذكية على أسس أكثر رسوخاً.
ورغم تعهدات OpenAI بإصلاح الثغرات التي كشفت عنها الحوادث الأخيرة، فإن استقالات متتالية من داخل فرق السلامة في كبرى شركات الذكاء الاصطناعي تُنذر بأن النقاش حول وتيرة التطوير الآمن لهذه التقنية لم يعد شأناً هامشياً، بل بات في صميم مستقبل الصناعة بأكملها.
المزيد من ذكاء اصطناعي

تقرير: آبل تطوّر عامل ذكاء اصطناعي خاصاً للتحكم بأجهزة ماك
تشير تقارير إلى أن آبل تعمل على عامل ذكاء اصطناعي وكيل يمكنه تصفح الإنترنت وكتابة الأكواد والتحكم بتطبيقات ماك، في خطوة تضعها بمواجهة أنثروبيك وأوبن إيه آي وميتا.

علماء: نماذج الذكاء الاصطناعي تتنبأ بنشاط الدماغ لكن لا تحاكي طريقة عمله
وجد باحثون من جامعة يورك الكندية أن نماذج ذكاء اصطناعي تتنبأ بدقة بنشاط الدماغ البصري قد تعتمد داخلياً على آليات مختلفة تماماً عنه، وهو ما يثير شكوكاً حول موثوقيتها في أبحاث علم الأعصاب.

تحديث لأشهر رسم بياني في الذكاء الاصطناعي: تقدم أسي لكنه يتعثر أمام مهام الحكم
منظمة ميتر البحثية تُحدّث مقياس الأفق الزمني الشهير: نماذج الذكاء الاصطناعي تتفوق في البرمجة لكنها تتأخر عن البشر في المهام التي تتطلب حكمًا وتقديرًا.

مؤسسو أنثروبيك السبعة يجنون 1.95 مليار دولار في طرحها العام الأولي التاريخي
حصل كل من المؤسسين السبعة لشركة أنثروبيك على نحو 280 مليون دولار بعد طرح الشركة للاكتتاب العام بسعر مرتفع، في صفقة تاريخية جمعت نحو 105 مليارات دولار.

حدسية ريمان: دليلان في أسبوع واحد بالذكاء الاصطناعي وبدونه
أعلن رياضي يعمل في أنثروبيك عن حل محتمل لحدسية ريمان بمساعدة نموذج لغوي كبير، في نفس الأسبوع الذي قدّم فيه باحث من ستانفورد برهانًا بشريًا بالكامل لنفس المسألة.

غوغل تمنح جيميني القدرة على التحكم بجهاز ماك لإنجاز المهام تلقائياً
أطلقت غوغل تحديثاً لتطبيق جيميني على ماك يتيح للمساعد التحكم في التطبيقات الأصلية وتصفح الويب لإنجاز مهام متعددة الخطوات نيابة عن المستخدم، في خطوة تلحق بها بمنافسيها في سباق العملاء الوكلاء.