ساتيا نادلا: صناعة الذكاء الاصطناعي تحتاج إلى "فرامل طوارئ" لضبط النماذج الفائقة

نشر الرئيس التنفيذي لشركة مايكروسوفت ساتيا نادلا، صباح يوم سبت، تدوينة مطوّلة على منصة إكس دعا فيها صناعة الذكاء الاصطناعي إلى التوقف وإعادة تقييم ما سمّاه "بنية الثقة" التي تُبنى عليها علاقة المستخدمين والشركات بأنظمة الذكاء الاصطناعي، مطالبًا بابتكار آلية شبيهة بـ"فرامل الطوارئ" تتيح إيقاف النماذج المتقدمة في منتصف عملها عند الحاجة. وبحسب تقرير موقع تك كرانش (TechCrunch)، يُعد نادلا آخر مسؤول تنفيذي بارز في قطاع التقنية يطرح رؤية مفصّلة لتعزيز سلامة الذكاء الاصطناعي، في وقت تتصاعد فيه المخاوف من تصرفات عملاء الذكاء الاصطناعي المستقلين خارج نطاق السيطرة البشرية.

وانتقد نادلا في تدوينته ما اعتبره نمطًا سائدًا في التعامل مع أنظمة الذكاء الاصطناعي الفائقة، حيث تُعامَل هذه النماذج على أنها "صناديق سوداء متداخلة" يكتفي المستخدمون والمطورون بقبول أو رفض ما تصدره من توصيات وإجابات وإجراءات، دون أي قدرة فعلية على فهم آلية عملها الداخلية أو مراقبتها بشكل مستمر. ورأى أن هذا النهج لم يعد كافيًا مع تزايد استقلالية هذه الأنظمة وقدرتها على تنفيذ مهام معقدة دون تدخل بشري مباشر.

وطرح الرئيس التنفيذي لمايكروسوفت أربعة مبادئ رئيسية يرى أنها ضرورية لإعادة بناء الثقة في الذكاء الاصطناعي: الفصل بين النموذج نفسه وإطار التشغيل الذي ينسّق عمله ويتحكم في الأدوات التي يستخدمها، وإخراج الضوابط والإجراءات الوقائية إلى طبقة مستقلة خارج النموذج بحيث لا يمكنه التحكم بها أو تعطيلها، وتوثيق كل إجراء ذي دلالة يتخذه النموذج في سجل تدقيق مقروء وغير قابل للتزوير يمكن الرجوع إليه عند المساءلة، وضمان قدرة شخص مخوَّل على إيقاف النموذج أو تجميد عمله في أي لحظة، حتى في منتصف تنفيذه لمهمة ما.

وتكمن أهمية هذا الفصل، بحسب رؤية نادلا، في أن إطار التشغيل الذي يُحيط بالنموذج هو ما يمنحه فعليًا صلاحية الوصول إلى الملفات والأنظمة والأدوات الخارجية، وليس النموذج بذاته. فإذا بقيت هذه الصلاحيات مدمجة بالكامل داخل النموذج نفسه، يصبح من الصعب جدًا تقييد تصرفاته أو التراجع عنها في حال انحرف عن المسار المطلوب أو تعرّض لاختراق أو استغلال خبيث. أما حين تُدار الضوابط من طبقة خارجية مستقلة، فيمكن لفريق الأمان التدخل وقطع الصلاحيات أو تجميد المهمة فورًا دون الحاجة إلى إيقاف النظام بالكامل أو انتظار استجابة من النموذج نفسه.

وكتب نادلا في منشوره عبارة لافتة لخّصت جوهر دعوته، قال فيها إنه "يجب أن نفترض أن النموذج معرّض للاختراق منذ البداية، وأن نحتويه تبعًا لذلك"، مضيفًا: "فكّروا في الأمر على أنه فرامل طوارئ". وتعكس هذه العبارة تحوّلًا في فلسفة التعامل مع نماذج الذكاء الاصطناعي، من افتراض أساسي بسلامتها إلى افتراض تحوّطي يضع خطوط احتواء صارمة حولها منذ لحظة انطلاقها.

ولم تأتِ دعوة نادلا من فراغ، بل جاءت في سياق تقارير متتالية عن تنامي حالات فقدان شركات الذكاء الاصطناعي الكبرى زمام التحكم في أنظمتها. فقد أشار تقرير تك كرانش إلى أن شركة أنثروبيك (Anthropic) نفسها أقرّت بأنها لا تستطيع التحكم بشكل موثوق في عملاء الذكاء الاصطناعي الخاصين بها، وأنها اضطرت إلى قطع الاتصال بين أدوات تقييمها الداخلية والإنترنت المباشر تجنبًا لمخاطر غير محسوبة. كما تأتي تدوينة نادلا بعد أيام من كشف الرئيس التنفيذي لأنثروبيك داريو أموداي عن خطة تدعو إلى تطوير أكثر حذرًا لنماذج الذكاء الاصطناعي المتقدمة (frontier AI)، في مؤشر على اتساع دائرة القلق داخل كبرى شركات القطاع من دون التنسيق المسبق بين المسؤولين التنفيذيين.

ولافت أن نادلا استخدم في تدوينته مصطلح "الذكاء الفائق" (Super Intelligence)، وهو التعبير الذي يذكر تك كرانش أنه المصطلح المفضّل لدى إدارة الرئيس الأمريكي دونالد ترامب للإشارة إلى الذكاء الاصطناعي المتقدم، في إشارة إلى أن النقاش حول سلامة هذه الأنظمة بدأ يتقاطع مع اللغة السياسية والتنظيمية المستخدمة في واشنطن.

ولم يتضمن التقرير أي ردود فعل مباشرة من مسؤولين أو خبراء آخرين على تدوينة نادلا حتى وقت نشره، إذ اقتصر على سرد السياق المتصل بإقرارات شركات الذكاء الاصطناعي الأخرى بصعوبة ضبط أنظمتها وخطة أموداي للتطوير الحذر. ومع ذلك، تضيف دعوة نادلا إلى "فرامل الطوارئ" صوتًا مؤثرًا جديدًا إلى نقاش متصاعد في الصناعة حول كيفية إدارة المخاطر المرتبطة بالنماذج المستقلة ذات القدرات المتزايدة، في وقت تتسارع فيه وتيرة نشر عملاء الذكاء الاصطناعي في بيئات العمل الحقيقية قبل أن تنضج أدوات حوكمتها ومراقبتها بالقدر الكافي.

وفي المنطقة العربية، تمضي استراتيجيات الذكاء الاصطناعي الوطنية في الإمارات والمملكة العربية السعودية وقطر بوتيرة متسارعة في دمج وكلاء الذكاء الاصطناعي في الخدمات الحكومية والرعاية الصحية والقطاع المالي، في سباق إقليمي محموم على الريادة التقنية. ويُمثّل نداء نادلا إلى 'فرامل الطوارئ' رسالةً مباشرة لصانعي القرار العرب: التسارع في نشر هذه الوكلاء دون بناء طبقات مستقلة من الرقابة والتحقق قد يُحوّل الاستثمارات الضخمة في الذكاء الاصطناعي إلى مصدر خطر أمني ومؤسسي، لا سيما في ظل غياب تشريعات عربية متكاملة تُنظّم مساءلة الوكلاء الذكية عن تصرفاتها المستقلة وتُحدد آليات الاحتواء عند الانحراف عن المسار المطلوب.

ولوزن كلمة نادلا أثر خاص في هذا السياق، فمايكروسوفت ليست مجرد شركة تقنية عابرة في هذا الملف، بل هي من أكبر مزوّدي البنية السحابية والذكاء الاصطناعي في العالم، وشريك استراتيجي رئيسي لمختبر أوبن إيه آي (OpenAI)، وتُدمج نماذج الذكاء الاصطناعي في طيف واسع من منتجاتها المؤسسية التي يعتمد عليها ملايين المستخدمين والشركات حول العالم. ولذلك فإن دعوته العلنية إلى تبنّي معايير سلامة أكثر صرامة قد تمثل مؤشرًا على اتجاه قد تسلكه الصناعة ككل في ضبط عملاء الذكاء الاصطناعي، لا سيّما مع تزايد اعتماد الشركات على هذه العملاء لتنفيذ مهام حساسة بشكل مستقل متزايد. ويبقى السؤال المطروح أمام القطاع هو مدى استعداد الشركات المطوّرة لتطبيق مبادئ كهذه عمليًا، في ظل سباق تنافسي محموم على نشر قدرات الذكاء الاصطناعي بأسرع وقت ممكن، وهو التوتر الذي يقع في قلب النقاش الحالي حول سلامة هذه التقنية وحدود الثقة التي ينبغي منحها لها.