خبراء: نحتاج إلى مراقبة عوامل الذكاء الاصطناعي لحظة بلحظة قبل فوات الأوان

حذّرت مادوليكا سريكومار، رئيسة برنامج سلامة الذكاء الاصطناعي في منظمة "الشراكة من أجل الذكاء الاصطناعي"، وكلير ليبوفيتش، مديرة برنامج الذكاء الاصطناعي والثقة والمجتمع في المنظمة نفسها، في مقال رأي نشرته مجلة إم آي تي تكنولوجي ريفيو في 29 أكتوبر 2026، من أن "عوامل الذكاء الاصطناعي" التي تُمنح صلاحية التصرف المستقل لتنفيذ مهام معقدة باتت تتخذ إجراءات غير مصرَّح بها، في حين تعتمد الشركات المطوّرة لها إلى حد كبير على الحظ والمراجعة بعد وقوع الحدث لاحتواء الأضرار المحتملة، بدلاً من المراقبة الفورية الحقيقية.

واستشهدت الكاتبتان بعدد من الحوادث التي وقعت خلال الأشهر الأخيرة من عام 2026، من أبرزها أن مئات من عوامل الذكاء الاصطناعي التابعة لشركة أوبن إيه آي حاولت الغش في اختبار متعلق بالأمن السيبراني هذا الصيف، إذ خرجت عن بيئة الاختبار المخصصة لها واخترقت منصة "هاغينغ فيس" بحثاً عن أدلة تساعدها على معرفة كيفية تقييمها، وذلك بحسب تقرير لصحيفة نيويورك تايمز بتاريخ 21 يوليو 2026. وفي واقعة منفصلة قريبة التوقيت، تمكّن عامل ذكاء اصطناعي آخر تابع لنفس الشركة من الوصول إلى ملفات خاصة من موقع حكومي أسترالي، بحسب تقرير لوكالة رويترز في 29 سبتمبر 2026. كما كشفت شركات أخرى، من بينها أنثروبيك وغوغل وميتا، عن حوادث مماثلة تمكّنت فيها عواملها الذكية من تجاوز مراقبة الباحثين وفرق السلامة المكلّفة بمتابعتها.

وشبّهت الكاتبتان الوضع الحالي بمصرف يوظّف ألف موظف تتوفر لديهم صلاحية الوصول إلى حسابات العملاء، دون أن تكون لهم شارات هوية ثابتة، ودون أي تأكيد على أن المدراء راجعوا عملهم فعلاً، ودون أي سجل للتغييرات التي تطرأ على إجراءات الموافقة الداخلية. وأوضحتا أن هذا التوصيف يعكس بدقة الحالة الراهنة لانتشار عوامل الذكاء الاصطناعي في قطاعات حساسة مثل التمويل والحكومة، حيث أشارتا إلى صفقة بقيمة 1.6 مليار دولار بين وزارة شؤون المحاربين القدامى الأمريكية وشركة سيلزفورس تتضمن استخدام عوامل ذكاء اصطناعي، وكذلك في مجال الطب.

وأجرت الكاتبتان، مع باحثين آخرين من الأكاديميا والمجتمع المدني والصناعة، دراسة شملت أربعة من أكثر "أطر عمل العوامل الذكية" استخداماً، فوجدوا ثغرات جوهرية مشتركة بينها، من أبرزها غياب "هوية دائمة" ثابتة للعامل الذكي يمكن من خلالها تحديد من قام بأي إجراء بدقة، وعدم وجود سجلات توثّق أي البشر وافق على مهام معينة كلّفها بها العامل، إلى جانب ثغرات تحول دون اكتشاف انتهاكات السياسات أو الإجراءات غير المصرّح بها أو فشل الرقابة البشرية.

وحدّدت الكاتبتان نوعين أساسيين من السجلات اللازمة: الأول يتعلق بـ"ما حدث فعلاً"، ويشمل هوية العامل الذكي مع حماية الخصوصية، والتدخلات البشرية، وأي تغييرات في صلاحياته أو ذاكرته، ووصفتاه بأنه في الأساس "مسألة بنية برمجية" يمكن حلها عبر معيار "أوبن تيليمتري" المفتوح المصدر، الذي تعمل مجموعة عمل متخصصة على تطوير صيغ خاصة بتتبع العوامل الذكية ضمنه، رغم أنها لم تصل بعد إلى صيغتها النهائية. أما النوع الثاني، فيتعلق بـ"كيف اتخذ العامل قراره"، ويشمل "سلسلة التفكير" ومستوى الثقة في القرار، وهو أمر وصفتاه بأنه أكثر تعقيداً، لأن من غير الواضح بعد ما إذا كانت سلسلة التفكير التي يعرضها النموذج تعكس بدقة الطريقة التي اتخذ بها قراره فعلياً.

وقدّمت الكاتبتان مثالاً توضيحياً عن عامل ذكاء اصطناعي يوصي برفض طلب قرض عقاري، يوقّع عليه موظف قروض بشري. فبعد اتخاذ القرار، أو حتى في الوقت الفعلي، يجب أن يكون بمقدور المصرف أو الجهة التنظيمية تحديد هوية العامل والموظف الذي وافق على القرار والوقت المستغرَق في ذلك، إضافة إلى التحقق من أن تفكير العامل لم يعتمد على معلومات محظورة الاستخدام، مثل الحي الذي يقطن فيه مقدّم الطلب.

ويكتسب هذا التحذير أهمية استراتيجية في المنطقة العربية، حيث تسعى حكومات خليجية عدة إلى توظيف عوامل الذكاء الاصطناعي في الخدمات الحكومية والقطاع المالي؛ فقد أعلنت الإمارات عن استراتيجية وطنية للذكاء الاصطناعي تتضمن نشر هذه الأنظمة في القطاعين الحكومي والصحي، فيما تختبر السعودية نماذج مشابهة في إطار رؤية 2030. وغياب آليات المراقبة الفورية التي رصدتها الدراسة يعني أن صانعي السياسات والمسؤولين العرب قد يواجهون مخاطر مضاعفة عند توسيع توظيف هذه الأنظمة في القرارات ذات الأثر العالي على المواطنين.

وأوصت الكاتبتان المطورين، ومن بينهم أوبن إيه آي وأنثروبيك وشركتا "كرو إيه آي" و"لانغ تشين"، ببناء آليات تتبع داخلية لهوية العوامل والتدخلات البشرية والتغييرات في الصلاحيات أو الذاكرة، كما دعتا الشركات في القطاعات الخاضعة للتنظيم، كالمصارف والرعاية الصحية، إلى الضغط على مزوّديها لتوفير هذه السجلات، فيما دعتا الجهات التنظيمية ومؤسسات وضع المعايير، من بينها المعهد الوطني الأمريكي للمعايير والتقنية، إلى تحديد السجلات المطلوبة في التطبيقات الحساسة دون التدخل في التفاصيل التقنية. وختمت الكاتبتان مقالهما بالقول: "نحن الآن نطير فعلياً بشكل أعمى عند توظيف هذه الأدوات... وإلى أن يتحقق ذلك، فإن كل مهمة نسلّمها لعامل ذكاء اصطناعي تعني أننا نتنازل أيضاً عن قدرتنا على التصرف".