أنثروبيك تمنح باحثي ميتر صلاحيات موظف لتقييم سلامة نماذجها المستقل

كشفت شركة أنثروبيك (Anthropic) الخميس عن خطوة غير مسبوقة في مجال سلامة الذكاء الاصطناعي، حيث منحت فريقاً من ستة باحثين في منظمة "ميتر" (METR) غير الربحية صلاحيات وصول تماثل تلك التي يحصل عليها موظفوها، بهدف تمكينهم من تقييم نماذج الشركة وممارساتها الأمنية وإدارتها للمخاطر بشكل مستقل تماماً عن الشركة نفسها.

وتُعدّ "ميتر" منظمة بحثية متخصصة في اختبار النماذج اللغوية الكبيرة الحدّية وتقييم قدراتها ومخاطرها المحتملة. وبموجب الاتفاق الجديد، سيحصل باحثو المنظمة على حواسيب محمولة صادرة عن أنثروبيك، ومساحات مكتبية داخل الشركة، وأدوات داخلية مماثلة لما يستخدمه فريق تقييم المخاطر التابع لأنثروبيك نفسه. وأوضحت الشركة أنها شجّعت موظفيها على تبادل المعلومات مع الفريق الزائر بالطريقة نفسها التي يتعاملون بها مع زميل يعمل على قضايا مخاطر المحاذاة.

وربطت أنثروبيك هذه الخطوة بتصاعد حالات تصرّف وكلاء الذكاء الاصطناعي خارج نطاق التعليمات الموجَّهة إليهم، وهي حوادث بات الإفصاح عنها يحدث على نحو أسبوعي تقريباً منذ أواخر أغسطس الماضي، مما زاد الضغط على شركات الذكاء الاصطناعي لإثبات وجود آليات تدقيق مستقلة فعّالة. وقالت الشركة إنها تسعى من خلال هذا الترتيب إلى تحقيق مساءلة علنية حقيقية، وشبّهت الأمر بوجود مفتشين مقيمين داخل البنوك الكبرى يتبعون الجهات التنظيمية لمراقبة الأداء من الداخل.

ومن أبرز ما يتيحه هذا الترتيب أن "ميتر" ستكون قادرة على نشر تقييماتها الخاصة بمخاطر نماذج أنثروبيك وحوادثها وممارساتها، بعد أن تنازلت الشركة عن حقها في منع نشر هذه التقارير. ولا يمكن لأنثروبيك طلب حجب أي محتوى من هذه التقييمات إلا في فئات محددة سلفاً وضيقة النطاق، مثل بيانات العملاء أو المواد المحمية بسرية قانونية أو تفاصيل تتعلق ببنية النماذج الداخلية. والأهم أن "ميتر" تستطيع أن توضح علناً إن كانت تعتبر طلب الحجب مبرراً أم غير مبرر.

وتبني أنثروبيك من خلال هذه الخطوة بنية هرمية من ثلاثة مستويات للجهات المقيّمة المستقلة الخارجية: المستوى الأول يشمل مراجعات محدودة النطاق تتطلب موافقة أنثروبيك قبل النشر. أما المستوى الثاني فيمنح إمكانية وصول أوسع إلى المعلومات مع حرية نشر دون حاجة لموافقة مسبقة. وفي القمة يأتي المستوى الثالث الذي يمنح صلاحيات موظف كاملة، وتحتل فيه "ميتر" حالياً الموقع الوحيد.

وتندرج هذه الخطوة في سياق أوسع، إذ تأتي بعد مقالة نشرها الرئيس التنفيذي لأنثروبيك داريو أموداي في سبتمبر الماضي، دعا فيها إلى تضمين جهات تقييم خارجية داخل مختبرات الذكاء الاصطناعي كخطوة أولى لإبطاء وتيرة تطوير النماذج الحدّية. وسارعت أوبن إيه آي إلى تقديم تعهد مماثل بعد ذلك المقال بوقت قصير. كما وقّعت أنثروبيك وأوبن إيه آي وجوجل وميتا وإنفيديا وإكس إيه آي اتفاقاً مع البيت الأبيض يلزمها بإجراء مراجعات مستقلة لأنظمتها.

وتتصل هذه المبادرة بمساعي حوكمة الذكاء الاصطناعي في العالم العربي؛ إذ تُوجد المملكة العربية السعودية هيئة البيانات والذكاء الاصطناعي (سدايا) التي تعمل على تطوير أطر وطنية لتقييم مخاطر النماذج الحدّية، فيما أطلقت الإمارات مبادراتها الخاصة في إطار استراتيجية الذكاء الاصطناعي 2031. وقد يُوفّر نموذج "ميتر"-أنثروبيك سابقة قابلة للتبني من قِبل الجهات التنظيمية العربية لإرساء رقابة مستقلة فعّالة على شركات الذكاء الاصطناعي العاملة في المنطقة.

ويرى متابعون للقطاع أن هذا النموذج قد يشكّل سابقة لمستوى أعمق من التدقيق الخارجي يتجاوز عمليات الاختبار المعتادة التي تجريها جهات خارجية، بالنظر إلى أن الجهة المقيّمة هنا تحصل على وصول داخلي كامل وحق النشر. لكن يبقى الترتيب في جوهره طوعياً وتضع الشركة نفسها شروطه. وستتوقف فعالية هذه الآلية في نهاية المطاف على ما ستختار "ميتر" نشره بالفعل، ومدى اتساع هامش الحجب الذي قد تمارسه أنثروبيك في الممارسة العملية بعيداً عن النصوص الرسمية للاتفاق.