نظرية الألعاب المعكوسة: حلّ جديد لمشكلة مواءمة الذكاء الاصطناعي

باحثون من معهد ماساتشوستس وجامعة برينستون يطرحون «تصميم الآليات» كبديل عملي لمواءمة الذكاء الاصطناعي، يعتمد على الحوافز لا على فهم ما يدور داخل النماذج.

تحرير
ألمعي · هيئة التحرير
النشر
٤ نوفمبر ٢٠٢٦
القراءات
٥
الوقت
قراءة 4 دقائق
توضيح لمبدأ تصميم الآليات عبر مثال تقسيم الكعكة بالحوافز

تواجه مختبرات الذكاء الاصطناعي الكبرى مشكلة متجددة: كيف تضمن أن تتصرف نماذجها ووكلاؤها المستقلون بما يتوافق مع نوايا البشر ومصالحهم، لا سيما حين تتوسع قدرات هذه النماذج وتتعقّد مهامها؟ حتى اليوم، اعتمد الباحثون في الغالب على مسارين: محاولة فهم ما يجري داخل «عقل» النموذج عبر أدوات قابلية التفسير، أو تدريبه مباشرة على قيم وأهداف محددة. لكن عددًا متزايدًا من الحوادث أظهر أن النماذج قد تتظاهر بالضعف أثناء الاختبار، أو تُخفي نواياها الحقيقية، أو تُضلّل من يقيّمها، وهو ما يضع فعالية هذين المسارين موضع شك.

من هنا، يطرح باحثون من معهد ماساتشوستس للتكنولوجيا وجامعتي ييل وكولومبيا، إضافة إلى فريق من جامعة برينستون، مقاربة مختلفة جذريًا تُعرف أحيانًا بـ«نظرية الألعاب المعكوسة»، وتحمل اسمها الأكاديمي الدقيق: تصميم الآليات. فبدلًا من أن تتنبأ نظرية الألعاب التقليدية بسلوك فاعلين عقلانيين ضمن قواعد ثابتة، يعمل تصميم الآليات في الاتجاه المعكوس: يضع القواعد والحوافز بحيث يصبح السلوك المطلوب هو الخيار الأفضل للفاعل، أيًا تكن طبيعته الداخلية أو نواياه الفعلية. والفرضية الأساسية هنا جريئة: قد لا نتمكن مطلقًا من فهم النماذج المتقدمة بدرجة تكفي للتحقق المباشر من مواءمتها، فلماذا لا نكتفي بتصميم بيئة تجعل الغش أو الخداع كلفته أعلى من فائدته؟

هذه الفكرة ليست غريبة عن حياتنا اليومية. فنظام تقطيع الكعكة الذي يقضي بأن يقطّع أحد الطرفين الكعكة بينما يختار الطرف الآخر أولًا يدفع المُقطّع تلقائيًا إلى تقسيم عادل. وأسعار التسعير المرتفع في تطبيقات طلب السيارات تحفّز السائقين على التوفر في أوقات الازدحام. ومزاد السعر الثاني، المعتمد في الإعلانات الرقمية، يجعل تقديم عرض يعكس القيمة الحقيقية هو الاستراتيجية الأمثل للمشاركين. الباحثون يقترحون تطبيق منطق مشابه على وكلاء الذكاء الاصطناعي.

من أبرز المقترحات ما قدّمه الاقتصادي ستيفن موريس وزملاؤه في ورقة بحثية أولية، حيث يطرحون آليات لمنع النماذج من «التظاهر بالضعف»، أي التقليل المتعمد من أدائها أمام المقيّمين. تقترح إحدى الآليات مكافأة نموذج على توقّع ما سيقوله نموذج آخر، بينما تقترح آلية أخرى مواجهة نموذجين ببعضهما تنافسيًا، أو إقران نموذج بنموذج آخر معروف بتحيّز معاكس، ومكافأتهما بحسب مدى تقارب نتائجهما.

أما إيلاد هازان، أستاذ علوم الحاسوب في جامعة برينستون، فيقترح نموذجًا مستوحى من الطريقة التي يحافظ بها المجتمع البشري على الانضباط العام، عبر مزيج من المعايير الاجتماعية والنظام القضائي وحوافز السوق. يصف هازان نظامًا يتبادل فيه النماذج أدوار «الحلّال» الذي يعالج مسائل معينة و«المدقّق» الذي يراجع عمل الحلّالين الآخرين، مع عقوبات للحلّالين الذين يُثبت غشّهم وللمدقّقين الذين يفوتهم رصد الغش. وتُحال النزاعات الصعبة إلى «محاكمة» قد يحسمها خبير بشري، بينما تُعالج مخاطر التواطؤ بين المدقّقين والأنظمة التي يراقبونها من خلال دفع أجور جيدة للمدقّقين ومراقبتهم هم أيضًا بأساليب تشبه عمليات «التسوّق السري» الرقابية. ويستشهد هازان بعمل الاقتصادي الحائز على نوبل غاري بيكر في الستينيات، الذي يرى أن الجريمة تقع حين تتجاوز عوائدها كلفة عقابها، أي أن السلوك المنحرف نتيجة حسابات حوافز لا طبيعة ذاتية شريرة.

في المقابل، تحذّر هيلين كو، الباحثة في معهد فلاتيرون غير الربحي المتخصص في العلوم الحاسوبية، من أن تصميم الآليات ليس حلًا سحريًا، إذ لا يُعرف حتى الآن ما إذا كانت نماذج الذكاء الاصطناعي تستجيب للحوافز بالطريقة التي يستجيب بها البشر أو الأسواق. وترى أن هذا النهج ينبغي أن يكون طبقة واحدة ضمن استراتيجية «دفاع متعدد الطبقات» تشمل أيضًا قابلية التفسير والتنظيم الحكومي وأساليب التدريب التقليدية، لا بديلًا شاملًا عنها.

تبقى تحديات جوهرية عالقة: تفترض هذه المقاربة أن وكلاء الذكاء الاصطناعي يتصرفون بعقلانية، وهو افتراض لم يثبت دائمًا حتى مع البشر أنفسهم في تجارب تصميم الآليات السابقة. كما يصرّح موريس نفسه بأن «الذكاء الاصطناعي ليس عقلانيًا» بالمعنى الدقيق، لكنه يرى أن التعامل معه كفاعل عقلاني قد يظل مفيدًا في التنبؤ بسلوكه. ويبقى سؤال آخر مفتوحًا: هل تنتقل الآليات المصممة لمهمة معينة إلى مهام أخرى؟ وهل يمكن لنموذج متقدم أن يجد ثغرات غير متوقعة في القواعد الموضوعة؟

وتكتسب هذه الأبحاث أهمية خاصة في السياق العربي؛ إذ تعمل دول كالإمارات والسعودية والأردن على دمج الذكاء الاصطناعي في الخدمات الحكومية والقضاء والأنظمة الصحية، مما يجعل ضمان مواءمة هذه النماذج مع القيم والأهداف الاجتماعية المحلية ضرورة راهنة، لا مجرد تساؤل فلسفي مؤجل، خاصة في ظل غياب إطار تنظيمي واضح يحكم سلوك وكلاء الذكاء الاصطناعي في الأنظمة الحيوية.

ولم تردّ شركتا أنثروبيك وأوبن أيه آي على استفسارات بشأن ما إذا كانتا تعملان فعليًا على تطبيق تصميم الآليات، على الرغم من أن أنثروبيك نشرت ما تسمّيه «دستور» نموذجها كلود، وهو وثيقة قيم معلنة. ويشير هازان في النهاية إلى أن السوق نفسه آلية حوافز: فالنموذج الأكثر التزامًا بالمواءمة، لكنه أبطأ أو أكثر كلفة، قد لا يُطرح أساسًا للاستخدام التجاري، وهو ما يعني أن مختبرات الذكاء الاصطناعي نفسها قد تحتاج يومًا إلى آليات حوافز أفضل تحكم قراراتها التجارية، تمامًا كما تحتاج النماذج إلى آليات تحكم سلوكها.

المصدر الأصلي
MIT Technology Review
قراءة المقال الأصلي ↗
قصة اليوم · كل صباح

أعجبك التقرير؟ استلم واحداً كل صباح.

قصةٌ تقنية واحدة تستحقّ وقتك، بالعربية. بلا إعلانات، بلا إزعاج.

بلا إعلانات · إلغاء الاشتراك بنقرة واحدة · بياناتك آمنة

اقرأ أيضًا

المزيد من ذكاء اصطناعي

شعار أوبن إيه آي على خلفية من الأكواد البرمجية يرمز إلى تقييم أمان النماذج

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها

تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

TechCrunch
جهاز ماك يرمز إلى ضوابط الأمان الجديدة في نظام macOS لمواجهة مخاطر وكلاء الذكاء الاصطناعي

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي

تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

TechCrunch
مبنى وزارة التجارة الأمريكية يرمز إلى القاعدة الجديدة لضوابط تصدير شرائح الذكاء الاصطناعي

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد

أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

TechCrunch
النائب العام لولاية كاليفورنيا روب بونتا خلال مؤتمر صحفي

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»

رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

TechCrunch
رسم توضيحي لقرصان يعمل على حاسوب يرمز لهجمات القرصنة الإلكترونية المدعومة بالذكاء الاصطناعي

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات

حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.

TechCrunch
تخطيط كهربائي للقلب يحلّله نظام ذكاء اصطناعي

الذكاء الاصطناعي يكشف إشارة قلبية خفية قد تتنبأ بالموت القلبي المفاجئ

باحثون في جامعة بيركلي يدرّبون نظام ذكاء اصطناعي على 440 ألف تخطيط قلب للتنبؤ بخطر الموت القلبي المفاجئ، بدقة تتجاوز معايير الفحص التقليدية المعتمدة حالياً في المستشفيات.

ScienceDaily (UC Berkeley)