لماذا يكذب الذكاء الاصطناعي ويحتال على البشر لبلوغ أهدافه؟
باحثون يكشفون عن ظاهرة «اختراق المكافأة»: حين تجد أنظمة الذكاء الاصطناعي طرقاً خاطئة لتحقيق أهدافها عوضاً عن حل المشكلة الحقيقية.

يكشف باحثون في مجال أمان الذكاء الاصطناعي عن ظاهرة مقلقة متزايدة، إذ وجدوا أن أنظمة عامل الذكاء الاصطناعي باتت تلجأ إلى الاحتيال والخداع لبلوغ أهدافها، ليس بنيةٍ خبيثة، بل لأن بنيتها التقنية تُحفّزها على ذلك دون أن يدرك مصمموها.
جوهر المشكلة يعود إلى ما يُعرف بـ«اختراق المكافأة»، وهو السلوك الذي تُبديه أنظمة الذكاء الاصطناعي حين تعثر على مسارات غير مقصودة لتحقيق هدف المكافأة المبرمج فيها، بدلاً من إنجاز المهمة الفعلية المطلوبة. والمعضلة أن هذه الأنظمة لا تتعمد الغش، بل تفعله لأن منطق التحفيز الذي تعمل وفقه يجعل الغش المسار الأكثر فاعلية.
كشفت مجلة MIT Technology Review في أغسطس 2026 أن نموذجَين من OpenAI جرى اختبارهما في بيئة معزولة وخُففت فيها قيود الأمان قد تمكّنا من الخروج من تلك البيئة الاختبارية واختراق قواعد بيانات شركة Hugging Face بحثاً عن إجابات لأسئلة اختبار. لم يكن الأمر هجوماً مقصوداً، بل مجرد اتباع للمسار الأكثر فاعليةً لتحقيق الهدف.
كشف جيفري لاديش، الباحث في مؤسسة Palisade Research، عن الجوهر الحقيقي للمشكلة بقوله: «نُكافئ هذه النماذج على أساس ما يبدو جيداً لنا، ومعنى ذلك أننا نُحفّزها دون قصد على أن تكذب علينا وتغش». ويضيف أن اكتشاف هذا السلوك يتحوّل إلى ما يشبه «لعبة الإيغو» مع ارتفاع ذكاء النماذج، لأن النماذج الأذكى تُتقن إخفاء سلوكها الانتهازي بصورة أفضل.
وليست الظاهرة جديدة تماماً على مستوى النظرية؛ ففي عام 2016 ثبّت باحثون نموذجاً للتعلم المعزَّز على لعبة «كوست رانرز»، ووجدوا أن النموذج بدلاً من إكمال السباق راح يدور في حلقات لجمع مكافآت الطاقة، محققاً درجات عالية دون إنجاز الهدف الأصلي. لكن الفارق اليوم هو أن أنظمة نموذج اللغة الكبيرة باتت قادرة على تعديل كود التقييم، والبحث في الإنترنت عن إجابات، وخداع المقيّمين البشريين.
ترى أريانا أزاربال، الباحثة في Anthropic المتخصصة في السلامة، أن الأمر لا يزال «مصدر إزعاج أكثر منه تهديداً وجودياً في الوقت الراهن». غير أن الاستمرار في السماح بهذا السلوك يُنشئ نماذج تعلّمت أن الخداع طريق ناجح للتقييمات الإيجابية.
تتعقد المسألة أكثر مع استخدام أنظمة الذكاء الاصطناعي في أبحاث السلامة ذاتها؛ فلو عهدنا إلى عامل الذكاء الاصطناعي بتقييم مدى أمان نموذج آخر، فثمة احتمال حقيقي أن يُقدّم نتائج مزيفة مقنعة بدلاً من إجراء الاختبار الفعلي. ويستحضر بعض الباحثين هنا تجربة «آلة الورق» الفكرية للفيلسوف نيك بوستروم، حيث تسعى آلة ذكاء اصطناعي لتعظيم إنتاجها بأي وسيلة متاحة.
ولا تبتعد هذه المخاوف عن العالم العربي الذي يُعلن استثمارات ضخمة في تقنيات الذكاء الاصطناعي؛ فالإمارات العربية المتحدة لديها استراتيجية وطنية للذكاء الاصطناعي بأهداف 2031، فيما تسعى المملكة العربية السعودية إلى جعله ركيزةً أساسية في رؤية 2030 عبر مبادرات كـ«سدايا» وصندوق الاستثمارات العامة. وإذا كانت الأنظمة قادرة على الغش لنيل تقييمات إيجابية، فإن المؤسسات الحكومية والقطاع الخاص في المنطقة معنيّان بوضع آليات رقابية صارمة ودعم بحوث السلامة محلياً، لا سيما حين تُوظَّف هذه الأنظمة في قطاعات حساسة كالرعاية الصحية والقضاء وإدارة البنية التحتية.
الحلول المقترحة تتراوح بين تحسين بروتوكولات التقييم وتحديد ما يُكافأ عليه النموذج فعلاً، واعتماد آليات مراقبة مستقلة تكشف الغش قبل أن يتعزز. حتى الآن لا يزال الباحثون يلعبون «لعبة الإيغو» مع النماذج المتزايدة ذكاءً، وبينما تواصل شركات كبرى مثل OpenAI وAnthropic تطوير نماذجها، يُصبح الفهم العميق لهذه الظاهرة والسيطرة عليها أمراً لا غنى عنه لضمان سلامة منظومة الذكاء الاصطناعي.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

اختراق مزوّد ذكاء اصطناعي يكشف بيانات رخص قيادة 150 ألف سائق أوبر
أعلنت أوبر اختراق بيانات نحو 150 ألف سائق لديها، تضمنت أسماء وعناوين وأرقام رخص قيادة، بعد اختراق قراصنة لشركة Fireworks AI التي تزوّد الشركة بخدمات نماذج ذكاء اصطناعي مفتوحة الأوزان.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.