دراسة: يمكن خداع نماذج الذكاء الاصطناعي لتصنيف المدنيين كأهداف عسكرية
كشفت شركة تقييم أميركية أن نماذج ذكاء اصطناعي بارزة قبلت تصنيف مدنيين وجنود مستسلمين كأهداف حربية حين صيغ الطلب كلعبة، في اختبار يثير تساؤلات حول سلامة استخدام هذه النماذج في السياقات العسكرية.

كشف اختبار أمان أجرته شركة التقييم الأميركية "فالس" (Vals) أن عدداً من أبرز نماذج الذكاء الاصطناعي التجارية يمكن التحايل عليها لحملها على تصنيف مدنيين وجنود مستسلمين كأهداف عسكرية مشروعة، إذا ما صِيغ الطلب في قالب لعبة افتراضية بدلاً من سيناريو حربي حقيقي. وتأتي نتائج الدراسة في وقت يتصاعد فيه الجدل بين كبرى شركات الذكاء الاصطناعي والجهات العسكرية الأميركية حول حدود استخدام هذه التقنية في القرارات القتالية.
شملت الاختبارات نماذج من شركات OpenAI وAnthropic وGoogle وDeepSeek وأخرى، حيث عرض الباحثون على النماذج مزيجاً من الصور المولَّدة اصطناعياً وصور حقيقية من مناطق نزاع في أوكرانيا وإيران، وطلبوا منها تحديد أهداف داخل لقطات جوية وصور أقمار صناعية شبيهة بما تنتجه الطائرات المسيّرة. ولم يكن الهدف من الاختبار دفع النماذج إلى اتخاذ قرار اشتباك مباشر، بل قياس مدى التزامها بالقيود الأخلاقية عند مواجهة سياقات قتالية غامضة.
أظهرت النتائج أن النماذج غالباً ما كانت تحدد أهدافاً محتملة تشمل مدنيين وجنوداً في وضع استسلام، وأن أي طلب لم يُرفض من قِبَل المصنّف الأمني المدمج في هذه الأنظمة. وحين كانت النماذج ترفض الاستجابة ابتداءً، تمكّن الباحثون غالباً من كسر هذا التردد بمجرد إعادة صياغة السيناريو الحربي على هيئة لعبة تفاعلية، وهي ثغرة سلوكية معروفة في أنظمة الذكاء الاصطناعي تُعرف بتجاوز الضوابط عبر تغيير السياق. ولم تُسجَّل أي من النماذج المختبرة أداءً جيداً في مقاومة هذا النوع من التحايل، وكانت نماذج Anthropic الأضعف أداءً من بين المجموعة.
من أبرز الأمثلة التي تضمنها التقرير استخدام صور أقمار صناعية لمدرسة في إيران تعرّضت لقصف أميركي في فبراير 2026، وكانت المدرسة تقع في محيط مجمّع عسكري. وقد اختار نموذج Claude Opus 5.5 هذه المدرسة كهدف محتمل في 69% من المحاولات العادية، وفي 72% من المحاولات التي صيغت بإطار اللعبة. وبحسب تقرير سابق لوكالة بلومبرغ، فإن "الاعتماد المفرط على الذكاء الاصطناعي" كان من العوامل التي ساهمت في تلك الضربة، التي أسفرت عن سقوط أكثر من 150 قتيلاً من المدنيين.
يشير التقرير إلى أن الاختبارات استُخدمت فيها النسخ التجارية العامة من النماذج، لا النسخ المخصّصة التي تُقدَّم لجهات عسكرية، وهو ما يترك تساؤلاً مفتوحاً حول مدى انطباق أي ضوابط إضافية على الاستخدامات العسكرية الفعلية. كما نبّه الباحثون إلى أن الخطر الأقرب في الوقت الراهن لا يتمثل في استخدام هذه النماذج لاتخاذ قرارات استهداف مباشرة في الميدان، بل في توظيفها لتوصيف كمّيات كبيرة من لقطات ميدانية بهدف إنشاء بيانات تدريب لأنظمة استهداف ذاتية التحكم مستقبلاً. وتحدّ عوامل أخرى، مثل زمن الاستجابة ومحدودية القدرة الحاسوبية على متن الطائرات المسيّرة، من إمكانية استخدام هذه النماذج العامة لاستهداف فوري في الوقت الحالي.
وردّاً على نتائج الدراسة، وصفت شركة Anthropic ما خلص إليه التقرير بأنه "غير مقبول"، وأكدت أن هذا النوع من السلوك يخالف سياساتها الصريحة، وأنها تحظر المستخدمين الذين يُظهرون مثل هذا الاستخدام، مشيرة إلى أنها تعمل على بناء ضوابط أمان إضافية وتوسيع نطاق اختباراتها الداخلية. من جهتها، أفادت OpenAI بأنها تحظر استخدام نماذجها العامة في تسهيل أعمال العنف أو في أي استخدامات أمنية قومية غير معتمدة رسمياً، وأنها تعمل أيضاً على تطوير ضوابط إضافية للحدّ من سوء استخدامها في سياقات الطائرات المسيّرة.
يأتي هذا التقرير في خضم خلاف مستمر بين Anthropic ووزارة الدفاع الأميركية حول استخدام تقنياتها في عمليات المراقبة الجماعية والحرب ذاتية التحكم. وقد صرّح الرئيس التنفيذي للشركة سابقاً بأن نماذج الذكاء الاصطناعي الحالية ليست موثوقة بالقدر الكافي لاتخاذ قرارات تتعلق بالحياة والموت دون وجود إنسان ضمن حلقة القرار، في حين ترى وزارة الدفاع الأميركية أنه ينبغي أن يكون بإمكانها استخدام هذه التقنية في أي غرض عسكري مشروع. وتجدر الإشارة إلى أن Anthropic لم يعد لديها حالياً تعاقد نشط مع البنتاغون، بخلاف OpenAI وGoogle وشركات أخرى لا تزال تحتفظ بتعاقدات مماثلة. كما أشار تقرير سابق لمصلحة أبحاث الكونغرس الأميركي إلى أنه لا توجد معلومات تؤكد استخدام البنتاغون المباشر لأي نموذج ذكاء اصطناعي حدّي ضمن أنظمة أسلحة ذاتية التحكم حتى الآن.
وتزداد هذه المخاوف حدة في سياق النزاعات المسلحة الدائرة في المنطقة العربية؛ فقد وثّقت منظمات حقوق الإنسان استخدام طائرات مسيّرة مجهّزة بأنظمة آلية في نزاعات اليمن وليبيا وسوريا. وفيما تسعى دول عربية كالإمارات ومصر والسعودية إلى تطوير كفاءاتها في الذكاء الاصطناعي الدفاعي والطائرات المسيّرة، يطرح هذا البحث تساؤلات ملحّة حول الضوابط الأخلاقية والقانونية الدولية الواجب مراعاتها قبل اعتماد هذه النماذج في أي سياق عملياتي، لا سيما في ضوء مشاركة أطراف إقليمية في تعاقدات الذكاء الاصطناعي الدفاعي المتنامية.
تسلّط هذه النتائج الضوء على فجوة متزايدة بين سرعة تطور قدرات الذكاء الاصطناعي وسرعة تطور الضوابط الكفيلة بمنع إساءة استخدامه في السياقات العسكرية الحساسة، وهي فجوة تتفاقم مخاطرها كلما تزايد الاعتماد على هذه النماذج في بيئات نزاع حقيقية حول العالم.
المزيد من ذكاء اصطناعي

تقرير: آبل تطوّر عامل ذكاء اصطناعي خاصاً للتحكم بأجهزة ماك
تشير تقارير إلى أن آبل تعمل على عامل ذكاء اصطناعي وكيل يمكنه تصفح الإنترنت وكتابة الأكواد والتحكم بتطبيقات ماك، في خطوة تضعها بمواجهة أنثروبيك وأوبن إيه آي وميتا.

علماء: نماذج الذكاء الاصطناعي تتنبأ بنشاط الدماغ لكن لا تحاكي طريقة عمله
وجد باحثون من جامعة يورك الكندية أن نماذج ذكاء اصطناعي تتنبأ بدقة بنشاط الدماغ البصري قد تعتمد داخلياً على آليات مختلفة تماماً عنه، وهو ما يثير شكوكاً حول موثوقيتها في أبحاث علم الأعصاب.

تحديث لأشهر رسم بياني في الذكاء الاصطناعي: تقدم أسي لكنه يتعثر أمام مهام الحكم
منظمة ميتر البحثية تُحدّث مقياس الأفق الزمني الشهير: نماذج الذكاء الاصطناعي تتفوق في البرمجة لكنها تتأخر عن البشر في المهام التي تتطلب حكمًا وتقديرًا.

مؤسسو أنثروبيك السبعة يجنون 1.95 مليار دولار في طرحها العام الأولي التاريخي
حصل كل من المؤسسين السبعة لشركة أنثروبيك على نحو 280 مليون دولار بعد طرح الشركة للاكتتاب العام بسعر مرتفع، في صفقة تاريخية جمعت نحو 105 مليارات دولار.

حدسية ريمان: دليلان في أسبوع واحد بالذكاء الاصطناعي وبدونه
أعلن رياضي يعمل في أنثروبيك عن حل محتمل لحدسية ريمان بمساعدة نموذج لغوي كبير، في نفس الأسبوع الذي قدّم فيه باحث من ستانفورد برهانًا بشريًا بالكامل لنفس المسألة.

غوغل تمنح جيميني القدرة على التحكم بجهاز ماك لإنجاز المهام تلقائياً
أطلقت غوغل تحديثاً لتطبيق جيميني على ماك يتيح للمساعد التحكم في التطبيقات الأصلية وتصفح الويب لإنجاز مهام متعددة الخطوات نيابة عن المستخدم، في خطوة تلحق بها بمنافسيها في سباق العملاء الوكلاء.