هلوسة الذكاء الاصطناعي تكاد تُشعل عملية عسكرية أمريكية ضد الصين

في مشهد يجمع بين صعود الذكاء الاصطناعي في المؤسسة العسكرية والمخاطر الجسيمة التي ينطوي عليها، كادت عملية عسكرية مسلحة أمريكية تُستهدف سفينة صينية أن تنطلق هذا الربيع، قبل أن يكتشف المسؤولون في اللحظة الأخيرة أن المعلومات الاستخباراتية الدافعة لها كانت نتاج هلوسة ذكاء اصطناعي، وذلك وفق ما أوردته شبكة CNN في تقرير نُشر مؤخراً.

كانت الطائرات العسكرية في الجو والعملية على وشك التنفيذ، حين تبيّن للقيادة أن التقرير الاستخباراتي الذي أباح العملية ليس سوى ناتج مزيف أنتجه نموذج لغوي كبير. وتعود أصول الواقعة إلى محلل في القوات الخاصة الأمريكية لجأ إلى روبوت دردشة مدعوم بالذكاء الاصطناعي بهدف دمج بيانات المصادر المفتوحة مع استخبارات الإشارات المصنفة.

استدعى المحلل أداةَ الذكاء الاصطناعي مرتين؛ إذ ولّدت في المرة الأولى تقريراً زعم أن السفينة الصينية تحمل مكونات لبرنامج أسلحة نووية، في حين أُعيد استخدام الأداة ذاتها مرة ثانية لتنسيق هذه المعلومات المزيفة وإخراجها في هيئة ملخص رسمي نُشر عبر قنوات القيادة العسكرية دون أن يُشكَّك فيه.

تجري هذه الأحداث في سياق دفع أمريكي متسارع لتوظيف الذكاء الاصطناعي في تسريع القرار العسكري. ووصف مسؤولون الدمجَ بأنه يمنح ميزة استراتيجية في تقليص سلسلة الاستهداف وتمكين القادة من الاستجابة بالسرعة المناسبة. بيد أن هذه السرعة بالذات هي ما أتاح للمعلومات المزيفة التسلل عبر الهرم القيادي قبل أي تحقق منها.

علّق جيك ستيكلر، الباحث في مؤسسة GovAI وضابط الجيش الأمريكي السابق، على الحادثة قائلاً: «من الضروري أن يدرك أفراد القوات المسلحة حجم الغموض المتأصل في النماذج اللغوية الكبيرة. وهذا الأمر بالغ الخطورة بشكل خاص في أي قرارات قد تفضي إلى استخدام القوة، كتحليل الاستخبارات والتخطيط العملياتي؛ فهذه قرارات فيها حياة وموت.»

ولفت ستيكلر إلى أن الحادثة ينبغي أن تُستثمر دفعاً لإضافة ضوابط أكثر صرامة، لا ذريعةً للإحجام عن توظيف الذكاء الاصطناعي كلياً. وأضاف: «هذه الأدوات يمكن أن تكون مفيدة في السياقات الصحيحة وبالضمانات المناسبة، لكن إيلاء سرعة التبني الأولوية المطلقة سيفضي إلى حوادث لن تُفضي إلا إلى تراجع ثقة أفراد الخدمة في هذه الأنظمة.»

تفتح هذه الواقعة نقاشاً موسعاً حول الرقابة البشرية الكافية على أنظمة الذكاء الاصطناعي في البيئات عالية المخاطر. فالنماذج اللغوية الكبيرة، على ما تتمتع به من قدرات استثنائية في تلخيص المعلومات وصياغتها، تفتقر إلى آليات موثوقة للتحقق الذاتي من دقة ما تُنتجه.

وتكشف الحادثة أن الخطأ لم يكن مجرد تقنية معيبة؛ بل كان نتيجة غياب إجراءات المراجعة البشرية المستقلة على المخرجات. فقد استخدم المحلل الأداة مرتين دون أن يُخضع نتائجها لأي تدقيق مستقل، فيما أسبغ الذكاء الاصطناعي الطابعَ الرسمي على ناتجه المزيف.

في ظل تسارع دول عديدة، بما فيها دول عربية، نحو استكشاف تطبيقات الذكاء الاصطناعي في مجالاتها الأمنية والاستخباراتية، تُجسّد هذه الحادثة بوضوح أن السرعة في التبني لا ينبغي أن تتغلب على متانة الضوابط والرقابة البشرية.