هلوسة الذكاء الاصطناعي تكاد تُشعل عملية عسكرية أمريكية ضد الصين
حادثة خطيرة كادت تتطور إلى مواجهة عسكرية بعد أن أنتج نموذج ذكاء اصطناعي معلومات مزيفة وجّهت قراراً عسكرياً رفيع المستوى.

في مشهد يجمع بين صعود الذكاء الاصطناعي في المؤسسة العسكرية والمخاطر الجسيمة التي ينطوي عليها، كادت عملية عسكرية مسلحة أمريكية تُستهدف سفينة صينية أن تنطلق هذا الربيع، قبل أن يكتشف المسؤولون في اللحظة الأخيرة أن المعلومات الاستخباراتية الدافعة لها كانت نتاج هلوسة ذكاء اصطناعي، وذلك وفق ما أوردته شبكة CNN في تقرير نُشر مؤخراً.
كانت الطائرات العسكرية في الجو والعملية على وشك التنفيذ، حين تبيّن للقيادة أن التقرير الاستخباراتي الذي أباح العملية ليس سوى ناتج مزيف أنتجه نموذج لغوي كبير. وتعود أصول الواقعة إلى محلل في القوات الخاصة الأمريكية لجأ إلى روبوت دردشة مدعوم بالذكاء الاصطناعي بهدف دمج بيانات المصادر المفتوحة مع استخبارات الإشارات المصنفة.
استدعى المحلل أداةَ الذكاء الاصطناعي مرتين؛ إذ ولّدت في المرة الأولى تقريراً زعم أن السفينة الصينية تحمل مكونات لبرنامج أسلحة نووية، في حين أُعيد استخدام الأداة ذاتها مرة ثانية لتنسيق هذه المعلومات المزيفة وإخراجها في هيئة ملخص رسمي نُشر عبر قنوات القيادة العسكرية دون أن يُشكَّك فيه.
تجري هذه الأحداث في سياق دفع أمريكي متسارع لتوظيف الذكاء الاصطناعي في تسريع القرار العسكري. ووصف مسؤولون الدمجَ بأنه يمنح ميزة استراتيجية في تقليص سلسلة الاستهداف وتمكين القادة من الاستجابة بالسرعة المناسبة. بيد أن هذه السرعة بالذات هي ما أتاح للمعلومات المزيفة التسلل عبر الهرم القيادي قبل أي تحقق منها.
علّق جيك ستيكلر، الباحث في مؤسسة GovAI وضابط الجيش الأمريكي السابق، على الحادثة قائلاً: «من الضروري أن يدرك أفراد القوات المسلحة حجم الغموض المتأصل في النماذج اللغوية الكبيرة. وهذا الأمر بالغ الخطورة بشكل خاص في أي قرارات قد تفضي إلى استخدام القوة، كتحليل الاستخبارات والتخطيط العملياتي؛ فهذه قرارات فيها حياة وموت.»
ولفت ستيكلر إلى أن الحادثة ينبغي أن تُستثمر دفعاً لإضافة ضوابط أكثر صرامة، لا ذريعةً للإحجام عن توظيف الذكاء الاصطناعي كلياً. وأضاف: «هذه الأدوات يمكن أن تكون مفيدة في السياقات الصحيحة وبالضمانات المناسبة، لكن إيلاء سرعة التبني الأولوية المطلقة سيفضي إلى حوادث لن تُفضي إلا إلى تراجع ثقة أفراد الخدمة في هذه الأنظمة.»
تفتح هذه الواقعة نقاشاً موسعاً حول الرقابة البشرية الكافية على أنظمة الذكاء الاصطناعي في البيئات عالية المخاطر. فالنماذج اللغوية الكبيرة، على ما تتمتع به من قدرات استثنائية في تلخيص المعلومات وصياغتها، تفتقر إلى آليات موثوقة للتحقق الذاتي من دقة ما تُنتجه.
وتكشف الحادثة أن الخطأ لم يكن مجرد تقنية معيبة؛ بل كان نتيجة غياب إجراءات المراجعة البشرية المستقلة على المخرجات. فقد استخدم المحلل الأداة مرتين دون أن يُخضع نتائجها لأي تدقيق مستقل، فيما أسبغ الذكاء الاصطناعي الطابعَ الرسمي على ناتجه المزيف.
في ظل تسارع دول عديدة، بما فيها دول عربية، نحو استكشاف تطبيقات الذكاء الاصطناعي في مجالاتها الأمنية والاستخباراتية، تُجسّد هذه الحادثة بوضوح أن السرعة في التبني لا ينبغي أن تتغلب على متانة الضوابط والرقابة البشرية.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

اختراق مزوّد ذكاء اصطناعي يكشف بيانات رخص قيادة 150 ألف سائق أوبر
أعلنت أوبر اختراق بيانات نحو 150 ألف سائق لديها، تضمنت أسماء وعناوين وأرقام رخص قيادة، بعد اختراق قراصنة لشركة Fireworks AI التي تزوّد الشركة بخدمات نماذج ذكاء اصطناعي مفتوحة الأوزان.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.