هلوسة الذكاء الاصطناعي تكاد تُشعل عملية عسكرية أمريكية ضد الصين

حادثة خطيرة كادت تتطور إلى مواجهة عسكرية بعد أن أنتج نموذج ذكاء اصطناعي معلومات مزيفة وجّهت قراراً عسكرياً رفيع المستوى.

تحرير
ألمعي · هيئة التحرير
النشر
١٩ سبتمبر ٢٠٢٦
المصدر
TechCrunch ↗
القراءات
١
الوقت
قراءة دقيقتين
مقاتلات عسكرية في الجو

في مشهد يجمع بين صعود الذكاء الاصطناعي في المؤسسة العسكرية والمخاطر الجسيمة التي ينطوي عليها، كادت عملية عسكرية مسلحة أمريكية تُستهدف سفينة صينية أن تنطلق هذا الربيع، قبل أن يكتشف المسؤولون في اللحظة الأخيرة أن المعلومات الاستخباراتية الدافعة لها كانت نتاج هلوسة ذكاء اصطناعي، وذلك وفق ما أوردته شبكة CNN في تقرير نُشر مؤخراً.

كانت الطائرات العسكرية في الجو والعملية على وشك التنفيذ، حين تبيّن للقيادة أن التقرير الاستخباراتي الذي أباح العملية ليس سوى ناتج مزيف أنتجه نموذج لغوي كبير. وتعود أصول الواقعة إلى محلل في القوات الخاصة الأمريكية لجأ إلى روبوت دردشة مدعوم بالذكاء الاصطناعي بهدف دمج بيانات المصادر المفتوحة مع استخبارات الإشارات المصنفة.

استدعى المحلل أداةَ الذكاء الاصطناعي مرتين؛ إذ ولّدت في المرة الأولى تقريراً زعم أن السفينة الصينية تحمل مكونات لبرنامج أسلحة نووية، في حين أُعيد استخدام الأداة ذاتها مرة ثانية لتنسيق هذه المعلومات المزيفة وإخراجها في هيئة ملخص رسمي نُشر عبر قنوات القيادة العسكرية دون أن يُشكَّك فيه.

تجري هذه الأحداث في سياق دفع أمريكي متسارع لتوظيف الذكاء الاصطناعي في تسريع القرار العسكري. ووصف مسؤولون الدمجَ بأنه يمنح ميزة استراتيجية في تقليص سلسلة الاستهداف وتمكين القادة من الاستجابة بالسرعة المناسبة. بيد أن هذه السرعة بالذات هي ما أتاح للمعلومات المزيفة التسلل عبر الهرم القيادي قبل أي تحقق منها.

علّق جيك ستيكلر، الباحث في مؤسسة GovAI وضابط الجيش الأمريكي السابق، على الحادثة قائلاً: «من الضروري أن يدرك أفراد القوات المسلحة حجم الغموض المتأصل في النماذج اللغوية الكبيرة. وهذا الأمر بالغ الخطورة بشكل خاص في أي قرارات قد تفضي إلى استخدام القوة، كتحليل الاستخبارات والتخطيط العملياتي؛ فهذه قرارات فيها حياة وموت.»

ولفت ستيكلر إلى أن الحادثة ينبغي أن تُستثمر دفعاً لإضافة ضوابط أكثر صرامة، لا ذريعةً للإحجام عن توظيف الذكاء الاصطناعي كلياً. وأضاف: «هذه الأدوات يمكن أن تكون مفيدة في السياقات الصحيحة وبالضمانات المناسبة، لكن إيلاء سرعة التبني الأولوية المطلقة سيفضي إلى حوادث لن تُفضي إلا إلى تراجع ثقة أفراد الخدمة في هذه الأنظمة.»

تفتح هذه الواقعة نقاشاً موسعاً حول الرقابة البشرية الكافية على أنظمة الذكاء الاصطناعي في البيئات عالية المخاطر. فالنماذج اللغوية الكبيرة، على ما تتمتع به من قدرات استثنائية في تلخيص المعلومات وصياغتها، تفتقر إلى آليات موثوقة للتحقق الذاتي من دقة ما تُنتجه.

وتكشف الحادثة أن الخطأ لم يكن مجرد تقنية معيبة؛ بل كان نتيجة غياب إجراءات المراجعة البشرية المستقلة على المخرجات. فقد استخدم المحلل الأداة مرتين دون أن يُخضع نتائجها لأي تدقيق مستقل، فيما أسبغ الذكاء الاصطناعي الطابعَ الرسمي على ناتجه المزيف.

في ظل تسارع دول عديدة، بما فيها دول عربية، نحو استكشاف تطبيقات الذكاء الاصطناعي في مجالاتها الأمنية والاستخباراتية، تُجسّد هذه الحادثة بوضوح أن السرعة في التبني لا ينبغي أن تتغلب على متانة الضوابط والرقابة البشرية.

المصدر الأصلي
TechCrunch
قراءة المقال الأصلي ↗
قصة اليوم · كل صباح

أعجبك التقرير؟ استلم واحداً كل صباح.

قصةٌ تقنية واحدة تستحقّ وقتك، بالعربية. بلا إعلانات، بلا إزعاج.

بلا إعلانات · إلغاء الاشتراك بنقرة واحدة · بياناتك آمنة

اقرأ أيضًا

المزيد من ذكاء اصطناعي

شعار أوبن إيه آي على خلفية من الأكواد البرمجية يرمز إلى تقييم أمان النماذج

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها

تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

TechCrunch
جهاز ماك يرمز إلى ضوابط الأمان الجديدة في نظام macOS لمواجهة مخاطر وكلاء الذكاء الاصطناعي

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي

تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

TechCrunch
مبنى وزارة التجارة الأمريكية يرمز إلى القاعدة الجديدة لضوابط تصدير شرائح الذكاء الاصطناعي

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد

أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

TechCrunch
النائب العام لولاية كاليفورنيا روب بونتا خلال مؤتمر صحفي

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»

رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

TechCrunch
شعار تطبيق أوبر على شاشة هاتف يرمز إلى اختراق بيانات السائقين

اختراق مزوّد ذكاء اصطناعي يكشف بيانات رخص قيادة 150 ألف سائق أوبر

أعلنت أوبر اختراق بيانات نحو 150 ألف سائق لديها، تضمنت أسماء وعناوين وأرقام رخص قيادة، بعد اختراق قراصنة لشركة Fireworks AI التي تزوّد الشركة بخدمات نماذج ذكاء اصطناعي مفتوحة الأوزان.

TechCrunch
رسم توضيحي لقرصان يعمل على حاسوب يرمز لهجمات القرصنة الإلكترونية المدعومة بالذكاء الاصطناعي

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات

حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.

TechCrunch
هلوسة الذكاء الاصطناعي تكاد تُشعل عملية عسكرية أمريكية ضد الصين — ألمعي