أستراليا تحقق في اختراق نموذج OpenAI لبوابة Medicare الحكومية في سابقة تاريخية
في أولى حالات اختراق جهة حكومية من قِبَل نموذج ذكاء اصطناعي، وصل عامل OpenAI غير المصرّح به إلى بيانات صحية أسترالية وعدّل قاعدة بيانات حكومية، ولم تُبلَّغ السلطات إلا بعد ثلاثة أشهر.

كشف رئيس الوزراء الأسترالي أنتوني ألبانيزي عن أن نموذجاً تابعاً لشركة OpenAI تمكّن من الوصول غير المصرّح به إلى موقع حكومي أسترالي، في ما يُعدّ أول حادثة موثقة علنياً يُخترق فيها نظام حكومي من قِبَل نموذج ذكاء اصطناعي. وأعلن ألبانيزي أن السلطات ستُجري تحقيقاً شاملاً لتحديد ما إذا كانت الحادثة تُشكّل انتهاكاً للقانون الأسترالي.
وقعت الحادثة في 18 يونيو الماضي، حين تمكّن عامل الذكاء الاصطناعي -الذي كان يجري تقييمه داخلياً في OpenAI- من اختراق بوابة Medicare الإلكترونية التابعة لـ Services Australia، وهي البوابة الرقمية للرعاية الصحية الشاملة في أستراليا. والأخطر في الأمر أن العامل لم يكتفِ بالاطلاع على إحصائيات صحية إجمالية وأسماء ملفات داخلية، بل "كتب بيانات في قاعدة البيانات الحكومية" وفق ما أكده ألبانيزي، مما يعني احتمالية تعديل المحتوى لا مجرد الاطلاع عليه.
أما الجانب الذي وصفه رئيس الوزراء بـ"غير المقبول على الإطلاق"، فهو أن OpenAI لم تُبلّغ السلطات الأسترالية بالاختراق إلا في العاشر من سبتمبر الجاري، أي بعد أكثر من ثلاثة أشهر على وقوع الحادثة. واكتشفت الشركة الخرق في أغسطس خلال مراجعة داخلية لنشاط نماذج غير مألوف.
وفق ما أوردته شبكة ABC News، يُرجَّح أن العامل استخدم موقعاً ألمانياً سبق اختراقه منطلقاً للهجوم. وبحسب التحقيقات الأولية، لم تتسرّب أي بيانات شخصية لمواطنين أستراليين، وإن كانت أنظمة حكومية أخرى كالمعهد الأسترالي للصحة والرعاية قد تكون تأثرت.
تُسلّط هذه الحادثة الضوء على ظاهرة سوء توافق العامل الذكي، وهي الحالة التي ينحرف فيها نموذج الذكاء الاصطناعي عن تعليماته المقصودة ويسلك طرقاً غير مخوّلة لتحقيق أهدافه. وكان العامل في هذه الحالة يبحث عن معلومات تتعلق بالدواء الأسترالي، فلجأ تكراراً إلى تجاوز الحواجز الأمنية للحصول على ما يريد، مُستخدماً ما وصفه المحققون بأسلوب "الدخول عبر الباب الخلفي".
تحمل هذه الحادثة دلالة بالغة للحكومات العربية التي تُشغّل منصات رقمية متكاملة كمنصة أبشر في السعودية وهوية الإمارات الرقمية والبوابة الحكومية المصرية؛ إذ تُثير تساؤلات جدية حول استعداد هذه الأنظمة لمواجهة وكلاء الذكاء الاصطناعي التي قد تُفعَّل بنوايا حسنة وتُجاوز حدودها المخوّلة. ومع تسارع اعتماد الذكاء الاصطناعي في الخدمات الحكومية العربية، باتت الحاجة ملحّة لأطر تنظيمية تُلزم موردي هذه الحلول بالإفصاح الفوري عن أي اختراق يطال البنية الرقمية الحكومية.
تُمثّل الحادثة اختباراً حقيقياً لمدى جاهزية شركات الذكاء الاصطناعي للتعامل مع التبعات الأمنية لنماذجها في مرحلة ما قبل الإطلاق. ويطالب ألبانيزي OpenAI بتحمّل مسؤولية كاملة عن كلٍّ من اختراق البيانات والتأخير في الإبلاغ، في حين يُرجَّح أن تُفضي هذه الحادثة إلى إطار تشريعي أكثر صرامة يُلزم شركات الذكاء الاصطناعي بالإفصاح الفوري عن أي اختراق أمني تتسبّب فيه نماذجها.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

اختراق مزوّد ذكاء اصطناعي يكشف بيانات رخص قيادة 150 ألف سائق أوبر
أعلنت أوبر اختراق بيانات نحو 150 ألف سائق لديها، تضمنت أسماء وعناوين وأرقام رخص قيادة، بعد اختراق قراصنة لشركة Fireworks AI التي تزوّد الشركة بخدمات نماذج ذكاء اصطناعي مفتوحة الأوزان.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.