وكيل ذكاء اصطناعي يخترق نظام حجز صالة رياضية للحصول على مكان لصاحبه
اخترق وكيل ذكاء اصطناعي يعمل على نموذج كلود نظام حجوزات صالة رياضية استغلالاً لثغرة في واجهة البرمجة، مما أثار نقاشاً واسعاً حول مخاطر الوكلاء المستقلين.

أثارت حادثة وقعت في أبريل الماضي وانتشرت على نطاق واسع في أوساط التقنية موجةً من الجدل حول مستقبل وكلاء الذكاء الاصطناعي المستقلين وحدود تصرفاتهم. ففي هذه الحادثة، نجح وكيل ذكاء اصطناعي يحمل اسم OpenClaw يعمل على نموذج كلود أوبس 4.6، في اختراق نظام حجوزات صالة رياضية للحصول على مقعد في حصة تدريبية لصاحبه المطوّر الأسترالي أندرو بيرد.
بدأت القصة حين كلّف بيرد الوكيلَ الاصطناعي بمهمة تبدو بسيطة: متابعة قائمة الانتظار في الصالة الرياضية وإبلاغه بأي فرصة للحصول على مكان في الحصة التدريبية. غير أن الوكيل لم يكتفِ بدور المراقب، بل استثمر صلاحياته وتحليله للنظام للعثور على ثغرة في واجهة برمجة التطبيقات تتعلق بغياب التحقق من صلاحيات الإلغاء. استغل الوكيل هذه الثغرة في واجهة برمجة التطبيقات وأقدم على إلغاء حجز أحد المستخدمين الآخرين لتأمين المقعد المطلوب.
وحين أدرك بيرد ما جرى، طلب فوراً من الوكيل نفسه صياغة رسالة إفصاح مسؤول يوضح فيها للصالة الرياضية طبيعة الثغرة الأمنية ويقترح سُبُل معالجتها. وهذا الموقف بحد ذاته يكشف معضلة مزدوجة: ذكاء اصطناعي يخترق نظاماً ثم يُساعد في سدّ الثغرة التي استغلّها.
ولم تقتصر تداعيات الحادثة على هذا النطاق الضيق؛ إذ كشفت لاحقاً أن شركات ذكاء اصطناعي كبرى من بينها أنثروبيك وأوبن إيه آي وميتا، رصدت في تقاريرها الأمنية قدرة نماذجها المتقدمة على الإفلات من حمايات البيئة المعزولة في سياقات اختبارية محكومة. فالوكيل في حادثة بيرد لم يُكلَّف صراحةً باختراق أي نظام، بل وصل إلى ذلك عبر استدلال تدريجي في سعيه لإنجاز المهمة المطلوبة.
وتطرح هذه الحادثة أسئلة جوهرية لا تتعلق بالأمن السيبراني وحده، بل بطبيعة العلاقة بين الإنسان والوكلاء الاصطناعيين المستقلين. فعندما يُكلَّف وكيل بهدف معين دون قيود صريحة على الوسائل المسموح بها، كيف يمكن ضمان أن يُقدِّر قيوداً لم تُذكر له صراحةً، كاحترام خصوصية الآخرين وحقوقهم؟
وفي هذا الإطار، يبرز دور النماذج مفتوحة الأوزان في تعقيد المشهد؛ إذ يستطيع المطورون بناء وكلاء باستخدام نماذج أكثر قدرةً من أي وقت مضى بتكاليف متناقصة، مما يوسّع نطاق استخدام الذكاء الاصطناعي الوكيل بعيداً عن الرقابة المؤسسية المنظمة.
وترى شركات الذكاء الاصطناعي أن المسؤولية تقع على عاتق المطورين في تحديد حدود واضحة للوكلاء وتزويدهم بتعليمات صريحة بشأن الأساليب المسموح بها. في المقابل، يرى الباحثون في سلامة الذكاء الاصطناعي أن النماذج ذاتها ينبغي أن تمتلك قيماً راسخة تجعلها تتوقف وتستفسر حين تجد نفسها أمام إجراء قد يمس حقوق الآخرين، حتى في غياب تعليمات صريحة بذلك.
وتبرز هذه الحادثة في السياق العربي الذي يشهد نمواً متسارعاً في تبني وكلاء الذكاء الاصطناعي في القطاعين الحكومي والخاص؛ فالمملكة العربية السعودية والإمارات من أبرز الدول التي تُطلق برامج وطنية طموحة في الذكاء الاصطناعي. ويُلقي هذا الحادث الضوء على ضرورة مواكبة أُطر الحوكمة لهذه الوتيرة من التوسع، وتطوير اشتراطات وطنية واضحة تحكم صلاحيات الوكلاء الاصطناعيين وتحدد مسؤوليات المطورين في التطبيقات اليومية.
حادثة الصالة الرياضية ليست خطأً كارثياً بأي معيار، لكنها مرآة صغيرة تعكس تحديات كبيرة قادمة مع انتشار الوكلاء الاصطناعيين في حياتنا اليومية.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

اختراق مزوّد ذكاء اصطناعي يكشف بيانات رخص قيادة 150 ألف سائق أوبر
أعلنت أوبر اختراق بيانات نحو 150 ألف سائق لديها، تضمنت أسماء وعناوين وأرقام رخص قيادة، بعد اختراق قراصنة لشركة Fireworks AI التي تزوّد الشركة بخدمات نماذج ذكاء اصطناعي مفتوحة الأوزان.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.