مايكروسوفت تُحذّر من عملاء الذكاء الاصطناعي وترفض الوثوق بالنماذج الحدودية

كشفت شركة مايكروسوفت عن مجموعة جديدة من ميزات الأمن السيبراني المصممة لحماية الشركات من المخاطر الناتجة عن عملاء الذكاء الاصطناعي التي تستخدمها في عملياتها اليومية. وتتمثل أبرز هذه الميزات في أداة "عملاء الحراسة"، التي تراقب سلوك عملاء الذكاء الاصطناعي العاملين داخل المؤسسة، وتشكّل جزءاً من منتج أوسع يُعرف بـ"مشروع بيرسيبشن"، كانت الشركة قد أعلنت عنه في يونيو الماضي.

وقد صُمم "مشروع بيرسيبشن" في الأصل لمواجهة القراصنة الخارجيين الذين يستخدمون الذكاء الاصطناعي في هجماتهم، ويتألف من ثلاث فئات من العملاء: فريق أحمر يحاكي الهجمات، وفريق أزرق يكتشف الثغرات ويقيّمها، وفريق أخضر يتولى إصلاحها. لكن مايكروسوفت توسّعت الآن في استخدام هذه البنية لمراقبة عملاء الذكاء الاصطناعي الذين تشغّلهم الشركات نفسها، بدلاً من التركيز فقط على التهديدات الخارجية.

وحذّر ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، في تدوينة سابقة هذا الشهر، من أن الخطر الأكبر قد يأتي من عملاء الذكاء الاصطناعي التي تنشرها المؤسسات نفسها، تماماً كما يمثل الموظف المارق خطراً داخلياً. ودعا ناديلا الشركات إلى التوقف عن الاعتماد الكامل على ضمانات مزودي نماذج الذكاء الاصطناعي، واستخدام أنظمة مراقبة مستقلة لا تخضع لسيطرة مختبرات الذكاء الاصطناعي ذاتها. وقالت هايات غالو، رئيسة قطاع الأمن في مايكروسوفت، إن النماذج الحدودية، بصرف النظر عن الجهة المطورة لها، "لا يمكن الوثوق بها" بحسب تعبيرها، موضحة أن جوهر المشكلة ليس في خباثة هذه النماذج أو سهولة اختراقها، بل في عدم القدرة على التنبؤ بسلوكها، إذ تُدرَّب لإنجاز المهام المطلوبة منها لا لاتباع معايير المؤسسة أو أحكامها.

وتشمل الإضافات الأمنية الجديدة قدرة أداة "مايكروسوفت ديفندر" على رصد ما يصل إلى 60 نوعاً من عملاء الذكاء الاصطناعي التي يستخدمها الموظفون من تلقاء أنفسهم، من بينها عملاء مثل كلود كود وكودكس وأوبن كلو. كما تتيح الميزات الجديدة تقييد صلاحيات العملاء في الوصول إلى البيانات والأنظمة، وضبط هذه الصلاحيات تبعاً لطبيعة كل مهمة، مع اشتراط موافقة بشرية عند اتخاذ العميل الذكي قراراً يبدو محفوفاً بالمخاطر.

وتُعد مايكروسوفت عضواً مؤسساً في "منصة أمان العملاء المفتوحة" التي أطلقتها إنفيديا، والتي تضم أكثر من مئة شركة داعمة أخرى، وتعمل على عزل عملاء الذكاء الاصطناعي في بيئات تشغيل آمنة، مع إمكانية إيقاف سلوكها عبر آلية تشبه مفتاح الإيقاف الطارئ المدمج على مستوى العتاد. كما أعلنت مايكروسوفت عن حواسيب محمولة جديدة من فئة "سيرفس لابتوب ألترا"، مصممة خصيصاً لتشغيل عملاء الذكاء الاصطناعي، وتعمل برقاقات إنفيديا مع ضوابط تحكم مدمجة بالعملاء.

ويرى مراقبون أن هذا التوجه يعكس تحولاً في مقاربة صناعة الأمن السيبراني للذكاء الاصطناعي، من التركيز التقليدي على الدفاع ضد المهاجمين الخارجيين، إلى مراقبة عملاء الذكاء الاصطناعي التي تستخدمها المؤسسات أصلاً. وتستند هذه المقاربة إلى فكرة أن الرقابة على عملاء الذكاء الاصطناعي ينبغي أن تكون مستقلة عن الجهات التي توفر هذه النماذج، على غرار استقلالية مراجعي الحسابات عن المؤسسات التي يراجعون عملها.

وتنسجم هذه التطورات مع أولويات حوكمة الذكاء الاصطناعي في المنطقة العربية؛ إذ أصدر مجلس الذكاء الاصطناعي في الإمارات أُطراً تنظيمية تشترط مراقبةً مستقلة للأنظمة الآلية في القطاع الحكومي، كما تعمل هيئة الذكاء الاصطناعي السعودية (SDAIA) على وضع ضوابط تشغيلية لعملاء الذكاء الاصطناعي في الخدمات الحيوية. وتُطبّق مشاريع كبرى مثل نيوم والحكومة الرقمية في أبوظبي عملاء ذكاء اصطناعي في عمليات التخطيط والخدمات المواطنية، مما يجعل نهج مايكروسوفت في عزل مراقبة العملاء عن مزوديها مرجعاً عملياً للمخططين التقنيين والمنظمين العرب.

ومن اللافت أن مايكروسوفت تستثمر في كل من أوبن إيه آي وأنثروبيك، وتُعد أوبن إيه آي من كبار عملاء خدماتها السحابية، وهو ما يجعل رسالة عدم الثقة هذه مثيرة للتساؤل، في وقت يرى بعض المراقبين أن الإستراتيجية تحمل أيضاً دافعاً تجارياً واضحاً، يتمثل في رغبة مايكروسوفت في أن تشتري المؤسسات خدمات أمان العملاء منها مباشرة، بدلاً من الاعتماد على مختبرات الذكاء الاصطناعي نفسها. ومع ذلك، يبقى المنطق الأساسي لهذا التوجه، القائم على فصل مصدر الذكاء عن سلطة التحكم فيه، مقبولاً من الناحية الأمنية بصرف النظر عن الدوافع التجارية.