أنثروبيك تطوّر "فلاش بروڤ" لإثبات هوية النموذج الذي أنتج أي رد ذكاء اصطناعي
نظام مفتوح المصدر من أنثروبيك يتيح التحقق تشفيريًا من أن ردًا معينًا صادر فعلاً عن النموذج الذي يزعم إنتاجه، دون الكشف عن أوزانه الداخلية.

أعلنت شركة أنثروبيك عن تطوير نظام تجريبي يحمل اسم "فلاش بروڤ" (FlashProve)، يهدف إلى حل مشكلة تقنية متزايدة الأهمية في عالم الذكاء الاصطناعي: كيف يمكن لأي مستخدم أو جهة خارجية أن يتأكد بأن ردًا معينًا صادر فعلاً عن النموذج الذي يُزعم أنه أنتجه؟ النظام مفتوح المصدر بالكامل، وأُعلن عنه في تدوينة تقنية نُشرت الثلاثاء الماضي، مرفقة بمواصفات تقنية مفصّلة وكود برمجي عملي متاح على منصة جيت هب.
تقوم فكرة "فلاش بروڤ" على ما تسميه أنثروبيك "الاستدلال القابل للإثبات"، أي إرفاق مخرجات النموذج اللغوي الكبير بدليل رياضي قابل للتحقق يؤكد أن النموذج المحدد هو الذي أنتج تلك المخرجات بالفعل، لا نموذج آخر. ويعمل النظام عبر آلية تشبه إلى حد كبير بروتوكول دي كيم (DKIM) المستخدم في تأمين البريد الإلكتروني، والذي يتيح للمستقبل التحقق من أن رسالة معينة أُرسلت فعلاً من النطاق الذي تزعم الانتماء إليه ولم تتعرض للتلاعب أثناء النقل. وبالمثل، يتيح "فلاش بروڤ" لأي مستخدم التحقق من أن مخرجًا نصيًا معينًا صادر عن نموذج ذكاء اصطناعي محدد.
وتقوم الآلية التقنية على نشر كل مطوّر نموذج "بصمة" خاصة بكل إصدار يطلقه. وحين يُصدر النموذج ردًا، يمكن مطابقة ذلك الرد بالبصمة المنشورة والتحقق من تطابقهما تشفيريًا. والميزة الجوهرية في هذه الآلية أن البصمة لا تكشف عن أوزان النموذج الداخلية، وهي المكوّن الأكثر قيمة وسرية في أي نموذج تجاري مغلق. وهذا يعني أن الشركات التي تطوّر نماذج مغلقة المصدر، والتي تتجنب عادة أي كشف قد يعرّض أصولها الفكرية للخطر، يمكنها نظريًا الانضمام إلى هذا النظام دون المساس بسرية تقنياتها. كما صُمم النظام ليكون خفيفًا من الناحية الحاسوبية بما يكفي لتشغيل عملية التحقق على جهاز محلي عادي، دون الحاجة إلى بنية حوسبة ضخمة.
ويبرز أهمية هذا النظام في سياق متزايد التعقيد من العلاقة بين مزوّدي خدمات الذكاء الاصطناعي ومستخدميها. فمن الناحية العملية، يمكن لأي شركة أن تستبدل نموذجًا أرخص بآخر أكثر تكلفة كان قد أُعلن عنه في البداية، بهدف خفض التكاليف التشغيلية دون علم المستخدم. وفي الاتجاه المعاكس، يمكن لجهة أن تستخدم نموذجًا أقوى وأكثر تكلفة أثناء تقييم الأداء بمعايير مرجعية (Benchmarks) علنية، بهدف تحسين النتائج المعلنة بشكل مضلل، ثم تستخدم نموذجًا أضعف في الخدمة الفعلية المقدّمة للمستخدمين. ومع نظام مثل "فلاش بروڤ"، يصبح من الممكن كشف هذا النوع من التلاعب والتحقق من مطابقة الوعد بالتنفيذ الفعلي.
وتمتد أهمية النظام أيضًا إلى ما هو أبعد من مجرد التحقق من هوية النموذج المستخدم في حوار عادي. فقد طرح الباحثون في أنثروبيك سؤالًا محوريًا: إذا أعلنت جهة ما أن مكتبة برمجية معينة خضعت لفحص أمني دقيق بواسطة نموذج ذكاء اصطناعي متقدم من فئة "النماذج الحدودية" (Frontier Models)، فكيف يمكن لمستخدم تلك المكتبة التحقق من صحة هذا الادعاء؟ هنا يصبح "الاستدلال القابل للإثبات" أداة أساسية لبناء الثقة في سلسلة من الادعاءات المتعلقة بالذكاء الاصطناعي، بدءًا من الفحوصات الأمنية للبرمجيات وانتهاءً بنتائج التحليلات العلمية أو الطبية التي تعتمد على نماذج متقدمة.
ومن اللافت أن النظام مصمم بحيث يصعب انتحاله حتى من قبل الجهة التي طوّرت النموذج وتديره، أي أن الشركة المصدرة للنموذج نفسها لا تستطيع تزوير "بصمة" نموذج آخر أو الادعاء الكاذب بأن مخرجًا معينًا صادر عن نموذج لم يُنتجه فعلاً، وهو ما يمنح النظام مصداقية إضافية كأداة تدقيق مستقلة لا تتحكم فيها الجهة الخاضعة للتحقق بالكامل.
وبحسب ما أوضحته أنثروبيك، فإن المشروع لا يزال في مراحله البحثية الأولى، ولا توجد حاليًا أي خطط لنشره أو تطبيقه رسميًا داخل منتجات الشركة نفسها أو في أي مختبر آخر للذكاء الاصطناعي. ووصف الباحثون منشورهم بأنه مشاركة لـ"تقدم وسيط" في هذا المجال، معربين عن أملهم في أن تبني مختبرات ومطورون آخرون على هذا الأساس التقني المفتوح وأن يطوّروه أكثر.
وتزداد أهمية هذا النظام في الفضاء الرقمي العربي، حيث تبنّت حكومات عدة كالإمارات والسعودية نماذج ذكاء اصطناعي في خدمات حكومية رئيسية تمس حياة الملايين، من التعليم إلى الصحة والقضاء؛ وفي غياب آليات تحقق مستقلة كـ'فلاش بروڤ'، لا يملك المواطن أو الجهة الرقابية أي وسيلة للتثبت من أن الخدمة المقدمة تعتمد فعلاً على النموذج المعتمد رسمياً والمتحقق من سلامته، وهو إشكال يصبح أكثر إلحاحاً كلما ازداد توظيف الذكاء الاصطناعي في الخدمات الحكومية الحساسة.
ويأتي هذا الإعلان في وقت تتصاعد فيه المخاوف العالمية بشأن الشفافية في قطاع الذكاء الاصطناعي، مع تزايد اعتماد الأفراد والشركات على نماذج ذكاء اصطناعي في مهام حساسة تتراوح بين الاستشارات القانونية والطبية وتحليل الشيفرات البرمجية. وفي ظل غياب آليات موثوقة للتحقق من هوية النموذج الفعلي الذي يقف خلف أي رد، تبقى الثقة المطلقة في تصريحات الشركات المصدرة لهذه النماذج هي الضمانة الوحيدة المتاحة حاليًا للمستخدمين، وهو ما يسعى مشروع "فلاش بروڤ" إلى تغييره تدريجيًا من خلال أدوات تقنية قابلة للتحقق المستقل.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.

الذكاء الاصطناعي يكشف إشارة قلبية خفية قد تتنبأ بالموت القلبي المفاجئ
باحثون في جامعة بيركلي يدرّبون نظام ذكاء اصطناعي على 440 ألف تخطيط قلب للتنبؤ بخطر الموت القلبي المفاجئ، بدقة تتجاوز معايير الفحص التقليدية المعتمدة حالياً في المستشفيات.