أنثروبيك تطوّر "فلاش بروڤ" لإثبات هوية النموذج الذي أنتج أي رد ذكاء اصطناعي

نظام مفتوح المصدر من أنثروبيك يتيح التحقق تشفيريًا من أن ردًا معينًا صادر فعلاً عن النموذج الذي يزعم إنتاجه، دون الكشف عن أوزانه الداخلية.

تحرير
ألمعي · هيئة التحرير
النشر
٤ نوفمبر ٢٠٢٦
المصدر
TechCrunch ↗
القراءات
٥
الوقت
قراءة 4 دقائق
شعار أنثروبيك كلود على شاشة هاتف ذكي

أعلنت شركة أنثروبيك عن تطوير نظام تجريبي يحمل اسم "فلاش بروڤ" (FlashProve)، يهدف إلى حل مشكلة تقنية متزايدة الأهمية في عالم الذكاء الاصطناعي: كيف يمكن لأي مستخدم أو جهة خارجية أن يتأكد بأن ردًا معينًا صادر فعلاً عن النموذج الذي يُزعم أنه أنتجه؟ النظام مفتوح المصدر بالكامل، وأُعلن عنه في تدوينة تقنية نُشرت الثلاثاء الماضي، مرفقة بمواصفات تقنية مفصّلة وكود برمجي عملي متاح على منصة جيت هب.

تقوم فكرة "فلاش بروڤ" على ما تسميه أنثروبيك "الاستدلال القابل للإثبات"، أي إرفاق مخرجات النموذج اللغوي الكبير بدليل رياضي قابل للتحقق يؤكد أن النموذج المحدد هو الذي أنتج تلك المخرجات بالفعل، لا نموذج آخر. ويعمل النظام عبر آلية تشبه إلى حد كبير بروتوكول دي كيم (DKIM) المستخدم في تأمين البريد الإلكتروني، والذي يتيح للمستقبل التحقق من أن رسالة معينة أُرسلت فعلاً من النطاق الذي تزعم الانتماء إليه ولم تتعرض للتلاعب أثناء النقل. وبالمثل، يتيح "فلاش بروڤ" لأي مستخدم التحقق من أن مخرجًا نصيًا معينًا صادر عن نموذج ذكاء اصطناعي محدد.

وتقوم الآلية التقنية على نشر كل مطوّر نموذج "بصمة" خاصة بكل إصدار يطلقه. وحين يُصدر النموذج ردًا، يمكن مطابقة ذلك الرد بالبصمة المنشورة والتحقق من تطابقهما تشفيريًا. والميزة الجوهرية في هذه الآلية أن البصمة لا تكشف عن أوزان النموذج الداخلية، وهي المكوّن الأكثر قيمة وسرية في أي نموذج تجاري مغلق. وهذا يعني أن الشركات التي تطوّر نماذج مغلقة المصدر، والتي تتجنب عادة أي كشف قد يعرّض أصولها الفكرية للخطر، يمكنها نظريًا الانضمام إلى هذا النظام دون المساس بسرية تقنياتها. كما صُمم النظام ليكون خفيفًا من الناحية الحاسوبية بما يكفي لتشغيل عملية التحقق على جهاز محلي عادي، دون الحاجة إلى بنية حوسبة ضخمة.

ويبرز أهمية هذا النظام في سياق متزايد التعقيد من العلاقة بين مزوّدي خدمات الذكاء الاصطناعي ومستخدميها. فمن الناحية العملية، يمكن لأي شركة أن تستبدل نموذجًا أرخص بآخر أكثر تكلفة كان قد أُعلن عنه في البداية، بهدف خفض التكاليف التشغيلية دون علم المستخدم. وفي الاتجاه المعاكس، يمكن لجهة أن تستخدم نموذجًا أقوى وأكثر تكلفة أثناء تقييم الأداء بمعايير مرجعية (Benchmarks) علنية، بهدف تحسين النتائج المعلنة بشكل مضلل، ثم تستخدم نموذجًا أضعف في الخدمة الفعلية المقدّمة للمستخدمين. ومع نظام مثل "فلاش بروڤ"، يصبح من الممكن كشف هذا النوع من التلاعب والتحقق من مطابقة الوعد بالتنفيذ الفعلي.

وتمتد أهمية النظام أيضًا إلى ما هو أبعد من مجرد التحقق من هوية النموذج المستخدم في حوار عادي. فقد طرح الباحثون في أنثروبيك سؤالًا محوريًا: إذا أعلنت جهة ما أن مكتبة برمجية معينة خضعت لفحص أمني دقيق بواسطة نموذج ذكاء اصطناعي متقدم من فئة "النماذج الحدودية" (Frontier Models)، فكيف يمكن لمستخدم تلك المكتبة التحقق من صحة هذا الادعاء؟ هنا يصبح "الاستدلال القابل للإثبات" أداة أساسية لبناء الثقة في سلسلة من الادعاءات المتعلقة بالذكاء الاصطناعي، بدءًا من الفحوصات الأمنية للبرمجيات وانتهاءً بنتائج التحليلات العلمية أو الطبية التي تعتمد على نماذج متقدمة.

ومن اللافت أن النظام مصمم بحيث يصعب انتحاله حتى من قبل الجهة التي طوّرت النموذج وتديره، أي أن الشركة المصدرة للنموذج نفسها لا تستطيع تزوير "بصمة" نموذج آخر أو الادعاء الكاذب بأن مخرجًا معينًا صادر عن نموذج لم يُنتجه فعلاً، وهو ما يمنح النظام مصداقية إضافية كأداة تدقيق مستقلة لا تتحكم فيها الجهة الخاضعة للتحقق بالكامل.

وبحسب ما أوضحته أنثروبيك، فإن المشروع لا يزال في مراحله البحثية الأولى، ولا توجد حاليًا أي خطط لنشره أو تطبيقه رسميًا داخل منتجات الشركة نفسها أو في أي مختبر آخر للذكاء الاصطناعي. ووصف الباحثون منشورهم بأنه مشاركة لـ"تقدم وسيط" في هذا المجال، معربين عن أملهم في أن تبني مختبرات ومطورون آخرون على هذا الأساس التقني المفتوح وأن يطوّروه أكثر.

وتزداد أهمية هذا النظام في الفضاء الرقمي العربي، حيث تبنّت حكومات عدة كالإمارات والسعودية نماذج ذكاء اصطناعي في خدمات حكومية رئيسية تمس حياة الملايين، من التعليم إلى الصحة والقضاء؛ وفي غياب آليات تحقق مستقلة كـ'فلاش بروڤ'، لا يملك المواطن أو الجهة الرقابية أي وسيلة للتثبت من أن الخدمة المقدمة تعتمد فعلاً على النموذج المعتمد رسمياً والمتحقق من سلامته، وهو إشكال يصبح أكثر إلحاحاً كلما ازداد توظيف الذكاء الاصطناعي في الخدمات الحكومية الحساسة.

ويأتي هذا الإعلان في وقت تتصاعد فيه المخاوف العالمية بشأن الشفافية في قطاع الذكاء الاصطناعي، مع تزايد اعتماد الأفراد والشركات على نماذج ذكاء اصطناعي في مهام حساسة تتراوح بين الاستشارات القانونية والطبية وتحليل الشيفرات البرمجية. وفي ظل غياب آليات موثوقة للتحقق من هوية النموذج الفعلي الذي يقف خلف أي رد، تبقى الثقة المطلقة في تصريحات الشركات المصدرة لهذه النماذج هي الضمانة الوحيدة المتاحة حاليًا للمستخدمين، وهو ما يسعى مشروع "فلاش بروڤ" إلى تغييره تدريجيًا من خلال أدوات تقنية قابلة للتحقق المستقل.

المصدر الأصلي
TechCrunch
قراءة المقال الأصلي ↗
قصة اليوم · كل صباح

أعجبك التقرير؟ استلم واحداً كل صباح.

قصةٌ تقنية واحدة تستحقّ وقتك، بالعربية. بلا إعلانات، بلا إزعاج.

بلا إعلانات · إلغاء الاشتراك بنقرة واحدة · بياناتك آمنة

اقرأ أيضًا

المزيد من ذكاء اصطناعي

شعار أوبن إيه آي على خلفية من الأكواد البرمجية يرمز إلى تقييم أمان النماذج

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها

تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

TechCrunch
جهاز ماك يرمز إلى ضوابط الأمان الجديدة في نظام macOS لمواجهة مخاطر وكلاء الذكاء الاصطناعي

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي

تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

TechCrunch
مبنى وزارة التجارة الأمريكية يرمز إلى القاعدة الجديدة لضوابط تصدير شرائح الذكاء الاصطناعي

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد

أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

TechCrunch
النائب العام لولاية كاليفورنيا روب بونتا خلال مؤتمر صحفي

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»

رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

TechCrunch
رسم توضيحي لقرصان يعمل على حاسوب يرمز لهجمات القرصنة الإلكترونية المدعومة بالذكاء الاصطناعي

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات

حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.

TechCrunch
تخطيط كهربائي للقلب يحلّله نظام ذكاء اصطناعي

الذكاء الاصطناعي يكشف إشارة قلبية خفية قد تتنبأ بالموت القلبي المفاجئ

باحثون في جامعة بيركلي يدرّبون نظام ذكاء اصطناعي على 440 ألف تخطيط قلب للتنبؤ بخطر الموت القلبي المفاجئ، بدقة تتجاوز معايير الفحص التقليدية المعتمدة حالياً في المستشفيات.

ScienceDaily (UC Berkeley)