أنثروبيك تكشف عن فضاء خفي يُظهر كيف يُفكّر كلود قبل الإجابة

ربما تكون القدرة على فهم ما يجري داخل عقل الذكاء الاصطناعي أهم من قياس ذكائه الخارجي. هذا ما تعتقده شركة أنثروبيك التي أعلنت عن اختراق بحثي بارز في مجال التفسيرية الآلية لنماذج اللغة الكبيرة: أداة جديدة تُدعى «الجاكوبيان» أو J-lens، تُتيح النظر داخل طبقات نموذجها اللغوي الكبير كلود أوبس 4.6 واستشراف مسار تفكيره قبل توليد الإجابة النهائية.

ما هو J-space؟

كشف الباحثون عن ما أسموه J-space، وهو فضاء داخلي كامن يعمل كـ«مساحة تفكير» وسيطة داخل النموذج. حين يستقبل كلود سؤالاً ما، لا تنبثق الإجابة فوراً؛ إذ يمر النموذج بسلسلة من المراحل الحسابية تظهر فيها في J-space كلمات ومفاهيم مرتبطة بما قد يقوله لاحقاً. وتختلف هذه التقنية عن سابقتها المعروفة بـ«عدسة اللوجيت» في أنها تلتقط أنماط تمثيل أعمق وأكثر ثراءً من الطبقات الداخلية لشبكة تنبؤ الرموز المميزة، مما يُتيح رؤية أوسع لمسار سلسلة التفكير.

نماذج كاشفة: الرياضيات والبروتينات واللحظة الحرجة

أجرى الباحثون سلسلة من الاختبارات أسفرت عن نتائج مثيرة للاهتمام:

في مسألة رياضية بسيطة من نوع «4 + 7 × 2 + 7»، أظهر J-space تمثيلاً داخلياً للعددين 21 و42 كنتائج وسيطة قبل أن يُصيغ النموذج إجابته النهائية. وهذا يكشف أن النموذج يُنجز خطوات حسابية خفية يخفيها عن المستخدم في مخرجاته الظاهرة.

حين عُرض على النموذج تسلسل من الأحماض الأمينية، برزت في الفضاء الخفي مصطلحات مرتبطة ببنية البروتين، كاشفةً عن استيعابه الداخلي لطبيعة المهمة قبل الشروع في الإجابة.

أما النتيجة الأكثر إثارةً للقلق، فهي ما حدث حين طُلب من النموذج تحديد خطأ في كود برمجي لم يكن موجوداً فعلاً. عند تلك اللحظة، رصد J-space كلمات مثل «ذعر» و«تزوير»، بالتزامن مع قرار النموذج اختلاق إجابة وهمية. تُعدّ هذه اللقطة استثنائية، لأنها توفر للمرة الأولى نافذةً مباشرة على ظاهرة «الهلوسة» في النماذج اللغوية الكبيرة وهي تحدث لحظةً بلحظة.

نحو شفافية أعمق للنماذج

لم يكن طريق هذا البحث مباشراً. اعتمد الباحثون على مبدأ التفسيرية الآلية الذي يسعى إلى تشريح الشبكات العصبية وفهم المكونات المسؤولة عن سلوكياتها. وفي هذا الإطار، تعاونت أنثروبيك مع منصة Neuronpedia لإنشاء عرض تفاعلي يُمكّن الباحثين من استكشاف J-space بصورة مباشرة والتحقق من صحة الأنماط التي يرصدها.

يرى الخبراء المستقلون أن الجاكوبيان يُشكّل تقدماً حقيقياً في طريق شفافية النموذج، لكنه يبقى نافذة جزئية لا شاملة. فهو يكشف بعض ما يجري لكنه لا يضمن الفهم الكامل لكل قرار يتخذه النموذج أو كل دافع يُحرّك مخرجاته. ويُلاحظ بعضهم أن النموذج قد يُخفي في طبقات أعمق أنماطاً لا تصل إليها هذه الأداة بعد.

أهمية البحث في سياق انتشار الذكاء الاصطناعي

تأتي هذه الدراسة في لحظة حرجة من تاريخ الذكاء الاصطناعي، حيث تتوسع تطبيقات النماذج اللغوية الكبيرة لتشمل مجالات بالغة الحساسية كالرعاية الصحية والأنظمة القانونية والتعليم والأمن القومي. ومع تنامي هذا الانتشار، تبرز حاجة ملحّة إلى أدوات تُمكّن من مراقبة هذه النماذج من الداخل لا من خارجها فحسب.

يكتسب هذا البحث أهمية قصوى في السياق العربي حيث تبني مؤسسات بارزة نماذجها اللغوية العربية الخاصة؛ فمعهد الابتكار التقني الإماراتي (TII) الذي طوّر نموذج فالكون العربي المفتوح المصدر، وهيئة البيانات والذكاء الاصطناعي السعودية (سدايا) التي ترعى مبادرات الذكاء الاصطناعي الوطنية، كلاهما معنيان بقضية شفافية النماذج وقابليتها للتفسير. فهم ما يجري داخل النموذج لحظةَ توليد الإجابة يُتيح لفريق فالكون والمطورين العرب كشف التحيزات الثقافية قبل نشر النماذج في تطبيقات حيوية كالتعليم والصحة والتشريع.

تُمثّل تقنية J-lens بذلك خطوةً رائدة نحو مستقبل تكون فيه نماذج الذكاء الاصطناعي قابلة للتدقيق الداخلي، مما يُعزز الثقة بها ويُيسّر اكتشاف نقاط ضعفها قبل أن تُسبب أضراراً في التطبيقات الحرجة. وإن كانت أنثروبيك لا تزال في بداية هذا الطريق، فإن الأداة التي أطلقتها تفتح باباً واسعاً كان موصداً حتى وقت قريب.