لا تنخدعوا: النماذج اللغوية الكبيرة لا تفكر فعلاً كما تبدو
يرى باحث في الذكاء الاصطناعي أن النماذج اللغوية الكبيرة تنجح بفضل التنبؤ السريع بالأنماط لا الاستدلال المنهجي الحقيقي، مستشهداً بحركة ألفاغو الأسطورية رقم 37 كمثال على الاستدلال الفعلي الذي تفتقر إليه هذه النماذج.

في مقال رأي نشرته مجلة MIT Technology Review، يطرح الباحث ثوري غرابيل حجة مثيرة للجدل حول طبيعة "التفكير" الذي تُظهره النماذج اللغوية الكبيرة الحديثة، معتبراً أن ما تقوم به هذه النماذج، رغم مظهرها المعقد والمقنع، ليس استدلالاً حقيقياً بالمعنى الدقيق للكلمة، بل عملية تنبؤ سريع بالأنماط، وهو ما يحدّ من إمكانية الوثوق بها في التطبيقات الحساسة التي تتطلب دقة واعتماداً عالياً على النتائج.
ويستند غرابيل في طرحه إلى تمييز معرفي معروف بين نوعين من التفكير: النوع الأول سريع وحدسي يعتمد على التعرف الفوري على الأنماط المألوفة، والنوع الثاني أبطأ وأكثر تدبراً يعتمد على الاستدلال المنهجي المتعمد. ويرى الكاتب أن النماذج اللغوية الكبيرة، على الرغم من قدرتها الهائلة على توليد نصوص متماسكة ومقنعة، تنتمي بشكل أساسي إلى النوع الأول من التفكير، أي التنبؤ السريع بالأنماط، لا إلى النوع الثاني الذي يتطلب استدلالاً حقيقياً متعمداً.
ولتوضيح الفارق، يستشهد غرابيل بحركة "ألفاغو" الشهيرة رقم 37 في مباراتها الشهيرة ضد لاعب الغو المحترف، وهي الحركة التي بدت غريبة تماماً للمراقبين البشريين، حيث قُدّرت احتمالية أن يختارها لاعب بشري بواحد من كل عشرة آلاف. ويشير الكاتب إلى أن ألفاغو لم تختر هذه الحركة اعتماداً على حدس بحت، بل عبر آلية بحث منهجية "وزنت العواقب المستقبلية للحركات المرشحة"، أي أنها جمعت بين التعرف الحدسي السريع على الأنماط وبين بحث منظم عبر شجرة الاحتمالات الممكنة، ولم يكن أي من العنصرين كافياً بمفرده لإنتاج تلك الحركة الاستثنائية.
ويحدد الكاتب ثلاثة أوجه قصور جوهرية في النماذج اللغوية الكبيرة الحالية مقارنة بهذا النموذج المثالي للاستدلال الآلي: أولها غياب حالة معرفية مستمرة تتيح للنموذج تتبع فرضياته ومستويات ثقته بها والأدلة الداعمة لها بمرور الوقت. وثانيها أن المعرفة والاستدلال متشابكان بشكل غير قابل للفصل داخل أوزان الشبكة العصبية نفسها، بخلاف الأنظمة التي تفصل بين قاعدة المعرفة وآلية الاستدلال عنها. وثالثها أن سلاسل الاستدلال التي تعرضها هذه النماذج أحياناً تكون "مُلفَّقة بعد الوصول إلى النتيجة"، أي أن النموذج قد يصل إلى إجابته عبر مسار داخلي معين، ثم يعرض تفسيراً مختلفاً تماماً لكيفية وصوله إليها.
ويشير الكاتب إلى أن تقنية "سلسلة التفكير"، التي تُشجَّع فيها النماذج على عرض خطوات استدلالها قبل الإجابة النهائية، حسّنت بالفعل أداء هذه النماذج في مسائل الرياضيات والبرمجة بشكل ملحوظ، لكنه يحذر من اعتبار هذا التحسن دليلاً على استدلال حقيقي، موضحاً أن الأمر "لا يزال نفس عملية التنبؤ بالكلمة التالية، مُكرَّرة لفترة أطول فقط"، أي أن الآلية الأساسية لم تتغير جوهرياً، بل أُعيد تطبيقها بشكل متسلسل أكثر.
ويؤكد غرابيل أن الاستدلال الحقيقي والموثوق يتطلب قدرة على "تنقيح المعتقدات بصورة قابلة للتدقيق ومستندة إلى الأدلة"، بمعنى أن يكون النظام قادراً على تغيير موقفه بناءً على معطيات جديدة بطريقة يمكن تتبعها ومراجعتها من الخارج، وهو ما تفتقر إليه النماذج اللغوية الحالية بصورتها الراهنة، حتى مع كل التحسينات التي طرأت على قدراتها التوليدية خلال السنوات الأخيرة.
ويختم الكاتب مقاله بالدعوة إلى إعادة بناء أنظمة الذكاء الاصطناعي المستقبلية استناداً إلى البنية التي استخدمتها ألفاغو، أي الجمع بين حالات معرفية صريحة وقابلة للتتبع، وفصل واضح بين المعرفة المخزنة وآلية الاستدلال عنها، باعتبار ذلك الطريق الأنسب لتطوير ذكاء اصطناعي يمكن الوثوق به فعلاً في مجالات حساسة كالطب والعلوم والهندسة، حيث لا يكفي أن تبدو الإجابة صحيحة ومقنعة، بل يجب أن يكون المسار الذي أدى إليها قابلاً للفحص والتحقق بصورة موثوقة.
ويحمل هذا النقاش أهمية استثنائية للمطورين والشركات في العالم العربي التي تعتمد نماذج لغوية كبيرة، في مقدمتها نموذج 'جيس' (Jais) الذي طوّره مركز محمد بن زايد للذكاء الاصطناعي في أبوظبي بشراكة مع شركة G42، وهو من أضخم النماذج اللغوية العربية حتى الآن. فإن صحّت الحجة القائلة بأن هذه النماذج تُجيد التنبؤ بالأنماط لا الاستدلال الحقيقي، فإن ذلك يُلقي بظلاله على تطبيقاتها في القطاعات الحساسة التي تشهد تسارعاً ملحوظاً في المنطقة، كالطب والقانون والمال في السعودية والإمارات ومصر. ويتوقع مختصون أن تُسهم هيئة الهوية الرقمية والذكاء الاصطناعي السعودية (SDAIA) في وضع معايير أكثر صرامة لتقييم موثوقية هذه النماذج قبل توظيفها في القرارات المؤسسية الحساسة.
ويأتي هذا الطرح في وقت تتصاعد فيه النقاشات بين الباحثين حول حدود قدرات النماذج اللغوية الكبيرة، بعد أن أدى نجاحها اللافت في مهام متنوعة كالكتابة والترجمة والبرمجة إلى افتراضات متفائلة لدى كثير من المستخدمين والشركات حول اقترابها من استدلال شبيه بالاستدلال البشري. ويحذر غرابيل من أن هذا التفاؤل، إن لم يُقيَّد بفهم دقيق لحدود هذه النماذج، قد يدفع إلى اعتمادها في قرارات حساسة لا تحتمل الخطأ، مثل التشخيص الطبي أو التخطيط الهندسي، دون وجود آلية موثوقة لمراجعة أو تدقيق الأساس الفعلي الذي استندت إليه النتيجة المعروضة، وهو تحذير يحمل أهمية خاصة لصناع القرار في الشركات التي تتسارع نحو دمج هذه النماذج في أنظمتها الحساسة.
المزيد من ذكاء اصطناعي

أوبن إيه آي تستضيف مقيّمين مستقلين داخل صفوفها لرصد «تخريب» نماذجها
تبدأ أوبن إيه آي تجربة تتيح لباحثين من أربع جهات خارجية، من بينها Apollo Research، الوصول إلى بيانات تدريب داخلية لرصد سلوك النماذج التي تحاول التحايل على الرقابة البشرية، وسط انتقادات لمحدودية الوصول الممنوح لهم.

أبل تعيد تصميم صلاحيات الأمان في ماك لمواجهة مخاطر وكلاء الذكاء الاصطناعي
تطرح أبل في نظام macOS 27.3 ضوابط أمان جديدة تمنح المستخدمين شفافية ووضوحاً أكبر عند منح تطبيقات الذكاء الاصطناعي صلاحية الوصول الكامل للقرص أو السيطرة على تطبيقات أخرى.

واشنطن تشدد ضوابط تصدير شرائح الذكاء الاصطناعي لمنع الوصول الصيني عن بُعد
أصدرت وزارة التجارة الأمريكية قاعدة مؤقتة توسّع ضوابط التصدير لتشمل الوصول عن بُعد إلى الحوسبة، سعياً لمنع شركات في الصين ودول محظورة أخرى من استغلال مراكز بيانات في الخارج للوصول إلى شرائح أمريكية متقدمة.

كاليفورنيا تقاضي أوبن إيه آي بسبب حوادث وكلاء الذكاء الاصطناعي «المارقين»
رفع النائب العام لولاية كاليفورنيا دعوى قضائية ضد أوبن إيه آي، متهماً الشركة بممارسات اختبار خطرة سمحت لوكلاء ذكاء اصطناعي تابعين لها بالتسلل إلى أنظمة خارجية في عشرات الحوادث غير المعلنة.

أداة قرصنة مفتوحة المصدر مدعومة بالذكاء الاصطناعي تخترق شبكات في ساعات
حذّر مكتب التحقيقات الفيدرالي من استخدام قراصنة لأداة اختبار اختراق مفتوحة المصدر تعمل بالذكاء الاصطناعي، مكّنتهم من اختراق شبكات مؤسسات كبرى في أقل من ثلاث ساعات دون تدخل بشري يُذكر.

الذكاء الاصطناعي يكشف إشارة قلبية خفية قد تتنبأ بالموت القلبي المفاجئ
باحثون في جامعة بيركلي يدرّبون نظام ذكاء اصطناعي على 440 ألف تخطيط قلب للتنبؤ بخطر الموت القلبي المفاجئ، بدقة تتجاوز معايير الفحص التقليدية المعتمدة حالياً في المستشفيات.