هل يفهم النموذج أم يحاكي الفهم؟

سؤال قديم في ثوب جديد: حين يجيب النموذج إجابة صحيحة، هل هذا فهم أم استرجاع بارع؟

السؤال ليس جديداً على الفلسفة، لكنه صار عملياً لأول مرّة. حين كان يُطرح على آلة تلعب الشطرنج، كان الجواب لا يغيّر شيئاً في كيفية استعمالها. اليوم يغيّر: إن كان النموذج يفهم، فيمكن الوثوق بتعميمه على حالة لم يرها؛ وإن كان يسترجع، فكل حالة خارج توزيع تدريبه مخاطرة.

لماذا يهمّ هذا السؤال؟

ليس سؤالاً نظرياً: الجواب يحدّد كيف نصمّم الأدوات وكيف نحاسب على مخرجاتها.

خذ مثالاً ملموساً. نظام يراجع عقوداً ويشير إلى البنود الخطرة. إن كان يفهم مفهوم «الخطر التعاقدي»، فسيلتقط صيغة جديدة لم يرها. وإن كان يطابق أنماطاً رآها، فالصيغة الجديدة تمرّ بصمت — وهو أسوأ أنواع الفشل لأنه لا يعلن عن نفسه.

التصميم الذي يفترض الفهم يبني تنبيهاً حين لا يجد شيئاً. التصميم الذي يفترض الاسترجاع يبني قائمة مراجعة بشرية موازية. الفارق بينهما ليس فلسفياً، بل ميزانية وفريق ومسؤولية.

ما الذي يجعل الجواب صعباً

الصعوبة أن السلوك الظاهر متطابق في معظم الحالات. النموذج الذي يفهم والنموذج الذي استرجع بذكاء ينتجان الإجابة نفسها على السؤال نفسه. الفرق يظهر فقط عند الحواف — وهي بالتحديد ما لا نختبره عادةً.

وهناك صعوبة أعمق: لا نملك تعريفاً إجرائياً متّفقاً عليه لـ«الفهم» حتى بين البشر. نحن نستدلّ عليه من القدرة على التعميم والشرح والتصحيح الذاتي. وهذه الثلاثة قابلة للمحاكاة بدرجات.

اختبار عملي بدل جدال نظري

بدل السؤال «هل يفهم؟»، اسأل سؤالاً قابلاً للقياس: على أي مسافة من بيانات التدريب يبدأ الأداء بالانهيار؟

• غيّر أسماء المتغيّرات والكيانات في مسألة معروفة وأعد طرحها
• اقلب شرطاً في السؤال واطلب النتيجة
• اطرح سؤالاً صحيح الصياغة بلا جواب — هل يعترف أم يخترع؟
• اطلب شرح خطوات الوصول ثم غيّر خطوة وسطى واطلب النتيجة الجديدة

النموذج الذي يجتاز هذه الأربعة يتصرّف على نحو يشبه الفهم بما يكفي لبناء أنظمة عليه. والذي يخفق في الثالث تحديداً — فيخترع بدل أن يعترف — لا يصلح لأي سياق يحتاج ثقة.

السؤال المفيد ليس «هل يفهم؟» بل «متى يتوقّف عن العمل، وهل سأعرف حين يتوقّف؟».

أثر ذلك على المسؤولية

إن كان النموذج أداة استرجاع بارعة، فالمسؤولية عن مخرجاته تقع بالكامل على من نشره ومن راجعه. وإن قبلنا أنه يفهم بدرجة ما، تصبح المسؤولية موزّعة على نحو غامض — وهو غموض لا يخدم إلا من يريد التملّص.

عملياً نميل إلى الموقف الأول لأسباب تشغيلية لا فلسفية: هو الموقف الذي يبقي المراجعة قائمة. أمّا الاعتقاد بأن النظام «يفهم» فيؤدّي عملياً إلى تراخي المراجعة — وهذا هو الخطر الحقيقي، لا الجواب النظري.

ماذا يقول الخطأ أكثر ممّا يقول الصواب

حين يخطئ النموذج، شكل الخطأ يكشف أكثر ممّا تكشفه إجاباته الصحيحة. الخطأ العشوائي يشير إلى ضجيج؛ والخطأ المنتظم يشير إلى نمط تعلّمه ويطبّقه في غير موضعه.

النمط الثاني هو الأدلّ. حين يجيب النموذج إجابة خاطئة بثقة على سؤال يشبه شكلاً سؤالاً معروفاً ويخالفه جوهراً، فهو يطابق الشكل لا المعنى. وهذه أوضح إشارة نملكها.

• غيّر الأرقام في مسألة معروفة وأبقِ البنية — هل تغيّر الجواب؟
• اقلب علاقة سببية في السؤال ولاحظ إن تبع القلب
• اطرح سؤالاً بصياغة مألوفة ومضمون مستحيل

هذا الفحص لا يحسم السؤال الفلسفي، لكنه يعطيك خريطة عملية لحدود النظام — وهي ما تحتاجه فعلاً قبل النشر.

قد لا يُحسم هذا السؤال قريباً. لكن اختبار الحواف وتوثيق حدود الأداء يمكن فعلهما اليوم، وهما يعطيان من الأمان أكثر ممّا يعطيه أي حسم نظري.