المعرفة داخل المعاملات: لماذا لا يمكن تصفحها كسجل؟

الخلاصة السريعة

لا تتعامل مع جواب مستدعى من النموذج كأنه سجل يضم حقيقة ومصدرها وتاريخها. تستطيع أبحاث التفسير ربط وحدات ببعض الحقائق ضمن مهام محددة، دون أن تقدم فهرساً عاماً لكل المعرفة.

• الأوزان قيم تحمل داخل بنية النموذج؛ ووصف البنية يختلف عن نسخة أوزانها. ^[1]
• دراسة وحدات المعرفة بحثت ارتباط وحدات بالتعبير عن علاقات في BERT ومهمة إكمال فراغ، لا كل النماذج والحقائق. ^[2]
• في مثال اسم مكان، ميز بين ذكر المعلومة وإثبات الوثيقة التي جاءت منها.
• للمراجعة، اطلب مصدراً خارجياً قابلاً للفتح أو قدّم وثيقة محددة؛ وراجع ادعاء أصل المعلومة بدلاً من افتراضه.

ما المقصود بالأوزان والمعاملات هنا؟

تفرق وثائق Hugging Face بين بنية النموذج بوصفها تعريفاً لطبقاته وعملياته، وبين نقطة حفظ تحمل أوزاناً توضع في تلك البنية. استعمال كلمة «النموذج» وحدها قد يخفي هذا الفرق. ^[1]

لنبسط الكلام بمثال تعليمي: قد تبقى خريطة مبنى واحدة بينما تختلف تجهيزاته بين نسختين. التشبيه يوضح اختلاف الخطة عن المحتوى المحمل فيها فقط؛ المعاملات ليست أثاثاً ولا نصوصاً مخزنة في أدراج. عند السؤال عن نسخة بعينها، احتفظ باسمها وإصدارها، كي لا تخلط بين تصميم عام وأوزان محددة.

هل نعرف مكان كل حقيقة؟

قدمت دراسة Knowledge Neurons طريقة لإسناد علاقة واقعية إلى وحدات مرتبطة بالتعبير عنها في BERT. بحثت إكمال الفراغ وارتباط التنشيط بالتعبير عن الحقائق، وجربت تعديلات في حالات دراسية. هذه نتائج ضمن نطاقها، وليست فهرساً عالمياً للحقائق داخل كل نموذج. ^[2]

لذلك تجنب قاعدة مبسطة مثل «لكل معلومة خلية واحدة». والسؤال «أين تعلم النموذج هذا الاسم؟» أوسع من معرفة أن تغيير وحدة أثر في جواب اختبار معين. في الشرح للقارئ، اذكر مهمة الدراسة والنموذج قبل تعميم النتيجة؛ ارتباط داخلي في تجربة لا يساوي سجلاً يوثق رحلة كل معلومة.

لماذا يختلف الاستدعاء عن تتبع المصدر؟

اصنع جملة تقول «تسمى الساحة المركزية ساحة الينابيع». إذا كررها النموذج في جواب، فقد حصلنا على نص يحمل الاسم؛ لم نحصل من ذلك وحده على صورة لوحة الساحة أو قرار تسميتها. وعندما يسمي الجواب وثيقة، يبقى وجودها ومحتواها سؤالين يمكن فحصهما خارج الجواب.

هذا المثال لا يختبر حفظ الاسم ولا مصدر تدريب نموذج حقيقي. الغرض منه فصل مهمتين في القراءة: استخراج خبر من العبارة، وتحديد الدليل الذي يسنده. قد تكون العبارة صحيحة، ومع ذلك يظل إسنادها إلى وثيقة معينة غير مثبت. لا تجعل غياب الدليل دليلاً تلقائياً على الخطأ أيضاً.

كيف نراجع سؤالاً عن أصل المعلومة؟

في حالة الساحة المصنوعة، اكتب ما تريد إثباته بدقة: الاسم الرسمي، أو تاريخ التسمية، أو الجهة التي أصدرت القرار. ثم اختر وثيقة يمكن فحصها لهذا الغرض. إذا قدمت الوثيقة إلى أداة تلخيص، قارن الجواب بالنص المقدم، وميز ما ورد فيها عن استنتاج تضيفه الصياغة.

عند توثيق العمل، سجل الرابط أو معرّف الوثيقة والجزء الذي يثبت الخبر. أما عبارة «أتذكر هذا من التدريب» فلا تحل محل ذلك في إجراء المراجعة المقترح. يبقى الهدف قابلية الرجوع إلى الدليل، حتى عندما يكون النموذج قادراً على استدعاء الاسم الصحيح دون وثيقة في الإدخال.