الاسترجاع والضبط الدقيق: أين توجد المعرفة التي يستخدمها النموذج؟

الخلاصة السريعة

ميز المادة التي تصل وقت السؤال عن الأنماط التي تعلمها النموذج بالتدريب؛ يمكن الجمع بينهما، مع مراجعة تحديث المصدر وسند الجواب.

• يجمع RAG بين معرفة في معاملات نموذج ومادة خارجية مسترجعة؛ هذا التمييز موضح في ورقة Lewis وزملائه. ^[1]
• الضبط الدقيق تدريب إضافي، خلافا لمجرد وضع نص في الطلب؛ تصف Google تعديل المعاملات أثناء هذا التدريب. ^[2]
• يمكن الجمع بين المسارين؛ تضمنت طريقة RAG الأصلية ضبطا دقيقا أيضا، فلا تعني كلمة استرجاع غياب التدريب. ^[1]
• راجع وصول النسخة المحدثة ودليل كل عبارة؛ تنسيق متعلم أو مخزن خارجي لا يضمن صحة الجواب تلقائيا.

ما الذي يصل وقت السؤال؟

تصف ورقة RAG معرفة في النموذج ومخزنا خارجيا، وتستخدم في تطبيقها الأصلي فهرسا لمقاطع من Wikipedia تسترجع للنموذج. ^[1]

نضع مثالا مستقلا لدليل معرض زهور افتراضي. كان قسم النباتات العطرية يفتح صباحا، ثم عدل الدليل ليبدأ عصرا. في مسار مقترح للاسترجاع، يوجد الدليل في مصدر خارجي، ويختار النظام منه المقطع الذي يجيب عن سؤال وقت الفتح. المطلوب أن يصل المقطع المعتمد إلى الطلب، لا أن يعتمد الجواب على موعد قديم يتذكره النموذج.

ما الذي يتعلمه التدريب الإضافي؟

تشرح Google الضبط الدقيق كتدريب إضافي على أمثلة للمهمة مع تعديل معاملات، بينما لا يغير وضع التعليمات في الطلب معاملات النموذج. ^[2]

قد تريد في مثال المعرض نمطا للرد من ثلاثة أجزاء: الموعد، وموضعه في الدليل، والمعلومة غير المحسومة. تستطيع تعليم هذا النمط بأمثلة ضمن مسار تدريب مناسب، لكن المثال القديم «يفتح صباحا» ليس ضمانا لمعرفة تعديل لاحق إلى العصر. المقال لا يشرح خطوات التدريب أو يقرر أن الضبط هو الاختيار الأفضل لهذا النمط؛ نميز ما تغير في النموذج عما أضيف إلى طلب بعينه.

هل نختار واحدا ونلغي الآخر؟

تضمنت طريقة RAG الأصلية في الورقة ضبطا دقيقا لنماذج تجمع المادة المسترجعة بالمعرفة في المعاملات. ^[1] لذلك لا نصوغ الفرق على أنه نظام مدرب مقابل نظام لم يتدرب.

في تصميمنا الافتراضي، يمكن أن يكون المساعد قد تعلم طريقة عرض الجواب، وأن يقدم له الاسترجاع الموعد من الدليل الحالي. يبقى سؤالان منفصلان: هل عرض الجواب بالشكل المطلوب؟ وهل أخذ الموعد من النسخة المعتمدة؟ نجاح الأول لا يحسم الثاني. لا نستنتج من إمكان الجمع أن كل مشروع يحتاج المسارين أو أن الجمع يتفوق دون فحص.

ما الذي يتغير عندما يتغير الدليل؟

إذا استعمل المسار فهرسا، فراجع أن التعديل وصل إليه وأنه لم يسترجع نسخة قديمة. وجود نص جديد في مجلد لا يعني تلقائيا أن الطلب قرأه. وإذا تغيرت أمثلة التدريب، فذلك عمل مختلف عن استبدال الدليل في مصدر الاسترجاع؛ لا نعرضه كتحديث مضمون لكل حقيقة.

اسأل عن وقت الفتح وأعد الجواب إلى موضعه في النسخة المحدثة. وإن قال المساعد «صباحا» مع مرجع لا ينص عليه، فسند العبارة غير صحيح مهما كان الرد منظما. المثال من تأليف المقال ولم ننفذ استرجاعا أو تدريبا؛ الاختيار الفعلي يحتاج فحص المهمة ومواردها، ولا توجد هنا مقارنة أداء مقاسة.