RAG والسياق الطويل: كيف تختار المادة التي تدخل الطلب؟

الخلاصة السريعة

حدد الدليل اللازم وحجم الطلب وحدود الأداة، ثم قارن إدخالا كاملا واسترجاعا على أسئلة معروفة؛ يمكن الجمع بينهما، ولا يضمن أحدهما صحة الجواب.

• نافذة السياق تضم المادة التي يراجعها النموذج والجواب؛ توثق Anthropic احتساب عناصر الطلب والمخرج ضمنها. ^[1]
• قبول سياق طويل لا يثبت استعماله جيدا؛ وجدت دراسة Lost in the Middle أثرا لموضع المعلومة في مهام ونماذج درستها. ^[2]
• فكر في نطاق الدليل اللازم، وافحص ألا يحذف الاختيار علاقة مهمة؛ يمكن للاسترجاع أن يمد نافذة واسعة بالمادة المختارة.
• قارن صحة الجواب وسنده والموارد المرصودة في بيئتك؛ لا تعمم كلفة أو تفوقا من حجم الصفحات وحده.

ما الحد الذي توسع فيه النافذة؟

توضح Anthropic أن الطلب بتعليماته ورسائله ونتائج أدواته، والمخرج أيضا، يستهلك نافذة السياق. هذه قاعدة في واجهتها، وتحتاج مراجعة حدود الأداة التي تستعملها. ^[1]

في مثال مستقل لدينا دليل افتراضي لألعاب ورقية من أربعة أقسام: الأدوات، وبداية الدور، والتعادل، ونهاية الجولة. قد يتسع الطلب للدليل كله مع السؤال والجواب. لكن عبارة «أربع صفحات» لا تقيس وحدها عدد الوحدات النصية أو حجم الصور، ولا تبين ما بقي للجواب. لا نقدم هنا حدا رقميا لكل نموذج.

ما الذي لا يثبته اتساع النافذة؟

في دراسة Lost in the Middle، تغير الأداء مع موضع المعلومة ذات الصلة في سياقات طويلة ضمن مهام ونماذج معينة. لا تعني النتيجة أن كل نموذج حالي سيخفق في المنتصف. ^[2]

قد يكون سؤالنا «متى يعاد الدور إذا حدث تعادل؟». يحتاج جواب المثال إلى قاعدة التعادل وإلى استثناء في قسم نهاية الجولة. إدخال الدليل كله يوفر فرصة لرؤية الاثنين، لكنه لا يثبت أن الجواب ربطهما. ولا يكون نقل الاستثناء إلى أول الطلب ضمانا بدلا من فحص الجواب. هذا تحليل لمثال من تأليفنا، وليس تجربة للنماذج في الدراسة.

هل يحتاج السؤال كله أم أجزاء منه؟

إذا أردنا تلخيص ترتيب جميع مراحل اللعبة، فقد يكون تقديم الدليل الكامل مفيدا للمراجعة. وإذا أردنا جوابا عن شرط التعادل من أدلة ألعاب كثيرة، يمكن لمسار مقترح اختيار المادة المرتبطة بالسؤال. لا نحدد الاختيار بعدد مستندات ثابت لكل مهمة.

في المثال، اختيار فقرة التعادل وحدها قد يسقط الاستثناء في نهاية الجولة. افحص المادة التي وصلت بالفعل، وأضف الجزء اللازم إن كان معتمدا. ويمكن أن تختار عدة أقسام ثم تدخلها في نافذة واسعة؛ الاسترجاع والسياق الطويل ليسا خيارين يستحيل جمعهما. المهم نطاق الدليل، لا اسم المسار وحده.

كيف تقارن دون حكم جاهز؟

ضع أسئلة ذات أجوبة معروفة من الدليل: سؤال عن فقرة واحدة، وآخر يحتاج ربط التعادل بالاستثناء، وثالث عن ترتيب الأقسام كلها. عند تطبيق مقارنة فعلية، سجل المادة المدخلة ونسخة النموذج وطريقة الطلب، ثم افحص صحة كل جواب وإحالته إلى الدليل.

سجل أيضا حجم المدخل وزمن الاستجابة والتكلفة الفعلية إن توفرت، دون تحويل الصفحات إلى سعر مفترض. الاسترجاع قد يضيف عملا للتحضير والبحث، وإرسال النص الكامل قد يكرر مادة لا تحتاجها؛ مقدار الأثر يتوقف على التصميم. لم ننفذ مقارنة هنا، ولا نقرر أن أحد المسارين أسرع أو أدق في كل حالة.