إيقاف التوليد: الفرق بين رمز النهاية وحد الإجابة

الخلاصة السريعة

رمز النهاية إشارة يتولد عندها التوقف وفق الإعداد، أما حد الرموز فيقيد طول الناتج؛ وقد توجد عبارة توقف إضافية. أي منها لا يضمن اكتمال المعنى.

• يمكن إيقاف التوليد عند ظهور رمز نهاية التسلسل وفق الإعدادات؛ هذه الإشارة وحدها ليست فحصا لاكتمال المهمة. ^[1]
• يحدد max_new_tokens سقفا للرموز الجديدة دون رموز الطلب؛ السقف لا يساوي عددا مضمونا من الكلمات أو الجمل. ^[2]
• قد توقف عبارة محددة التوليد عند تحققها؛ اخترها بحذر إذا كانت تظهر أيضا في محتوى الإجابة المعتاد. ^[1]
• راجع سبب التوقف والمحتوى قبل طلب المتابعة؛ الجملة الناقصة لا تكشف وحدها السبب التقني.

رمز النهاية إشارة ضمن التسلسل

توثق مكتبة Transformers شرطا يوقف التوليد عندما ينتج رمز نهاية التسلسل المعتمد. يستخدم هذا الشرط معرف الرمز من إعداد النموذج ما لم يحدد غيره. ^[1]

في مثال افتراضي، طلبت اقتراح عنوانين لمعرض، فظهر عنوان واحد ثم انتهى الرد. حتى لو كانت النهاية طبيعية تقنيا، يبقى المطلوب ناقصا تحريريا. عدّ العناوين وراجع الشروط. التعامل مع رمز النهاية كإشارة توقف يساعد على فهم التنفيذ، لكنه لا يمنحه وظيفة الحكم على نجاح الإجابة.

حد الناتج سقف تقني

تعرّف الوثائق max_new_tokens بأنه الحد الأقصى للرموز التي تولد دون احتساب رموز الطلب. وهو يختلف عن طول التسلسل الكلي. ^[2]

إذا أردت ثلاثة اقتراحات مع شرح لكل منها، فحد صغير قد لا يترك مساحة كافية. ومع ذلك، لا تحوّل «ثلاث جمل» إلى عدد رموز ثابت من عندك؛ الكلمات قد تتوزع على رموز بأعداد مختلفة. اكتب الطول المرغوب في الطلب، واضبط السقف التقني عند توفره، ثم افحص ما وصل فعلا. وقد يتوقف النموذج قبل بلوغ السقف.

عبارة التوقف قد تتقاطع مع النص

تتيح الوثائق شرطا يعتمد على سلسلة نصية معينة لإنهاء التوليد. يختلف هذا الشرط عن ظهور رمز نهاية خاص. ^[1]

افترض أن مطورا اختار كلمة «النهاية» علامة توقف، بينما المهمة كتابة فقرة عن نهاية قصة. قد يصادف الشرط محتوى مطلوبا. هذا مثال توضيحي على أهمية اختيار العلامة وفحصها، وليس نتيجة تجربة فعلية. راجع طريقة الأداة في مطابقة العبارة وإظهارها أو إزالتها؛ لا تفترض سلوكا واحدا من اسم الخيار فقط.

شخّص النص قبل المتابعة

اجمع ما تعرضه الأداة عن سبب الإنهاء، وحد الناتج، وعبارات التوقف، إن كانت هذه التفاصيل متاحة. ثم ضع علامة على المطلوب الناقص: هل غاب اقتراح ثان، أم انقطع شرح، أم انتهت قائمة كاملة؟ إذا لم يظهر السبب، دوّن أنه غير معلوم.

يمكن أن تطلب متابعة الجزء الناقص مع تذكير المساعد بما اكتمل. في مثال العناوين، قل «قدمت عنوانا واحدا؛ أضف عنوانا ثانيا مختلفا» بدل «تابع» وحدها. ولا ترفع السقف تلقائيا إذا كانت المشكلة صياغة طلب أو علامة توقف. بعد المتابعة، أعد فحص الناتج النهائي لأن طول النص لا يثبت أنه استوفى المهمة.