مفتاح تخزين استجابة النموذج في Triton يأخذ هوية النموذج وإصداره ومدخلاته، بما فيها الاسم والشكل والنوع والبيانات. [1] تساوي قائمة الأرقام وحدها لا يصف طلبا كاملا؛ نوضح ذلك ببطاقات مؤلفة.
الخلاصة السريعة
قارن حقول الطلب الداخلة في المفتاح؛ إعادة استعمال نتيجة مخزنة لا تعني تنفيذ النموذج من جديد، ولا تثبت أن معناها صحيح أو حديث للمهمة.
- يوثق Triton تجزئة تشمل اسم النموذج وإصداره ومدخلاته: الاسم والشكل ونوع البيانات ومحتواها. الإصابة في التخزين تستعمل النتيجة السابقة دون تنفيذ النموذج. [1]
- بطاقاتنا أ وب لهما الأرقام 2 و 5 نفسها والنموذج والإصدار والشكل والنوع نفسه، لكن اسم المدخل مختلف؛ لذلك لا نصفهما بطلب مطابق في كل الحقول.
- بطاقة ج تحفظ مدخل أ وتبدل الإصدار من 1 إلى 2؛ اختلاف الإصدار يبقى اختلافا في العقد، ولا يخبر وحده ماذا سيتغير في الجواب.
- يلزم تفعيل التخزين للخادم والنموذج، وتوثق الصفحة شروط CPU ونجاح الطلب والمجدول المدعوم واستبعاد النماذج المنفصلة؛ كما تقر باحتمال تصادم التجزئة. [1] لم نفحص إصابة فعلية أو صحة جواب.
ما الذي يدخل في المفتاح الموثق؟
تصف الصفحة الطلب باسم النموذج وإصداره وتنسورات الإدخال: اسمها وشكلها ونوعها وبياناتها. وتعتمد الوصول إلى التخزين على تجزئة الطلب؛ عند الإصابة تستخرج النتيجة السابقة دون تنفيذ النموذج. [1]
نفرق إذن قائمة قيم من وصف الطلب الذي يحتويها. إذا نقلنا الأرقام وحدها إلى جدول المقارنة، فقد حذفنا معلومات يحتاجها العقد. لا يكفي تذكر أن طلبين احتويا «2 و 5» للحكم بأنهما نسختان من المدخل الكامل نفسه.
ولا نسمي رقم بطاقة المراجع مفتاح الخادم. البطاقة وسيلة لتجميع الحقول التي نناقشها، لا نتيجة دالة تجزئة حسبناها. السؤال التعليمي أي معلومات نحتاجها قبل الحديث عن تطابق الطلبين.
الأرقام نفسها واسم مدخل مختلف
نؤلف بطاقة أ: اسم النموذج «قائمة»، الإصدار 1، ومدخل اسمه «س» يضم صفا واحدا وعمودين بالقيمتين 2 و 5 ونوع عددي ثابت نعلنه في التمرين. بطاقة ب تحفظ ذلك كله إلا اسم المدخل الذي يصبح «ص».
لا نقرر هنا أن أداة حقيقية تقبل الاسمين للنموذج نفسه؛ نفترض البطاقتين فقط لتدقيق وصف الطلب. يتطابق المحتوى العددي والشكل والنوع في الورقة، لكن الاسم لا يتطابق. القول إن «الطلبين متماثلان» اعتمادا على الأرقام يطمس هذا الفرق.
وإذا طلبت المهمة مقارنة طلبين مقبولين فعلا، يلزم عقد مدخلات النموذج ودليل قبولهما قبل حساب الإصابة. لم نقدم أيا منهما. فرق البطاقة ليس تقرير رفض أو نجاح أو عدد مرات تنفيذ.
لماذا لا نغفل الإصدار؟
نؤلف بطاقة ج تكرر مدخل أ باسمه وشكله ونوعه وقيمه، لكنها تعلن الإصدار 2 بدل 1. بقيت الأرقام كما كانت، واختلف حقل الإصدار. لا نغفل هذا الفرق عندما نراجع عقد المفتاح.
لكننا لا نعرف من الرقم الجديد أن الناتج زاد أو تحسن أو تغير أصلا. لم نعرض أوزان الإصدارين أو وظيفتهما أو نتائجهما. هوية الإصدار جزء من وصف الطلب، أما معنى اختلاف المخرجات فيحتاج أدلة أخرى.
ولو وصلت نتيجة مخزنة، فهذا لا يمنحها صحة أو حداثة تلقائية. قد يتعلق السؤال بمعنى البيانات خارج الطلب الذي وصفناه. نراجع صلاحية استخدامها للمهمة مستقلة عن آلية استخراج نتيجة سابقة.
ما الذي يقيد استعمال التخزين؟
يلزم تفعيله في الخادم والنموذج. توثق الصفحة CPU للمدخلات والمخرجات، وتخزين الأجوبة الناجحة فقط، والمجدولين الافتراضي أو الديناميكي، دون النماذج المنفصلة. وقد تتصادم تجزئات طلبات مختلفة. [1]
لذلك لا يحول ملء بطاقة الحقول كل طلب إلى إصابة مضمونة. نحتاج إلى توافر النتيجة في التخزين وشروط الأهلية والإعداد الحقيقي. لا نحسب احتمال إصابة أو تصادم من ورقتنا، ولا نسمي اختلاف حقل ضمانا رياضيا لتجزئتين مختلفتين.
الرسم يربط بطاقات أ وب وج بمراجعة الاسم والإصدار والمدخل. لم نشغل Triton أو ننشئ مخزنا أو ننتج جوابا. يوضح المثال حدود المقارنة قبل الاستخدام، ويترك التنفيذ وجودة النتيجة للفحص الفعلي.
المصادر ومتابعة القراءة
- NVIDIA Triton: Response Cache (يفتح في نافذة جديدة)docs.nvidia.com
أُعدّ هذا المقال بصياغة عربية أصلية بالاستناد إلى المصادر أعلاه، وهو مدخل تمهيدي إلى الموضوع. اقرأ منهجية المحتوى وحدوده.