نقطة نهاية متعددة النماذج: أي نموذج اختار الطلب؟

الخلاصة السريعة

سجل نقطة النهاية ومرجع النموذج المطلوب معًا؛ مشاركة عنوان خدمة لا تثبت أن طلبين اختارا الملف نفسه أو أن جميع ملفاتها محملة في الذاكرة.

• TargetModel يحدد ملف النموذج بمسار نسبي إلى بادئة S3 المحددة؛ عنوان نقطة النهاية ليس هذا المسار. ^[1]
• في مثالنا يستهدف الطلب الأول duration.tar.gz والثاني quality.tar.gz عند العنوان نفسه؛ اختلف المرجع المطلوب، دون إثبات تنفيذ أو جودة.
• توثق الخدمة تحميل النموذج ديناميكيًا عند الحاجة؛ لا يثبت وجود مرجعين أن كليهما مقيم في الذاكرة طوال الوقت. ^[1]
• افصل مرجع الملف المطلوب عن دليل النسخة المنفذة وحالة الطلب؛ لا نفترض بديلًا تلقائيًا لمرجع ناقص أو نملأ الجواب من اسم المهمة.

عنوان الخدمة ليس اسم ملف النموذج

تستخدم وثائق SageMaker TargetModel لاختيار ملف في نقطة نهاية متعددة النماذج؛ قيمته مسار نسبي إلى بادئة S3 التي أعدت لها. ^[1]

نضع في بطاقة خدمة مؤلفة اسم نقطة نهاية واحدًا وبادئة تخزين معلنة. ونفرق حقل العنوان الذي يوجه الطلب إلى الخدمة عن الحقل الذي يسمي النموذج داخل مجموعة الملفات. لا نختزل الحقلين في كلمة «الرابط».

لو قدم صاحب النظام العنوان فقط، نطلب تعريف اختيار النموذج قبل نسبته إلى نسخة معينة. في مثالنا لا يحدد اسم حساب المستخدم المرجع، ولا نكتب قاعدة تجعل كل مستخدم مثبتًا على ملف واحد دون أن يعلنها العقد.

ماذا يختلف بين طلبين إلى العنوان نفسه؟

نؤلف ملفين تحت البادئة المعينة: duration.tar.gz و quality.tar.gz. نعلن أن الأول لمهمة تقدير مدة، والثاني لمهمة تصنيف جودة، وأن هذه أسماء اخترناها لشرح الإسناد وليست ملفات فحصناها.

الطلب الأول يحمل TargetModel بقيمة duration.tar.gz؛ والثاني يحمل quality.tar.gz. يتفق عنوان نقطة النهاية ويختلف المرجع المطلوب. لا ننقل جواب الأول إلى الثاني لمجرد أن المضيف واحد، ولا نحكم بوجود اختلاف جودة من اختلاف اسم الملف.

العقد المعلن يحتاج أن يربط كل مرجع بمهمة ومدخل ومخرج معلومين. اسم duration يلمح إلى مدة، لكنه لا يحدد وحدتها أو نموذجها وحده. ولذلك لا نحسب تنبؤًا في هذا المقال من الاسم، ولا نفترض أن المدخل المناسب للمهمة الأولى يلائم الثانية.

هل الملفات كلها مقيمة دائمًا؟

تصف الوثائق تحميل النموذج ديناميكيًا عند الحاجة، مع تنزيله وتحميله للطلب الأول عند اللزوم. ^[1]

من وجود اسمي الملفين في بطاقة التخزين لا نحصل على قائمة إقامة في الذاكرة. كذلك كتابة TargetModel في طلب لا تقدم بذاتها سجلًا يثبت أن تحميله تم أو أن الطلب أعاد جوابًا. هذه حقول تحقق مستقل إن حصلنا عليها.

لنفترض أن بطاقة مراجعة لا تحتوي إلا العنوان والمرجعين؛ لا نملأها بوقت تحميل أو كمية ذاكرة. النموذج الذي يمكن طلبه والنموذج الذي نعلم أنه محمل سؤالان مختلفان. المثال لا يختبر آليات التخزين المؤقت أو يقارن سرعة الطلب الأول بما بعده.

أي سجل يمنع الخلط في المراجعة؟

نقترح حفظ العنوان والبادئة وTargetModel ومعرف الطلب وحالة تحقق التنفيذ. وعند الحاجة إلى تحديد نسخة الملف، نضيف مرجعًا موثقًا لها؛ المسار الذي طلبناه ليس تقريرًا عن تغيرات محتوى ملف بين وقتين.

إذا غاب المرجع أو لم نعرف نتيجة الطلب، فلا نختلق اختيارًا بديلًا أو نجاحًا. نقرأ عقد الخدمة وسجلها لتفسير الحالة، ونحفظ ما بقي مجهولًا. لم نجر اتصالًا ولم ننزل ملفات أو نحمل نماذج.

الرسم يجعل العنوان المشترك مدخلًا لمسارين يسمي كل منهما مرجع طلبه. الغرض أن تكون نسبة جواب إلى نموذج قابلة للتتبع عند تعدد المهام، دون أن يحمل اسم نقطة النهاية ضمان تنفيذ أو صحة أو إقامة جميع الملفات.