خفض معدل التعلم على مراحل: ماذا يعدّ الجدول خطوة؟

الخلاصة السريعة

يحدد الجدول متى يتغير معدل التعلم، لكن معنى عداده يجب أن يكون صريحًا: تحديثات مكتملة أم حقبات أم وحدة أخرى.

• الجدول المرحلي يغير المعدل عند حدود محددة؛ لا يعني هذا وحده أنه يتخذ القرار وفق الخسارة الحالية. ^[1]
• في المثال، t عدد التحديثات المكتملة قبل التحديث التالي؛ نبدأ عند 0.2 وننصف المعدل كل ثلاثة تحديثات.
• التحديثات الثلاثة الأولى تستعمل 0.2، والثلاثة التالية 0.1، والثلاثة بعدها 0.05؛ عد ثلاث حقبات ليس عد ثلاثة تحديثات عندما تضم الحقبة ثلاثة تحديثات.
• مع تدرج مفترض ثابت 2 ونزول بلا تاريخ إضافي، تكون الحركات 0.4 و 0.2 و 0.1؛ معرفة المعدل لا تثبت تحسن الخسارة.

افصل الجدول عن مقياس النجاح

يعرض الكتاب جدولًا يبقي معدل التعلم ثابتًا على أجزاء، ويخفضه عند أزمنة مختارة بعامل ضربي. ^[1] نستخدم الفكرة هنا لإنشاء جدول تعليمي واضح الحدود، ولا ننقل نتائج تجربة الكتاب إلى مثالنا.

وجود حد زمني لا يعني أن الخسارة وصلت فعلًا إلى حالة مناسبة عنده. إذا قررت خفض المعدل بعد عدد معين من التحديثات، فهذا عداد مقرر مسبقًا. أما قرار يستجيب لقيم تحقق مرصودة فيحتاج قاعدة أخرى تحدد القياس والشرط. لا نخلط النوعين لمجرد أن كليهما يغير المعدل.

عرّف العداد قبل أول تحديث

نختار معدلًا أوليًا 0.2، وعامل خفض 0.5، وحدًا كل ثلاثة تحديثات. نرمز بعدد التحديثات المكتملة بالحرف t. نحسب المعدل المستخدم في التحديث التالي بالعلاقة: 0.2 × 0.5 مرفوعًا للجزء الصحيح من t ÷3.

قبل أول تحديث يكون t صفرًا؛ الجزء الصحيح صفر والمعدل 0.2. بعد اكتمال ثلاثة تحديثات يصبح t ثلاثة؛ الجزء الصحيح واحد والمعدل 0.1 للتحديث الرابع. هذه نقطة البداية التي تمنع تقديم الخفض أو تأخيره خطوة بسبب تفسير مختلف للعداد.

الاختيار هنا رياضي من إعداد المثال، ولا يصف ترتيب استدعاءات واجهة برمجية محددة. إذا نفذت جدولًا في مكتبة، فراجع ما يعده عدادها ومتى تقرأ المعدل الجديد؛ الأسماء الشائعة لا تعوض تعريف البداية.

اكتب حدود المراحل بوحدتها

عند t يساوي 0 أو 1 أو 2، نستعمل 0.2. وعند 3 أو 4 أو 5، نستعمل 0.1. وعند 6 أو 7 أو 8، نستعمل 0.05. لذلك تقع حدود التغير بعد التحديثين المكتملين الثالث والسادس، ويقرأ التحديث التالي لكل حد القيمة الجديدة.

افترض الآن ستة أمثلة وحجم دفعة اثنين، وتحديثًا واحدًا لكل دفعة من دون تراكم إضافي. تضم الحقبة ثلاثة تحديثات. إذا عددنا تحديثات مكتملة، يحدث أول خفض بعد حقبة واحدة. وإذا عددنا ثلاث حقبات مكتملة، يحدث بعد تسعة تحديثات. العدد «ثلاثة» لم يتغير، لكن وحدته غيرت مكان الحد.

سجل، مثلًا، رقم التحديث الكلي بجانب رقم الحقبة. في هذا المثال، تمييز العدادين يكشف سبب اختلاف جدولين متشابهين في الشكل. لا نستنتج أن التقويم بالتحديثات أفضل عمومًا؛ المطلوب أن تطابق الوحدة تعريف الجدول الذي أردنا تطبيقه.

هل صغر المعدل يعني صغر الخسارة؟

لإظهار أثر المعدل وحده، نفترض تدرجًا ثابتًا قيمته 2 ونزولًا مباشرًا بلا حالة زخم أو تقييس إضافي. تكون مقادير الحركة في المراحل الثلاث 0.4 و 0.2 و 0.1. هذه مقارنة مشروطة بثبات التدرج وقاعدة التحديث المحددة.

لم نحدد دالة تنتج هذا التدرج في كل خطوة، ولذلك لا نستخرج منحنى خسارة من مقادير الحركة. ولا يعني وصول المعدل إلى 0.05 أن النموذج اكتمل تدريبه أو بلغ دقة معينة. الجدول يحدد مدخلًا للحساب؛ تقييم النتيجة يحتاج خسارة ومهمة وبيانات معلومة، ولم ننفذ هنا تجربة تدريب.