تستخدم خوارزمية RMSProp متوسطًا متحركًا لمربعات التدرجات، فيتراجع وزن المعلومات القديمة بدل جمعها كلها بالتساوي. [1]
الخلاصة السريعة
نمزج جزءًا من تاريخ مربعات التدرجات مع مربع التدرج الجديد، ثم نقيس التحديث باستخدام جذر التاريخ المحدث. [1]
- في النسخة المبينة، s الجديدة = ρ × s القديمة + (1−ρ) × g²؛ هي متوسط للمربعات ولا تتضمن زخمًا إضافيًا أو طرح متوسط التدرج. [1]
- من تاريخ مفترض 4 ومعامل ρ يساوي 0.5، يعطي تدرجان متتابعان بقيمة 1 تاريخين 2.5 ثم 1.75.
- مع معدل 0.2 وإهمال ε في هذه المقامات الموجبة، تكبر الحركة من نحو 0.12649 إلى 0.15119 رغم ثبات التدرج عند 1.
- عند التدرج التالي صفر يصبح التاريخ 0.875 والحركة صفرًا؛ انخفاض المقام لا يخلق حركة من تدرج صفري في هذا الحساب.
ما الذي يختلط بالحالة القديمة؟
تكتب الصيغة s الجديدة = ρ × s القديمة + (1−ρ) × g²، وتحدث المعامل بطرح η × g ÷ جذر(s الجديدة + ε). العمليات لكل معامل. [1]
نشرح هنا نسخة المتوسط المتحرك للمربعات وحدها؛ لا نضيف زخمًا آخر ولا نصوغ تقديرًا متمركزًا للتباين. الاسم نفسه لا يكفي لافتراض أن كل الخيارات التنفيذية متطابقة. اكتب العلاقة المستخدمة قبل تفسير أرقام حالة مخزنة.
راقب تاريخًا ينخفض رغم وصول تدرج
نبدأ بتاريخ مفترض s يساوي 4، ونختار ρ يساوي 0.5. يصل تدرج مقداره 1. يصبح التاريخ الجديد نصف 4 زائد نصف مربع 1، أي 2 + 0.5 = 2.5. في الخطوة التالية يصل التدرج نفسه، فيصبح التاريخ نصف 2.5 زائد 0.5، أي 1.75.
التاريخ انخفض مع أن مربع التدرج الجديد موجب. سبب ذلك في الحساب هو أن مساهمة الحالة القديمة تنكمش، والقيمة المضافة أصغر من الجزء الذي فقدته الحالة. لا يلزم أن ينخفض التاريخ في كل خطوة؛ تدرج أكبر يستدعي إعادة الحساب.
يمكن تتبع مساهمة الرقم الأصلي 4 وحده: تصبح 2 بعد خطوة، ثم 1 بعد خطوتين، ثم 0.5 بعد ثلاث. [1] أما الحالة الكاملة فتشمل مساهمات التدرجات الجديدة أيضًا. الخلط بين المساهمة القديمة والحالة كلها يحذف جزءًا من المعلومات.
متى تتغير الحركة مع ثبات التدرج؟
نثبت معدل التعلم عند 0.2، ونهمل ε في المثال اليدوي لأن الجذور غير صفرية. في الخطوة الأولى تكون الحركة 0.2 ÷ جذر 2.5، أي نحو 0.12649. وفي الثانية تصبح 0.2 ÷ جذر 1.75، أي نحو 0.15119.
نبدأ، مثلًا، بمعامل قيمته 7؛ يصبح نحو 6.87351 ثم 6.72232. هذه القيم حسابات من تاريخ وتدرجات مفترضة. زيادة الحركة الثانية ناتجة هنا عن تغير المقام مع ثبات التدرج والمعدل، ولا تثبت أن الخسارة انخفضت.
قارن المراحل بالوحدة الحسابية نفسها. لا تسمِّ 2.5 معدل تعلم؛ إنها حالة مربعات. ولا تسمِّ 0.2 حجم الحركة النهائي؛ إنه المعدل الأساسي الذي لا يزال يدخل نسبة تضم التدرج والجذر.
لماذا لا يخلق المقام الصغير حركة؟
نفترض أن التدرج الثالث صفر. يصبح التاريخ نصف 1.75 زائد نصف صفر، أي 0.875. لكنه لا ينتج حركة لأن البسط يحتوي التدرج الصفري. يبقى المعامل عند قيمته السابقة في هذا الحساب، رغم أن مقامه صار أصغر.
لو جمعنا المربعات تراكميًا من التاريخ نفسه 4 لكان التسلسل 5 ثم 6 ثم 6. المقارنة توضح فرق قاعدتين عند مدخلات محددة، ولا تثبت تفوق إحداهما. ولم نشغّل محسنًا على بيانات؛ الهدف قراءة وزن التاريخ والبسط والمقام قبل استنتاج سبب تغير خطوة.
المصادر ومتابعة القراءة
أُعدّ هذا المقال بصياغة عربية أصلية بالاستناد إلى المصادر أعلاه، وهو مدخل تمهيدي إلى الموضوع. اقرأ منهجية المحتوى وحدوده.