خوارزمية Passive-Aggressive تتعلم مع وصول الأمثلة، وتبني تحديثها على خسارة الهامش. قد تتغير الأوزان حتى عندما تكون الفئة المتوقعة صحيحة. [1]
الخلاصة السريعة
في الصيغة الثنائية الأصلية، تتوقف الخطوة عندما يبلغ الهامش واحدًا؛ صحة إشارة التنبؤ وحدها لا تكفي لإيقاف التحديث. [1]
- الهامش الموقع هو y مضروبًا في درجة النموذج؛ موجبيته تعني صحة الفئة، وبلوغ واحد شرط أقوى في هذه الصيغة. [1]
- للمدخل غير الصفري، تضبط PA الخطوة بخسارة الهامش مقسومة على مربع طول المدخل. [1]
- في المثال نفسه، تحد PA-I الخطوة بالثابت C؛ قد يبقى الهامش دون واحد بعد تحديثها. [1]
- صفر الخسارة يوقف خطوة هذا المثال؛ لا يثبت نجاح النموذج على بقية الأمثلة أو انتهاء التعلم.
لماذا يتحدث الاسم عن الهامش؟
تعرف الورقة خسارة المفصلة بأنها الأكبر بين صفر و 1−y(w·x)، للفئتين −1 و+1. تكون الخسارة صفرًا إذا بلغ الهامش الموقع واحدًا. [1]
نفترض وزنًا واحدًا w=0.2 ومدخلًا x=1 وفئة فعلية y=+1. درجة القرار 0.2 موجبة، فتوافق الفئة الفعلية. لكن الهامش يساوي 0.2 فقط، وخسارة المفصلة 0.8. لذلك لا نسمي الحالة «لا تحتاج تعديلًا» بمجرد صحة الإشارة. لا يوجد ثابت إزاحة في هذا المثال.
كيف تصل PA إلى هامش واحد؟
تختار PA أقرب وزن جديد يزيل خسارة المثال. للمدخل غير الصفري: w الجديد=w+τyx، حيث τ=الخسارة/||x||². [1]
في أرقامنا، مربع طول المدخل 1، ولذلك τ=0.8. يصبح الوزن 0.2+0.8×1×1=1، ويصبح الهامش واحدًا. هذه عملية حسابية مفترضة وفق الصيغة، وليست تدريب برنامج على سجل فعلي.
إذا عرض جدول التحديث الفئة «صحيحة» والوزن «تغير»، فلا يوجد تناقض في هذه الحالة. اكتب الهامش والخسارة قبل التحديث وبعده، بدل اختزال الجدول إلى عدد التصنيفات الصحيحة.
ماذا يتغير مع سقف الخطوة؟
تستخدم PA-I المقدار τ=min(C،الخسارة/||x||²). يضع C حدًا أعلى للخطوة، خلاف الصيغة السابقة التي تفرض إزالة الخسارة. [1]
نبدأ مجددًا من الوزن الأصلي 0.2، ونختار C=0.3. تصبح الخطوة الأصغر بين 0.3 و 0.8، أي 0.3؛ والوزن الجديد 0.5. الهامش 0.5 والخسارة 0.5، مع أن الإشارة ظلت صحيحة.
الفرعان تجربتان حسابيتان من البداية نفسها. لا نضيف 0.3 إلى الوزن 1 الناتج عن الفرع الأول. المقارنة تعزل أثر السقف، ولا تحكم على أفضل قيمة C لأي بيانات.
هل تعني كلمة aggressive خطوة كبيرة دائمًا؟
في مثالنا، إعادة عرض x=1 وy=+1 بعد تحديث PA إلى w=1 تعطي خسارة صفرية وخطوة صفرية. أما خطوة 0.8 السابقة فكانت بحجم محدد من القيم التي افترضناها. الاسم لا يقدم رقمًا ثابتًا لحجم التغيير.
راقب تسلسل الأمثلة بدل التوقف عند مثال واحد. قد يزيل تحديث خسارة الحالة الحالية ثم تتغير النتيجة بعد حالة أخرى. احتفظ بتعريف الفئات والدرجة والهامش والصيغة المستخدمة في التقرير؛ المقال يشرح PA وPA-I الأصليتين، ولا يفترض أن كل تنفيذ يحمل الاسم يطابق إعدادات هذا الحساب.
المصادر ومتابعة القراءة
أُعدّ هذا المقال بصياغة عربية أصلية بالاستناد إلى المصادر أعلاه، وهو مدخل تمهيدي إلى الموضوع. اقرأ منهجية المحتوى وحدوده.