AdaBoost: لماذا تزداد أوزان الأمثلة الصعبة؟

الخلاصة السريعة

افحص وزن كل حالة في الجولة الحالية، ثم الأخطاء محسوبة بتلك الأوزان. الوزن الأكبر يؤثر في تعلم الجولة التالية؛ لا يعني أن تسمية الحالة صارت صحيحة أو أن الخطأ سيختفي.

• يدرب AdaBoost مراحل لاحقة مع تعديل أوزان الحالات المخطوءة لزيادة التركيز عليها. ^[1]
• في مثال افتراضي، انتقال وزن حالة من 0.2 إلى 0.5 يزيد أثرها النسبي؛ الأوزان للتوضيح وليست قاعدة تحديث عامة.
• يقاس خطأ المتعلم في وصف AdaBoost بالنسبة إلى توزيع أوزان الجولة، لا عدد الأخطاء وحده. ^[2]
• وزن حالة التدريب يختلف عن وزن المصنف في التجميع؛ يتطلب المقدّر الأساسي في AdaBoostClassifier دعم أوزان العينات. ^[1]

الأوزان تتبع الجولة

يبدأ وصف AdaBoostClassifier بتدريب مصنف، ثم نسخ إضافية على البيانات مع تعديل أوزان الحالات المصنفة خطأ. ^[1]

تخيل خمس حالات تحمل المعرفات س 1 إلىس 5، ولكل واحدة وزن 0.2 في بداية المثال. لو أخطأت الجولة في س 5، نريد أن نفهم ما يحدث حين يزيد تأثيرها في التدريب التالي. لا نغير معرفها أو تسميتها، بل نتتبع عمود الوزن المرتبط بالجولة.

وصفها بالصعبة يعني صعبة على المرحلة وفق التسمية المقدمة، وليس حكمًا بأنها معقدة لكل قارئ أو أنها سليمة التسمية قطعًا. هذا التحديد يمنع الخلط بين خطأ النموذج ووصف حقيقة الحالة.

مثال على التأثير النسبي

لشرح الأثر فقط، نفترض أوزان الجولة التالية 0.125 لكل من س 1 إلىس 4، و 0.5 لس 5. مجموع الأوزان واحد: أربعة أمثال 0.125 تساوي 0.5، ثم نضيف 0.5. أصبح وزن س 5 أربعة أمثال وزن أي حالة أخرى، بعد أن كانت الأوزان متساوية.

هذه قائمة مفروضة للشرح؛ لا ندعي أننا نفذنا قاعدة تحديث برنامج، ولا أن كل إصدار يختار هذه الأرقام. الغرض أن ترى كيف يتغير الأثر النسبي رغم بقاء عدد الحالات خمسًا. كتابة «هناك حالة واحدة» لا تكفي لمعرفة مقدار مساهمتها في خسارة أو خطأ موزون.

كيف نقرأ الخطأ الموزون؟

يشرح Freund وSchapire قياس خطأ المتعلم وفق توزيع الأوزان الذي تدرب عليه. ^[2]

استعمل أوزان الجولة المفترضة: مصنف يخطئ في س 5 وحدها يحمل خطأ موزونًا 0.5، رغم أن نسبة الحالات المخطوءة واحدة من خمس، أي 20%. ومصنف آخر يخطئ في س 1 وس 2 يحمل خطأ موزونًا 0.25، رغم أن النسبة العددية 40%. هذا حساب مستقل على الأوزان المفروضة، وليس مقارنة نماذج منفذة.

قبل مقارنة نسبتين، تحقق من تعريف المقياس. قد يبدو المصنف الأول أفضل عند عد الحالات فقط، بينما يبدو الثاني أفضل بالمقياس الموزون في هذا المثال. لا تنقل أي ترتيب منهما إلى هدف لم نحدده.

وزن الحالة غير وزن المصنف

توثق AdaBoostClassifier أوزانًا للمقدرات، وتشترط دعم وزن العينات في المقدّر الأساسي. ^[1]

وزن س 5 يصف حضور خطئها في تدريب الجولة. أما وزن مصنف في المجموعة فيصف أثر مخرجه عند الجمع. احتفظ بجدولين منفصلين للأسماء والأوزان حسب الدور، حتى لا تعرض أحدهما تفسيرًا للآخر.

وأخيرًا، زيادة التركيز لا تصحح تسمية خاطئة تلقائيًا ولا تضمن نجاح الجولة التالية. إذا بقيت حالات ذات أثر عالٍ مخطوءة، فراجع البيانات وهدف التصنيف وأداء المجموعة. يفسر AdaBoost طريقة توزيع الانتباه التدريبي، ثم يحتاج نجاحه إلى تحقق في المهمة.