تقليم شجرة القرار يزيل أجزاء من شجرة بُنيت بالفعل. أما الحد من النمو فيمنع بعض الفروع أثناء التدريب، مثل وضع سقف للعمق. الطريقتان تتحكمان في التعقيد في مرحلتين مختلفتين. [1]
الخلاصة السريعة
اسأل أولًا متى يطبق القيد: قبل تكوين الفرع أم بعده. ثم قيّم الشجرة الناتجة على تحقق؛ لا تكفي قلة الفروع لإثبات تحسنها. [1][2]
- المنع المبكر يقيد النمو، بينما يحول التقليم اللاحق بعض العقد الداخلية إلى أوراق. [1]
- في مثال افتراضي، يمنع سقف النمو سؤالًا ثالثًا، بينما يحذفه التقليم بعد ظهوره.
- في تقليم تكلفة التعقيد لدى scikit-learn، تزيد قيم ccp_alpha الأعلى عدد العقد المقلمة. [2]
- اختر درجة التقليم بالتحقق؛ أصغر شجرة ليست بالضرورة الأنسب للمهمة. [2]
ما الذي يحدث قبل بناء الفرع؟
يمكن ضبط الحد الأقصى للعمق أو حد عدد الأمثلة أثناء النمو، كما يمكن الجمع بين هذه القيود والتقليم اللاحق. [1]
تخيل محرر قواعد يعمل على بطاقات تحمل صفة «متاح» أو «غير متاح». إذا أوقف كل مسار بعد اختبارين، فلن يرى سؤالًا ثالثًا مقترحًا. لقد قرر حدود المساحة المتاحة للتفصيل مسبقًا. هذا تشبيه للمنع المبكر، ولا يفترض أن الاختبار الثالث غير مفيد؛ قد يكون هو السؤال الذي تحتاجه حالات معينة.
ماذا يحذف التقليم بعد البناء؟
في مثال من إعداد المقال، نفرض فرعًا ينتهي بسؤال ثالث: «هل رمز البطاقة يبدأ بحرف معين؟». تظهر تحت السؤال ورقتان. عند التقليم نستبدل هذا الجزء بورقة واحدة في موضع السؤال. تصل الحالات إلى النتيجة الجديدة دون المرور بالتمييز الذي كان يقع أسفله.
الفرق المرئي بسيط: في المنع المبكر لم يظهر السؤال الثالث أصلًا، وفي التقليم اللاحق ظهر ثم حُذف. لذلك لا تنظر إلى الرسم النهائي وحده لتعرف طريقة إنتاجه. احتفظ بإعدادات البناء ونسخة قبل التقليم إذا أردت تفسير ما تغير. العبرة هنا بالتسلسل، وليس بافتراض قيمة خاصة لرمز البطاقة.
ما دور معامل تكلفة التعقيد؟
توفر scikit-learn تقليم تكلفة التعقيد عبر ccp_alpha، وتعرض مسارًا للقيم المرتبطة بأشجار مقلمة. زيادة المعامل تؤدي إلى تقليم عقد أكثر. [2]
لا تقرأ المعامل على أنه عدد الفروع المطلوب حذفها. قيمة مثل 0.02 هي إعداد للطريقة، وليست أمرًا «احذف فرعين». الرقم هنا مكتوب لتوضيح خطأ القراءة فقط، ولا نقترح اعتماده. انظر إلى الشجرة الناتجة فعلًا لتعرف عدد العقد الذي بقي.
كيف نختار بين نسخ الشجرة؟
يعرض المثال الرسمي اختيار المعامل باستخدام درجات التحقق. [2]
افترض نتيجتين تعليميتين: شجرة ذات سبع أوراق تجيب صحيحًا عن 18 من 20 حالة تحقق، وشجرة ذات ثلاث أوراق تجيب عن 15 من 20. نسبة الأولى 90% والثانية 75%. إن كان معيار المقارنة الدقة فقط، لا نختار الثانية بسبب حجمها الأصغر. لم تُجرَ هذه التجربة؛ الأعداد فرضية لشرح القرار.
وإذا تساوت الدرجة، راجع أي الحالات أخفقت فيها كل نسخة، وهل المهمة تتطلب تفصيلًا معينًا. اكتب معيار الاختيار قبل المقارنة حتى لا تتحول رغبتك في رسم سهل إلى مبرر لتجاهل حالة مهمة. اختيار درجة تقليم يستحق تفسيرًا مرتبطًا بالنتيجة المطلوبة.
المصادر ومتابعة القراءة
- Google: Overfitting and pruning (يفتح في نافذة جديدة)developers.google.com
- scikit-learn: Post pruning decision trees with cost complexity pruning (يفتح في نافذة جديدة)scikit-learn.org
أُعدّ هذا المقال بصياغة عربية أصلية بالاستناد إلى المصادر أعلاه، وهو مدخل تمهيدي إلى الموضوع. اقرأ منهجية المحتوى وحدوده.