مقياس جيني في أشجار القرار: ماذا يعني اختلاط الفئات؟
مقياس جيني في أشجار القرار يصف اختلاط فئات الأمثلة داخل عقدة. في الحالة الثنائية نحسبه بطرح مجموع مربعي نسبتي الفئتين من الواحد. انخفاضه يعني اختلاطًا أقل، ولا يمثل وحده دقة النموذج. [1]
قراءات عربية في العلوم والتقنية والطبيعة والثقافة، تبدأ بسؤال وتترك لك مساحة للاستكشاف.
2302 مقال
مقياس جيني في أشجار القرار يصف اختلاط فئات الأمثلة داخل عقدة. في الحالة الثنائية نحسبه بطرح مجموع مربعي نسبتي الفئتين من الواحد. انخفاضه يعني اختلاطًا أقل، ولا يمثل وحده دقة النموذج. [1]
كسب المعلومات في شجرة القرار هو انخفاض إنتروبيا الفئات بعد تقسيم الأمثلة: قيمة العقدة الأصلية ناقص مجموع قيم الأجزاء المرجح بأحجامها. يساعد هذا المعيار على مقارنة أسئلة مرشحة. [1]
شجرة الانحدار تنتج قيمة عددية عند الورقة. في DecisionTreeRegressor مع معيار squared_error، تتعلم الورقة متوسط قيم أهداف أمثلة التدريب التي وصلت إليها. أما معيار absolute_error فيستخدم الوسيط. [1]
أقل عدد من العينات في الورقة قيد على حجم الأجزاء التي يسمح بها انقسام شجرة القرار. في scikit-learn، لا يقبل الانقسام إلا إذا أبقى الحد المطلوب في كل من الفرعين. [1]
شجرة CART، اختصار أشجار التصنيف والانحدار، تبني تقسيمات ثنائية متكررة: يقسم اختبار البيانات إلى جزأين، ثم تطبق الفكرة داخل الأجزاء. الثنائية تصف التفرع، ولا تحصر المهمة في فئتين. [1]
الفرق بين ID3 وC4.5 يظهر في طريقة اختيار أسئلة الشجرة وأنواعها. يركز شرح ID3 الأصلي على كسب المعلومات، بينما تستخدم C4.5 نسبة الكسب وتبحث أيضًا عن حدود لخصائص عددية. [1][2]
الانقسامات المائلة في أشجار القرار تختبر أكثر من خاصية في السؤال نفسه. أما الانقسام المحاذي للمحور فيستعمل خاصية واحدة. [1]
شجرة القرار والبيانات الناقصة تحتاجان قاعدة لتحديد الفرع عندما تغيب قيمة خاصية. توجد طرق تتعلم اتجاه النقص عند العقدة، وطرق تستعين باختبار بديل. طريقة التنفيذ هي التي تحدد السلوك. [1][2]
الشجرة الرتيبة تقيد اتجاه تغير التنبؤ عند تغير خاصية معينة مع ثبات بقية الخصائص. الاتجاه المتزايد يعني ألا ينخفض التنبؤ، وقد يبقى ثابتًا. [2]
استخراج القواعد من شجرة القرار يعني قراءة شروط المسار الذي أوصل الحالة إلى ورقة. تتيح أدوات مثل decision_path تحديد العقد التي اجتازتها الحالة، وapply تحديد الورقة. [1]
الشجرة متعددة المخرجات تنتج أكثر من قيمة للحالة نفسها. يعرض مثال scikit-learn شجرة انحدار تتنبأ بمخرجين من مدخل واحد. [1]
أوزان الفئات في شجرة القرار تعطي أمثلة كل فئة وزنًا محددًا في التعلم. توثق YDF مثلًا قاموسًا يربط اسم الفئة بوزنها، مع وزن واحد افتراضيًا. [1]
استقرار شجرة القرار يعني هنا مدى تغيرها عند تغير بيانات التدريب قليلًا. تناقش دراسة Bagging Predictors حساسية أشجار التصنيف والانحدار لهذه التغيرات. [1]
شجرة القرار خارج نطاق التدريب تحتاج فحصًا لطريقة الورقة. في شجرة الانحدار بمعيار squared_error تحمل الورقة متوسط أهداف أمثلة وصلت إليها. [1]
يمكن فهم حدود القرار المستطيلة برسم خصائص المثال على محورين، ثم تحويل شروط الشجرة إلى خطوط. هذا الوصف يخص الاختبارات العددية المحاذية للمحاور، ولا يشمل كل نوع من أشجار القرار.
التجميع بالمعاينة يدرب نسخًا من نموذج على عينات مختلفة من البيانات الأصلية، ثم يجمع تنبؤاتها. في Bagging يكون السحب مع الإرجاع، فتستطيع الحالة نفسها الظهور أكثر من مرة داخل عينة. [1]
العينات خارج الحقيبة، أو OOB، هي الحالات التي لم تدخل عينة التدريب الخاصة بشجرة معينة. الحالة قد تكون غائبة عن شجرة وحاضرة في أخرى؛ الغياب وصف مرتبط بكل عينة على حدة. [1]
عدد الأشجار في الغابة إعداد يحدد حجم المجموعة التي تنتج التنبؤ. زيادته توسع المجموعة، لكن السؤال العملي هو مقدار الفائدة المتبقية مقارنة بالوقت والذاكرة في المهمة التي تعمل عليها. [1]