الانحدار اللوجستي: لماذا يستخدم للتصنيف رغم اسمه؟

الخلاصة السريعة

في التصنيف الثنائي، يحول النموذج درجة خطية إلى تقدير احتمال بالفئة عبر الدالة اللوجستية؛ ثم تعتمد الفئة المختارة على قاعدة القرار. ^[2]

• نتيجة المهمة فئة؛ يقتصر شرحنا على فئتين، ولا يعرض بناء التصنيف متعدد الفئات. ^[1]
• للحالة الثنائية: p=1/(1+exp(-z))، حيث z درجة خطية في المدخلات والمعاملات. ^[2]
• عند قاعدة p أكبر من 0.5، حد المثال هو z=0؛ نحدد معاملة حالة المساواة صراحة.
• القيم المحسوبة من معاملات مفترضة ليست قياس دقة أو إثباتًا أن التقدير الاحتمالي يطابق تكرار النتائج.

اسم النموذج لا يغير نوع السؤال

يسمي توثيق scikit-learn النموذج Logistic Regression، أو logit وMaxEnt، ويقدمه بوصفه مصنفًا. ^[1]

في مثالنا، السؤال: هل يحمل غلاف بطاقة علامة دائرية أم لا؟ سنرمز إلى الفئتين بواحد وصفر. لا نسأل عن عدد العلامات ولا عن قطر الدائرة. هذا الاختيار يحدد معنى النتيجة المطلوبة قبل الحساب؛ الرقم واحد اسم لفئة، وليس مقدارًا يساوي ضعف الصفر.

كيف تنتج الدرجة تقديرًا بين صفر وواحد؟

تعرض الصيغة الثنائية في التوثيق p=expit(Xw+w0). وexpit هي 1/(1+exp(-z))؛ المعاملات والثابت تحدد z. ^[2]

اخترنا للتوضيح خاصيتين عدديتين s وt ودرجة z=2s−t−1. لم نتعلم المعاملين 2 و−1 من صور بطاقات، وإنما كتبناهما لشرح التحويل. إذا كان s=1 وt=0، تصبح الدرجة 1، فيكون p نحو 0.731. وإذا كان s=0 وt=1، تصبح الدرجة −2، فيكون p نحو 0.119.

إذن الدرجة 1 ليست احتمالًا مقداره واحد، والدرجة −2 ليست احتمالًا سالبًا. التحويل اللوجستي هو الخطوة التي تعطي هذين التقديرين ضمن المجال، بينما بقيت الدرجة الأصلية عددًا قد يكون موجبًا أو سالبًا.

أين يقع حد القرار في مثالنا؟

لنضع قاعدة المثال: نختار الفئة 1 عندما p>0.5، ونختار الفئة 0 عندما p≤0.5. حالة المساواة محسومة هنا باختيارنا، وليست ادعاءً بشأن كل تنفيذ. عند s=1 وt=1 تكون z=0 وp=0.5، فتختار قاعدتنا الفئة 0.

وبالجبر، تقع نقاط الحد على 2s−t−1=0، أو t=2s−1. إنه خط في مستوى الخاصيتين اللتين اخترناهما. الدالة اللوجستية منحنية عند رسم p مقابل z، لكن ذلك لا يجعل حد هذا المثال منحنيًا في مستوى s وt.

إذا اخترنا عتبة أخرى، يجب إعادة حساب شرط الدرجة بدل الإبقاء على z=0 تلقائيًا. وكذلك إن غيرنا تعريف الخصائص، فالمستوى الذي نصف فيه الخط قد لا يعود مستوى القياسات الأصلية. كل وصف هندسي يحتاج إلى ذكر المدخلات والعتبة التي يقصدها.

ماذا لا تثبته الأرقام السابقة؟

التقدير 0.731 نتج من صيغة ومعاملات اخترناها؛ لم نعرض بطاقات موسومة أو نتائج تدريب. لذلك لا نقول إن النموذج أصاب 73.1% من البطاقات، ولا إن بطاقة واحدة ستنجح بهذه النسبة في تجربة حقيقية.

في تقرير عملي، اكتب تعريف الفئة والخصائص وعتبة القرار، ثم قدم النتائج المرصودة التي تدعم استعمال النموذج. وإذا أردت تفسير الاحتمالات، قارنها بتكرارات النتائج في حالات مناسبة بدل الاكتفاء بأن الأعداد تقع بين صفر وواحد. وجود تحويل رياضي صحيح لا يعوض هذا الدليل.