نفصل بيانات التدريب والتحقق والاختبار حتى لا نختبر قدرة النموذج على أمثلة استخدمها في التعلم أو في اختيار إعداداته. التدريب يبني النموذج، والتحقق يساعد على المقارنة أثناء التطوير، والاختبار يفحص الاختيار النهائي على بيانات منفصلة. [1]
الخلاصة السريعة
اعط كل مجموعة وظيفة محددة، واحتفظ ببيانات الاختبار منفصلة عن قرارات تطوير النموذج. [1]
- التدريب للتعلم، والتحقق للمقارنة أثناء التطوير، والاختبار لفحص النموذج النهائي. [1]
- لا توجد نسبة تقسيم واحدة تصلح لكل مهمة؛ اهتم بحجم الحالات وتغطيتها.
- تعلم إحصاءات المعالجة من التدريب، ثم طبق التحويل نفسه على المجموعات الأخرى. [2]
- افحص النسخ المكررة والترابط الزمني؛ الفصل بالصفوف وحده قد لا يمنع التداخل. [1]
ماذا تفعل كل مجموعة؟
توصي دورة Google بفصل البيانات إلى مجموعات تدريب وتحقق واختبار. تستخدم نتائج التحقق لتعديل النموذج، ثم تؤكد النتيجة على الاختبار بعد اختيار الإعدادات. كثرة الرجوع إلى مجموعة لاتخاذ قرارات التطوير تقلل استقلالها عن هذه القرارات. [1]
يمكن تشبيه ذلك بتدريب افتراضي على فرز بطاقات: تتعلم من مجموعة أولى، وتقارن طرائق العمل ببطاقات ثانية، ثم تستخدم مجموعة لم تتدخل في الاختيار. التشبيه يوضح الفصل بين الأدوار؛ ولا يقيس سلوك نموذج بعينه.
كيف نفهم نسب التقسيم؟
لنفترض أن لديك 1000 ملاحظة مستقلة، وقسمتها تعليميا إلى 700 للتدريب و150 للتحقق و150 للاختبار. يجمع ذلك 1000 ملاحظة، لكنه ليس وصفة عامة. إن كان نوع نادر يظهر في ملاحظتين فقط، فقد يغيب عن إحدى المجموعات مهما بدت النسبة معتادة.
حدد أولا الحالات المهمة ثم راجع ما يوجد في كل مجموعة. سجل عدد الملاحظات لكل فئة أو مصدر مناسب للمهمة. الأرقام المذكورة مثال حسابي، وليست توصية ثابتة بنسبة 70/15/15، ولا دليلا على كفاية ألف مثال لأي مشروع.
أين تدخل معالجة البيانات؟
تحذر وثائق scikit-learn من حساب تحويلات، مثل المتوسط المستخدم في التحجيم، على البيانات كلها قبل الفصل. يجب تعلم التحويل من التدريب، ثم استخدامه على التحقق والاختبار دون إعادة تعلمه منهما. [2]
في مثال تعليمي، إذا عوضت قيما ناقصة بمتوسط عمود، فاحتفظ بمتوسط التدريب. لا تجعل متوسط الاختبار يؤثر في تجهيز النموذج الذي ستختبره. اكتب ترتيب الخطوات: فصل، ثم تعلم معالجة التدريب، ثم تطبيق التحويل المحفوظ.
هل الفصل العشوائي يكفي دائما؟
قد توجد نسخ من المثال نفسه في التدريب والاختبار، فتبدو النتيجة أفضل لأنها لا تختبر أمثلة جديدة حقا. وتذكر Google أن المجموعات ينبغي أن تمثل بيانات الاستخدام وألا تضم أمثلة مكررة من التدريب. [1]
إذا كانت البيانات افتراضيا قراءات يومية متتالية، فراجع الزمن قبل توزيع الصفوف. وإذا احتوت صورا متشابهة من المشهد نفسه، فراجع وحدة المشهد. اسأل عما تريد تعميمه: إلى وقت لاحق أم إلى شخص جديد أم إلى موقع آخر؟ جوابك يوجه طريقة الفصل ويحدد حدود تفسير الاختبار.
المصادر ومتابعة القراءة
- Google for Developers: Dividing the original dataset (يفتح في نافذة جديدة)developers.google.com
- scikit-learn: Common pitfalls and recommended practices (يفتح في نافذة جديدة)scikit-learn.org
أُعدّ هذا المقال بصياغة عربية أصلية بالاستناد إلى المصادر أعلاه، وهو مدخل تمهيدي إلى الموضوع. اقرأ منهجية المحتوى وحدوده.