حلقة التغذية الراجعة في بيانات التدريب تظهر عندما تدخل قرارات النموذج في صنع بياناته التالية. تعرض ورقة الديون التقنية تأثير النموذج المباشر في اختيار بيانات تدريبه المستقبلية. [1] نفحص سجل عرض توصيات مؤلفًا لنرى ما عرفناه وما ظل مجهولًا قبل إعادة استعماله.
الخلاصة السريعة
توصية النموذج قد تغير ما يمكن ملاحظته لاحقًا؛ سجل من عرض له الخيار قبل أن تفسر استجابة غائبة أو تبني بيانات الجولة التالية.
- تصف الورقة حلقة مباشرة يؤثر فيها النموذج في اختيار بيانات تدريبه المستقبلية. [1] نميز قرار العرض من الاستجابة المرصودة.
- في سجلنا عرضت بطاقة النجمة لأ وب وعرضت بطاقة القوس لج؛ استجاب أ فقط ضمن الفترة المكتملة، ولم تعرض بطاقة القوس لأ أو ب.
- جولة التعلم المقترحة من المعروض فقط تضم استجابات معروفة لهؤلاء الثلاثة؛ لا نملأ خياراتهم غير المعروضة بأصفار، ولا نحسب نسبتها كأنها عرضت.
- وثق قرار العرض والفترة وتعريف الاستجابة والنسخة؛ السجل لا يثبت نتيجة الخيارات غير المعروضة أو أن إعادة التدريب حسنت الاختيار، ولم نجرب نظام توصية.
أين يعود أثر التنبؤ إلى البيانات؟
تناقش الورقة أن نموذجًا قد يوجه اختيار بياناته المستقبلية، وتفصل ذلك عن حلقات خفية بين أنظمة تؤثر عبر العالم. [1]
نؤلف صفحة تقترح تصميمًا من اثنين لمشارك في ورشة ورقية: بطاقة نجمة وبطاقة قوس. يختار النموذج المفترض أي بطاقة تظهر لكل مشارك، ثم يتلقى النظام استجابة لذلك العرض. المعلومة المسجلة بعد القرار ليست سجلًا لكل بطاقة كان يمكن عرضها.
يختلف هذا السؤال عن دقة التنبؤ وحدها. حتى لو استعملنا الوظيفة نفسها دون تحديث خلال الجولة، فقد حدد قرارها مساحة الملاحظات. يجب أن يذكر تقرير البيانات كيف أتيح للناس الوصول إلى الاختيار الذي ننسب إليهم استجابة له.
ما الذي تخبرنا به ثلاث حالات؟
نسمي المشاركين أ وب وج. نعلن أن النجمة عرضت لأ وب، وأن القوس عرض لج، وأن فترة الاستجابة اكتملت لكل عرض. نعرّف الاستجابة بضغط زر «أريد صنع هذه البطاقة»، لا بمجرد فتح الصفحة ولا بإكمال الصنع.
ضغط أ الزر، ولم يضغطه ب أو ج خلال الفترة المحددة. لدينا ثلاث استجابات على عروض معلومة: واحدة نعم واثنتان لا بحسب تعريفنا. وليس لدينا حكم أ على القوس أو ب عليه، ولا حكم ج على النجمة.
لو سألنا عن القوس بين من عرض لهم في هذا السجل، فالعدد واحد والاستجابات نعم صفر. لا نكتب صفرًا من ثلاثة، لأن الاثنين الآخرين لم يعرض لهما. وحتى صفر من واحد يصف هذه الحالة المحدودة؛ لم نرصد تفضيلات جمهور أو نقس صلاحية التعميم.
كيف تنتقل الحلقة إلى الجولة التالية؟
نقترح على الورق أن يصنع فريق الجولة التالية صفًا لكل عرض مكتمل، بحقل للتصميم المعروض والاستجابة. تدخل إذن ثلاث حالات في هذا السجل المفترض. لا تنشئ الخانات الفارغة ثلاثة أحكام إضافية على التصميم الآخر.
إذا قرر الفريق أن يركز اللاحق على التصميم الذي حصل على استجابة، فقد يتكرر عرض النجمة أكثر في السيناريو المقترح. لكن لا نفترض نتائج الجولة التالية: لم نعرف من سيأتي أو كيف سيستجيب. رسم الحلقة يبين صلة القرار بالملاحظة التي يعاد استعمالها، لا مقدار أثر ثبت.
وليس غياب سجل القوس عند أ خطأ تنبؤ قسناه ثم نسي الفريق حفظه. إنما الفرصة لم تعرض في عقد المثال. نحتاج طريقة جمع مختلفة لمعرفة استجابة معروضة أخرى؛ لا تنتجها إعادة تسمية الفراغ ولا تدريب نسخة إضافية على السجل نفسه.
ماذا نحفظ قبل إعادة استعمال السجل؟
نقترح حفظ نسخة سياسة العرض وسبب الاختيار إن توفر، ووقت بدء الفرصة وانتهائها، وتعريف الاستجابة، وهل عرض الخيار فعلًا. إذا لم تكتمل الفترة، نسجل الانتظار بدل تسميته رفضًا مكتملًا. هذه بطاقة مراجعة من إعداد المقال.
كذلك نفصل الأشخاص من فرص العرض إذا أمكن للشخص أن يرى بطاقات متعددة. أرقام تمريننا تفترض فرصة واحدة لكل شخص؛ لا ننقل عد الثلاثة إلى سجل آخر بلا معرفة وحدته. ولا تحول سياسة عرض أحدث الاستجابات القديمة إلى أحكام على سياستها الجديدة.
لا نقدم طريقة تصحيح إحصائي أو وعدًا بأن التنويع سيصلح كل حلقة. السؤال الذي حسمناه أضيق: أي استجابة كان يمكن رصدها تحت العرض المعلن؟ الإجابة تساعد على تفسير بيانات الجولة القادمة، دون تجربة نظام أو معرفة الاختيارات المضادة التي لم يشاهدها المشاركون.
المصادر ومتابعة القراءة
- Sculley et al.: Hidden Technical Debt in Machine Learning Systems (يفتح في نافذة جديدة)proceedings.neurips.cc
أُعدّ هذا المقال بصياغة عربية أصلية بالاستناد إلى المصادر أعلاه، وهو مدخل تمهيدي إلى الموضوع. اقرأ منهجية المحتوى وحدوده.