تقطير المعرفة: ماذا يخسر الطالب من جواب المعلم الواحد؟

الخلاصة السريعة

احتفظ بتوزيع المعلم وشروط إنتاجه حين يكون هو هدف التعلم؛ تطابق الفئة الأعلى لا يعني أن المعلومات عن بقية الفئات متطابقة.

• تستخدم الورقة احتمالات المعلم أهدافًا للطالب، مع درجة حرارة مرتفعة نفسها لكليهما أثناء التقطير، ثم 1 للطالب بعد التدريب؛ التسميات الصحيحة هدف إضافي عند توفرها. ^[1]
• نختار توزيعين افتراضيين: 0.6 و 0.3 و 0.1، ثم 0.6 و 0.1 و 0.3؛ كلاهما يختار الفئة الأولى، لكن ترتيب الفئتين الباقيتين مختلف.
• لدرجات لوغاريتمات 9 و 4 و 1، تعطي حرارة 1 الكسور 9/14 و 4/14 و 1/14، وحرارة 2 تعطي 3/6 و 2/6 و 1/6؛ هذه قيم حسبناها، لا مخرجات نموذج.
• محاكاة توزيع المعلم لا تضمن صحة التسميات أو استنساخ الأوزان؛ راجع مهمة الطالب وتقييمه، وسجل المعلم والحرارة والهدف بدل استنتاج نجاح من الفئة الأعلى.

ما الهدف الذي ينتقل من المعلم؟

تصف الورقة توزيع المعلم هدفًا ناعمًا، وتدريب الطالب عند الحرارة المرتفعة نفسها. إذا وجدت تسميات صحيحة، يمكن جمع هدفها مع هدف التقطير، بدل اعتبار المعلم مصدر الحقيقة الوحيد. ^[1]

نركز على الفرق بين اسم الفئة وتوزيع على فئات معلومة الترتيب. لا ننقل في المثال معاملات المعلم إلى الطالب ولا نفترض بنية متطابقة؛ الذي سنعرضه هو مادة هدف، لا ملف أوزان أو تدريب ناجح.

نعلن ثلاث فئات لبطاقات وصفية: بطاقة، ظرف، حلقة. يجب حفظ هذا الترتيب مع الأعداد. قائمة احتمالات بلا أسماء مرتبة لا تكفي للقول إن الطالب تلقى المعنى نفسه، حتى لو حفظنا الأعداد حرفيًا.

الجواب الأعلى يخفي اختلافين مهمين

نفترض أن المعلم الأول يعطي للفئات الثلاث 0.6 و 0.3 و 0.1، والمعلم الثاني يعطي 0.6 و 0.1 و 0.3 للمدخل نفسه. مجموع كل قائمة 1، وأكبر قيمة فيهما للفئة «بطاقة». الجواب الصلب في الحالتين واحد.

لكن الأول يعطي «ظرف» وزنًا أعلى من «حلقة»، والثاني يعكسهما. لو استبدلنا القائمتين باسم «بطاقة» فقط، فقدنا هذا الاختلاف. هذه الملاحظة لا تجعل أحد المعلمين أصح؛ ليس لدينا جواب صحيح معلن لهذا المدخل.

كذلك يمكن أن يطابق طالب الجواب الأعلى ويختلف في بقية التوزيع. لهذا نحدد هل نسأل عن اختيار الفئة أم عن هدف موزع. لا نحسب نجاح تقطير من مقارنة اسم واحد في حالة واحدة اخترعناها.

درجة الحرارة تغير الأعداد المستهدفة

تعرف الورقة احتمالات من درجات قبل التوزيع، بقسمة الدرجة على الحرارة داخل الأس، ثم التطبيع بمجموع الأسس. بعد التقطير تستخدم حرارة 1 عند تشغيل الطالب. ^[1]

نختار درجات ln(9) وln(4) وln(1). عند حرارة 1 تصبح الأسس 9 و 4 و 1، ومجموعها 14، فنحصل على 9/14 و 4/14 و 1/14. وعند حرارة 2 تصبح الأسس جذورها: 3 و 2 و 1، ومجموعها 6، فتكون الكسور 3/6 و 2/6 و 1/6.

بقيت الأولى أعلى، لكن نصيب الثالثة تغير من نحو 0.071 إلى نحو 0.167. لا نطلق على الحرارة 2 اسم دقة أو ثقة حقيقية. إنها اختيار في تعريف الهدف الحسابي، والمثال لا يشغل معلمًا أو طالبًا أو عملية تدريب.

ما الذي لم تثبته محاكاة المعلم؟

قد يكون توزيع المعلم خاطئًا بالنسبة إلى المهمة، وقد يكون طالب قريب منه غير مناسب لحالات أخرى. نحتاج إلى أهداف وتقييم معلنين، لا شهادة من اسم «تقطير». وإذا استعملت تسمية صحيحة إضافية، سجل طريقة جمعها بدل إخفائها وراء عبارة هدف ناعم فقط.

ونقترح حفظ هوية المعلم وترتيب الفئات والحرارة والمادة التي أنتج عليها الأهداف ونسخة الطالب. هذه معلومات تجعل مقارنة التوزيعات مفهومة، لكنها لا تثبت أن الأوزان استنسخت أو أن كل معلومة في المعلم انتقلت.

لم ننفذ تقطيرًا أو نقس ضغط نموذج أو سرعة طالب. قدمنا توزيعين لهما جواب أعلى واحد، وحساب حرارة مستقلاً، ليعرف القارئ أي فرق يضيع عندما تختصر مادة المعلم إلى اسم الفئة.