قراءات عربية في العلوم والتقنية والطبيعة والثقافة، تبدأ بسؤال وتترك لك مساحة للاستكشاف.
2302 مقال
جولات Hyperband وميزانيتها لا تختزل إلى جدول تنصيف واحد. تعرض الخوارزمية أكثر من بداية: مرشحون كثيرون بموارد قليلة، أو عدد أصغر بموارد أكثر. نحسب ثلاث جولات من معادلات الورقة لميزانية مصغرة، ونفصل مواضع المرشحين عن هوياتهم وكلفة الجهاز الفعلية.
أهمية الخصائص بالتبديل تبدأ من مقارنة درجة أصلية بدرجة بعد تبديل عمود. [1] لتوضيح وحدة الحساب، نكتب أربعة صفوف ودالة تنبؤ معلنة، ثم تبديلين نختارهما يدويًا. لم ندرب مقدرًا أو نستدع المكتبة، ولن نسمي الفرق الذي حسبناه قوة سببية في العالم.
الخطأ الانتقائي والتغطية يصفان جانبين مختلفين لمصنف يستطيع قبول حالات والامتناع عن غيرها. نسبة القبول لا تقول وحدها كم أخطأ فيما قبله. نكتب سجلًا من ثماني حالات، ونحسب المقامين، ثم نرى لماذا لا يعني رفض مزيد من الحالات أداء أفضل تلقائيًا.
التغطية الهامشية في التنبؤ المطابق لا تعني أن كل مدخل يملك وعدًا منفردًا بالنجاح. سنحسب مجموعة فئات من أربع درجات معايرة معلنة وفق وصف الورقة، ثم نفصل صحة هذا الحساب عن الشروط الاحتمالية التي لم نختبرها في بيانات حقيقية.
عند مقارنة الهامش والإنتروبيا في التعلم النشط، اسأل أولًا عن العدد الذي ترتبه. قد تتقارب أعلى فئتين في حالة، بينما تتوزع كتلة الاحتمالات على فئات أكثر في أخرى. نكتب احتمالين ثلاثيين ونقرأ قرار طلب الوسم تحت معيارين، دون افتراض أن أي طلب منهما سيحسن نموذجًا.
سؤال warm_start وعداد التعلم في SGD يخص حالتين منفصلتين: من أين تبدأ الأوزان، وأي فهرس يدخل معدل التعلم؟ قد تعود البداية العددية نفسها مع اختلاف الفهرس. نقرأ عقد SGDClassifier، ثم نعزل هذا الفرق في تحديث واحد ذي تدرج مفترض، حتى لا نسمي حفظ المعاملات استئنافًا كاملًا لكل الحالة.
الرموز في نماذج اللغة، أو التوكنات، وحدات يعالج بها النموذج النص. قد يكون الرمز كلمة أو جزءاً منها؛ لذلك لا يساوي عدد الرموز عدد الكلمات. تختلف طريقة التقسيم باختلاف أداة الترميز والمفردات التي تعتمد عليها. [1]
نافذة السياق هي مساحة المعلومات التي يستطيع النموذج الرجوع إليها أثناء إنشاء الرد، ويشمل مفهومها أيضاً الرد الذي ينتجه. وهي تختلف عن البيانات التي تدرب عليها النموذج؛ لذلك ليست أرشيفاً لكل معرفة سابقة أو لكل محادثة. [1]
الأوامر دون أمثلة تصف المهمة مباشرة، أما الأوامر بأمثلة قليلة فتضيف نماذج محلولة توضح المخرج المطلوب. يفيد الفرق عندما تعرف ما تريد قوله، لكن وصف الشكل أو التصنيف وحده لا يوضح كل التفاصيل. [1]
فصل التعليمات عن النص المرجعي يعني بيان ما تريد من النموذج فعله، وتمييز المادة التي تريد منه قراءتها. يمكنك استعمال عناوين واضحة أو وسوم تسمي كل جزء. توصي وثائق Anthropic بالوسوم عند مزج التعليمات والسياق والأمثلة، لتقليل الالتباس. [1]
التوليد المعزز بالاسترجاع، أو RAG، يربط توليد الإجابة بمعلومات يسترجعها النظام من مصادر خارجية. في المسار البسيط، يبحث النظام عن مادة ذات صلة، ثم يضعها مع السؤال في سياق النموذج ليصوغ الرد. جودة البحث والمصادر جزء من جودة النتيجة. [1]
تقطيع المستندات للاسترجاع هو تقسيم المادة إلى مقاطع يمكن البحث فيها وتمريرها إلى نموذج اللغة. قد يلزم بسبب حدود حجم الإدخال، وقد يفيد أيضاً عندما تجمع الوثيقة موضوعات يصعب تمثيلها كوحدة واحدة. الأهم هو حدود مفيدة للمعنى، وليس طولاً ثابتاً يصلح لكل وثيقة. [1]
البحث بالكلمات يعتمد على مطابقة مصطلحات النص، أما البحث الدلالي فيقارن تمثيلات رقمية للسؤال والمحتوى للوصول إلى مواد قريبة في المعنى. يفيد الأول في الأسماء والمعرّفات الدقيقة، وقد يفيد الثاني عندما تختلف صياغة السؤال عن صياغة الوثيقة. ويمكن الجمع بينهما. [1][2]
إعادة ترتيب نتائج الاسترجاع هي إعادة تقييم قائمة مرشحة بعد البحث الأول، لترتيب موادها بحسب صلتها بالسؤال. في نمط شائع، يقرأ نموذج تقاطعي السؤال وكل مقطع معاً. نحتاج المرحلتين لأن البحث الواسع يجمع مرشحين بسرعة، وقد يضم مواد قريبة لا تجيب عن المطلوب. [1]
توقع الرمز التالي هو خطوة أساسية في توليد النص لدى النماذج اللغوية السببية. يبدأ النموذج من نص متاح، ثم يضيف رمزاً ويتابع اعتماداً على ما سبق. وقد يقف عند حد الطول أو علامة نهاية التسلسل. [1]
قد يجيب النموذج عن معلومة تعلمها من نصوص، لكن ذلك يختلف عن استعلام يعيد صفوفاً من قاعدة بيانات. درست أبحاث مبكرة استرجاع علاقات معرفية من نماذج اللغة؛ ولا تعني نتائجها أن النموذج يؤدي دور كل قاعدة سجلات. [1][2]
النموذج الأساسي ونموذج المحادثة قد ينتميان إلى العائلة نفسها، لكن مرحلة التدريب والغرض من الاستخدام يختلفان. يبدأ النموذج السببي بتدريب على النص، وقد يتبعه تدريب إضافي على رسائل المحادثة. [1]
قد تبدو المحادثة سلسلة فقاعات في الشاشة، بينما يستقبل النموذج السببي في النهاية تسلسلاً من الرموز. يحول قالب المحادثة الرسائل وأدوارها إلى الصيغة التي يتوقعها النموذج، وقد تختلف الصيغة بين النماذج. [1]
