الرموز في نماذج اللغة، أو التوكنات، وحدات يعالج بها النموذج النص. قد يكون الرمز كلمة أو جزءاً منها؛ لذلك لا يساوي عدد الرموز عدد الكلمات. تختلف طريقة التقسيم باختلاف أداة الترميز والمفردات التي تعتمد عليها. [1]
الخلاصة السريعة
الرمز وحدة معالجة للنص، وقد تنقسم الكلمة الواحدة إلى أكثر من رمز. [1]
ما الفرق بين الرمز والكلمة؟
تستخدم بعض أدوات الترميز أجزاء الكلمات بدلاً من قاموس يحوي كل كلمة ممكنة. يساعد ذلك على تمثيل كلمات غير مألوفة من أجزاء معروفة؛ وقد تظل كلمة شائعة وحدة واحدة بينما تتجزأ أخرى. [1]
لتقريب الفكرة، تخيل جملة «أعد ترتيب الكتب». يعد القارئ ثلاث كلمات، لكن لا نستنتج من هذا أنها ثلاثة رموز. يمكن رسم مربعات للكلمات ومربعات أصغر لوحدات المعالجة، دون الادعاء بأن الرسم يعرض تقسيم نموذج محدد. اختلاف التقسيم لا يغير النص الذي قصدته، بل يغير وحدات تمثيله.
لماذا لا تكفي نسبة تحويل ثابتة؟
في مثال افتراضي، تريد إرسال قائمتين؛ الأولى تضم أسماء شائعة والثانية تضم أسماء مركبة ورموز منتجات. تساوي عدد الكلمات لا يثبت تساوي عدد الرموز. افتح عداداً مرتبطاً بالنموذج الذي ستستخدمه، وألصق القائمتين كما سترسلهما، بما فيه علامات الترقيم. احتفظ بالنتيجة مع اسم النموذج بدلاً من اعتبارها خاصية دائمة للنص.
وإذا قارنت صياغتين عربيتين، اسأل أولاً هل تحملان المعلومات نفسها. حذف رقم الإصدار من اسم المنتج قد يقلل طول الطلب، لكنه يحول السؤال إلى سؤال آخر. اختيار الصياغة الأقصر لا يفيد إذا حذف التفصيل الذي يميز العنصر المطلوب.
كيف نقرأ عداد الاستخدام؟
توضح وثائق Gemini أن المدخلات والمخرجات تُجزّأ إلى رموز، وتوفر آلية لعد المدخلات قبل إرسالها، وتقارير استخدام بعد الرد. يؤثر عدد الرموز في بعض عناصر حساب تكلفة الخدمة. [2]
لنفرض، لأغراض الشرح فقط، أن تقرير طلب يعرض 300 رمز إدخال و120 رمز إخراج. لا يعني ذلك أن المستخدم كتب 300 كلمة أو تلقى 120 كلمة. اكتب في سجل المقارنة نوع العدد ووحدته: «رموز إدخال» و«رموز إخراج». ولا تستخرج السعر من هذين الرقمين دون معرفة تسعير الخدمة المعنية.
ما الذي نختصره في الطلب؟
ابدأ بعبارات تكرر المقصود نفسه: «اشرح بوضوح، واجعل الشرح واضحاً، واستخدم أسلوباً غير غامض». يمكنك استبدالها بتحديد مفيد مثل «اشرح لطالب مبتدئ، ثم أعط مثالاً واحداً». احتفظ بالسؤال والمعلومات التي يحتاجها، واحذف الشروح الجانبية التي لا تؤثر في الجواب.
قبل الإرسال، راجع الطلب بعد الاختصار كأنك تقرؤه للمرة الأولى. هل ما زال اسم الملف ورقم النسخة والنتيجة المطلوبة ظاهرين؟ هذا الفحص يحمي المعنى. عداد الرموز يخبرك عن الحجم، أما صلاحية السؤال فتحتاج مراجعة المحتوى.
المصادر ومتابعة القراءة
- Hugging Face: Tokenization algorithms (يفتح في نافذة جديدة)huggingface.co
- Google AI: Understand and count tokens (يفتح في نافذة جديدة)ai.google.dev
أُعدّ هذا المقال بصياغة عربية أصلية بالاستناد إلى المصادر أعلاه، وهو مدخل تمهيدي إلى الموضوع. اقرأ منهجية المحتوى وحدوده.
