تسجيل حادثة تتعلق بالذكاء الاصطناعي: ما الذي تكتبه؟

الخلاصة السريعة

اكتب الوقائع والدليل والأثر والاستجابة والمتابعة، وميز كل استنتاج غير مؤكد، مع تقييد الوصول إلى السجل.

• حدد الأداة والاستخدام والوقت والمخرج المعني؛ وصف «الذكاء الاصطناعي أخطأ» لا يحدد الواقعة.
• افصل ما شاهدته عن السبب المحتمل، واحفظ الدليل في مكان معتمد دون إعادة نشر بياناته.
• سجل الأثر المعروف وما لم يصل إلى المستخدم، ولا تحول عدد البلاغات إلى عدد أشخاص متأثرين.
• وثق الإجراءات والمالك والخطوة التالية؛ تصحيح المسودة لا يثبت معالجة السبب أو منع تكرار الخطأ، وحدث السجل بالمعلومات المؤكدة.

اجعل الواقعة قابلة لتحديد موضعها

يوصي NIST بتوثيق الأخطاء والحوادث وآثارها والإجراءات المتخذة. ^[1]

في مثال افتراضي لمتجر معدات، ينتج المساعد مسودة بطاقة منتج تذكر سعة 50 لترا بينما المرجع المعتمد يذكر 15. لاحظ المراجع الفرق قبل النشر. يمكن تسجيل أن الخطأ وقع في مسودة البطاقة للمنتج المحدد عند وقت معلوم، وأن النسخة المعروضة لم تعتمد بعد.

أضف اسم الخدمة أو الميزة، والمهمة، ومعرف المسودة أو رابطها الداخلي، وإصدار المرجع إن توفر. إذا لم تعرف إصدار النموذج، اكتب «غير معروف»؛ لا تستنتجه من شكل الواجهة. قد تكون خدمة واحدة مستخدمة في أعمال متعددة، لذلك يساعد وصف المهمة أكثر من ذكر اسم المورد وحده.

افصل الدليل عن التفسير

في السجل المقترح، العبارة «المسودة تعرض50والمرجع15» ملاحظة قابلة للفحص. أما «الأداة بدلت ترتيب الرقمين» فتفسير محتمل لا يثبته الفرق وحده. ضع التفسير في حقل مستقل مع بيان أنه يحتاج تحقق المسؤول، ولا تغير النص الأصلي لكي يوافق تفسيرك.

احتفظ بنسخة الدليل بحسب قواعد المؤسسة، أو برابط إلى النسخة التي يستطيع المخولون قراءتها. لا تنسخ كامل ملف المورد إذا كفى المقطع المعني، ولا ترفع بيانات الطلبات إلى خدمة خارجية لتلخيص الحادثة. الهدف أن يستطيع المراجع فحص الدليل ضمن حدود الاطلاع المناسبة.

صف الأثر وحدود معرفتك به

في مثال بطاقة المنتج، تظل الواقعة خطأ اكتشف قبل وصوله إلى الجمهور، وفق فرضنا. نسجل عدم نشر المسودة، ونميز هذا عن حالة بيع اعتمد على الوصف الخاطئ؛ الأخيرة تحتاج أدلة إضافية لم يقدمها المثال. لا نكتب «تضرر العملاء» دون أن نعرف من وصلته البطاقة وكيف استعملها.

إذا وردت ثلاثة بلاغات عن البطاقة نفسها، فلا نستنتج وجود ثلاث حوادث أو ثلاثة أشخاص متأثرين. اربط التقارير بالواقعة حيث يمكن إثبات ذلك، وحدد ما يزال قيد الفحص. يمكن لمسؤول الاستجابة تقدير الشدة وفق قواعد المؤسسة؛ لا تجعل الكاتب يستبدل المعلومة الناقصة بتصنيف مطمئن.

اتبع الإجراء حتى النتيجة الموثقة

سجل في مثالنا أن المسودة سحبت من الاعتماد، وطوبق الوصف مع المرجع، وأسند فحص سبب الاختلاف إلى مسؤول الخدمة. أضف موعد مراجعة فعليا وصاحب الخطوة التالية. هذه استجابة مقترحة لواقعة مصنوعة، لا وصفا لحادثة متجر حقيقي.

يشمل دليل NIST تتبع الاستجابة والإصلاح ومشاركة المعلومات مع الأطراف المعنية. ^[1]

في التطبيق المقترح، يبقى طلب فحص السبب مفتوحا حتى يعرض المسؤول نتيجته. صحة البطاقة المصححة لا تثبت وحدها أن الأداة لن تكرر الخطأ. حدث السجل مع كل معلومة مؤكدة، وحدد لمن يلزم إخطارها، دون تعميم التفاصيل الحساسة على الجميع.