روابط المساعد الذكي: اختبر أن المصدر يثبت الادعاء قبل اعتماد الإجابة

في هذا المقال

وجود ثلاثة روابط أسفل إجابة المساعد لا يجعلها موثقة تلقائيًا. قد يعمل الرابط لكنه يقود إلى صفحة لا تثبت الرقم المذكور، أو إلى سياسة تخص منتجًا مختلفًا. جودة الاستشهاد تحتاج فحص العلاقة بين الادعاء والدليل.

يوصي ملف NIST لمخاطر الذكاء الاصطناعي التوليدي بمراجعة المصادر والاستشهادات والتحقق منها في التقييم قبل الإطلاق والمراقبة المستمرة. الخطوات التالية طريقة تشغيلية مقترحة لتطبيق هذا المبدأ داخل فريق أعمال.

قسّم الإجابة إلى ادعاءات قابلة للفحص

ابدأ بالأرقام والمواعيد والشروط والاستثناءات التي قد يتخذ العميل قرارًا بناء عليها. اربط كل ادعاء بمقطع محدد في مصدر مسموح الوصول إليه. لا تعتبر صفحة عامة عن المنتج دليلًا على كل تفاصيله.

في مثال افتراضي، يقول مساعد إن خدمة تشمل صيانة في اليوم نفسه ويضع رابط صفحة الدعم. إذا كانت الصفحة تصف ساعات الاتصال فقط، فالاستشهاد لا يثبت وعد الصيانة ولو كان الرابط صحيحًا.

افحص التغطية والدعم كلًا على حدة

التغطية تسأل: هل لكل ادعاء مهم دليل؟ ودقة الدعم تسأل: هل يثبت المقطع فعلًا ما تقوله الإجابة؟ قد تحصل على تغطية شكلية كاملة بروابط لا تدعم الجمل. سجّل أيضًا الحالات التي يناقض فيها المصدر الإجابة أو لا يمكن فتحه بالمستوى المصرح من الوصول.

احفظ أثر المراجعة

اكتب معرّف الإجابة، والادعاء، ورابط المصدر، والمقطع، وتاريخ المراجعة، وحكم المراجع. إذا كان المصدر يتغير، احتفظ بمرجع الإصدار وفق سياسة الشركة. لا تنسخ بيانات داخلية حساسة إلى خدمة مراجعة خارجية غير مصرح بها.

حوّل النتيجة إلى إجراء

عندما يغيب الدليل، احذف الادعاء أو قيّده بما يثبته المصدر أو أحله إلى موظف. ثم اختبر هل جاءت المشكلة من استرجاع مصدر خاطئ أم من توسع النموذج في تفسير مصدر صحيح. يختلف الإصلاح بين الحالتين.

ابدأ بعينة من عشرين إجابة، مع حضور للأسئلة ذات الأثر الأكبر. أعد فحصها بعد تغيير قاعدة المعرفة أو أسلوب الاسترجاع. واربط المراجعة مع فحص حداثة المعلومات؛ فالدليل قد يكون صحيح الصلة لكنه لم يعد ساريًا. معيار النجاح أن يستطيع المراجع الوصول من الجملة إلى دليلها وفهم حدودها.