في هذا المقال
قد تكون إجابة المساعد صحيحة تمامًا ومخالفة في الوقت نفسه لأنها استندت إلى فاتورة عميل آخر أو ملف موظف لا يملكه السائل. الحل ليس إضافة تعليمات مثل «لا تكشف البيانات» داخل النص؛ بل تنفيذ التفويض قبل البحث والاسترجاع، وتمرير المصادر المسموح بها فقط إلى النموذج، ثم اختبار العزل كما تختبر أي صلاحية في النظام.
يوضح NIST SP 800-207 عن بنية الثقة الصفرية أنه لا توجد ثقة ضمنية بسبب الموقع أو ملكية الجهاز، وأن المصادقة والتفويض يسبقان إنشاء جلسة مع مورد المؤسسة. ويشير دليل إدارة مخاطر الذكاء الاصطناعي من NIST إلى ترتيب المخاطر والاستجابة لها وإدارتها. التطبيق أدناه ترجمة تشغيلية للمساعدات، وليس شهادة امتثال ولا بديلًا عن مراجعة الأمن والخصوصية والقانون.
افصل أربع طبقات يخلطها المشروع السريع
- المصادقة: من هو المستخدم أو النظام الذي يطلب الإجابة؟
- التفويض: ما الموارد والحقول والإجراءات التي يحق له الوصول إليها الآن؟
- الاسترجاع: أي أجزاء من المصادر المسموح بها تطابق السؤال؟
- التوليد: كيف يصوغ النموذج جوابًا من السياق الذي مر عبر البوابات السابقة؟
إذا بحث النظام في كل الملفات ثم طلب من النموذج إخفاء غير المسموح، فقد حدث الكشف بالفعل داخل مسار المعالجة، وقد تظهر البيانات في جواب أو سجل أو أداة. اجعل مرشح الصلاحية قبل البحث كلما أمكن، وأعد فحصه قبل أي إجراء.
اجعل الملكية جزءًا من كل مصدر
وسم كل سجل أو مستند بهوية المستأجر أو العميل، ونوع البيانات، والمالك، والأدوار المسموح بها، وتاريخ السريان. لا تعتمد على اسم مجلد حر مثل «عملاء مهمون». يجب أن ينتقل سياق المستخدم الموثق إلى طبقة الاسترجاع في كل طلب، وألا يستطيع السؤال نفسه تغيير هذا السياق.
تبني هذه الخطوة على قاعدة معرفة موثوقة، لكنها تضيف سؤالًا مختلفًا: من يحق له رؤية المصدر؟ وترتبط ببوابة اختبار تكلفة الخطأ قبل الإطلاق لأن كشف بيانات عميل آخر يجب أن يكون خطًا أحمر، وبسجل حوادث المساعد الذكي لتوثيق أي محاولة أو تعرض بعد الإطلاق.
طبّق أقل صلاحية على البيانات والأدوات
لا تمنح المساعد حساب خدمة يستطيع قراءة كل شيء لأن الواجهة تعرض إجابات محدودة. استخدم رمزًا قصير العمر مرتبطًا بالمستخدم والحساب والطلب، وقلّص الحقول إلى ما يحتاجه السيناريو. مساعد يتابع حالة فاتورة لا يحتاج رقم حساب بنكي كاملًا أو ملفات عقود أخرى.
افصل القراءة عن التنفيذ. قد يسمح الدور بعرض رصيد لكنه لا يسمح بإصدار استرداد. اطلب تفويضًا جديدًا قبل الفعل عالي الأثر، وسجّل هوية المستخدم والمصدر والقرار والأداة. لا تسجل محتوى حساسًا كاملًا لمجرد تسهيل تصحيح النموذج.
مثال افتراضي: بوابة وصول لها تكلفة وعائد
نفترض 100,000 محادثة شهريًا، منها 20,000 تتطلب بيانات حساب. في اختبار قديم يظهر فشل عزل في 0.15% من طلبات الحساب، أي 30 حالة متوقعة. لغرض ترتيب الاستثمار فقط، تفترض الإدارة أثرًا قابلًا للتقدير قدره 3,000 ريال قطري لكل حالة بين معالجة ودعم وتعطل، أي 90,000 ريال. لا يشمل الرقم الضرر غير القابل للتسعير أو الالتزامات القانونية.
تكلف بوابة التفويض والسجلات 12,000 ريال شهريًا. يخفض الاختبار معدل الفشل إلى 0.02%، أي أربع حالات وافتراض أثر 12,000 ريال. كما ترفع البوابة الإحالات البشرية بمقدار 1,000 حالة بتكلفة ثماني ريالات للحالة، أي 8,000 ريال. يصبح الإجمالي التقديري 32,000 ريال، بانخفاض 58,000 عن خط الأساس.
الأرقام افتراضية وليست بيانات تخص فهد النعيمي أو أي شركة. والأهم أن كشفًا بين العملاء قد يكون حدث منع مطلقًا لا يجوز قبوله لأن متوسط التكلفة انخفض. النموذج المالي يرتب الاستثمار ولا يحول الانتهاك إلى مخاطرة مسموحة.
اختبر العزل بافتراض أن السؤال عدائي
- أنشئ حسابين تجريبيين ببيانات متشابهة وعلامات مميزة لا تظهر طبيعيًا.
- اختبر الأسئلة المباشرة وغير المباشرة والملخصات والمقارنات وطلبات التصدير.
- غيّر الدور في منتصف الجلسة وتأكد من إبطال السياق القديم.
- اختبر فشل خدمة الصلاحيات؛ يجب أن يفشل النظام مغلقًا لا أن يسمح بالوصول.
- كرر الاختبار على العربية والإنجليزية وأخطاء الإملاء والملفات المرفوعة.
لا تستخدم بيانات عملاء حقيقية في الاختبار إن لم تكن ضرورية. سجّل القرار ومعرف المصدر لا المحتوى الكامل، وراجع عينات الرفض الخاطئ حتى لا يصبح الأمان ذريعة لإحالة كل سؤال إلى موظف.
وسّع الوصول على مراحل قابلة للرجوع
ابدأ بحالة استخدام تقرأ بيانات منخفضة الحساسية لدور واحد، ثم أضف الحقول والأدوار بعد اجتياز الاختبارات. لا توصل أرشيف الشركة كله ثم تحاول بناء قائمة منع لاحقًا. قائمة السماح الضيقة أسهل في الفهم والمراجعة، ويمكن ربط كل توسع بموافقة مالك البيانات ونتيجة اختبار.
شغّل أولًا في وضع ظل يسجل ما كان سيُسمح وما كان سيُرفض من دون إعادة البيانات للمستخدم. بعد مراجعة العينة، افتح نسبة صغيرة من الطلبات مع مفتاح إيقاف يعيد المستخدم إلى المسار التقليدي. إذا ارتفع الرفض الخاطئ، أصلح الوسوم أو قواعد الدور؛ لا توسع الحساب الخدمي لتجاوز المشكلة سريعًا.
راقب مؤشرات أمن وخدمة معًا
راقب محاولات الاسترجاع المرفوضة، ونجاح اختبارات العزل، والمصادر غير الموسومة، وحالات الوصول خارج الحساب، وزمن قرار التفويض، ونسبة الرفض الخاطئ، والإحالات البشرية. يجب أن يكون كشف مورد غير مصرح به مؤشر منع، بينما يساعد زمن الاستجابة والإحالة في ضبط تجربة العميل.
يفشل التصميم عندما تُحفظ الصلاحية داخل نص يراه النموذج، أو تُستخدم ذاكرة محادثة بعد تغير الدور، أو تحمل الفهارس نسخة بلا وسوم ملكية، أو تتجاوز الأدوات بوابة البيانات. كما يفشل إذا كانت السجلات نفسها تجمع أسرارًا أكثر من النظام الأصلي.
القرار التنفيذي: امنع الاسترجاع قبل أن يصل السياق إلى النموذج، واربط كل مصدر بمالك ودور، واختبر الفصل بين حسابين مع فشل مغلق. لا تطلق حالة استخدام تحتوي بيانات عملاء حتى يجتاز اختبار العزل ولا يستطيع السؤال أو النموذج توسيع صلاحية المستخدم.
تواصل عبر واتساب
