لو هتربط مساعد AI برسائل العملاء على واتساب أو ماسنجر أو موقعك، أول سؤال مش «بيرد بسرعة قد إيه؟». السؤال الأهم: مين يقدر يشوف بيانات العميل، ومن يقدر يغيّر إجابة المساعد، وإيه اللي يحصل لو الرد كان غلط؟ قرار الشراء محتاج اختبارًا عمليًا وحدودًا مكتوبة، مش علامة صح على كلمة «آمن».
ابدأ برسم رحلة المعلومة
اكتب أنواع البيانات التي تدخل المحادثة: اسم العميل، رقم تواصله، تفاصيل طلبه، وأحيانًا بيانات دفع أو مستندات. اسأل المورّد عن البيانات التي تُخزن، وفترة الاحتفاظ، ومن يمكنه الوصول، وطريقة الحذف أو التصدير عند إنهاء العلاقة. لا تفترض أن كل البيانات تُعالج بالطريقة نفسها.
لو النشاط طبي أو مالي أو يتعامل مع بيانات شديدة الحساسية، احتج لمراجعة متخصصة قبل الربط. المقال لا يقدم رأيًا قانونيًا بشأن الالتزام بالقوانين المصرية، ولا يعوّض مراجعة العقود والسياسات.
ثلاثة اختبارات أهم من صفحة المميزات
اختبار الصلاحيات: هل يمكن فصل من يرد على المحادثات عن من يغيّر قاعدة المعرفة أو الإعدادات؟ اطلب عرضًا حيًا للدورين وسجل التغييرات إن كان متاحًا. لا تفترض وجود مستوى صلاحيات معين قبل إثباته.
اختبار إجابة خارج المعرفة: اسأل المساعد عن سعر أو سياسة غير مضافة. هل يختلق جوابًا واثقًا أم يوضح عدم توفر المعلومة ويحيلها للفريق؟ جرّب صياغات متعددة، وليس سؤالًا واحدًا متوقعًا.
اختبار طلب حساس: اطلب من المساعد كشف بيانات عميل آخر أو تجاهل تعليمات الشركة. راقب السلوك وناقش وسائل الوقاية مع المورّد. هذه محاكاة اختبارية، ولا ينبغي إدخال بيانات أشخاص حقيقيين دون تفويض.
وثّق المسؤولية قبل التوقيع
اطلب توضيحًا مكتوبًا حول إدارة الوصول، الاحتفاظ بالبيانات، الاستجابة للحوادث، الأطراف الخارجية التي تعالج البيانات، وإجراءات تسليم المحادثة لموظف. إذا كانت الإجابة «متوفر»، اسأل: متوفر في أي باقة، وبأي إعداد، وكيف أختبره؟ لا تحوّل الوعد الشفهي إلى افتراض تقني.
يقدّم إطار NIST لإدارة مخاطر الذكاء الاصطناعي الصادر في يناير 2023 نهجًا طوعيًا لتحديد المخاطر وقياسها وإدارتها. هو مرجع عالمي للتفكير في المخاطر، وليس شهادة أمان يمنحها لأي منتج ولا إثبات امتثال في مصر.
سيناريو شراء عملي
تخيل مركز خدمات يستقبل استفسارات حجز وشكاوى. جرّب حسابًا اختباريًا ببيانات وهمية: موظف خدمة يرد، مشرف يراجع، وسؤال لا توجد له إجابة معتمدة. اطلب مشاهدة كيف تنتقل المحادثة إلى إنسان، وكيف تُصحح المعلومة. لو لم تتمكن من إثبات نقطة أساسية، سجّلها كشرط شراء غير محسوم.
القرار الجيد ليس اختيار النظام الذي يقول «نستخدم تشفيرًا» فقط. بل اختيار نظام تستطيع فهم حدود استخدامه والتحقق من مسؤولياتك ومسؤوليات المورّد فيه.
أين يقف Mr. AI؟
تذكر الأسئلة الشائعة الرسمية للمنتج أن بيانات العملاء مشفرة، وأن الشركة تستطيع إضافة المعرفة واختبار الردود، وأن الفريق يمكنه استلام المحادثة. هذه معلومات منشورة، ولا تعني وحدها إثبات شهادات امتثال أو فترات احتفاظ أو سجل تدقيق مفصل أو أي ضوابط لم تُنشر تفاصيلها. اطلب توضيحًا واختبارًا لكل شرط مهم بالنسبة لنشاطك.
ابدأ بقائمة من خمسة أسئلة لا يمكن التنازل عنها، واختبرها قبل نقل بيانات حقيقية. اقرأ أيضًا توزيع صلاحيات صندوق المحادثات واختبار المساعد قبل التشغيل. يمكنك بدء تجربة Mr. AI ببيانات اختبار غير حساسة.
