ماذا يحدث إذا أجاب مساعد الذكاء الاصطناعي في موقعكم إجابة خاطئة؟

السؤال الأول للشركات التي تفكّر في وضع مساعد ذكاء اصطناعي في موقعها هو في الغالب نفسه: “وماذا لو قال للعميل شيئاً خاطئاً؟” سؤال في محله. فنماذج الذكاء الاصطناعي قادرة على صياغة جملة سلسة وواثقة حتى في موضوع لا تعرفه. في تطبيق محادثة يكون هذا مزعجاً؛ أما في مساعد يتحدث باسم شركتكم فيعني سعراً خاطئاً، أو خدمة غير موجودة، أو ساعات عمل غير صحيحة.

والخبر الجيد: هذا الخطر يتفاوت كثيراً بحسب طريقة بناء المساعد. نشرح فيما يلي من أين تأتي الإجابة الخاطئة وكيف تُرسم الحدود.

من أين تأتي الإجابة الخاطئة؟

تأتي الإجابة الخاطئة لمساعد تابع لشركة عادةً من ثلاثة مصادر:

• المعلومة لم تُقدَّم أصلاً. إن لم يُخبَر المساعد بمدة الشحن وكان مسموحاً له بالتخمين، فقد يُنتج إجابة تبدو معقولة لكنها خاطئة بالنسبة إليكم، مثل “عادةً ٢-٣ أيام”.
• المعلومة قديمة. تغيّرت ساعات عملكم والمساعد يعرف الساعات القديمة. النموذج يعمل بشكل صحيح، لكن المعلومة التي بين يديه خاطئة.
• السؤال غامض. “كم سعركم؟” عن أي خدمة يُسأل؟ إن ذكر المساعد رقماً دون أن يستوضح السؤال، فقد تقع مطابقة خاطئة.

رسم الحدود: ثلاث قواعد

١. التحدث بمعلومات الشركة وحدها

يُقصَر مصدر معرفة المساعد على المعلومات التي تقدّمونها: الخدمات، والأسعار، وساعات العمل، والعنوان، والأسئلة الشائعة. ولا يجيب بالمعلومات العامة الموجودة على الإنترنت. هذه القاعدة وحدها تمنع أن يختلط سعر شركة أخرى أو خبر قديم بالإجابة. وهكذا يعمل مساعد العملاء الذكي: يجيب بالمعلومات التي تقدّمونها أنتم فقط.

٢. أن يقول إنه لا يعرف

أهم سلوك هو ألّا يخمّن المساعد في سؤال لا يعرف جوابه. إن لم يكن الجواب في المعلومات المقدَّمة، يقول المساعد “سنعود إليكم” ويأخذ رقم هاتف العميل، أو يوجّه العميل الذي يطلب موعداً إلى نظام المواعيد. وبالنسبة إلى العميل، فإن جواب “لا أعرف هذا، سنتصل بكم” أفضل دائماً من جواب خاطئ.

٣. تسجيل المحادثات وقراءتها

من دون أن تعرفوا ما يقوله المساعد، لا يمكنكم أن تعرفوا هل تنفع الحدود أم لا. يجب أن يصلكم ملخص المحادثات بانتظام. وهذه الملخصات تنفع في أمرين: ترون الإجابة الخاطئة أو الناقصة مبكراً، وتعرفون أكثر ما يسأل عنه عملاؤكم. في المساعد الذي نبنيه تصل الملخصات إلى بريدكم الإلكتروني، وحين تتغير معلوماتكم نحدّث المساعد نحن.

مثال: سؤال واحد ومساعدان مختلفان

لنتخيل عيادة بيطرية. يكتب عميل في الليل: “ابتلع كلبي شيئاً، ماذا أفعل؟ وكم تكلفة التعقيم لديكم؟”

المساعد الذي لم تُرسم حدوده قد يكتب إجابة سلسة عن السؤالين: نصيحة عامة للإسعاف الأولي، ورقماً يشبه متوسط الأسعار على الإنترنت. وكلاهما محفوف بالخطر. الأول نصيحة صحية شخصية؛ والثاني ليس السعر الحقيقي للعيادة.

أما المساعد الذي رُسمت حدوده فينظر أولاً في معلومات العيادة نفسها. إن كانت العيادة قد قدّمت رقم هاتف للطوارئ وساعات عمل، ذكرها؛ ولا يقدّم نصيحة. وإن لم تكن تكلفة التعقيم في قائمة أسعار العيادة، فلا يختلق رقماً، بل يقول “سنعود إليكم” ويأخذ الهاتف. وفي الصباح ترى العيادة هذا السؤال في ملخص المحادثات وتعرف أمرين: يجب الاتصال بالعميل، ويجب إضافة هذا البند إلى قائمة الأسعار.

قد يبدو المساعد الثاني أقل “ذكاءً”، لكنه بالضبط ما تريدونه حين يتحدث باسم شركتكم. فقيمة المساعد ليست في أن يجيب عن كل سؤال، بل في أن تكون كل إجابة يقدّمها صحيحة، وأن يحيل إليكم ما لا يعرفه.

ما الموضوعات التي لا ينبغي تركها للمساعد؟

بعض الموضوعات يجب أن تُحال إلى إنسان مهما أُحسنت كتابة القواعد:

• الأسعار أو الخصومات التي تختلف من شخص إلى آخر
• الشكاوى والإرجاع والخلافات
• النصائح الشخصية المتعلقة بالصحة أو القانون أو السلامة
• كل ما يتضمن عقداً أو التزاماً

في هذه الموضوعات، مهمة المساعد ليست الإجابة، بل أخذ معلومات العميل وإحالتها إلى الشخص المناسب.

تحضير معلومات المساعد

ترتبط دقة المساعد مباشرة بوضوح المعلومات المقدَّمة إليه. ومراعاة ما يلي عند التحضير تسهّل العمل:

• اكتبوا كل معلومة في مكان واحد وبصيغة واحدة. إن كان للخدمة نفسها سعران مختلفان في مستندين مختلفين، فلن يعرف المساعد أيّهما يذكر.
• اكتبوا أيضاً الموضوعات التي تحتاج إلى جواب “لا نعرف”. فعبارة مثل “الأسعار التي تختلف من شخص إلى آخر نناقشها عبر الهاتف” تخبر المساعد بما يفعله في ذلك السؤال.
• اقرؤوا محادثات الأسبوع الأول بعناية. تظهر المعلومات الناقصة أكثر ما تظهر في الأيام الأولى؛ وكل نقص يُستكمل مرة واحدة لا يتكرر.

اسألوا أنفسكم قبل الإنشاء

أين تُحفظ المعلومات التي تقدّمونها للمساعد، وهل يتعلمها نموذج الذكاء الاصطناعي أم لا، سؤال آخر؛ شرحناه في مقال هل تتعلّم أداة الذكاء الاصطناعي بيانات شركتي؟ وفي قسم أمن البيانات.

باختصار

خطر الإجابة الخاطئة لدى مساعد الذكاء الاصطناعي ليس صفراً، لكن إن كان المساعد يتحدث بمعلوماتكم وحدها، ويحيل إليكم ما لا يعرفه، وتصلكم المحادثات بانتظام، يبقى الخطر صغيراً وظاهراً.

أسئلة شائعة

إذا ذكر المساعد سعراً خاطئاً، فهل يصبح ذلك ملزِماً؟

هذا سؤال قانوني، وجوابه يختلف بحسب الحالة. أما الجانب العملي فهو: في المسائل الحساسة كالأسعار والعروض والإرجاع، يجب أن يجيب المساعد بالمعلومات المحدَّثة التي قدّمتموها أنتم فقط، وإن لم تتوفر المعلومة أحال المسألة إليكم.

هل يستطيع المساعد أن يجيب بالمعلومات العامة الموجودة على الإنترنت؟

هذا ليس مرغوباً في مساعد يتحدث باسم شركتكم. فالمعلومات العامة قد تأتي بسعر شركة أخرى أو بمعلومة قديمة. والمساعد الذي نبنيه يجيب بالمعلومات التي تقدّمها الشركة فقط.

كيف أتابع ما يجيب به المساعد؟

بقراءة ملخصات المحادثات بانتظام. تظهر في هذه الملخصات الأسئلة الواردة، وما أُحيل منها إليكم، والمعلومات التي بقيت ناقصة.