网站上的 AI 助手答错了，会怎样？

考虑在网站上放一个 AI 助手的企业，第一个问题往往都一样：“万一它跟客户说错了怎么办？”这个问题问得对。AI 模型即使在不了解的问题上，也能写出流畅而自信的句子。在聊天应用里，这只是让人头疼；而在代表贵公司说话的助手身上，这就意味着错误的价格、并不存在的服务，或者错误的营业时间。

好消息是：这种风险在很大程度上取决于助手是怎样搭建的。下面我们说明错误回答从何而来，以及边界怎样划定。

错误回答从何而来？

企业助手的错误回答，通常来自三个方面：

• 信息根本没有提供。如果没有告诉助手发货需要多久，而又允许它猜测，它可能给出一个看似合理、但对您来说是错误的回答，比如“一般 2-3 天”。
• 信息已经过时。您的营业时间变了，助手知道的还是旧时间。模型运行正常，但它手里的信息是错的。
• 问题含糊。“你们价格多少？”问的是哪项服务？如果助手没有先把问题问清楚就报出一个数字，就可能张冠李戴。

划定边界：三条规则

1. 只用企业自己的信息回答

助手的知识来源仅限于您提供的信息：服务项目、价格、营业时间、地址、常见问题。它不会用网上的一般信息作答。仅这一条规则，就能防止别家公司的价格或一条旧新闻混进回答里。AI 客服助手就是这样运作的：只用您提供的信息作答。

2. 不知道就说不知道

最重要的一点，是助手在不知道答案的问题上不做猜测。如果提供的信息里没有答案，助手会说“我们会联系您”，并留下客户的电话，或者把想预约的客户引导到预约系统。对客户来说，“这个我不清楚，我们给您回电话”永远比一个错误的答案好。

3. 保存并阅读对话

不知道助手说了什么，您就无法判断边界是否起作用。对话摘要应当定期发送给您。这些摘要有两个用处：您能及早发现错误或不完整的回答，也能了解客户最常问什么。在我们搭建的助手中，摘要会发到您的邮箱；您的信息有变化时，由我们来更新助手。

举例：同一个问题，两种助手

以一家宠物医院为例。夜里有位客户发来消息：“我家狗吞了个东西，该怎么办？你们绝育手术多少钱？”

没有划定边界的助手可能对两个问题都给出流畅的回答：一段通用的急救建议，再加一个类似网上平均价格的数字。两者都有风险。前者是针对个人的健康建议；后者并不是这家医院的真实价格。

划定了边界的助手则会先查看医院自己的信息。如果医院提供了急诊电话和营业时间，它就告诉客户这些；不给建议。如果医院的价目表里没有绝育费用，它不会编造数字，而是说“我们会联系您”并留下电话。第二天早上，医院在对话摘要里看到这个问题，从中得知两件事：需要给客户回电话，价目表里需要加上这一项。

第二个助手看起来可能没那么“聪明”，但在代表贵公司说话时，您要的恰恰就是这样。助手的价值不在于每个问题都能回答，而在于它给出的每个回答都正确，并且把不知道的问题转交给您。

哪些话题不应交给助手？

有些话题，无论规则写得多好，都应当转交给人：

• 因人而异的价格或折扣
• 投诉、退货和纠纷
• 涉及健康、法律或安全的个人建议
• 任何涉及合同和承诺的事项

在这些话题上，助手的任务不是回答，而是记下客户的信息，转给合适的人。

准备助手的信息

助手的准确度，直接取决于提供给它的信息是否清楚。准备时注意以下几点，会让事情更顺利：

• 每条信息只写在一个地方，用一种格式。同一项服务如果在两份文件里有两个不同的价格，助手就不知道该说哪一个。
• 需要回答“我们不清楚”的话题也要写下来。例如“因人而异的价格我们在电话里沟通”这句话，就告诉了助手遇到这类问题该怎么做。
• 仔细阅读第一周的对话。缺失的信息大多在最初几天暴露出来；每处缺失补上一次，就不会再出现。

搭建之前，先问自己

您提供给助手的信息存放在哪里、AI 模型会不会学习这些信息，是另一个问题；我们在人工智能工具会学习我公司的数据吗？一文和数据安全部分做了说明。

总结

AI 助手答错的风险不是零，但只要助手只用您的信息说话、不知道时转交给您、对话定期发到您手里，风险就会保持在很小且看得见的范围内。

常见问题

助手在价格上说错了，会有约束力吗？

这是一个法律问题，答案因情况而异。实际操作上的要点是：在价格、促销、退货这类敏感问题上，助手只能用您提供的最新信息作答，没有相关信息时就把问题转交给您。

助手可以用网上的一般信息来回答吗？

对于代表贵公司说话的助手来说，这并不可取。一般信息可能会带来别家公司的价格或过时的信息。我们搭建的助手只用企业提供的信息作答。

我怎样跟踪助手都回答了什么？

定期阅读对话摘要。摘要里能看到收到了哪些问题、哪些被转交给了您，以及哪些信息还缺。