Что будет, если ИИ-ассистент на сайте ответит неправильно?

Первый вопрос компаний, которые думают поставить ИИ-ассистента на сайт, чаще всего один и тот же: «А если он скажет клиенту что-то неправильное?» Вопрос справедливый. Модели ИИ способны гладко и уверенно сформулировать фразу даже о том, чего не знают. В чат-приложении это досадно; в ассистенте, который говорит от имени вашей компании, это означает неверную цену, несуществующую услугу или неправильные часы работы.

Хорошая новость: этот риск сильно зависит от того, как настроен ассистент. Ниже рассказываем, откуда берётся неверный ответ и как проводится граница.

Откуда берётся неверный ответ?

Неверный ответ ассистента компании обычно берётся из одного из трёх источников:

• Информацию вообще не дали. Если ассистенту не рассказали о сроках доставки, а строить догадки ему разрешено, он может выдать правдоподобный, но неверный для вас ответ вроде «обычно 2-3 дня».
• Информация устарела. Часы работы у вас изменились, а ассистент знает старые. Модель работает правильно, но информация у неё неверная.
• Вопрос неоднозначен. «Сколько у вас стоит?» — про какую услугу спрашивают? Если ассистент назовёт цифру, не уточнив вопрос, может выйти неверное сопоставление.

Как провести границу: три правила

1. Говорить только на основе информации компании

Источник знаний ассистента ограничен той информацией, которую даёте вы: услуги, цены, часы работы, адрес, частые вопросы. На основе общей информации из интернета он не отвечает. Одно это правило не даёт цене другой компании или старой новости попасть в ответ. ИИ-ассистент для клиентов работает именно так: отвечает только на основе той информации, которую дали вы.

2. Говорить, что не знает

Самое важное — чтобы ассистент не строил догадок там, где не знает ответа. Если ответа нет в предоставленной информации, ассистент говорит «мы с вами свяжемся» и берёт у клиента телефон или направляет клиента, который хочет записаться, в систему онлайн-записи. Для клиента ответ «этого я не знаю, мы вам позвоним» всегда лучше неверного.

3. Записывать и читать диалоги

Не зная, что говорит ассистент, вы не поймёте, работает ли граница. Сводка диалогов должна регулярно приходить к вам. Эти сводки полезны вдвойне: вы рано замечаете неверный или неполный ответ и узнаёте, о чём клиенты спрашивают чаще всего. В ассистенте, которого настраиваем мы, сводки приходят вам на почту; когда ваша информация меняется, ассистента обновляем мы.

Пример: один вопрос, два разных ассистента

Возьмём ветеринарную клинику. Ночью клиент пишет: «Моя собака что-то проглотила, что делать? И сколько у вас стоит стерилизация?»

Ассистент без очерченных границ может гладко ответить на оба вопроса: общий совет по первой помощи и цифра, похожая на средние цены из интернета. И то и другое рискованно. Первое — личная медицинская рекомендация; второе — не настоящая цена клиники.

Ассистент с очерченными границами сначала смотрит в собственную информацию клиники. Если клиника указала телефон для экстренных случаев и часы работы, он сообщает их; советов не даёт. Если стоимости стерилизации нет в прайс-листе клиники, он не выдумывает цифру, а говорит «мы с вами свяжемся» и берёт телефон. Утром клиника видит этот вопрос в сводке диалогов и узнаёт две вещи: клиенту нужно позвонить, а в прайс-лист нужно добавить эту позицию.

Второй ассистент может казаться менее «умным», но когда он говорит от имени вашей компании, нужно именно это. Ценность ассистента не в том, чтобы отвечать на любой вопрос, а в том, чтобы каждый его ответ был верным, а то, чего он не знает, он передавал вам.

Какие темы нельзя оставлять ассистенту?

Некоторые темы нужно передавать человеку, как бы хорошо ни были написаны правила:

• Цены и скидки, которые зависят от конкретного клиента
• Жалобы, возвраты и споры
• Личные советы, связанные со здоровьем, правом или безопасностью
• Всё, что касается договоров и обязательств

В этих темах задача ассистента — не отвечать, а принять данные клиента и передать их нужному человеку.

Как подготовить информацию для ассистента

Точность ассистента напрямую зависит от ясности информации, которую ему дают. При подготовке работу облегчает следующее:

• Записывайте каждый факт в одном месте и в одном виде. Если у одной и той же услуги две разные цены в двух разных документах, ассистент не поймёт, какую называть.
• Опишите и темы, где нужен ответ «мы не знаем». Например, фраза «цены, которые зависят от клиента, обсуждаем по телефону» подсказывает ассистенту, что делать с таким вопросом.
• Внимательно прочитайте диалоги первой недели. Пробелы в информации чаще всего вскрываются в первые дни; каждый пробел, однажды восполненный, больше не повторяется.

Спросите себя перед запуском

Где хранится информация, которую вы даёте ассистенту, и обучается ли на ней модель ИИ, — отдельный вопрос; о нём мы рассказали в статье Обучится ли ИИ на данных моей компании? и в разделе безопасность данных.

Коротко

Риск неверного ответа ИИ-ассистента не равен нулю, но если ассистент говорит только на основе вашей информации, передаёт вам то, чего не знает, а диалоги регулярно приходят к вам, риск остаётся небольшим и заметным.

Частые вопросы

Если ассистент назовёт неверную цену, будет ли это обязывающим?

Это юридический вопрос, и ответ зависит от ситуации. Практическая сторона такова: в чувствительных темах — цены, акции, возвраты — ассистент должен отвечать только по актуальной информации, которую дали вы, а если информации нет, передавать вопрос вам.

Может ли ассистент отвечать на основе общей информации из интернета?

Для ассистента, который говорит от имени вашей компании, это нежелательно. Общая информация может принести цену другой компании или устаревшие сведения. Ассистент, которого настраиваем мы, отвечает только по информации, предоставленной компанией.

Как отслеживать, что отвечает ассистент?

Регулярно читая сводки диалогов. В них видно, какие вопросы приходят, какие были переданы вам и какой информации не хватило.