¿Qué pasa si el asistente de IA de su web da una respuesta equivocada?

Las empresas que piensan en poner un asistente de IA en su web suelen hacer primero la misma pregunta: «¿Y si le dice algo equivocado a un cliente?». Es una pregunta legítima. Los modelos de IA pueden construir una frase fluida y segura incluso sobre un tema del que no saben nada. En una aplicación de chat eso resulta molesto; en un asistente que habla en nombre de su empresa significa un precio equivocado, un servicio que no existe o un horario erróneo.

La buena noticia es que este riesgo cambia mucho según cómo esté configurado el asistente. A continuación explicamos de dónde salen las respuestas equivocadas y cómo se traza el límite.

¿De dónde salen las respuestas equivocadas?

La respuesta equivocada del asistente de una empresa suele venir de una de estas tres fuentes:

• La información nunca se dio. Si al asistente no se le ha explicado el plazo de envío y tiene permiso para adivinar, puede dar una respuesta como «normalmente 2-3 días», que parece razonable pero que en su caso es falsa.
• La información está desactualizada. Su horario ha cambiado y el asistente sigue conociendo el antiguo. El modelo funciona bien, pero la información que tiene es errónea.
• La pregunta es ambigua. ¿Sobre qué servicio se pregunta en «¿Cuánto cobran?»? Si el asistente da una cifra sin aclarar la pregunta, puede asociarla con el servicio equivocado.

Trazar el límite: tres reglas

1. Hablar solo con la información de la empresa

La fuente de información del asistente se limita a lo que usted le da: servicios, precios, horarios, dirección, preguntas frecuentes. No responde con información general de internet. Esta sola regla impide que el precio de otra empresa o una noticia antigua se cuelen en la respuesta. El Asistente de clientes con IA funciona así: responde únicamente con la información que usted le da.

2. Decir que no sabe

El comportamiento más importante es que el asistente no adivine cuando no sabe algo. Si la respuesta no está en la información proporcionada, el asistente dice «le contactaremos» y toma el teléfono del cliente o, si el cliente quiere una cita, lo dirige al sistema de citas. Para el cliente, «eso no lo sé, le llamamos» siempre es mejor que una respuesta equivocada.

3. Registrar las conversaciones y leerlas

Sin saber lo que dice el asistente, no puede saber si el límite funciona. El resumen de las conversaciones debe llegarle con regularidad. Estos resúmenes sirven para dos cosas: detecta pronto una respuesta equivocada o incompleta, y descubre qué preguntan más sus clientes. En el asistente que instalamos, los resúmenes llegan a su correo; cuando su información cambia, nosotros actualizamos el asistente.

Un ejemplo: la misma pregunta a dos asistentes distintos

Pensemos en una clínica veterinaria. Un cliente escribe de noche: «Mi perro se ha tragado algo, ¿qué hago? ¿Y cuánto cuesta la esterilización?»

Un asistente sin límites definidos puede escribir una respuesta fluida a las dos preguntas: un consejo general de primeros auxilios y una cifra parecida a los precios medios de internet. Las dos cosas son arriesgadas. La primera es un consejo de salud personal; la segunda no es el precio real de la clínica.

Un asistente con límites definidos, en cambio, consulta primero la información de la propia clínica. Si la clínica ha dado un teléfono y un horario para urgencias, los indica; no da consejos. Si el precio de la esterilización no está en la lista de precios de la clínica, no se inventa una cifra: dice «le contactaremos» y toma el teléfono. Por la mañana, la clínica ve esta pregunta en el resumen de conversaciones y aprende dos cosas: hay que llamar al cliente, y hay que añadir ese concepto a la lista de precios.

El segundo asistente puede parecer menos «listo», pero cuando habla en nombre de su empresa es exactamente lo que usted quiere. El valor de un asistente no está en responder a todas las preguntas, sino en que cada respuesta que da sea correcta y en que le traslade a usted lo que no sabe.

¿Qué temas no deben dejarse al asistente?

Algunos temas deben pasar a una persona, por bien escritas que estén las reglas:

• Precios o descuentos que cambian según la persona
• Quejas, devoluciones y desacuerdos
• Consejos personales sobre salud, asuntos legales o seguridad
• Todo lo que implique un contrato o un compromiso

En estos temas, la tarea del asistente no es responder, sino tomar los datos del cliente y pasarlos a la persona adecuada.

Preparar la información del asistente

La precisión del asistente depende directamente de lo clara que sea la información que recibe. Al prepararla, conviene tener en cuenta lo siguiente:

• Escriba cada dato en un solo lugar y de una sola forma. Si el mismo servicio tiene dos precios distintos en dos documentos distintos, el asistente no sabrá cuál decir.
• Escriba también los temas en los que la respuesta debe ser «no lo sabemos». Por ejemplo, una frase como «los precios que dependen de cada cliente los hablamos por teléfono» le dice al asistente qué hacer ante esa pregunta.
• Lea con atención las conversaciones de la primera semana. La información que falta aparece sobre todo en los primeros días; una vez añadida, esa carencia no se repite.

Pregúntese antes de instalarlo

Dónde se guarda la información que usted le da al asistente y si un modelo de IA aprende de ella es otra cuestión; la tratamos en el artículo ¿Una herramienta de IA aprende los datos de mi empresa? y en el apartado Seguridad de los datos.

En resumen

El riesgo de que un asistente de IA dé una respuesta equivocada no es cero, pero si el asistente habla solo con su información, le traslada a usted lo que no sabe y las conversaciones le llegan con regularidad, el riesgo se mantiene pequeño y visible.

Preguntas frecuentes

Si el asistente dice algo equivocado sobre un precio, ¿es vinculante?

Es una cuestión jurídica y la respuesta depende de cada caso. En la práctica, en temas delicados como precios, promociones y devoluciones, el asistente debe responder solo con la información actualizada que usted le haya dado y, si no tiene la información, trasladarle a usted el asunto.

¿Puede el asistente responder con información general de internet?

En un asistente que habla en nombre de su empresa, eso no es deseable. La información general puede traer el precio de otra empresa o datos desactualizados. El asistente que instalamos responde solo con la información que da la empresa.

¿Cómo sigo lo que responde el asistente?

Leyendo con regularidad los resúmenes de las conversaciones. En ellos se ve qué preguntas llegaron, cuáles se le trasladaron a usted y qué información faltaba.