¿Nuestros datos entrenan la IA?

Esta pregunta aparece en casi todas las conversaciones sobre software a medida, y casi siempre se deja para el final. Es una pregunta justa: la lista de clientes, la fórmula, la tabla de costes o la correspondencia con proveedores entra en una herramienta, y esa herramienta habla con un servicio externo de inteligencia artificial.

Tres sitios distintos: no los confunda

«¿A dónde van los datos?» no tiene una sola respuesta, porque los datos pueden estar en tres sitios:

1. La base de datos de la propia herramienta. Sus archivos, los resultados, los registros. Están en su servidor o en uno alquilado a su nombre.
2. El procesamiento temporal del servicio de IA. Cuando la herramienta necesita interpretar un texto, lo envía al servicio y recibe una respuesta. El proveedor puede conservarlo un tiempo limitado para controlar abusos, pero no lo usa para entrenar el modelo.
3. Los datos de entrenamiento del modelo. Aquí está la preocupación real: «¿se entrenará el modelo con mis datos?»

Para lo tercero, en sistemas que funcionan sobre una API comercial, la respuesta es no. Las condiciones comerciales de los grandes proveedores declaran por escrito que los datos enviados por la API no se usan para entrenar sus modelos. La confusión viene de otro sitio: las condiciones de la interfaz de chat gratuita de la misma empresa pueden ser distintas. Cuando un empleado pega el contrato de la empresa en un chat gratuito del navegador, eso no es lo mismo que dar esos datos a una herramienta construida sobre una API comercial.

¿Quién puede ver los datos de una herramienta?

La pregunta de fondo no es «¿lo aprenderá la IA?» sino «¿cuánta gente puede ver esto?». Busque la respuesta en tres puntos:

• ¿De quién es el servidor? ¿La herramienta funciona en su propio alojamiento o en el servidor compartido del desarrollador? Si sus datos están junto a los de otras empresas, conviene saberlo.
• ¿Cuánto dura el acceso del desarrollador? Durante la instalación hace falta acceso. ¿Sigue después o se cierra?
• ¿Dónde están las copias de seguridad? Suelen olvidarse y a menudo están menos protegidas que la base de datos principal.

Cuatro cláusulas que pedir en el contrato

Pida estas cuatro por escrito al recibir el presupuesto. Pedirlas no incomoda a nadie: un desarrollador serio ya las tiene preparadas.

• En qué país está el servidor donde residen los datos.
• El compromiso de que los datos enviados al servicio de IA no se usarán para entrenamiento.
• Que el acceso del desarrollador se cierra al terminar el trabajo y que se borran las copias.
• En qué formato se le entregan sus datos si termina el contrato.

Esta última es la que más se olvida y la que más cara sale. Deje escrito desde el principio que, si decide dejar la herramienta, sus datos vuelven en un formato legible: una tabla, un volcado de base de datos.

La parte de protección de datos

Si hay datos personales por medio —datos de empleados, nombres de clientes, teléfonos—, la herramienta en sí es una actividad de tratamiento. Eso no hace imposible el software; solo significa que su información de privacidad y su registro de tratamientos deben incluir también esta herramienta. Si los datos viajan a un servicio en el extranjero, hay que cumplir las condiciones de esa transferencia. Todo esto tiene solución, pero resulta incómodo cuando se descubre después de la instalación.

En resumen

En una herramienta bien montada, sus datos no entrenan el modelo. Pero lo de «bien montada» no ocurre solo: si nadie deja por escrito de quién es el servidor, cuándo se cierra el acceso y cómo se devuelven los datos, que la respuesta técnica sea correcta no basta.