Recaudo, nuestro producto de ventas y cobranza por WhatsApp, lleva más de 2.3 millones de mensajes enviados y cerca de 495 mil conversaciones con clientes de 224 negocios en diez países, y también tiene agentes de IA que contestan por WhatsApp. Haciendo agentes para Recaudo y para clientes nos equivocamos varias veces, y casi todos los errores fueron de diseño.
Escribo esto para quien está por poner un agente de IA a trabajar con los datos de su empresa: su ERP, su CRM o su base de clientes. Estas son las cuatro cosas que revisaría primero.
1. El agente tiene que ver lo que consultó
En un agente que hicimos para un CRM, el modelo inventaba saldos y fechas de pago. El historial de la conversación guardaba las preguntas del usuario y las respuestas del agente, pero no el resultado de las consultas a la base. En el siguiente turno el agente recordaba que había dicho un número, pero ya no veía de dónde lo había sacado, y rellenaba el hueco con algo plausible.
La regla que quedó: cada consulta a un sistema y su resultado se guardan en el historial, igual que los mensajes. Si el agente no puede ver el dato, no lo puede usar.
2. Una consulta casi nunca alcanza
Una pregunta como «¿cuánto debo y cuándo vence?» parece una consulta. En la práctica son tres: buscar al cliente, traer sus contratos y calcular el saldo de cada uno. Un agente que solo puede hacer una consulta por turno contesta con lo primero que encontró.
Por eso el agente tiene que trabajar en ciclo: consulta, lee el resultado, decide si necesita otra consulta y solo entonces contesta. Hay que ponerle un límite al ciclo, y cuando el agente llega al límite sin respuesta lo correcto es pasar la conversación a una persona.
3. Para datos, la creatividad estorba
Los modelos tienen un parámetro, la temperatura, que controla qué tanto varían sus respuestas. Para redactar un texto de bienvenida una temperatura alta da frases más naturales. Para contestar un saldo da números distintos a la misma pregunta. En un agente que toca dinero, contratos o inventario conviene dejarla baja y conseguir el tono amable con las instrucciones.
4. Las llaves no viajan en la app
Parece obvio y lo hemos encontrado en sistemas en producción: la llave del proveedor de IA guardada dentro de la app móvil o del código del navegador. Cualquiera que descargue la app puede sacarla y usar tu cuenta. La llamada al modelo tiene que salir del servidor, donde además puedes revisar qué datos se mandan y cuánto se gasta.
Lo que conectamos
Hemos conectado sistemas con SAP Business One, NetSuite, bases de datos propias y la API de WhatsApp Business, y para los agentes usamos cada vez más servidores MCP, un estándar abierto para que un modelo use herramientas de un sistema con permisos definidos. Lo que sigue igual es el trabajo previo: decidir qué puede consultar el agente, qué puede modificar y en qué momento entrega la conversación a una persona.
Ese trabajo se parece más a la consultoría de procesos que a la programación. Si el proceso de cobranza no tiene reglas claras para una persona, tampoco las va a tener para un agente.
¿Tienes un agente en producción que a veces contesta cosas que no están en tus datos? Me interesa saber en cuál de estos cuatro puntos está el problema, o si es otro que no tengo en la lista.