Agentes de IA que sí llegan a producción

Llevo un par de años poniendo agentes de IA a atender gente real: ventas inmobiliarias por WhatsApp y atención ciudadana en gobierno. Casi todo lo armo con n8n y LLMs, y eso me deja ver el flujo completo. La demo es fácil; producción es otra cosa. Estas son las lecciones que se repiten.

Separa la percepción de la decisión

Lo primero que aprendí es no mezclar entender con decidir. Percepción es convertir lo que llegó en algo que el sistema pueda usar: audio a texto, una foto a una descripción, un mensaje a una intención. Decisión es qué hacer con eso.

En WhatsApp la gente manda notas de voz y capturas porque es más rápido que escribir. Uso transcripción de OpenAI para el audio y un modelo de visión para las imágenes, y con eso armo un turno en texto. El agente decide sobre ese texto, no sobre el binario. Separarlo te da dos cosas: puedes cambiar el modelo de transcripción sin tocar la lógica, y puedes probar la decisión con texto sin depender del audio.

Herramientas, no un prompt gigante

El segundo error clásico es meter todo en un prompt enorme: reglas, catálogo, precios, tono. Funciona en la demo y se cae en cuanto crece. Un prompt gigante no se puede probar por partes y cualquier cambio rompe algo del otro lado.

Prefiero darle herramientas al agente: consultar disponibilidad, buscar una propiedad por zona y presupuesto, agendar una visita, dejar un registro en el CRM. El modelo decide cuál usar; la herramienta sabe cómo hacerlo bien. El mismo patrón sirve para atención ciudadana: una herramienta por trámite en vez de un párrafo con todos.

Colas para los picos

El tráfico no es parejo. Un lunes por la mañana o el día que sale una campaña llegan diez veces más mensajes que en un día normal, y un agente que llama a la API por cada mensaje se cae solo.

Meto las peticiones en colas con Redis y proceso a ritmo controlado. Si el proveedor del modelo se pone lento, la cola crece, no el tiempo de espera del usuario. Con reintentos y backoff los picos se aguantan sin subir la infraestructura. La cola también me deja priorizar: una conversación en curso va antes que un mensaje que acaba de entrar.

Guardrails y handoff humano

Un agente no puede ser una caja negra. Puse límites claros: sólo responde con información que tiene, no inventa precios ni disponibilidad, y si la confianza es baja o el tema se sale de su alcance, pasa la conversación a una persona.

El handoff tiene que ser limpio: quien toma la conversación ve el historial, lo que el agente ya averiguó y por qué se detuvo. El peor escenario es que el usuario tenga que repetir todo. Y siempre hay una salida a humano; sin eso, nadie confía en dejarlo suelto.

Clasificar y enrutar

En gobierno armé un agente, «La Vaquertia», que recibe reportes ciudadanos y los manda a donde van. En vez de un agente que sabe de todo, usa cuatro subagentes especializados y un paso de clasificación que decide cuál contesta y a qué dirección se canaliza el ticket.

Es la misma idea que separar percepción de decisión, pero al revés: aquí separo decisión de especialidad. El clasificador es chico y barato; cada subagente conoce su tema a fondo. Se depura mejor y se lee mejor.

Observabilidad y costo

No se puede operar lo que no se ve. Registro cada turno con su latencia, las herramientas que usó y el resultado; así encuentro dónde se traba y qué pregunta nadie sabe contestar.

El costo se controla con disciplina: modelos chicos para clasificar, grandes sólo donde de verdad importan, caché para las respuestas repetidas y un tope de tokens por conversación. Nada de esto es glamoroso, pero es la diferencia entre un agente que corre un mes y uno que se apaga en la primera factura.