Los agentes de IA en atención al cliente no se evalúan por cuántas conversaciones cierran solos, sino por qué tan fácil es deshacer lo que hicieron mal. Un agente ya no solo contesta: ejecuta tareas dentro de tus sistemas, y eso cambia qué cosa es una falla. Dejó de ser una frase equivocada: ahora es un movimiento ya hecho.

El cambio ocurrió durante 2026. La documentación de los proveedores ya describe agentes que planean los pasos y los ejecutan en las herramientas del negocio: consultar el pedido, cambiar el domicilio, aplicar el reembolso, dejar el resultado escrito en el CRM. La pregunta de quién responde llegó antes que la capacidad. En 2024 un tribunal canadiense responsabilizó a Air Canada por lo que su chatbot le dijo a un cliente sobre tarifas por fallecimiento, y ese chatbot solo podía hablar.

Nos tocó poner IA con ese permiso en un lugar donde un dato mal capturado retrasa el medicamento de alguien. Para Samacare construimos un sistema con LLM que lee faxes escaneados, PDFs y notas a mano, aplica OCR cuando hace falta y extrae datos estructurados para autorizaciones y para inscribir pacientes en programas de medicamentos. Los resultados publicados fueron "Automatización basada en LLM de extracción de datos" y "Automatización de inscripción de pacientes multi-proveedor". La extracción no fue lo que costó tiempo. Fueron los sistemas de evaluación y el paso de revisión humana: el modelo terminaba los documentos de los que estaba seguro y una persona leía los demás.

La confianza caso por caso es el control, no la precisión general. Un modelo que acierta 97 de cada 100 veces no te dice nada del documento que tienes enfrente, porque los tres que falla no vienen marcados. Lo que importó en Samacare fue decidir cuáles casos podía cerrar el sistema por su cuenta, según lo que él mismo podía decir de su certeza, documento por documento. Con un agente en atención al cliente la pregunta es la misma: cuáles acciones puede completar sin que las revise una persona.

Ordena las acciones por lo que cuesta revertirlas. Una respuesta se corrige en el siguiente mensaje. Una acción se queda: el reembolso ya salió, la suscripción ya se canceló, el domicilio ya se cambió. Revertirla es una segunda operación, la hace alguien con más permisos que el agente, y empieza cuando el cliente ya se dio cuenta. Automatizar la acción sin asignarle a nadie el deshacer no quita ese trabajo. Lo mueve al peor momento para hacerlo.

Lo que tardó más de lo que pensábamos en Samacare fue mantener vivo el paso de revisión. Dejar a una persona revisando es un cuadrito en el diagrama y un costo fijo en la operación, y es lo primero que parece prescindible cuando el número de automatización se ve bien. Cada corrección que le devolvimos al modelo fue una hora de alguien, no del modelo. Podíamos haber salido más rápido aceptando menos precisión. En salud esa opción no existía, y resultó ser una restricción útil.

Si tienes un negocio chico, esto se decide antes de prender nada. Escribe la lista de lo que el agente va a poder hacer sin preguntarte: cancelar un pedido, cambiar un domicilio, dar un descuento. Para cada cosa contesta dos preguntas: cuánto te cuesta deshacerla y quién la deshace. La respuesta a la segunda casi siempre eres tú, a las diez de la noche. Déjale nada más lo que se arregla con un mensaje, y que lo que mueve dinero o cambia los datos de un cliente pase por atención humana. Si necesitas que alguien conteste y corrija en tu horario, un equipo nearshore de servicio al cliente trabaja a tu hora; el costo va de onshore a nearshore a offshore. Y qué pasa cuando el bot ya no puede es la otra mitad de la decisión.

Una respuesta equivocada es una frase. Una acción equivocada ya es un registro.