Human-in-the-loop: cómo automatizar finanzas sin perder el control

Toda conversación sobre IA en finanzas llega al mismo punto en los primeros cinco minutos: "¿y si se equivoca?". Es la pregunta correcta. La respuesta no está en prometer que el modelo nunca falla — ningún sistema honesto promete eso — sino en diseñar el proceso para que un error sea barato, visible y reversible.

Regla 1: lo crítico requiere aprobación explícita

Hay una línea clara entre preparar y ejecutar. Un agente puede clasificar mil facturas, armar el plan de pagos y redactar el correo de cobranza — todo eso es preparación y es reversible. Pero mover dinero, enviar comunicaciones externas o presentar información a la autoridad tributaria cruza la línea: ahí el sistema se detiene y espera a una persona autorizada. Sin excepciones ni "modos rápidos".

Regla 2: evidencia de punta a punta

Cada acción — humana o del agente — debe dejar rastro: qué se hizo, cuándo, con qué datos de entrada, bajo qué regla y quién lo aprobó. Este audit trail no es burocracia: es lo que convierte una automatización en algo auditable frente a un directorio, un auditor externo o SUNAT. Si no puedes reconstruir la historia de una decisión, no tienes control, tienes suerte.

Regla 3: los errores se corrigen hacia adelante, con contexto

Cuando algo sale mal — un proveedor mal clasificado, un monto mal leído — el sistema debe mostrar exactamente dónde se originó el error y qué tocó, para corregirlo una vez y que la corrección se propague. Los sistemas opacos convierten cada error en una investigación; los sistemas trazables lo convierten en un clic.

La confianza en la automatización no se pide. Se construye con cada acción trazable, explicable y reversible.

Con estas tres reglas, la pregunta cambia. Ya no es "¿y si la IA se equivoca?" sino "¿cuánto trabajo repetible me estoy quedando haciendo a mano por miedo a una caja negra que nadie me obligó a comprar?". La automatización con control incorporado no es una promesa: es una arquitectura.