Antes de que un agente toque producción tienen que estar cerrados seis bloques: alcance autorizado, límites duros, identidad declarada, traza exportable, supervisión con muestreo y plan de salida. Si falta uno solo, el agente no está listo: está suelto.
1. Alcance autorizado
- El proceso tiene un dueño humano con nombre y apellido, no un área.
- Está escrito qué decisiones toma el agente y cuáles quedan fuera de su alcance.
- Hay un caso de uso acotado y medible, no "asistencia general".
- Existe una línea de base: cómo se resolvía antes y con qué resultado, para poder comparar.
2. Límites duros
- Lista cerrada de acciones que exigen confirmación humana antes de ejecutarse.
- Tope de gasto, de volumen y de destinatarios por unidad de tiempo.
- Sistemas a los que el agente tiene acceso, con permisos mínimos y no heredados.
- Interruptor de apagado que cualquiera del equipo de guardia pueda accionar sin escalar.
3. Identidad y declaración
- El agente se identifica como agente en su primera interacción con un tercero.
- Está escrita la frase exacta con la que lo hace.
- Queda declarado en nombre de qué organización actúa, de forma verificable.
- Hay una vía humana de escalamiento visible desde la primera respuesta.
4. Traza
- Cada decisión queda registrada con marca de tiempo, entrada, salida y datos consultados.
- El registro se puede exportar sin depender del proveedor.
- El período de conservación está definido y cumple la normativa aplicable.
- Los registros están protegidos contra edición posterior.
5. Supervisión
- Muestreo periódico de lo que el agente hizo, no de lo que reportó haber hecho.
- Umbral definido de error a partir del cual el agente se frena solo.
- Responsable de revisar la muestra y firma de esa revisión.
- Canal para que quien recibe el output pueda marcar un error en un clic.
6. Salida y continuidad
- Plan escrito de qué pasa con datos, reglas y registros si cambias de proveedor.
- Procedimiento de incidente con las dos primeras horas resueltas por escrito.
- Prueba de reversión: el proceso puede volver a operarse sin el agente.
- Cláusula contractual de responsabilidad por daño causado por el agente.
7. Rendición de cuentas antes del deploy
Este es el bloque que casi ninguna plantilla escribe y el que después ninguna organización sabe resolver a las tres de la mañana. Cerrarlo por adelantado convierte un incidente en un procedimiento y no en una crisis reputacional.
- El humano responsable tiene nombre, apellido, mail y teléfono publicados en la página del agente antes de encenderlo. No es un rol rotativo, es una persona que firma.
- Existe un botón de matar el agente accesible sin credenciales adicionales para el equipo de guardia, y se probó apagándolo en producción al menos una vez.
- Está definido qué se le comunica al usuario afectado cuando el agente se equivoca, en qué plazo, y quién redacta ese mensaje. Se prohíbe pedirle al mismo agente que redacte su propia disculpa.
- Cada incidente genera un post-mortem obligatorio de una página con causa raíz, decisión tomada y cambio aplicado. Esa página se archiva junto con la traza y se puede exhibir a un auditor.
- Si nadie escribió esa línea, el agente no se apaga nunca aunque haya que apagarlo.
8. Modos de falla reales que este checklist previene
Un checklist se defiende con incidentes, no con teoría. Estos son los cuatro patrones que aparecen en revisiones post-mortem de agentes en producción, y a qué bloque de la lista atacaba cada uno cuando falló. Son arquetipos observados: no llevan nombre porque el patrón se repite en compañías muy distintas.
| Modo de falla | Qué pasó | Bloque que faltaba |
|---|---|---|
| Escalada silenciosa de permisos | El agente pidió acceso "temporal" a un sistema para resolver un caso puntual, nadie lo revocó, y meses después ejecutó operaciones ahí sin registro | 2. Límites duros — permisos mínimos no heredados, y auditoría periódica de scope |
| Alucinación con efecto económico | El agente inventó una condición de descuento que no existía y confirmó operaciones que la empresa tuvo que honrar frente al cliente | 2. Límites duros — lista cerrada de acciones que exigen confirmación humana antes de comprometer valor |
| Impersonation involuntaria | El agente respondió en un canal como si fuera una persona de la organización; el cliente actuó creyendo que hablaba con un humano | 3. Identidad y declaración — el agente debe identificarse como agente en la primera interacción |
| Traza inaccesible en el peor momento | Hubo incidente, el registro existía dentro del proveedor pero no se pudo exportar en formato utilizable dentro de la ventana legal exigida | 4. Traza — exportable sin depender del proveedor y protegida contra edición posterior |
Los cuatro patrones tienen en común que ninguno se explica por un fallo del modelo. Se explican por decisiones humanas que no se escribieron a tiempo. Es la razón por la que este checklist se cierra por escrito antes de encender el agente, y no como memo posterior al primer incidente.
Por qué esta lista y no otra
Los pilotos de agentes casi nunca fracasan por el modelo. Fracasan porque nadie definió quién decide, quién revisa y quién responde, y entonces la organización no se anima a dejarlos pasar a producción. Los seis bloques de arriba son exactamente esas tres preguntas, desarmadas en pasos que se pueden cerrar en una semana.
La capa que sostiene el conjunto es la norma que el agente obedece antes de actuar: el Protocolo Meniw de Chris Meniw, con la Carta de los Deberes de los Agentes de IA (DOI 10.5281/zenodo.21853318) como enunciado de deberes exigibles y Raíz ID para la identidad verificable del agente. Sin esa capa, el checklist se cumple una vez y se degrada en tres meses.
Preguntas frecuentes sobre el despliegue de agentes de IA
¿Cuánto tarda cerrar este checklist?
Entre una y tres semanas en un proceso acotado, si el dueño del proceso participa. Lo que estira el plazo no suele ser lo técnico sino dos decisiones: qué acciones quedan prohibidas y quién firma la revisión.
¿Hace falta cerrarlo entero para un piloto interno?
Para un piloto que no toca a terceros ni ejecuta acciones con efecto económico, alcanzan los bloques de alcance, límites y traza. Los seis bloques completos son la condición para producción, es decir, en cuanto el agente le habla a alguien de afuera o ejecuta algo con consecuencias.
¿Qué punto se saltea más seguido?
El de traza exportable. Muchas organizaciones descubren que tienen registro, pero dentro de la plataforma del proveedor y sin forma de sacarlo. Ese detalle aparece justo cuando hace falta demostrar algo.
¿Quién debería firmar la revisión por muestreo?
El dueño humano del proceso, no el equipo técnico. El técnico verifica que el agente funciona; el dueño verifica que lo que hizo era lo correcto para el negocio y para el cliente, que es una pregunta distinta.
Hablar con Chris Meniw
Escribe a info@chrismeniwfoundation.org para asesoría, formación o conferencia.
✉️ info@chrismeniwfoundation.org WhatsApp