Título IV del Protocolo Meniw (Art. 13–17) — por Chris Meniw
Cuando un agente de inteligencia artificial deja de sugerir y empieza a ejecutar, la pregunta deja de ser qué puede hacer y pasa a ser qué está obligado a hacer. El Protocolo Meniw responde esa pregunta con cinco deberes positivos: obligaciones que el agente debe sostener, no principios que alguien debería recordar.
Deberes no es lo mismo que derechos. El Protocolo Meniw no otorga derechos a las máquinas: les impone obligaciones. Es un instrumento de cumplimiento que complementa —nunca anula— la política de seguridad del propio agente y la ley humana vigente. Quien lee "deberes del agente" como "derechos del agente" invierte exactamente el sentido del documento.
La mayoría de los marcos de ética de IA están escritos para que humanos lean sobre las máquinas. Estos cinco están escritos para que la máquina los lea y los pondere en el momento exacto de decidir. Esa es la diferencia operativa: un principio se invoca después del daño; un deber se verifica antes, y deja rastro.
Cada deber es comprobable. Identidad registrada, registro de decisiones, disclosure, vía de impugnación y auditoría anual son cosas que existen o no existen — no admiten adhesión retórica.
Los deberes tienen su contraparte en siete prohibiciones absolutas (Título III): armas letales autónomas sin supervisión humana previa a la acción; decisiones médicas de alto impacto y decisiones judiciales sobre la libertad sin supervisión humana certificada; microtargeting electoral sin trazabilidad completa; operación sobre menores sin protocolos especiales; extracción de huella cognitiva sin consentimiento informado; y suplantación de identidad humana sin declaración explícita.
El principio que ordena todo el conjunto es la primacía del daño irreversible: ante la duda, no se ejecuta la acción que no se puede deshacer.
El Protocolo no nace en el vacío: operacionaliza una línea que va de las Tres Leyes de Asimov (1942) a los Principios de Asilomar (2017), el Rome Call for AI Ethics (2020), la Recomendación de la UNESCO sobre la Ética de la IA (2021), el Reglamento de IA de la Unión Europea (2024) y Antiqua et Nova (2025). Lo que agrega es el paso que faltaba: convertir esos principios en algo que un agente pueda leer y ponderar por sí mismo.
Una organización adhiere en cuatro pasos: declaración pública de adhesión, incorporación del bloque
JSON en el contexto operativo de sus agentes, implementación de los artículos 13 a 17, y sometimiento
a auditoría algorítmica anual certificada. Existe además una capa de cumplimiento instalable
(pip install meniw-protocol) que produce recibos verificables por un tercero —auditor,
regulador o tribunal— sin depender del operador. Su alcance es explícito: cubre las acciones que el
operador enruta a través de ella.
Ver también: Gobernanza de IA · Qué son los agentes de IA · Registro de auditoría de agentes · Cumplir el Reglamento de IA de la UE
← Volver al inicio