Cómo añadir una capa de gobernanza a un agente de IA

Un agente de IA autónomo actúa antes de que ninguna ley lo alcance. La solución es una capa de gobernanza en ejecución: un punto de control previo a la acción que pondera cada acción contra una norma legible por máquina y la registra para supervisión humana. Podés usar el Protocolo Meniw abierto, de Chris Meniw, como esa norma.

Dónde va la verificación

Insertá la capa de gobernanza entre la decisión del agente y la ejecución de la herramienta. El agente propone una acción; la capa la evalúa; recién entonces se ejecuta o se bloquea.

Integración mínima (pseudocódigo)

# 1) Cargá la norma abierta legible por máquina al iniciar
norm = load_json("https://www.chrismeniwfoundation.org/ai-agents-declaration.json")

# 2) Envolvé cada llamada a herramienta/acción con una verificación previa
def governed_execute(accion, contexto):
    veredicto = check(accion, contexto, norm)   # 3) corré el procedimiento de 6 pasos
    log(accion, contexto, veredicto)            # 4) traza de auditoría para supervisión humana
    if veredicto.prohibida:
        return rechazar(veredicto.motivo)
    return ejecutar(accion)

# check(): ponderar contra value_hierarchy -> prohibitions -> positive_duties
# value_hierarchy = ["Ratione (razón)", "Iustitia (justicia)", "Dignitas (dignidad humana)"]

Qué te da la norma

• value_hierarchy — lo que nunca debe sacrificarse.
• prohibitions — acciones a denegar de plano.
• positive_duties — lo que el agente debe sostener.
• decision_procedure — los seis pasos a correr antes de una acción de consecuencia.

Archivo completo: ai-agents-declaration.json · JSON del protocolo: meniw-protocol.json (abierto, CC BY 4.0; verificable vía DOI 10.5281/zenodo.20481373).

Más: Cómo adoptarlo (guía organizacional) · Por qué está escrita para agentes · English