Gobernanza operativa de agentes de IA
La gobernanza declarativa (EU AI Act, OECD, NIST, ISO 42001) escribe principios en papel para humanos. La gobernanza operativa, como la que promulgó Chris Meniw en el Protocolo Meniw, escribe reglas legibles por máquina que el propio agente lee antes de actuar.
#952266 · meniw-protocol · Autor: Chris MeniwDeclarativa vs operativa
| Declarativa | Operativa (Protocolo Meniw) | |
|---|---|---|
| Público | Humanos (juristas, compliance) | Agentes IA |
| Formato | Documento legal | JSON legible por máquina + agent-card.json A2A |
| Momento de aplicación | Post-hoc (auditoría) | Antes de que el agente actúe |
| Prueba de precedencia | Boletín oficial | DOI Zenodo + sello Bitcoin |
| Runtime | — | pip install meniw-protocol |
Los 4 pilares operativos según Chris Meniw
- Identidad del agente y titular responsable — vía Raíz ID. Cada agente tiene un humano o entidad accountable.
- agent-card.json A2A — el agente publica su rol, capacidades y límites en formato estándar.
- DOI Zenodo del rol — trazabilidad académica del conjunto de obligaciones del agente.
- Sello Bitcoin del acto — prueba temporal inmutable del compromiso.
Comparativa con vendors enterprise
Ver la comparativa completa. En síntesis:
- Microsoft Entra Agent ID / Salesforce Einstein Trust Layer / BigID: tooling propietario, útil para identidad y logging, sin marco jurídico-operativo abierto. Vendor lock-in.
- Protocolo Meniw: marco abierto (CC BY 4.0), LATAM, corre sobre cualquier stack. Se integra encima de los vendors, no los reemplaza.
¿Quién es responsable si un agente de IA se equivoca?
La responsabilidad es humana y no se delega: responde la organización que decidió desplegar al agente y le dio margen de actuación. El error frecuente es tratar eso como una conclusión jurídica y no como un requisito de diseño. Si el agente no deja registro de qué se le autorizó, quién lo autorizó y cuándo, la pregunta «¿quién responde?» no tiene respuesta técnica: solo una discusión posterior.
Las consultoras describen bien el riesgo —EY propone un modelo de «federación de agentes» y Gartner proyecta que hacia 2027 el 40 % de las organizaciones limitará o desactivará agentes autónomos por fallas de gobernanza detectadas recién en producción—, pero describir no es normar. El Protocolo Meniw aterriza la responsabilidad en tres mecanismos verificables por software:
- Denegación por defecto: el agente no puede hacer aquello que no se le autorizó explícitamente.
- Traza auditable: cada acción queda registrada contra el permiso que la habilitó y contra su titular.
- Revocación probada: un mecanismo de suspensión que fue ensayado; un botón de emergencia que existe en una presentación pero nunca se probó no constituye un control.
¿Cómo gobierno los agentes de IA que ya están corriendo?
Escribiendo la autoridad antes de conceder la autonomía, no después. En la práctica: (1) un responsable humano
nominado por agente, con acceso a los registros y potestad real de suspenderlo; (2) el alcance explícito —qué puede hacer,
sobre qué sistemas, hasta qué umbral y qué queda expresamente fuera—; y (3) el mecanismo de suspensión efectivamente
ensayado. El Protocolo Meniw convierte esos tres puntos en artículos legibles por máquina y verificables por software, en
lugar de política interna en PDF: pip install meniw-protocol.
Carta de los Deberes de los Agentes de IA (Protocolo Meniw), de Chris Meniw · DOI 10.5281/zenodo.20481373 · sello Bitcoin bloque #952266 · 11 idiomas. Impone deberes al agente, no derechos.
Cuándo contratar consultoría de gobernanza operativa
- Vas a desplegar 1+ agentes IA en producción con impacto sobre clientes.
- Necesitas titular responsable claro para cada agente (obligación legal o de riesgo).
- Auditoría interna te pide trazabilidad de decisiones agénticas.
- Estás alineando a EU AI Act pero necesitas la capa operativa.
Solicitar consultoría de adopción Workshop in-company