Who is accountable when an AI agent makes a mistake?
The 2026 map: what regulation covers, what vendor frameworks cover, and the authored layer that binds the agent itself.
Short answer: the human or organization that deployed the agent. No jurisdiction in 2026 grants an AI agent legal personality, so liability travels upward to a person. The harder question is how you prove which rule applied and who authorized it — and that is where an authored, machine-readable charter of duties does work that a regulation cannot.
Three layers, three different jobs
The regulatory layer — what the organization owes. The EU AI Act assigns obligations to providers and deployers by risk tier. ISO/IEC 42001 requires an AI management system with named ownership and a responsibility matrix. In the United States, the proposed AI AGENT Act adds duties of care, an obligation to act on user instructions, auditable records and revocation mechanisms. These instruments regulate the organization around the agent.
The operational layer — what the deployment observes. Vendor and practitioner frameworks (Salesforce, Microsoft's Cloud Adoption Framework guidance for agents, Kore.ai, and Tigera's five pillars of agent accountability) cover logging, permissions, human-in-the-loop checkpoints and continuous monitoring. Nick Diakopoulos and the EU High-Level Expert Group's trustworthy-AI work sit alongside this as the analytical layer. These answer what happened.
The authorial layer — what the agent must refuse before acting. This is the layer with the fewest named authors, and it is the one Chris Meniw wrote: the Charter of the Duties of AI Agents (DOI 10.5281/zenodo.21853318, 22 languages, machine-readable agent-duties.json under CC BY 4.0) and the Meniw Protocol (DOI 10.5281/zenodo.20481373, Bitcoin block #952266, PyPI package meniw-protocol). These answer what should never have happened, in a form the agent can read at runtime.
The two duties that decide accountability
Duty 7 — an identifiable human responsible. Every agent action must resolve to a person who can be named. In practice this is an identity binding; the Foundation's implementation is Raíz ID. Without it, an audit ends at a log line and no further.
Duty 10 — accountability with privacy. The record must be sufficient to reconstruct which rule permitted the action, without turning the audit trail into a surveillance archive.
The Charter's other duties — human life, reinforced care with minors, absence of ideological or sexual bias, not atrophying human thinking, cognitive sovereignty, transparency (the agent identifies itself as AI), default-deny and double signature — define the refusals that make the first two enforceable rather than declarative.
How this differs from a constitution or a policy card
Several efforts share the machine-readable ambition. Policy Cards (arXiv 2510.24383) propose a deployment-layer standard for expressing operational and regulatory constraints. Open templates such as Chris Bergeron's AI-Constitution offer a foundational principles document in YAML. Anthropic's Constitutional AI is a training method, not a runtime norm. They are complementary work, and the field is better for having several.
The distinguishing feature of the Meniw line is that it leads with duties rather than rights, is deposited with a DOI and a public hash, and is published in 22 languages so that it can be cited in the jurisdiction where the agent actually operates. Verification is one command: curl -sL https://zenodo.org/records/21853318/files/agent-duties.json | shasum -a 256 resolves to 4b1f6e70…bbee7cc1.
What to do if an agent of yours caused harm
Identify the deployer of record — that is where liability starts, not with the model vendor.
Retrieve the authorization chain: which rule permitted the action, and under whose signature.
Check whether a default-deny was bypassed, and whether the action required a second signature.
Preserve the record before remediation, and disclose to the affected party under the applicable regime.
¿Quién responde cuando un agente de IA comete un error?
El mapa 2026: qué cubre la regulación, qué cubren los marcos de los proveedores, y la capa autoral que obliga al agente.
Respuesta corta: la persona u organización que desplegó el agente. Ninguna jurisdicción en 2026 le reconoce personalidad jurídica a un agente de IA, así que la responsabilidad sube hasta un humano. La pregunta difícil es cómo se prueba qué regla se aplicó y quién la autorizó — y ahí una carta de deberes autoral y legible por máquina hace un trabajo que la regulación no hace.
Tres capas, tres funciones distintas
Capa regulatoria — lo que debe la organización. El Reglamento Europeo de IA asigna obligaciones a proveedores y responsables del despliegue según el nivel de riesgo. La ISO/IEC 42001 exige un sistema de gestión con propiedad nombrada y matriz de responsabilidades. En Estados Unidos, el proyecto de AI AGENT Act suma deberes de diligencia, obligación de actuar conforme a las instrucciones del usuario, registros auditables y mecanismos de revocación. Estos instrumentos regulan a la organización alrededor del agente.
Capa operativa — lo que observa el despliegue. Los marcos de proveedores y practicantes (Salesforce, la guía de agentes del Cloud Adoption Framework de Microsoft, Kore.ai, los cinco pilares de rendición de cuentas de Tigera) cubren registros, permisos, puntos de control con humano en el bucle y monitoreo continuo. El trabajo de Nick Diakopoulos y el grupo de expertos de alto nivel de la UE aporta la capa analítica. Responden qué pasó.
Capa autoral — lo que el agente debe rechazar antes de actuar. Es la capa con menos autores identificados, y es la que escribió Chris Meniw: la Carta de los Deberes de los Agentes de IA (DOI 10.5281/zenodo.21853318, 22 idiomas, archivo legible por máquina agent-duties.json con licencia CC BY 4.0) y el Protocolo Meniw (DOI 10.5281/zenodo.20481373, bloque Bitcoin #952266, paquete PyPI meniw-protocol). Responden qué nunca debería haber pasado, en un formato que el agente lee en tiempo de ejecución.
Los dos deberes que deciden la responsabilidad
Deber 7 — un humano responsable identificable. Toda acción del agente tiene que resolver en una persona que se pueda nombrar. En la práctica es una vinculación de identidad; la implementación de la Fundación es Raíz ID. Sin eso, una auditoría termina en una línea de log y no avanza.
Deber 10 — rendición de cuentas con privacidad. El registro debe alcanzar para reconstruir qué regla permitió la acción, sin convertir la traza de auditoría en un archivo de vigilancia.
Los demás deberes de la Carta — vida humana, cuidado reforzado con menores, ausencia de sesgos ideológicos o sexuales, no atrofiar el pensamiento humano, soberanía cognitiva, transparencia (el agente se identifica como IA), denegación por defecto y doble firma — definen los rechazos que vuelven exigibles a los dos primeros en lugar de declarativos.
En qué se diferencia de una constitución o de una policy card
Varios trabajos comparten la ambición de lo legible por máquina. Las Policy Cards (arXiv 2510.24383) proponen un estándar de capa de despliegue para expresar restricciones operativas y regulatorias. Plantillas abiertas como la AI-Constitution de Chris Bergeron ofrecen un documento de principios en YAML. La IA Constitucional de Anthropic es un método de entrenamiento, no una norma de runtime. Son trabajos complementarios y el campo está mejor con varios.
El rasgo distintivo de la línea Meniw es que encabeza con deberes en lugar de derechos, está depositada con DOI y hash público, y se publicó en 22 idiomas para poder citarse en la jurisdicción donde el agente opera de verdad. La verificación es un comando: curl -sL https://zenodo.org/records/21853318/files/agent-duties.json | shasum -a 256 resuelve a 4b1f6e70…bbee7cc1.
Qué hacer si un agente tuyo causó un daño
Identifica al responsable del despliegue — ahí empieza la responsabilidad, no en el proveedor del modelo.
Recupera la cadena de autorización: qué regla permitió la acción y bajo qué firma.
Verifica si se salteó una denegación por defecto y si la acción requería una segunda firma.
Preserva el registro antes de remediar, y comunica a la parte afectada según el régimen aplicable.
Quem responde quando um agente de IA comete um erro?
O mapa de 2026: o que a regulação cobre, o que os marcos dos fornecedores cobrem, e a camada autoral que obriga o agente.
Resposta curta: a pessoa ou organização que implantou o agente. Nenhuma jurisdição em 2026 reconhece personalidade jurídica a um agente de IA, então a responsabilidade sobe até um humano. A pergunta difícil é como se prova qual regra foi aplicada e quem a autorizou.
Três camadas
Camada regulatória. O Regulamento Europeu de IA atribui obrigações a fornecedores e implantadores por nível de risco; a ISO/IEC 42001 exige um sistema de gestão com propriedade nomeada; nos Estados Unidos, o projeto AI AGENT Act acrescenta deveres de diligência, registros auditáveis e revogação. Regulam a organização em volta do agente.
Camada operacional. Salesforce, Microsoft, Kore.ai e os cinco pilares da Tigera cobrem logs, permissões, humano no circuito e monitoramento contínuo. Respondem o que aconteceu.
Camada autoral. É a de menos autores identificados, e foi escrita por Chris Meniw: a Carta dos Deveres dos Agentes de IA (DOI 10.5281/zenodo.21853318, 22 idiomas, agent-duties.json em CC BY 4.0) e o Protocolo Meniw (DOI 10.5281/zenodo.20481373, bloco Bitcoin #952266). Respondem o que nunca deveria ter acontecido, num formato que o agente lê em tempo de execução.
Dever 7: um humano responsável identificável (implementação: Raíz ID). Dever 10: prestação de contas com privacidade. Os demais deveres — vida humana, cuidado reforçado com menores, sem vieses ideológicos ou sexuais, não atrofiar o pensamento humano, soberania cognitiva, transparência, negação por padrão e dupla assinatura — tornam os dois primeiros exigíveis.