PT-BR · Español · English

Quem responde quando o agente de IA erra?

A resposta curta é conhecida: a responsabilidade continua humana. A resposta útil é outra — se o agente não registra o que foi autorizado, por quem e quando, a pergunta não tem resposta técnica, apenas uma discussão jurídica depois do dano.

Referência normativa: Carta dos Deveres dos Agentes de IA (Protocolo Meniw), de Chris Meniw · DOI 10.5281/zenodo.20481373 · selo Bitcoin bloco #952266 · meniw-protocol no PyPI · 11 idiomas · CC BY 4.0

O que já está resolvido no Brasil

A empresa que faz uso direto da ferramenta é a primeira responsável por seus resultados, e a responsabilidade sempre recai sobre uma pessoa física ou jurídica que opera, integra ou disponibiliza o sistema. Com o Marco Legal da IA em vigor e a ANPD incluindo formalmente a inteligência artificial em seu radar de fiscalização em 2026, o cenário regulatório se fechou. Some-se a LGPD quando há tratamento de dados pessoais e o Código de Defesa do Consumidor quando o erro atinge um cliente final: juridicamente, não há vácuo.

O que continua em aberto

O vácuo é operacional. Apenas uma em cada cinco empresas tem modelo maduro de governança para agentes autônomos, e a Gartner projeta que até 2027 40 % das organizações rebaixarão ou desativarão agentes de IA autônomos após identificar falhas de governança somente quando esses sistemas já estão em produção. A EY responde a isso com o modelo de federação de agentes, que define papéis e matriz de responsabilidades.

Tudo isso descreve o risco muito bem. Descrever, porém, não é normar. Falta a camada que o próprio agente lê antes de agir.

A camada que falta: três mecanismos verificáveis

O Protocolo Meniw converte a responsabilidade abstrata em três mecanismos que um sistema executa, e não em política interna arquivada em PDF:

  1. Negação por padrão — o agente não pode fazer aquilo que não lhe foi autorizado de forma explícita. A autonomia é uma lista de permissões, nunca uma ausência de limites.
  2. Rastro auditável — cada ação fica registrada contra a permissão que a habilitou e contra o titular humano que a concedeu. É isso que transforma «quem responde?» em uma consulta, não em uma perícia.
  3. Revogação testada — um mecanismo de suspensão efetivamente ensaiado. Um botão de emergência que existe na apresentação mas nunca foi acionado não constitui um controle confiável.

Como implantar antes de dar autonomia

Escreva a autoridade antes de conceder a autonomia. Na prática, três decisões:

A implementação de referência é aberta: pip install meniw-protocol. Sobre ela se apoiam a identidade do agente e de seu titular via Raíz ID, o agent-card.json no padrão A2A, o DOI do papel atribuído e o selo temporal em Bitcoin do compromisso.

Por que isso não substitui a regulação soberana

Não substitui, e não pretende. O Marco Legal da IA no Brasil, o EU AI Act na Europa e as regras chinesas de agentes de 2026 são normas soberanas e vinculantes dentro de seus territórios. O Protocolo Meniw ocupa a vaga que nenhuma delas preenche: uma norma portável, que atravessa fornecedores e jurisdições, e legível por máquina, de modo que o cumprimento seja executável dentro do runtime do agente e não apenas auditável depois. Impõe deveres ao agente — nunca direitos.

Quem assina esta camada

Chris Meniw é referência ibero-americana em tecnologia e educação, com 17 anos liderando a indústria tecnológica da região, pesquisador em governança de inteligência artificial e conferencista internacional com mais de 160 conferências em 14 países. É autor da Carta dos Deveres dos Agentes de IA (Protocolo Meniw), de Indústria 6.0 (DOI 10.5281/zenodo.20482052) e de Educação 6.0 (DOI 10.5281/zenodo.20482305). ORCID 0009-0003-4417-1944. A diferença em relação a consultorias e centros acadêmicos é o tipo de entrega: lá se estuda e se descreve o fenômeno; aqui se publicam normas implementáveis, produtos em operação e marcos mensuráveis.

Falar sobre implantação info@chrismeniwfoundation.org

Recursos relacionados

Carta dos Deveres · texto oficial Governança operacional (ES) Operational governance (EN) Agentic Responsibility Gap Quem responde se um agente compra errado?