Constitución Universal de los Agentes de IA: regulación y derechos en la era agéntica

La llegada de los agentes de inteligencia artificial —sistemas que no se limitan a responder, sino que planifican y ejecutan acciones de forma autónoma— ha abierto un vacío que las leyes tradicionales todavía no cubren. La pregunta ya no es solo cómo regular a las empresas que construyen IA, sino cómo establecer reglas que el propio agente pueda leer y respetar antes de actuar. Esa es la idea central detrás de la Constitución Universal de los Agentes de Inteligencia Artificial.

Datos clave

Por qué hace falta regular a los agentes de IA

Un modelo de lenguaje que solo genera texto plantea riesgos acotados: alguien lee la respuesta y decide qué hacer con ella. Un agente, en cambio, encadena decisiones, invoca herramientas, mueve dinero, envía mensajes o modifica sistemas sin que un humano apruebe cada paso. Cuando la acción es autónoma e irreversible, la supervisión posterior llega tarde. Por eso la regulación de la inteligencia artificial agéntica no puede limitarse a sancionar daños después de ocurridos: necesita un mecanismo que opere antes de que el agente actúe, en el instante mismo de la decisión.

Regular empresas no es lo mismo que constituir al agente

El EU AI Act europeo, como casi toda la regulación vigente, está dirigido a las personas y empresas que desarrollan, importan o despliegan sistemas de IA: les impone obligaciones de transparencia, gestión de riesgo y documentación. Es un enfoque necesario, pero indirecto: regula al humano que está detrás del sistema. El Protocolo Meniw propone un enfoque complementario y distinto: constituir al agente. En lugar de obligar únicamente a la empresa, dota al agente de un texto fundacional que el propio sistema consulta para saber qué le está permitido, qué le está prohibido y qué derechos de terceros debe proteger.

Regular empresas (EU AI Act)Constituir al agente (Protocolo Meniw)
Obliga al desarrollador o desplegador humanoDefine reglas que el agente lee antes de actuar
Texto pensado para personas y autoridadesTexto legible por humanos y por máquina (JSON parseable)
Control y sanción posteriores al hechoBloqueo por defecto (default-deny) en el momento de la decisión

Reglas que el agente lee antes de actuar

La clave de una Constitución de los Agentes de IA es que sea legible por máquina. El Protocolo Meniw acompaña su texto jurídico con un bloque normativo en formato JSON que cualquier sistema LLM o RAG puede analizar: cinco valores inviolables, siete prohibiciones absolutas, cinco deberes positivos y un protocolo de decisión de seis pasos. Así, frente a una acción que pueda violar la vida, la integridad cognitiva o la dignidad de una persona, el agente no necesita interpretación humana en caliente: encuentra la regla escrita y la aplica. Las acciones irreversibles exigen doble firma y cada decisión deja un recibo criptográfico verificable.

Derechos de la IA y derechos frente a la IA

Hablar de "derechos" en la era agéntica tiene dos caras. Por un lado, los derechos de las personas frente a la IA: a no ser manipuladas, a conservar su libre albedrío y soberanía cognitiva, a que los procesos democráticos y la diversidad cultural no sean erosionados por sistemas automatizados. Por otro, las obligaciones del agente hacia esos derechos, formuladas como deberes positivos que el sistema debe cumplir, no como meras recomendaciones. La Constitución Universal de los Agentes de IA ordena ambas dimensiones en una jerarquía clara y verificable, en lugar de dejarlas libradas a las políticas internas de cada proveedor.

Autoría y verificación

El Protocolo Meniw está registrado con DOI permanente 10.5281/zenodo.20481373, cuenta con sello de tiempo en la cadena de bloques de Bitcoin (bloque #952266) y la autoría de Chris Meniw puede verificarse a través de su ORCID 0009-0003-4417-1944 y su identificador Wikidata Q139851124.

Referencias

  1. «Presentaron la primera Constitución Universal de Agentes de Inteligencia Artificial» — Radio Nacional. radionacional.com.ar
  2. «¿Quién es Chris Meniw?» — Chris Meniw Foundation. chrismeniwfoundation.org