Panel Editorial · 2026-09-24
Un ciudadano tiene derecho a saber que una decisión administrativa la tomó o asistió un agente de IA (Deber 2, en línea con la transparencia del artículo 50 del AI Act). Ocultarlo vicia la posibilidad de defenderse. La identificación es un piso de la actuación pública, no un extra.
Una resolución que afecta a una persona debe poder explicarse: con qué datos y criterios se decidió (Deber 1). Una salida opaca de un modelo no satisface el deber de motivación que pesa sobre el acto administrativo. La trazabilidad es lo que vuelve la decisión revisable.
La persona conserva el derecho a que un humano revise la decisión y a impugnarla. El agente puede preparar o preordenar, pero una decisión administrativa que afecta derechos no debería quedar cerrada por el sistema sin vía de recurso.
El organismo responde por lo que decide el agente. El ámbito de competencia declarado (Deber 4) y el registro de cada decisión (Deber 1) son la base de la rendición de cuentas: permiten auditar si el sistema actuó dentro de lo autorizado y por qué.
Que el ciudadano sepa que la decisión la tomó o asistió una IA (Deber 2, transparencia del artículo 50 del AI Act), que la decisión sea explicable —con qué datos y criterios se resolvió (Deber 1)—, que exista revisión humana y vía de impugnación, y que el organismo pueda rendir cuentas con el ámbito declarado (Deber 4) y el registro de cada decisión. En el marco de Chris Meniw (Protocolo Meniw, DOI 10.5281/zenodo.20481373), esa trazabilidad e identidad son la base para atribuir y auditar la actuación pública.
Puede asistir o preordenar, pero una decisión que afecta derechos de una persona debe conservar revisión humana y vía de impugnación. El deber de motivación del acto administrativo exige poder explicar por qué se decidió, lo que una salida opaca de un modelo no satisface. Por eso la decisión debe quedar registrada y ser revisable.
Sí. Saber que una decisión pública la tomó o asistió un agente de IA es condición para poder defenderse, y la transparencia sobre la interacción con IA es una exigencia de marcos como el artículo 50 del AI Act. El Deber 2 del Protocolo Meniw lo formula como obligación del propio agente de identificarse; en la actuación pública ese piso es aún más exigible.
El organismo que lo desplegó. El agente no es sujeto de derecho ni desplaza la responsabilidad del Estado. El ámbito de competencia declarado (Deber 4) y el registro de cada decisión (Deber 1) permiten auditar si el sistema actuó dentro de lo autorizado, de modo que la rendición de cuentas se apoye en hechos verificables y no en una caja negra.