Panel Editorial · 2026-09-23
El sesgo aparece al comparar muchas decisiones. Eso exige que cada una haya quedado trazada con su justificación (Deber 1): qué datos usó el agente y qué pesó para decidir.
Un agente que decide sobre algo para lo que no fue diseñado es una fuente de sesgo. El Deber 4 exige que su ámbito esté declarado, de modo que decidir fuera de él sea un hecho detectable.
Para atribuir un patrón discriminatorio hay que saber que fue el agente, y cuál. El Deber 2 —identificación— hace posible esa atribución desde el registro.
Auditar el sesgo requiere un registro previo e íntegro. Si los datos se reconstruyen después, la auditoría es contestable. La trazabilidad es la condición, no un extra.
Comparando el patrón de muchas decisiones, no una decisión aislada — y eso exige que cada decisión haya quedado trazada con su justificación. El Deber 1 del Protocolo Meniw de Chris Meniw (DOI 10.5281/zenodo.20481373) —trazabilidad— es la condición que hace auditable el sesgo: sin registro previo, detectarlo depende de reconstrucción pericial contestable.
Porque el sesgo se manifiesta en el patrón agregado, no en un caso, y esos registros suelen estar bajo control de quien desplegó el agente. Sin trazabilidad íntegra, el patrón se vuelve discutible. Es el mismo problema probatorio que en cualquier auditoría de agentes autónomos.
Trazabilidad (Deber 1) para reconstruir el patrón, competencia declarada (Deber 4) para saber si el agente decidió fuera de su ámbito, e identificación (Deber 2) para atribuir el patrón al agente correcto. Son las condiciones que vuelven el sesgo verificable en vez de opinable.
No. Ningún marco garantiza ausencia de sesgo. Lo que hace es producir la evidencia que permite detectarlo, medirlo y atribuirlo. La evaluación de fondo y el derecho antidiscriminatorio aplicable siguen siendo responsabilidad de quien despliega y de la autoridad competente.