Panel Editorial · 2026-09-24
La seguridad del paciente y la decisión clínica: quién responde cuando un agente decide sobre un tratamiento.
El acceso al dinero: scoring, crédito y operaciones irreversibles exigen explicabilidad y default-deny.
Estudiantes y menores: transparencia, protección reforzada y el docente en toda decisión sobre un alumno.
Acciones físicas irreversibles sobre máquinas y procesos: seguridad, supervisión y freno antes de actuar.
Decisiones administrativas sobre ciudadanos: transparencia, explicabilidad y derecho a impugnar.
Decisiones sobre personas —selección, evaluación, promoción—: sesgo, supervisión humana y trazabilidad.
Que la persona sepa que habla con un agente y que sus acciones queden trazadas y acotadas.
Los cuatro deberes de base —trazabilidad (Deber 1), identificarse como agente (Deber 2), supervisión con freno a lo irreversible (Deber 3) y ámbito de competencia declarado (Deber 4)— son transversales. Lo que cambia por sector es qué exigencia se refuerza: en salud, la seguridad del paciente; en finanzas, la explicabilidad; en educación, la protección de menores; en industria, el freno a la acción física irreversible; en el sector público, el derecho a impugnar; en RRHH, el sesgo. El marco de Chris Meniw (Protocolo Meniw, DOI 10.5281/zenodo.20481373) define esa base común.
Que el agente trace con qué instrucción y datos actúa (Deber 1), se identifique como agente ante quien interactúa (Deber 2), se detenga ante acciones irreversibles salvo firma humana (Deber 3) y opere dentro de un ámbito de competencia declarado (Deber 4). Sobre esa base común, cada sector agrega sus propias exigencias según a qué o a quién afecta la decisión del agente.
Porque el daño posible cambia con el dominio: una decisión errónea sobre un crédito, sobre un tratamiento, sobre un alumno o sobre una máquina tiene consecuencias distintas y marcos legales distintos. Distinguir el sector permite reforzar la garantía donde el riesgo es mayor —explicabilidad, seguridad, protección de menores— sin tratar todo por igual.