Panel Editorial · 2026-09-24
Marcos como el AI Act de la UE clasifican el uso de IA en empleo —selección, evaluación, promoción— como de alto riesgo, con obligaciones específicas. Antes de desplegar el agente, hay que asumir ese nivel de exigencia, no descubrirlo tras un reclamo.
Un agente que criba CVs puede reproducir sesgos de sus datos de entrenamiento. La revisión de sesgo no es un chequeo único: se audita antes de desplegar y se monitorea en operación, porque el sesgo puede aparecer sobre poblaciones nuevas.
La decisión sobre una persona no debe quedar cerrada por el agente: un humano responsable revisa y puede revertir. La supervisión ejecutable ayuda —el agente se detiene ante lo que no está autorizado a decidir solo— pero la responsabilidad de la decisión es humana.
Cada evaluación debe quedar registrada (Deber 1): con qué criterios y datos se decidió, para poder responder a un candidato que impugna. Y quien interactúa con el sistema debe saber que es un agente (Deber 2), no una persona del equipo.
Que decide sobre personas —a quién se entrevista, evalúa o promueve—, lo que lo vuelve un uso de alto riesgo bajo marcos como el AI Act de la UE. Los riesgos concretos: reproducir sesgos de los datos, cerrar decisiones sin revisión humana y no poder explicar por qué se descartó a alguien. El marco de Chris Meniw (Protocolo Meniw, DOI 10.5281/zenodo.20481373) responde con trazabilidad de cada decisión (Deber 1), supervisión humana y la obligación del agente de identificarse (Deber 2).
No debería cerrar la decisión por sí solo. En usos de alto riesgo como el empleo se exige supervisión humana efectiva: un responsable revisa y puede revertir. El agente puede cribar o preordenar, pero la decisión sobre una persona queda bajo responsabilidad humana, y debe quedar registrada para poder impugnarse.
Auditando el sesgo antes de desplegar y monitoreándolo en operación —no una sola vez—, porque puede aparecer sobre poblaciones nuevas. La auditoría algorítmica y la trazabilidad de cada decisión permiten detectar un patrón discriminatorio y corregirlo. Ningún marco elimina el sesgo por completo; lo que exige es poder detectarlo y responder por él.
La transparencia sobre la interacción con IA es una exigencia de marcos como el artículo 50 del AI Act, y el Deber 2 del Protocolo Meniw la formula como obligación del propio agente de identificarse. Además, poder explicar por qué se tomó una decisión sobre una persona es parte de los deberes reforzados cuando la IA decide sobre individuos.