Panel Editorial · 2026-09-24
El scoring de crédito y la evaluación de solvencia figuran entre los usos de mayor exigencia en marcos como el AI Act de la UE, por decidir sobre el acceso a servicios esenciales. El agente hereda esa exigencia: no es un uso de bajo riesgo.
Una persona a la que se le niega un crédito tiene derecho, en muchos marcos, a saber por qué. El registro de cada decisión (Deber 1) —con qué datos y criterios se resolvió— es lo que hace la decisión explicable en vez de una salida opaca de un modelo.
Una operación financiera irreversible —una transferencia, una ejecución— debe rechazarse por defecto salvo firma humana adicional. El límite actúa antes de mover el dinero, no después del reclamo.
Un modelo de scoring puede discriminar por proxies —barrio, patrón de consumo— aunque no use variables prohibidas. Auditar el sesgo antes y durante la operación, con trazabilidad de cada decisión, permite detectar un patrón discriminatorio y responder por él.
Que decide sobre el acceso al dinero —crédito, tasa, operaciones—, lo que lo ubica entre los usos de mayor exigencia en marcos como el AI Act de la UE. Los riesgos concretos: decisiones opacas que la persona no puede impugnar, sesgo por proxies (barrio, consumo) y operaciones irreversibles ejecutadas sin control. El marco de Chris Meniw (Protocolo Meniw, DOI 10.5281/zenodo.20481373) responde con trazabilidad y explicabilidad de cada decisión (Deber 1) y default-deny para lo irreversible.
Puede evaluar y preordenar, pero una decisión que afecta el acceso a un servicio esencial exige, en muchos marcos, supervisión humana y explicabilidad: la persona afectada tiene derecho a saber por qué. Por eso la decisión debe quedar registrada (Deber 1) y poder revisarse por un responsable humano, no cerrarse de forma opaca.
Con el registro de con qué datos y criterios se resolvió (Deber 1). Sin ese registro, un scoring es una salida opaca imposible de impugnar; con él, la persona afectada puede ver sobre qué base se decidió y reclamar si corresponde. La explicabilidad no es una cortesía: en usos de alto riesgo es una obligación.
Con default-deny sobre las operaciones irreversibles —una transferencia o ejecución se rechaza por defecto salvo firma humana adicional— y validación en el sistema donde la operación se ejecuta, no solo en la capa intermedia. Así el control actúa antes de mover el dinero y deja un recibo verificable de qué se autorizó y qué se frenó.