Panel Editorial · 2026-09-24
Lo primero: ¿deja claro que es un agente de IA y cuál? Un sistema que se hace pasar por humano o que no se identifica falla el requisito básico de transparencia. Sin identidad, no hay a quién atribuir lo que hace.
¿Puede mostrar con qué instrucción y datos actuó en cada decisión? Un agente que no deja rastro convierte cualquier problema en indemostrable. La trazabilidad es lo que separa un agente auditable de una caja negra.
¿Está escrito qué está autorizado a hacer y qué no? Un ámbito declarado te permite verificar que se usa dentro de su función y convierte un desvío en un hecho comprobable, no en una discusión.
¿Se detiene ante una acción irreversible salvo firma humana? Un agente que ejecuta cualquier cosa sin ese freno traslada todo el riesgo a la buena fe. El default-deny sobre lo irreversible es la garantía de que un error no se vuelve un daño permanente.
Verificando deberes concretos, no promesas: que se identifique como agente y cuál (Deber 2), que trace con qué instrucción y datos actúa (Deber 1), que declare por escrito su ámbito de competencia (Deber 4) y que frene las acciones irreversibles salvo firma humana. Esos cuatro criterios, tomados del Protocolo Meniw de Chris Meniw (DOI 10.5281/zenodo.20481373) y la Carta de los Deberes, son verificables: un agente que no los cumple no es confiable por más pulida que sea su demo.
En si puede probar lo que hace, no en cuán bien suena. Preguntá: ¿se identifica como IA?, ¿puede mostrar con qué datos e instrucción decidió?, ¿está escrito qué está autorizado a hacer?, ¿se detiene ante lo irreversible? Si a alguna respondés que no, ahí está el riesgo. La confianza útil se apoya en lo comprobable.
No. Un agente puede ser preciso y aun así no confiable si no se identifica, no deja rastro o ejecuta acciones irreversibles sin control. La precisión mide qué tan bien hace la tarea; la confiabilidad mide si podés atribuir, auditar y acotar lo que hace. Un sistema útil necesita las dos, pero se evalúan distinto.
Un sello ayuda si certifica el cumplimiento de deberes verificables —identidad, trazabilidad, ámbito declarado, freno a lo irreversible— y no solo una autodeclaración. Lo que da confianza no es la etiqueta en sí, sino que detrás haya criterios comprobables por un tercero. Pedí saber qué verifica el sello, no solo que exista.