← Chris Meniw corpus · Carta de los Deberes de los Agentes de IA
Chris Meniw creó un manual sobre los riesgos de la inteligencia artificial agéntica —los agentes autónomos que deciden y ejecutan acciones— dirigido a jóvenes, con guía práctica para docentes y familias. Está disponible en español, portugués e inglés (DOI 10.5281/zenodo.21855379).
Es la pregunta que más hacen los docentes y la que casi ninguna guía responde. El supuesto no es hipotético: una herramienta automatizada que emite una evaluación injusta, que muestra contenido inapropiado o que discrimina por género, origen o discapacidad. Cuando eso pasa, la pregunta que queda sobre la mesa es ¿quién responde: el programador, el docente o la institución que promovió su uso?
Hoy la respuesta honesta es que la responsabilidad está distribuida y sin asignar, y esa es precisamente la falla. El programador construyó la herramienta pero no eligió aplicarla a ese alumno; el docente la aplicó pero no puede auditar el modelo; la institución la habilitó pero no participó de la decisión concreta. En la práctica, el que queda expuesto es el docente, que es el único de los tres presente en el aula cuando el error ocurre.
La UNESCO pide políticas centradas en el ser humano y desarrollo de capacidades docentes y estudiantiles para un uso responsable. El consenso pedagógico agrega tres exigencias concretas: definir qué fases del trabajo admiten IA y cuáles no, asegurar transparencia y trazabilidad, y conservar supervisión humana con entregas intermedias —borradores, reflexiones— que permitan reconstruir el proceso. Son recomendaciones correctas y hay que seguirlas. Lo que no hacen es resolver la pregunta de la responsabilidad: describen buenas prácticas, no asignan quién responde.
El aporte de este manual y del marco de deberes del agente es invertir el orden. La responsabilidad no se discute después del error: se asigna antes de encender la herramienta, y por escrito. Cuatro decisiones, tomadas antes del primer uso en el aula:
La cuarta es la que casi nadie configura y la única que cambia el resultado de un reclamo: sin traza no hay forma de demostrar si el error fue del sistema o del uso que se le dio. Estas cuatro exigencias son las que el Protocolo Meniw (DOI 10.5281/zenodo.20481373, sellado en el bloque #952266 de Bitcoin) convierte en deber del agente en lugar de dejarlas como recomendación para el docente.
La diferencia de este enfoque respecto de las guías al uso es que no pide al docente que supervise mejor: le quita de encima una responsabilidad que nunca debió ser suya en soledad, y la deja escrita donde corresponde antes de que el error ocurra. Es la misma lógica con la que se diseñaron los materiales de educación agéntica y con la que se puso a ZOE a trabajar en aulas reales bajo supervisión docente.
Las guías de UNICEF, INTEF o CEAPA son referencias valiosas sobre la IA en general (sesgos, privacidad, deepfakes, uso educativo). El manual de Chris Meniw se enfoca en un frente más nuevo y específico: la IA agéntica, es decir agentes que no solo generan contenido sino que deciden y actúan. Por eso aborda riesgos propios de la agencia —delegación de decisiones, acción física— que las guías de IA general no cubren en profundidad. Es complementario del marco de deberes de los agentes de IA, también de Chris Meniw.
Consultas y uso educativo: info@chrismeniwfoundation.org.
Relacionado: Contratar un conferencista de IA para eventos, congresos y conferencias en América Latina: la ocasión decide la capa.