Informe educativo canadiense que promovía el uso ético de la IA contiene al menos 15 fuentes ficticias

Un reciente informe sobre reforma educativa para la provincia canadiense de Newfoundland and Labrador, titulado “A Vision for the Future: Transforming and Modernizing Education”, ha generado polémica al descubrirse que incluye al menos 15 citas inventadas que académicos no han logrado encontrar en bases de datos, bibliotecas ni en búsquedas en línea.

Contexto del informe

El documento tiene 418 páginas y fue presentado el 28 de agosto de 2025, luego de un proceso de 18 meses de elaboración. Fue elaborado por comités dirigidos por dos profesoras de la Facultad de Educación de la Universidad Memorial: Anne Burke y Karen Goodnough, junto con el ministro provincial de Educación, Bernard Davis. Sus recomendaciones incluyen, entre otros temas, que se inculque a estudiantes y docentes conocimientos esenciales sobre ética de la IA, privacidad de datos y uso responsable de tecnologías.

Qué se ha descubierto

Varias de las citas problemáticas hacen referencia a trabajos, películas o publicaciones que no existen. Por ejemplo, el informe cita una película del año 2008 del National Film Board llamada “Schoolyard Games”, pero esa obra no existe según el propio organismo cinematográfico consultado. Esa misma cita aparecía en la guía de estilo de la Universidad de Victoria como un ejemplo ficticio para ilustrar formato de referencias. Esa guía explícitamente aclara que muchas de sus citas son inventadas como ejemplos. El informe habría copiado ese ejemplo sin notar que era ficticio. Un profesor asistente de la Universidad Memorial, Aaron Tucker, afirmó no haber hallado muchas de las fuentes citadas incluso después de revisar el catálogo de la universidad, otras bases académicas y Google. Él cuestiona la posibilidad de que estas fabricaciones provengan de un modelo de lenguaje. Expertos en IA han señalado que la generación de citas falsas (a veces llamada “confabulación” o “alucinación”) es un riesgo conocido cuando se usan modelos de lenguaje generativos: estos modelos priorizan producir resultados plausibles, no necesariamente correctos.

Para algunos críticos, la presencia de fuentes falsas en un documento que promueve “uso ético de la IA” genera una ironía notable: el informe que exhorta al cuidado ético en el uso de tecnologías cae en una falla ética importante.

Reacciones y consecuencias

Karen Goodnough, una de las coautoras, respondió que “se están investigando y comprobando las referencias” y que por ello no podía comentar al momento. El Departamento de Educación y Desarrollo Infantil de la provincia reconoció la existencia de “un pequeño número de posibles errores en las citas” y declaró que el informe en línea será actualizado para corregirlos. Josh Lepawsky, ex presidente de la asociación de profesores de la universidad, renunció a participar en el comité asesor del informe alegando que el proceso era “profundamente defectuoso”. Críticos señalan que las citas fabricadas socavan la credibilidad del documento y del proceso que lo generó. Algunos sostienen que no basta con “corregir errores”: el hecho de que hayan pasado desapercibidas indica fallas graves en controles de calidad.

Importancia y lecciones

Este episodio es ilustrativo de riesgos reales al incorporar modelos de lenguaje en tareas académicas o de política pública:

Validar referencias se vuelve fundamental cuando se usan herramientas automatizadas que pueden “inventar” citas que aparentan coherencia formal. La ironía del caso enfatiza que promover “ética de la IA” no está exento del riesgo de caer en malas prácticas asociadas a la propia tecnología.

Documentos de política pública, especialmente en educación, requieren controles rigurosos de revisión humana, verificación bibliográfica y escrutinio crítico para evitar la difusión de errores u engaños disfrazados de autoridad.

1 comment