El documento clave sobre el que el gobierno australiano basó su justificación para prohibir las redes sociales a los adolescentes resultó estar plagado de referencias a trabajos científicos inexistentes. Mi análisis destapó un problema sistémico: el informe, elaborado por la organización británica Age Check Certification Scheme (ACCS) por 3,48 millones de dólares australianos (~2,5 millones de USD), contiene al menos seis infracciones graves en la bibliografía, desde DOI ficticios hasta artículos con fechas retroactivas.

Las pruebas abarcaron más de 60 soluciones de 48 proveedores, y el documento final, de unas mil páginas en diez volúmenes, se entregó al gobierno en agosto de 2025. La ministra de Comunicaciones, Anika Wells, declaró entonces que los datos confirmaban la existencia de «múltiples herramientas eficaces» para la verificación de edad. La propia prohibición para usuarios menores de 16 años entró en vigor el 10 de diciembre de 2025, y ahora su legitimidad pende de un hilo.

Seis referencias que desmoronan la argumentación

Los problemas se concentran en el capítulo sobre desarrollos prometedores, donde los autores recurren a la literatura científica. El primero en señalar las inconsistencias fue el autor de una solicitud al comité del Senado que examina las enmiendas para endurecer la prohibición. Mi verificación identificó cuatro categorías de errores: DOI ficticios, referencias a trabajos ajenos, combinaciones inexistentes de «autor-revista-año» y referencias correctas pero con afirmaciones distorsionadas.

Por ejemplo, un artículo está fechado en marzo de 2025, aunque en realidad se publicó en julio. Otra referencia a Weber et al. 2011 no lleva a ninguna parte: no aparece ni en la revista indicada ni en el estudio de la Universidad de Monash. No son erratas casuales, sino un rastro sistémico de modelos generativos.

ChatGPT en los metadatos: negación y reconocimiento

Los representantes de ACCS primero negaron categóricamente el uso de IA, afirmando que cada referencia se había verificado manualmente. Sin embargo, tras detectarse en los metadatos de cuatro referencias indicaciones directas de ChatGPT, la postura tuvo que suavizarse. La organización admitió que la red neuronal reescribió fragmentos concretos por brevedad, pero insistió en que la investigación y el texto final se crearon sin la participación del chatbot.

Además, en ACCS declararon que los metadatos de ChatGPT por sí mismos constituyen una notificación suficiente del uso de IA. Este es un precedente peligroso: si un marcador en el archivo se considera divulgación, la verificación de fiabilidad se convierte en una formalidad. La lista corregida de fuentes, entregada a la publicación, reveló nuevas discrepancias en años, autores y nombres de revistas.

¿«Un puñado de errores» o crisis de confianza?

En el Departamento de Infraestructura y Comunicaciones declararon que están estudiando las reclamaciones, y los funcionarios en las audiencias del Senado repitieron la versión de ACCS: las referencias supuestamente se «rompieron» tras la publicación. La primera asistente del secretario, Sarah Vandenbroek, reconoció que el departamento no había verificado esa versión, considerando la comprobación «laboriosa». En el departamento insisten en que se trata de «un puñado de errores» en 26 páginas de bibliografía.

El profesor Christian Downie, de la Universidad Nacional de Australia, advierte: las referencias falsas conducen a decisiones erróneas y destruyen la confianza en las instituciones. La senadora independiente Fatima Payman exige disculpas y la devolución de los fondos, recordando el precedente de Deloitte, que en octubre de 2025 devolvió parte de los pagos por un informe con errores de IA.

Mi veredicto: este caso no es solo un fallo técnico, sino un síntoma de una era en la que la velocidad de generación de contenido supera la responsabilidad por su veracidad. Si los gobiernos toman decisiones regulatorias basadas en documentos «alucinados», corremos el riesgo de tener leyes construidas sobre arena. Los contratos con proveedores deben incluir sanciones estrictas por el uso de IA sin verificación; de lo contrario, la confianza en las instituciones se erosionará con cada informe de este tipo.