El documento clave que las autoridades australianas utilizaron como justificación para prohibir las redes sociales a los adolescentes resultó estar plagado de rastros de inteligencia artificial. Se trata del informe de la organización británica Age Check Certification Scheme (ACCS), dedicado a probar tecnologías de verificación de edad. Como resultado de la verificación, descubrí que el documento contiene referencias a publicaciones científicas inexistentes, un signo clásico de las «alucinaciones» de las redes neuronales.

Las pruebas costaron 3,48 millones de dólares australianos (~2,5 millones de USD). Los especialistas de ACCS probaron más de 60 soluciones de 48 proveedores y en agosto de 2025 entregaron al gobierno un informe final de unas mil páginas en diez volúmenes. La ministra de Comunicaciones, Anika Wells, declaró entonces que los datos confirmaban la existencia de «múltiples herramientas eficaces» para la verificación de edad. La propia prohibición para usuarios menores de 16 años entró en vigor el 10 de diciembre de 2025.

Errores sistemáticos en el capítulo científico

La mayor parte del informe está dedicada a las pruebas prácticas de las soluciones existentes, y ahí no hay problemas. Sin embargo, en el capítulo sobre desarrollos prometedores, donde los autores recurren a la literatura científica, salieron a la luz graves inconsistencias. Conté seis irregularidades que se agrupan en cuatro categorías: DOI ficticios, DOI que conducen a trabajos ajenos, combinaciones «autor-revista-año» no confirmadas por ninguna publicación, y referencias correctas pero sin las afirmaciones que el informe les atribuye.

Por ejemplo, ACCS fechó un artículo en marzo de 2025, aunque en realidad se publicó solo en julio. En otro caso, la referencia a Weber et al. 2011 no conducía a ningún sitio: no se encontró ni en la revista indicada ni en el estudio de la Universidad de Monash al que remitían los autores.

ChatGPT en los metadatos

Los representantes de ACCS inicialmente negaron categóricamente el uso de IA, afirmando que cada referencia había sido verificada minuciosamente. Sin embargo, tras descubrirse en algunas partes del informe cuatro referencias con metadatos que apuntaban directamente a ChatGPT, la postura tuvo que suavizarse. En ACCS reconocieron que la red neuronal reescribió fragmentos individuales por brevedad, pero insistieron en que la investigación en sí y el texto final se crearon sin la participación del chatbot de OpenAI.

Es notable que la verificación de la lista corregida de fuentes, que ACCS entregó adicionalmente, reveló nuevas inconsistencias: años, autores y nombres de revistas no coincidían con las citas originales del informe.

¿«Un puñado de errores» o un problema sistémico?

En el Departamento de Infraestructura y Comunicaciones declararon que están estudiando las reclamaciones. En las audiencias del Senado, los funcionarios transmitieron la versión de ACCS: los enlaces funcionaban en el momento de la publicación y se «rompieron» después. La primera asistente del secretario, Sarah Vandenbroek, admitió que el departamento no verificó esta versión de forma independiente, considerando la verificación «laboriosa». Al mismo tiempo, en el departamento subrayaron que se trata solo de «un puñado de errores» en 26 páginas con bibliografía.

El profesor de la Universidad Nacional de Australia, Christian Downie, advirtió que las referencias falsas en documentos gubernamentales conducen a decisiones erróneas y destruyen la confianza en las instituciones. La senadora independiente Fatima Payman exigió disculpas oficiales y la devolución de fondos por parte del contratista, recordando el reciente incidente con Deloitte, que en octubre de 2025 devolvió parte de los pagos de un contrato de 440 000 dólares australianos por el uso de IA en un informe con errores.

Mi análisis: Esta situación es una señal de alerta para toda la industria. Cuando las decisiones gubernamentales que afectan a millones de ciudadanos se basan en datos que no han pasado una verificación básica de fiabilidad, no observamos simplemente negligencia, sino un fallo sistémico en la gestión. La exigencia de la senadora Payman de devolver los fondos es una medida mínima. Es fundamental establecer en los contratos con los proveedores la responsabilidad legal por el uso de IA y la validación obligatoria de cada fuente. De lo contrario, las «alucinaciones» de las redes neuronales podrían sustentar no solo informes, sino también leyes.