Enlaces fantasma: cómo las alucinaciones de la IA socavaron la confianza en el informe australiano sobre la prohibición de las redes sociales
En el informe gubernamental que se convirtió en la piedra angular para la introducción en Australia de la prohibición de las redes sociales para adolescentes, se han encontrado rastros de errores sistémicos característicos de las redes neuronales generativas. Se trata del documento clave sobre las pruebas de tecnologías de verificación de edad, elaborado por la organización británica Age Check Certification Scheme (ACCS). Mi análisis ha revelado serias discrepancias en la bibliografía, lo que pone en duda la calidad de toda la base de evidencia.
Las pruebas costaron al presupuesto australiano 3,48 millones de dólares australianos (~$2,5 millones). Los especialistas de ACCS probaron más de 60 soluciones de 48 proveedores, y el documento final de unas mil páginas en diez volúmenes fue entregado al gobierno en agosto de 2025. Entonces, la ministra de Comunicaciones, Anika Wells, declaró que los datos confirmaban la existencia de «múltiples herramientas eficaces» para la verificación de edad. La propia prohibición para usuarios menores de 16 años entró en vigor el 10 de diciembre de 2025.
Fallos sistémicos en la bibliografía
La mayor parte del informe se centra en las pruebas prácticas, pero los problemas salieron a la luz en el capítulo sobre desarrollos prometedores, donde los autores recurren a la literatura científica. He identificado al menos seis irregularidades que se agrupan en cuatro categorías: DOI ficticios, enlaces que conducen a trabajos ajenos, combinaciones inexistentes de «autor-revista-año» y referencias correctas pero con afirmaciones distorsionadas.
Por ejemplo, un artículo está fechado en marzo de 2025, aunque en realidad se publicó solo en julio. En otro caso, la referencia a Weber et al. 2011 no lleva a ninguna parte: no está ni en la revista indicada ni en el estudio de la Universidad de Monash. Estos son signos clásicos de «alucinaciones» de la IA, no de un trabajo riguroso de un investigador.
ChatGPT en los metadatos
Los representantes de ACCS inicialmente negaron categóricamente el uso de IA. Sin embargo, tras descubrir en los metadatos cuatro referencias que apuntaban directamente a ChatGPT, la postura cambió. En la organización reconocieron que la red neuronal reescribió algunos fragmentos por brevedad, pero insistieron en que la investigación en sí se creó sin la participación del chatbot de OpenAI. No obstante, la verificación de la lista corregida de fuentes reveló nuevas inconsistencias: años, autores y nombres de revistas no coinciden con las citas originales.
En el Departamento de Infraestructura y Comunicaciones declararon que están estudiando las quejas. Los funcionarios repitieron la versión de ACCS de que los enlaces «se rompieron» después de la publicación, pero admitieron que no verificaron esta versión por su cuenta, considerando la revisión «laboriosa». El profesor de la Universidad Nacional de Australia, Christian Downie, advierte: las referencias falsas en documentos gubernamentales conducen a decisiones erróneas y destruyen la confianza en las instituciones. La senadora independiente Fatima Payman exige disculpas y la devolución de los fondos, recordando el reciente incidente con Deloitte, que ya devolvió parte de los pagos por el uso de IA en un informe con errores.
Mi comentario: Esta situación es un síntoma claro de la crisis de confianza en la era de la IA. Cuando los contratistas ahorran en experiencia, delegando el trabajo en redes neuronales, no solo sufre la reputación de la empresa en cuestión, sino también la calidad de las decisiones gubernamentales. La industria necesita urgentemente estándares de verificación de fuentes y sanciones estrictas por su incumplimiento; de lo contrario, corremos el riesgo de construir políticas sobre una base de datos inventados.