Mi análisis detallado de la documentación que sustenta la prohibición australiana de las redes sociales para menores ha revelado un problema sistémico que pone en duda la calidad de las decisiones gubernamentales basadas en informes "expertos". Se trata de un informe de mil páginas elaborado por la organización británica Age Check Certification Scheme (ACCS) por 3,48 millones de dólares australianos (~2,5 millones de USD). Este documento se convirtió en la justificación formal de la ley que entró en vigor el 10 de diciembre de 2025 y que restringe el acceso a las plataformas para usuarios menores de 16 años.
Seis "alucinaciones" en el capítulo científico
La mayor parte del informe se centra en pruebas prácticas de más de 60 soluciones de 48 proveedores. Sin embargo, fue la sección secundaria, donde los autores recurren a la literatura científica para describir desarrollos prometedores, la que resultó ser un "campo minado". Al verificar, identifiqué al menos seis irregularidades que se agrupan en cuatro categorías claras: DOI ficticios, enlaces que conducen a trabajos no relacionados, combinaciones inexistentes de "autor-revista-año" y referencias correctas a las que se atribuyen afirmaciones inexistentes.
Por ejemplo, uno de los artículos citados está fechado en marzo de 2025, aunque en realidad se publicó solo en julio. En otro caso, la referencia al trabajo de Weber et al. 2011 no conduce a ninguna parte: no aparece ni en la revista indicada ni en los materiales de la Universidad de Monash a los que se refieren los autores. Estos no son simples errores tipográficos, sino signos clásicos de IA generativa que "inventa" fuentes.
ChatGPT en los metadatos: negación y reconocimiento
Inicialmente, los representantes de ACCS negaron categóricamente el uso de redes neuronales, afirmando que cada referencia había sido verificada manualmente. Sin embargo, tras detectar rastros directos de ChatGPT en los metadatos de cuatro fragmentos del informe, la postura cambió. En ACCS reconocieron que la IA se utilizó para "resumir" partes específicas del texto, pero insistieron en que la investigación en sí y las formulaciones finales se crearon sin la participación del chatbot de OpenAI. Además, declararon que los metadatos de ChatGPT por sí mismos constituyen un "aviso suficiente" del uso de IA. Esta es, cuando menos, una afirmación discutible que no resiste el escrutinio desde la perspectiva de la transparencia académica y gubernamental.
¿Un "puñado de errores" o un fallo sistémico?
El Departamento de Infraestructura y Comunicaciones de Australia admitió que no verificó la versión del contratista sobre los enlaces "rotos", calificando dicha verificación de "laboriosa". Los funcionarios intentan atribuirlo todo a un "puñado de errores" en 26 páginas de bibliografía, pero esto es un precedente peligroso. El profesor Christian Downie de la Universidad Nacional de Australia tiene toda la razón: las referencias falsas en documentos gubernamentales conducen a decisiones erróneas y destruyen la confianza en las instituciones. La exigencia de la senadora independiente Fatima Payman de devolver los fondos y ofrecer disculpas oficiales parece más que justificada, especialmente a raíz del reciente escándalo de Deloitte, que ya devolvió parte de los pagos por un informe con errores de IA.
Mi conclusión: Este incidente no es solo una historia sobre contratistas descuidados. Es una señal de que los gobiernos de todo el mundo deben implementar de inmediato estándares estrictos de verificación de fuentes y sanciones contractuales por el uso de IA sin divulgación. De lo contrario, corremos el riesgo de construir políticas digitales sobre una base de "alucinaciones" de redes neuronales, en lugar de datos reales.