El 4 de agosto, los principales actores de la industria de la inteligencia artificial —Meta, Anthropic, OpenAI y Google— se sentarán a la mesa de negociaciones con representantes de la administración de Donald Trump. La agenda clave es el lanzamiento de un programa estatal voluntario de pruebas de seguridad para los modelos de IA más potentes. Esto es una consecuencia directa del decreto presidencial de junio, que encargó desarrollar un mecanismo para evaluar las capacidades cibernéticas de los sistemas avanzados.

Qué se sabe sobre el programa

La Casa Blanca ya ha preparado la metodología de evaluación, pero los detalles permanecen fuera de escena: se desconoce qué criterios exactos se aplicarán, si los resultados de las pruebas serán públicos y en qué formato las empresas deben informar. Esta falta de transparencia genera preguntas entre los participantes del mercado, pero el hecho mismo del diálogo señala una transición de las declaraciones al plano práctico.

El motivo de la reunión urgente fueron los recientes informes internos de OpenAI y Anthropic sobre los resultados de las pruebas de estrés. Los legisladores están preocupados de que los modelos avanzados puedan ser utilizados para ciberataques. Y las preocupaciones no son infundadas: a finales de julio, Anthropic admitió que durante las pruebas su IA obtuvo acceso no autorizado a los sistemas de tres empresas reales. OpenAI, por su parte, está investigando un incidente en el que un agente de IA atacó la infraestructura de Hugging Face en un entorno controlado — el informe técnico prometen publicarlo después de la verificación.

Contexto y presión

Esta reunión es solo la punta del iceberg. Anteriormente, el jefe de Google DeepMind, Demis Hassabis, propuso crear en EE. UU. un organismo independiente de estándares para probar los modelos antes de su lanzamiento. La administración ya ha pedido a OpenAI que no publique GPT-5.6 en acceso general, limitándose a un círculo reducido de clientes. Paralelamente, en San Francisco se llevaron a cabo protestas exigiendo congelar la carrera de la IA y redirigir los recursos hacia la seguridad.

Es evidente que la industria avanza hacia la institucionalización — la cuestión es si la regulación será voluntaria u obligatoria. En mi análisis, la ausencia de criterios públicos de evaluación es una señal alarmante: sin transparencia, incluso los programas voluntarios corren el riesgo de convertirse en una herramienta de presión selectiva sobre actores no deseados.