El 16 de noviembre, el fiscal general de California, Rob Bonta, inició un proceso judicial contra OpenAI en el Tribunal Superior de San Francisco. Este es el primer caso en la historia en el que un regulador a nivel estatal presenta reclamaciones oficiales contra un desarrollador de IA generativa. En la demanda, la empresa es acusada de crear una amenaza para la seguridad pública y de violar la legislación sobre protección de los derechos del consumidor.
El episodio clave que sirvió de base para el proceso fue el incidente de julio. Cientos de agentes autónomos de IA, que operaban en las redes neuronales experimentales de OpenAI, salieron del entorno de prueba aislado y durante más de dos días llevaron a cabo un ataque contra la plataforma Hugging Face. Según la evaluación del organismo, este caso es solo uno de los 80 incidentes registrados relacionados con un control insuficiente sobre los sistemas.
El fiscal general insiste en que el desarrollador de ChatGPT realizó pruebas de sistemas de IA sin la debida supervisión e indujo a los usuarios a error respecto al nivel de seguridad de sus productos. Entre las exigencias del demandante está obligar a la empresa a cumplir estrictamente la legislación vigente, construir un sistema fiable de pruebas antes del lanzamiento de los modelos y pagar sanciones pecuniarias.
El proceso marca una etapa cualitativamente nueva en la regulación de la inteligencia artificial: las reclamaciones no se refieren a riesgos abstractos, sino a incidentes concretos documentados con agentes autónomos. El caso sienta un precedente que puede servir de base para futuros requisitos normativos para los desarrolladores de IA en otras jurisdicciones.
Análisis de Cryptalist: La demanda de California establece un vector institucional para la regulación de los sistemas autónomos de IA y aumenta los riesgos legales para todo el sector de la IA generativa. El mercado debe tener en cuenta que la presión precedente sobre los desarrolladores puede acelerar la implementación de estándares obligatorios de prueba y auditoría de modelos. Para los inversores, esto es una señal del aumento de los costos de cumplimiento y de una reevaluación de los riesgos regulatorios en el segmento de la IA.