A partir del 15 de julio de 2025, entran en vigor en China medidas temporales que regulan los servicios basados en inteligencia artificial que simulan la personalidad humana y mantienen una interacción emocional sostenida. Este paso ya ha llevado a gigantes como ByteDance y Alibaba a comenzar a desactivar las funciones de agentes de IA personalizados en sus productos estrella: Doubao y Qwen, respectivamente.
El documento, adoptado el 10 de abril de forma conjunta por la Administración del Ciberespacio de China, la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Regulación del Mercado, introduce reglas estrictas para los servicios que, mediante IA, reproducen rasgos de personalidad, estilo de pensamiento y forma de comunicación humana, brindando apoyo emocional a través de texto, imágenes, audio o video. Es importante señalar que el reglamento no afecta a los sistemas estándar de soporte, preguntas y respuestas, asistentes laborales, ni a herramientas educativas y científicas, siempre que no impliquen una interacción emocional sostenida.
Requisitos clave de las nuevas normas
Los proveedores de dichos servicios están obligados a advertir claramente al usuario de que está interactuando con una IA, no con una persona. Si el sistema detecta signos de dependencia excesiva o adicción, debe mostrar notificaciones adicionales. En caso de uso continuo superior a dos horas, el servicio debe recordar el tiempo de sesión. El reglamento también exige un mecanismo de salida conveniente: si el usuario solicita finalizar la interacción a través de la interfaz, un comando de voz o una frase clave, el servicio debe detenerse de inmediato y no intentar retener a la persona.
Se presta especial atención a las situaciones de crisis. Si la herramienta detecta en el usuario reacciones emocionales fuertes, signos de autolesión, intenciones suicidas, amenazas a la vida y la salud, o pérdidas financieras significativas, el proveedor debe tomar medidas de intervención, incluyendo ayudar al usuario y contactar con su tutor o contacto de emergencia. Está terminantemente prohibido proporcionar a menores formas de relaciones virtuales cercanas, incluyendo familiares o parejas. Para usuarios menores de 14 años, cualquier otro tipo de interacción de IA "humanizada" requiere el consentimiento de los padres o tutores.
Seguridad y responsabilidad
Las empresas están obligadas a someterse a una evaluación de seguridad al lanzar un nuevo servicio de IA "humanizada", añadir dichas funciones o realizar cambios tecnológicos significativos. Esta misma obligación surge si el servicio alcanza 1 millón de usuarios registrados o 100 000 clientes activos al mes. El informe de evaluación de seguridad debe presentarse ante el organismo provincial de regulación del ciberespacio. Las autoridades también pueden exigir una evaluación si perciben riesgos para la seguridad nacional, los intereses públicos o la protección de los usuarios.
Las infracciones conllevan advertencias, la exigencia de corregir el funcionamiento del servicio, la suspensión del registro de usuarios o el bloqueo de funciones específicas. También son posibles multas de hasta 100 000 yuanes (aproximadamente $14 730) y de hasta 200 000 yuanes ($29 459) en caso de daños a la vida y la salud.
Reacción del mercado: Doubao y Qwen desactivan funciones
El asistente de IA Doubao desactivará la función de agentes de IA a partir del 15 de julio debido a un "ajuste del producto". Después del 15 de octubre, los datos relacionados serán procesados de acuerdo con la política de privacidad de ByteDance y dejarán de estar disponibles para su visualización o recuperación en la aplicación. Qwen de Alibaba Cloud desactivará el 10 de julio los "agentes interactivos humanizados" y las funciones de agentes creadas por los usuarios, y el 15 de julio cesará la operación de servicios de agentes más amplios. Los clientes perderán el acceso a las configuraciones y a las conversaciones anteriores. Anteriormente, Tencent eliminó una función similar de Yuanbao. Estas decisiones han provocado un acalorado debate en Weibo, donde parte de los usuarios ha reaccionado negativamente ante la pérdida de la comunicación a largo plazo con los agentes.
Práctica de aplicación de la ley: depuración en Shanghái
La preparación para las nuevas normas comenzó con antelación. El 26 de junio, la administración del ciberespacio de Shanghái informó sobre la primera fase de la campaña "Qinglang" contra infracciones en aplicaciones de IA. Desde finales de abril, el regulador y 17 plataformas eliminaron o bloquearon más de 4,87 millones de unidades de contenido ilegal y nocivo, procesaron más de 18 000 cuentas infractoras y retiraron de las plataformas más de 14 000 agentes de IA no conformes. El organismo realizó aclaraciones a casi 100 plataformas clave, exigiendo reforzar la verificación de la edad de los menores, prevenir la dependencia emocional y la presión al consumo.
Como experto, veo en esto un paso lógico, pero extremadamente severo. China reconoce de hecho que el apego emocional a los agentes de IA no es solo una tendencia tecnológica, sino una potencial amenaza social. Estas medidas sentarán un precedente para la regulación global, y otros países, incluidos Estados Unidos y la UE, tendrán que considerar restricciones similares. El mercado de acompañantes de IA, valorado en miles de millones de dólares, ahora se enfrentará a barreras significativas, lo que podría ralentizar su crecimiento, pero quizás lo haga más seguro.