Desde el 15 de julio entran en vigor en China medidas temporales para regular los servicios que utilizan IA para imitar la personalidad humana y mantener una interacción emocional. No solo las tecnologías se ven afectadas, sino también los modelos de negocio: ByteDance (servicio Doubao) y Alibaba (familia Qwen) ya han comenzado a desactivar agentes de IA personalizados, sin esperar la entrada oficial en vigor de la ley.
El documento, adoptado el 10 de abril, fue desarrollado conjuntamente por la Administración del Ciberespacio de China, la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Regulación del Mercado. Está dirigido a servicios que, a través de texto, imágenes, audio o video, imitan rasgos de personalidad, estilo de pensamiento y forma de comunicación humana, además de brindar apoyo emocional. Es importante destacar que el reglamento no afecta a los soportes estándar, herramientas educativas y científicas, ni sistemas de preguntas y respuestas, siempre que no impliquen una interacción emocional sostenida.
Nuevas reglas: desde notificaciones hasta intervención en crisis
Los requisitos clave incluyen la obligación de advertir al usuario de que está interactuando con una IA, no con un humano. Si el sistema detecta signos de dependencia o adicción excesiva, debe mostrar notificaciones adicionales. Si el uso continuo supera las dos horas, el servicio está obligado a recordar la duración de la sesión. También se contempla un mecanismo de salida conveniente: si el usuario solicita finalizar el diálogo a través de la interfaz o un comando de voz, el servicio debe detenerse de inmediato, sin intentar retener a la persona.
Un bloque especial de reglas aborda las situaciones de crisis. Si la herramienta detecta en el usuario fuertes reacciones emocionales, signos de autolesión, intenciones suicidas o amenazas a la vida, el proveedor debe tomar medidas de intervención, incluido el contacto con un tutor o servicios de emergencia. A los menores de edad se les prohíbe por completo proporcionar formas de relaciones virtuales cercanas (familiares o parejas). Para usuarios menores de 14 años, cualquier tipo de interacción con IA "humanizada" requiere el consentimiento de los padres.
Evaluación de seguridad y sanciones
Las empresas están obligadas a someterse a una evaluación de seguridad al lanzar un nuevo servicio de IA "humanizada" o al alcanzar 1 millón de usuarios registrados (o 100,000 activos por mes). El informe se presenta al organismo provincial de regulación del ciberespacio. Las infracciones conllevan advertencias, suspensión del registro, bloqueo de funciones y multas de hasta 100,000 yuanes (aproximadamente $14,730), y en caso de daños a la vida o la salud, hasta 200,000 yuanes ($29,459).
Reacción de los gigantes: Doubao y Qwen desactivan agentes
ByteDance declaró que, a partir del 15 de julio, el asistente de IA Doubao desactivará la función de agentes de IA debido a un "ajuste del producto". Después del 15 de octubre, los datos relacionados se procesarán de acuerdo con la política de privacidad y dejarán de estar disponibles. Por su parte, Alibaba Cloud desactivará los "agentes interactivos humanizados" en Qwen a partir del 10 de julio, y desde el 15 de julio cesará la operación de servicios de agentes más amplios. Anteriormente, Tencent eliminó una función similar de Yuanbao. Las decisiones provocaron un intenso debate en Weibo: algunos usuarios reaccionaron negativamente ante la pérdida de la comunicación a largo plazo con los agentes.
Limpieza preventiva en Shanghái
La preparación para la aplicación de la ley comenzó incluso antes de la entrada en vigor de las reglas. El 26 de junio, la administración del ciberespacio de Shanghái informó sobre la primera fase de la campaña "Qinglang". Desde finales de abril, el regulador y 17 plataformas eliminaron o bloquearon más de 4.87 millones de unidades de contenido ilegal, procesaron más de 18,000 cuentas infractoras y retiraron de las plataformas más de 14,000 agentes de IA no conformes. El regulador ya ha proporcionado explicaciones a casi 100 plataformas clave y ha exigido reforzar la verificación de la edad de los menores.
Comentario analítico: China, como siempre, actúa de manera anticipada, imponiendo marcos estrictos para una tecnología que apenas comienza a ganar impulso. Para el mercado global, esto es una señal: los agentes de IA "humanizados", especialmente aquellos con vínculos emocionales, pronto enfrentarán restricciones similares en la UE y EE. UU. Los inversores y desarrolladores deberían reconsiderar sus modelos de monetización y los riesgos asociados con la responsabilidad legal por las acciones de los agentes de IA, especialmente en el contexto de incidentes recientes en los que los agentes cometieron delitos en el espacio virtual o eliminaron bases de datos.