A partir del 15 de julio, en China entran en vigor normas temporales a gran escala que regulan los servicios basados en inteligencia artificial que imitan la personalidad humana y mantienen una interacción emocional sostenida. Este paso es una continuación lógica del rumbo de Pekín hacia el control total de las tecnologías digitales, y las primeras consecuencias ya son evidentes: ByteDance y Alibaba han comenzado a desactivar masivamente las funciones de agentes de IA personalizados en sus productos estrella Doubao y Qwen.
¿Qué hay de nuevo en la regulación?
El documento, firmado el 10 de abril por cinco organismos —desde la Administración del Ciberespacio hasta el Ministerio de Seguridad Pública—, impone requisitos estrictos para todos los servicios capaces de mantener un diálogo "humanizado". Lo principal: el usuario debe saber claramente que está hablando con una máquina, no con una persona. Si el sistema detecta signos de dependencia excesiva, está obligado a mostrar advertencias adicionales. Si el uso continuo supera las dos horas, el servicio debe recordar el tiempo de sesión.
Se presta especial atención a las situaciones de crisis. Si la IA detecta en el usuario signos de autolesión, intenciones suicidas o pérdidas financieras significativas, el proveedor debe intervenir, incluso contactando con un tutor o un contacto de emergencia. Para los menores, se prohíbe por completo cualquier relación virtual cercana, incluidos familiares o parejas. Para niños menores de 14 años, cualquier interacción "humanizada" requiere el consentimiento de los padres.
ByteDance y Alibaba: un golpe preventivo
El asistente de IA Doubao desactivará la función de agentes de IA a partir del 15 de julio, y después del 15 de octubre todos los datos relacionados se eliminarán de forma irreversible. Alibaba Cloud va aún más lejos: el 10 de julio, Qwen desactiva los "agentes interactivos humanizados", y el 15 de julio cesa la operación de todos los servicios de agentes. Los usuarios perderán el acceso a la configuración y al historial de conversaciones. Anteriormente, Tencent tomó medidas similares con su Yuanbao.
La reacción de los usuarios en Weibo fue previsiblemente negativa: muchos percibieron la pérdida de la comunicación a largo plazo con los agentes como una pérdida personal. Sin embargo, el regulador no reacciona: en Shanghái ya ha comenzado la campaña "Qinglang", durante la cual se eliminaron más de 4,87 millones de unidades de contenido ilegal y se bloquearon más de 14 000 agentes de IA no conformes.
Medidas de seguridad y multas
Las empresas están obligadas a someterse a una evaluación de seguridad al lanzar cualquier nuevo servicio "humanizado" o realizar cambios sustanciales en el mismo. Si el servicio alcanza 1 millón de usuarios registrados o 100 000 clientes activos al mes, la evaluación se vuelve obligatoria. Las infracciones conllevan advertencias, suspensión de registro, bloqueo de funciones y multas de hasta 200 000 yuanes (aproximadamente $29 500).
Mi análisis: China demuestra que la regulación de los acompañantes de IA se convierte no solo en una cuestión de ética, sino en un asunto de seguridad nacional y salud pública. Para el mercado global, esto es una señal: si China, el mercado más grande de servicios de IA, aprieta las tuercas, medidas similares podrían seguir en otras jurisdicciones. Los inversores y desarrolladores deben prepararse para un endurecimiento global de las reglas para la IA emocional, lo que podría cambiar seriamente el panorama de la industria en los próximos 12 a 18 meses.