China se prepara para un endurecimiento radical de la regulación en el ámbito de la inteligencia artificial. A partir del 15 de julio entran en vigor medidas temporales desarrolladas por cinco organismos clave, incluida la Administración del Ciberespacio y el Ministerio de Industria. El nuevo reglamento está dirigido a servicios que, mediante IA, imitan la personalidad humana, el estilo de pensamiento y mantienen una interacción emocional sostenida. Es una señal directa al mercado: la era de los «amigos virtuales» y «parejas digitales» sin control está llegando a su fin.
¿Qué cambia exactamente?
Las reglas definen claramente que solo quedan sujetas a regulación aquellos sistemas que crean la ilusión de comunicación viva, incluyendo interfaces de texto, voz y video. Las herramientas para trabajo, educación o soporte técnico que no impliquen un vínculo emocional quedan fuera del alcance. Requisitos clave: notificación obligatoria al usuario de que está interactuando con IA, no con una persona; bloqueo de sesiones de más de dos horas con un recordatorio del tiempo; y, lo que es especialmente importante, un mecanismo sencillo de salida: el servicio no tiene derecho a retener al usuario.
Protección de menores e intervención en crisis
Un bloque aparte, y en mi opinión el más significativo, se refiere a los menores. Se les prohíbe por completo proporcionar funciones de «seres queridos virtuales» —familiares o parejas. Para niños menores de 14 años, cualquier interacción con una IA humanizada requiere el consentimiento de los padres. Además, el sistema está obligado a detectar indicios de intenciones suicidas, autolesiones o reacciones emocionales fuertes e intervenir de inmediato, contactando al tutor o a los servicios de emergencia. Esto no es solo regulación, sino un intento de controlar el impacto psicológico de la tecnología.
Reacción de los gigantes: ByteDance y Alibaba eliminan funciones
Los actores más grandes ya han comenzado a adaptarse. El asistente de IA Doubao de ByteDance, a partir del 15 de julio, desactiva la función de agentes de IA personalizados, y todos los datos, incluido el historial de conversaciones, se eliminarán de forma irreversible antes del 15 de octubre. Alibaba Cloud, por su parte, cesa la operación de «agentes interactivos humanizados» en Qwen a partir del 10 de julio, y para el 15 de julio cerrará por completo todo el servicio de agentes. Tencent también ha retirado una función similar de Yuanbao. La reacción de los usuarios en redes sociales, como era de esperar, es negativa: muchos perciben la pérdida de «relaciones virtuales» a largo plazo como una pérdida personal.
Aplicación de la ley y multas
La preparación para la aplicación de la ley comenzó con antelación. En Shanghái, en el marco de la campaña «Qinglang», ya se han eliminado más de 4,87 millones de unidades de contenido ilegal y se han retirado más de 14 000 agentes de IA no conformes. Por la violación de las nuevas reglas se prevén advertencias, bloqueo de funciones, suspensión del registro de usuarios, así como multas: hasta 100 000 yuanes (aproximadamente $14 730) por infracciones estándar y hasta 200 000 yuanes ($29 459) en caso de causar daños a la vida y la salud. Además, cualquier servicio que alcance 1 millón de usuarios registrados o 100 000 clientes activos al mes está obligado a someterse a una evaluación de seguridad obligatoria.
Mi comentario: China demuestra una vez más que el progreso tecnológico no puede existir fuera de marcos éticos y legales. Este precedente, muy probablemente, será adoptado por otras jurisdicciones, lo que a largo plazo llevará a una desaceleración global en el desarrollo de productos de IA «emocional», pero al mismo tiempo aumentará la confianza en soluciones seguras. El mercado se verá obligado a replantear sus prioridades: de la «máxima participación» a la «interacción responsable».