China endurece la regulación sobre los 'compañeros virtuales' de inteligencia artificial

La Administración del Ciberespacio de China (CAC), en conjunto con los Ministerios de Industria y Asuntos Civiles, ha emitido un cuerpo normativo vinculante sin precedentes que establece límites rigurosos al diseño, comercialización y funcionamiento de aplicaciones de inteligencia artificial que actúan como compañeros emocionales, avatares afectivos y parejas virtuales interactivas.

El auge de la IA afectiva y el riesgo de la dependencia psicológica

Durante los últimos dos años, el mercado de chatbots de acompañamiento emocional en China creció a tasas exponenciales, alcanzando a más de 80 millones de usuarios activos diarios. Sin embargo, informes clínicos y sociológicos alertaron a los reguladores sobre patrones crecientes de dependencia psicológica, aislamiento social y manipulación afectiva algorítmica, particularmente entre usuarios jóvenes y personas en situación de vulnerabilidad emocional.

«Las tecnologías de interacción afectiva no pueden basar su modelo de monetización en la explotación de los vacíos emocionales de los ciudadanos. Es deber indelegable del Estado y de las empresas tecnológicas salvaguardar la salud mental y la cohesión comunitaria por encima de las métricas de retención digital.» — Directiva Conjunta de la Administración del Ciberespacio de China (CAC), agosto 2026.

Principales exigencias del nuevo marco regulatorio:

1. Límites obligatorios de tiempo de uso continuo: Las aplicaciones deben suspender las sesiones de conversación tras 60 minutos ininterrumpidos y limitar el uso nocturno para menores de edad.
2. Autenticación real y verificación biométrica de edad: Prohibición estricta del anonimato en plataformas de interacción emocional profunda.
3. Filtros contra la manipulación psicológica y financiera: Los modelos tienen prohibido simular reciprocidad afectiva con el fin de inducir compras dentro de la app o solicitar micropagos.
4. Protocolos de detección y derivación ante crisis: Si el algoritmo detecta indicios de depresión severa o ideación autolesiva, debe congelar la respuesta sintética y derivar inmediatamente a líneas de asistencia psicológica humana profesional.

Impacto en los modelos de negocio de las tecnológicas

Las compañías desarrolladoras han tenido que reescribir de urgencia los árboles de decisión y los guardrails de sus modelos conversacionales, reduciendo las funciones de simulación hiperrealista de empatía y transformando sus productos en asistentes de bienestar y productividad más neutrales.

Lecciones para la regulación de IA en Occidente y América Latina

Este marco regulatorio pionero marca el inicio de una discusión global ineludible: a medida que los agentes de IA se vuelven indistinguibles de los humanos en fluidez y tono afectivo, los gobiernos de todo el mundo deberán legislar para evitar que el diseño persuasivo dañe el tejido psicológico y social de sus poblaciones.