CHINA PROHÍBE LAS PAREJAS VIRTUALES

PEKÍN. La Administración del Ciberespacio de China (CAC), en conjunto con cuatro ministerios, ha promulgado la primera normativa mundial orientada a desmantelar la dependencia afectiva y las relaciones románticas con inteligencia artificial. La regulación impone frenos estrictos a las plataformas que simulan interacción humana continua y prohíbe explícitamente los vínculos íntimos virtuales en menores de edad.

Lejos de tratarse de una simple medida de censura de contenidos, China está interviniendo la arquitectura del alineamiento emocional de los grandes modelos de lenguaje. El objetivo: impedir que los algoritmos exploten la vulnerabilidad psicológica de los usuarios para maximizar métricas de retención.

El fin de la IA complaciente

Los algoritmos de IA diseñados para simular empatía operan bajo un principio básico, la complacencia absoluta. Al no generar conflicto interpersonal, ofrecen un "refugio libre de fricción" que resulta adictivo frente a la complejidad de las relaciones humanas reales. La nueva normativa exige a los desarrolladores reconfigurar sus sistemas para introducir fricción deliberada.

Recordatorios de realidad obligatorios - Si la interacción se extiende por más de 120 minutos, el sistema debe desplegar avisos explícitos recordando que el interlocutor es un software y no un ser humano.

Prohibición del "cortejo algorítmico" - Las directrices impiden que la IA utilice patrones de lenguaje destinados a inducir dependencia emocional, manipulación afectiva o aislamiento del entorno social del usuario.

Protocolos de crisis - Si el modelo detecta ideación suicida, depresión severa o desconexión crítica con la realidad, debe detener la simulación romántica, emitir mensajes de calma y canalizar la alerta hacia contactos de emergencia o tutores.

Demografía y soberanía social

El impulso de esta normativa trasciende la salud mental individual y responde a prioridades de Estado. Con un declive marcado en las tasas de natalidad y matrimonio, las autoridades ven en los "compañeros digitales” un factor que desincentiva la formación de hogares y las interacciones reales entre jóvenes.

A diferencia de las normativas de la Unión Europea (centradas en los sesgos del modelo y el riesgo del software) o de EE. UU. (enfocadas en la propiedad intelectual y el mercado), China se convierte en el primer actor global en regular la psicología del usuario frente a la máquina. La premisa del regulador es clara: el capital relacional de una sociedad no puede ser delegado a modelos generativos de IA.

Frente al riesgo de sanciones que pueden alcanzar hasta el 1% de la facturación global o la suspensión de licencias algorítmicas, la reacción de la industria ha sido drástica. Plataformas populares han optado por congelar personajes virtuales antes que arriesgarse a fallos en la detección del apego.

Un precedente para el futuro

El movimiento de Pekín abre un debate inevitable para los desarrolladores de todo el mundo. Mientras los modelos de voz y texto se vuelven indistinguibles de una conversación humana en fluidez y tono, la delantera en regulación ya no está en lo que la IA puede calcular, sino en lo que se le permite hacer sentir al usuario.

Resumen

Alcance - Regulación sobre servicios de IA antropomórfica de interacción humana continua.
Prohibición absoluta - Veto total a la simulación de parejas o familiares virtuales para menores de 18 años.
Controles anti-adicción - Obligatoriedad de alertas de realidad tras dos horas de uso continuo e intervención inmediata ante signos de angustia o crisis.
Impacto inmediato - Gigantes como ByteDance, Tencent y Alibaba suspendieron o modificaron las funciones de personalización afectiva en sus agentes virtuales (como Doubao).
 

Adrian Grados  Redactor Digital  Gobierno Digital Online

Compartir: