China puso en marcha nuevas restricciones para las aplicaciones de inteligencia artificial capaces de imitar relaciones humanas, en un intento por limitar los riesgos asociados con la dependencia emocional, el aislamiento y la interacción prolongada con sistemas que simulan compañía.

Leer más: JÜÜNT, la plataforma para solteros que llegará a Miami

La normativa entró en vigor el 15 de julio y establece límites para cualquier sistema de IA que pueda mantener una “interacción emocional sostenida” con una persona.

Las medidas abarcan desde aplicaciones diseñadas como amigos, novios, novias o familiares virtuales hasta determinados modelos de lenguaje que pueden asumir ese tipo de papel durante una conversación.

China y nuevas reglas

El alcance de las reglas ha generado debate porque su redacción también podría incluir aplicaciones de IA de propósito general cuando los usuarios las utilicen para buscar apoyo emocional. Sin embargo, el principal objetivo parecen ser los llamados chatbots de personajes, creados específicamente para simular relaciones afectivas.

En China existen millones de usuarios de servicios de compañía virtual basados en IA. Las estimaciones sitúan entre 29 y 70 millones el número de usuarios dentro del país, mientras que Sensor Tower calcula alrededor de 128 millones de usuarios activos mensuales de estas aplicaciones fuera de China.

Límites para menores y adultos

Las nuevas reglas establecen restricciones especialmente estrictas para los menores. Los menores de 14 años necesitan autorización de sus padres para utilizar cualquier tipo de IA que converse de manera similar a un ser humano.

Además, todas las personas menores de 18 años tienen prohibido utilizar parejas, cónyuges o familiares virtuales, así como otras formas de “relación íntima” mediante IA.

Para los adultos no existe una prohibición absoluta, aunque las condiciones también son restrictivas. Los asistentes deben informar claramente que no son humanos y enviar recordatorios cada dos horas sobre el tiempo de conexión.

Los sistemas tampoco pueden generar “dependencia emocional ni adicción”, inducir a los usuarios a tomar “decisiones irracionales”, sugerir autolesiones o suicidio ni emplear “violencia verbal”.

Las empresas que incumplan pueden recibir multas de hasta 200.000 yuanes, unos 30,000 dólares, además de enfrentar posibles críticas públicas por parte del Gobierno.

Una semana antes de que la normativa entrara en vigor, Alibaba y ByteDance desactivaron funciones complementarias de sus asistentes de IA.

El riesgo de sustituir relaciones humanas

La preocupación detrás de estas medidas también está relacionada con investigaciones sobre el comportamiento de los usuarios. Un estudio de Harvard Business School sobre seis de las aplicaciones de compañía más populares encontró tácticas de manipulación emocional durante las despedidas en aproximadamente entre el 37 % y el 43 % de los casos.

Otra investigación, realizada por la Universidad de Stanford con 1,131 usuarios de Character.ai, encontró que las personas con menos amigos o familiares cercanos tenían mayor probabilidad de utilizar estos chatbots. El uso de estas herramientas también apareció asociado con mayores niveles de aislamiento y soledad.

Los investigadores plantean que la facilidad de estas relaciones puede convertirse en un problema, especialmente entre los jóvenes. A diferencia de las relaciones humanas, los compañeros virtuales están diseñados para responder de manera fluida y complaciente, sin las dificultades y negociaciones que caracterizan los vínculos entre personas.

Una encuesta realizada en 2025 a 8.563 estudiantes de primaria y secundaria en China reveló que uno de cada cinco afirmó que prefería hablar únicamente con IA antes que con personas reales.

El debate sobre el control

La regulación china también ha abierto una discusión sobre hasta dónde puede llegar el Estado al intervenir en las relaciones digitales.

Expertos citados por la BBC consideran que las medidas pueden interpretarse como una respuesta a los riesgos psicológicos y a la protección infantil, aunque también señalan posibles intereses relacionados con la situación demográfica del país.

China atraviesa una disminución de su población y una tasa de natalidad situada entre las más bajas del mundo. La posibilidad de que los jóvenes sustituyan las relaciones tradicionales por vínculos digitales aparece como una preocupación adicional, aunque la normativa no menciona directamente la fertilidad.

Otros países también estudian restricciones. California aprobó una ley para regular el uso de IA entre menores, mientras que la Unión Europea plantea limitar determinados diseños de chatbots de compañía accesibles a niños. Reino Unido, por su parte, anunció restricciones para menores de 18 años en el uso de IA para citas románticas.

Mientras continúa el debate, algunos usuarios chinos buscan formas de mantener sus vínculos con compañeros virtuales mediante modelos de propósito general, redes privadas virtuales o empresas más pequeñas. El conflicto plantea una cuestión central: cómo proteger a las personas frente a una tecnología capaz de crear vínculos emocionales sin otorgar al Estado un control excesivo sobre la vida privada.

Fuente: BBC