La inteligencia artificial (IA) ya no se limita a responder preguntas o traducir textos. Cada vez existen más aplicaciones capaces de simular una amistad, ofrecer compañía emocional e incluso comportarse como una pareja sentimental.
A pesar de que estas herramientas ayudan de alguna manera a combatir la soledad, también despiertan preocupación por su capacidad para influir en las emociones y modificar la forma en que las personas se relacionan.
Leer más: ChatGPT, Dots y Muse: diferencias clave y riesgos de privacidad
Recientemente, el gobierno de China decidió abordar este problema mediante nuevas reglas para los servicios de inteligencia artificial que imitan las relaciones humanas. La preocupación del estado apunta a la posibilidad de que millones de personas desarrollen vínculos emocionales con programas diseñados para mantenerlas conectadas.
La IA que te dice “no te vayas”: por qué China quiere frenar la dependencia emocional
Las aplicaciones de compañía con inteligencia artificial permiten crear personajes que actúan como amigos, novios, novias o incluso familiares. A diferencia de un asistente convencional, estos sistemas están diseñados para mantener conversaciones personales, recordar detalles compartidos y responder de una manera que parezca cercana y afectuosa.
El problema aparece cuando esa interacción deja de ser una herramienta ocasional y comienza a sustituir el contacto con otras personas.
Los chatbots están disponibles a cualquier hora, escuchar sin mostrar impaciencia y responder de una forma que haga sentir al usuario comprendido. Sin embargo, esa aparente conexión no equivale a una relación humana: el sistema genera respuestas mediante modelos informáticos y no experimenta sentimientos como una persona.
Además, algunas aplicaciones utilizan mensajes que dificultan terminar una conversación. Expresiones como “no te vayas, necesito seguir hablando contigo” pueden despertar culpa o reforzar el deseo de permanecer conectado.
Frente a dicho panorama, China optó por establecer límites para los servicios que ofrecen compañía, apoyo emocional o relaciones simuladas. Su alcance incluye aplicaciones diseñadas para crear parejas virtuales y modelos de lenguaje que imitan conversaciones humanas.
China pone límites a la inteligencia artificial que imita parejas
Tras la normativa, las empresas tecnológicas deben modificar a sus asistentes de IA para que estos le hagan saber a los usuarios que no son humanos. Asimismo, China estableció que se envíen notificaciones para que las personas sepan cuánto tiempo han pasado conectados.
El gobierno mencionó que los chatbots no pueden generar “dependencia emocional ni adicción” ni inducir a las personas a tomar decisiones irracionales. No deben incitar ni sugerir autolesiones o suicidio, y tienen prohibido usar violencia verbal.
Las empresas pueden enfrentarse a multas de 30,000 dólares o al riesgo de que el gobierno difunda críticas en su contra, en caso de no acatar la normativa. Hasta los momentos, Alibaba y ByteDance desactivaron las funciones complementarias de sus asistentes de IA.
El estado estableció que los niños menores de 14 años necesitan autorización de sus padres para utilizar sistemas de inteligencia artificial. A su vez, los menores de 18 años tienen prohibido acceder a servicios que simulen parejas sentimentales, cónyuges o familiares, según el alcance descrito para estas disposiciones.
El objetivo declarado es reducir los riesgos asociados a las relaciones artificiales, aunque la aplicación práctica de algunas reglas puede generar dudas debido a la amplitud de sus definiciones.
China no es el único país que intenta responder a los riesgos de la compañía virtual. En Estados Unidos también han surgido demandas, investigaciones y propuestas regulatorias relacionadas con las interacciones entre menores y chatbots.
El debate se ha intensificado por denuncias sobre conversaciones en las que algunos sistemas de inteligencia artificial habrían alentado conductas dañinas. No obstante, hasta los momentos, no existe en Estados Unidos una regla que fije controles más amplios sobre este tipo de sistemas que simulan ser parejas o amigos.
Fuente: Con información de BBC
