OpenAI ha dado un nuevo paso en su estrategia para reforzar la seguridad de los usuarios menores de edad con el lanzamiento de ChatGPT for Teens, una versión de su asistente de inteligencia artificial diseñada específicamente para adolescentes. La nueva experiencia incorpora restricciones adicionales de contenido y cambios en la forma en que el chatbot interactúa con los jóvenes.
La iniciativa busca responder a una preocupación sobre el uso de la inteligencia artificial por parte de niños y adolescentes. A medida que este tipo de herramientas se han integrado en las tareas escolares y en la vida diaria de millones de personas, también han aumentado las dudas sobre los riesgos que surgen cuando los usuarios son menores de edad.
Leer más: Ejecutivo de Microsoft: nueva etapa del juicio por el asesinato en 2022
ChatGPT for Teens comienza a activarse automáticamente en las cuentas que OpenAI identifica como pertenecientes a usuarios de entre 13 y 17 años. La compañía asegura que el sistema estará disponible en sus planes personales, tanto gratuitos como de pago, sin que el adolescente tenga que abrir una cuenta diferente o modificar manualmente su configuración.
Una de las principales novedades está en la forma en que OpenAI determinará quién debe utilizar esta versión con restricciones adicionales.
El modo puede activarse cuando un usuario declara tener entre 13 y 17 años al crear su cuenta, pero la compañía también utilizará sistemas de estimación de edad para detectar posibles casos en los que la información proporcionada no coincida con el comportamiento de la cuenta.
Para realizar esta estimación, OpenAI analiza miles de señales. Entre ellas pueden encontrarse patrones relacionados con el uso de la plataforma, como los horarios habituales de conexión o la antigüedad de una cuenta. La medida también podría afectar por error a algunos adultos. En esos casos, la persona deberá completar un proceso de verificación de edad para recuperar la experiencia estándar de ChatGPT.
La intención es evitar que las protecciones destinadas a los adolescentes dependan únicamente de que el usuario indique correctamente su fecha de nacimiento.
Más límites para conversaciones sensibles con ChatGPT for Teens
La experiencia para adolescentes mantiene y refuerza restricciones sobre determinados temas que pueden representar un riesgo para los menores. Entre ellos se encuentran las autolesiones, el suicidio, la violencia gráfica, los trastornos alimentarios, las actividades peligrosas y el contenido sexual explícito.
Además, OpenAI ha introducido cambios en la personalidad y el tono de las respuestas. ChatGPT no debe presentarse ante un adolescente como si fuera un amigo, insinuar que tiene sentimientos propios o hacer creer que posee conciencia.
También se limitará el lenguaje romántico y los apelativos afectivos que puedan favorecer una relación emocional inapropiada entre el usuario y el chatbot. El objetivo es reducir el riesgo de que los adolescentes desarrollen una dependencia emocional de la inteligencia artificial o lleguen a confundir el funcionamiento de un sistema automatizado con el de una persona real.
La versión para adolescentes también aplica restricciones adicionales a las interacciones románticas o sexuales y busca evitar que la IA adopte un papel que pueda resultar perjudicial para el desarrollo del usuario.
Cómo funciona el modo estudio
La educación es otro de los pilares de ChatGPT for Teens. OpenAI parte de la idea de que una gran cantidad de adolescentes ya utiliza la herramienta para estudiar, resolver dudas y realizar trabajos escolares. Por ello, las cuentas de menores tendrán acceso al modo estudio, una función diseñada para guiar al estudiante en el proceso de aprendizaje en lugar de limitarse a entregar una respuesta final.
Cuando un adolescente plantea una pregunta académica, ChatGPT puede responder con preguntas, explicaciones y pasos que le ayuden a llegar a la solución por sí mismo. El sistema también incluye recordatorios relacionados con el uso responsable de la herramienta para evitar que la inteligencia artificial se convierta simplemente en una vía para copiar tareas.
OpenAI ha presentado estas funciones como una forma de fomentar el pensamiento crítico y el aprendizaje activo, un debate que ha ganado fuerza desde la llegada de los chatbots generativos a las aulas.
La nueva experiencia también incorpora medidas relacionadas con el bienestar digital. Los adolescentes recibirán sugerencias para tomar descansos después de un periodo prolongado de uso. Según la información difundida por la plataforma, el sistema puede recomendar una pausa tras 90 minutos de actividad dentro de una ventana de tres horas.
Los padres, por su parte, podrán vincular su cuenta con la del adolescente y establecer determinados controles, como horarios de estudio y horas de silencio, durante las cuales el acceso a ChatGPT queda bloqueado.
Sin embargo, los padres no podrán leer libremente las conversaciones privadas de sus hijos. OpenAI mantiene un sistema de notificaciones para determinadas situaciones de riesgo y ha añadido alertas relacionadas con posibles trastornos alimentarios, además de otros temas sensibles.
Esta es una respuesta a la ola de señalamientos contra OpenAI por el posible impacto de los chatbots en la salud mental, la seguridad y el comportamiento de niños y adolescentes.
Fuente: Con información de OpenAI
