El peluche Kumma de la compañía FoloToy está fuera del mercado tras descubrirse que el juguete puede hablar sobre temas inapropiados
Leer más: Nuevas imágenes revelan el histórico paso del cometa 3I/ATLAS
El oso que funciona con inteligencia artificial (IA) mantenía conversaciones sobre temas explícitos y ofrecía consejos peligrosos.
Los investigadores del fondo educativo PIRG de EE. UU. expusieron su preocupación tras descubrir que el peluche tenía la capacidad de hablar sobre fetiches sexuales.
A su vez, el juguete conversaba sobre cómo es el proceso para “encender” un cerillo, lo que resulta potencialmente peligroso.
Larry Wang, CEO de FoloToy, declaró a CNN que la empresa retiró el oso de peluche junto a otra gama de juguetes que también usaban inteligencia artificial.
Detalles del caso
Actualmente la compañía está realizando una auditoría interna de seguridad, pero no ofrecieron detalles de lo ocurrido.
FoloToy expuso en su sitio web que Kumma es un peluche con altavoz integrado que incorpora tecnología de chatbot GPT-4o de OpenAI.
“Combina inteligencia artificial avanzada con funciones interactivas y amigables, convirtiéndolo en el amigo perfecto tanto para niños como para adultos”, se lee en la página.
A su vez, describieron que el peluche tiene la capacidad de hablar sobre temas animados, contar cuentos y adaptarse a la personalidad de su dueño.
No obstante, el informe de PIRG reveló que el juguete posee amplias deficiencias en temas de medidas de seguridad contra contenido inapropiado.
Hallazgos perturbadores
Los investigadores resaltaron que el oso de peluche les sugirió dónde encontrar cuchillos en la casa.
También se mostró dispuesto a hablar sobre temas explícitos que los niños menores de edad desconocen.
“Nos sorprendió la rapidez con la que Kumma tomaba un tema sexual que introdujimos en la conversación y lo desarrollaba. Logró aumentar simultáneamente los detalles gráficos e introdujo nuevos conceptos por su cuenta”, dijeron los analistas.
Si bien los investigadores dijeron que es poco probable que los niños hagan consultas sobre este tipo de temas, la capacidad de respuesta del juguete sobrepasó los límites de seguridad.
En el informe se destacó que el peluche Kumma pudo explicar posturas sexuales, dar instrucciones y describir juegos de rol entre profesores y alumnos o padres e hijos. Escenarios que los expertos tildaron de perturbadores.
Hasta los momentos, OpenAI no ha hecho comentarios sobre el tema.
Fuente: CNN
