Grok, el chatbot de inteligencia artificial impulsado por Elon Musk, actualizó sus políticas y restringió la creación y edición de imágenes. La medida se tomó debido a que miles de usuarios comenzaron a crear fotografías sexualizadas de mujeres, hombres y niños.
La plataforma, accesible a través de la red social X, está diseñado como un asistente conversacional multimodal capaz de responder preguntas, generar textos, imágenes y más.
Leer más: ChatGPT integrará anuncios personalizados y abre debate global
Su facilidad de uso, integrada directamente en X, lo convirtió en uno de los modelos de IA más populares del momento. Sin embargo, esta misma accesibilidad se salió de control.
Miles de usuarios comenzaron a explotar el chatbot y algunos hicieron ediciones de personas sin su consentimiento. Otros editaron fotografías de mujeres e incluso menores de edad para sexualizarlas.
La polémica escaló con rapidez y Rob Bonta, fiscal general de California, señaló a Grok de producir imágenes íntimas no consensuadas “para acosar a mujeres y menores en todo internet”.
“Tal parece que este chatbot solo funciona para que los depredadores difundan imágenes sexualmente explícitas no consensuados, incluidas imágenes que desnudan digitalmente a menores, es despreciable”, dijo Bonta.
Debido a esto, el gobernador de California le solicitó al fiscal investigar a la empresa y responsabilizar a los que estén detrás de ella. En este caso Elon Musk.
Grok ajusta sus políticas
De acuerdo con Copyleaks, en internet se genera aproximadamente una imagen sexualizada no consensuada por minuto.
Pero, la tendencia incrementó cuando algunos creadores de contenido para adultos solicitaron comandos donde se les sexualizara, con el fin de promocionarse en X.
Pese a que es “aceptable” debido a que Grok tiene una opción para crear este tipo de imágenes, varias personas usaron tal herramienta con fotografías de terceros.
Esto desató indignaciones y consternación sobre lo que se podía realizar a partir de contenido ajeno con Grok, incluso con otras herramientas de IA generativas como Sora.
A fin de detener el conflicto, Musk anunció el 21 de enero que ahora la plataforma tiene restricciones.
El CEO de X explicó que se eliminó contenido de alta prioridad que infrinja las normas, incluido material de abuso sexual infantil. También toda fotografía con desnudos no consensuados.
A su vez, advirtió que se tomarán acciones necesarias para las cuentas que violen las nuevas reglas. En el caso de depredadores que busquen contenido relacionado con explotación sexual infantil, se reportarán ante las autoridades.
Cambios en la plataforma
Musk explicó que las restricciones evitarán que Grok edite imágenes de personas reales con ropa reveladora, como bikinis.
La restricción se aplica para todos los usuarios, aunque aclaró que la creación de fotografías y la capacidad de editarlas será exclusivo para suscriptores de pago.
“El criterio de esta decisión tiene como base garantizar que los usuarios no violen las políticas de la empresa ni la ley. Adicionalmente, se impondrá una geobloqueo donde se prohibirá la generación de imágenes con ropa provocativa en jurisdicciones donde es ilegal”, declaró el CEO de X.
¿Musk en la mira?
La polémica no se quedó solo en internet. Diversos gobiernos tomaron medidas contundentes ante lo que consideran un riesgo para la seguridad digital de sus ciudadanos.
Malasia e Indonesia optaron por bloquear temporalmente el acceso a Grok en sus territorios. Esto luego de constatar que los mecanismos de protección son insuficientes para evitar la generación masiva de contenido explícito no consensuado.
Mientras que varias autoridades en Europa y Reino Unido iniciaron investigaciones sobre el cumplimiento de leyes de seguridad en línea, privacidad y protección infantil.
En el caso de Estados Unidos, específicamente California, las autoridades dijeron que hay una investigación en curso. La finalidad es poner un cese a la plataforma y evitar la divulgación de imágenes que atenten contra niños, mujeres y hombres.
Fuente: EuroNews
