Carlos Graterol
4 de jul de 2024
HRW ha destacado que solo se ha revisado una pequeña fracción de las 5,850 millones de imágenes en LAION-5B, sugiriendo que podría haber muchas más fotos de niños expuestas
Leer más: Teléfonos celulares que dejarán de tener WhatsApp en julio
El organismo Human Rights Watch (HRW, Observatorio de Derechos Humanos) ha lanzado una seria advertencia sobre el uso de imágenes de niños en el entrenamiento de modelos de inteligencia artificial (IA). Hye Jung Han, una investigadora de HRW, descubrió que el conjunto de datos LAION-5B, popular para el entrenamiento de IA, contenía 170 fotos de niños brasileños provenientes de blogs y vídeos de YouTube. Lo alarmante es que muchas de estas imágenes, destinadas a amigos y familiares, terminaron siendo usadas sin el conocimiento de los padres.
El problema se agrava con el hallazgo de otras 190 fotos de niños australianos, algunas de las cuales incluían datos sensibles como nombres y ubicaciones. Estas fotos abarcan desde bebés hasta niños en carnavales, incluyendo imágenes de niños de tribus indígenas. En todos los casos, los padres intentaron mantener la privacidad de las fotos, pero estas fueron capturadas y utilizadas sin su consentimiento.
El conjunto de datos LAION-5B, creado por la ONG LAION, ha sido criticado por su contenido. A pesar de que LAION asegura tener una "política de tolerancia cero con el contenido ilegal", eliminar estas imágenes es un proceso complejo y lento. Además, como explica Han, los modelos de IA no pueden "olvidar" los datos con los que ya han sido entrenados, incluso si esos datos son eliminados posteriormente.
HRW ha destacado que solo se ha revisado una pequeña fracción de las 5,850 millones de imágenes en LAION-5B, sugiriendo que podría haber muchas más fotos de niños expuestas. La preocupación es que los modelos de IA puedan recolectar información sensible y "rescatar" datos privados, como registros médicos, que hayan terminado en estos conjuntos de datos.
Este descubrimiento subraya la necesidad urgente de revisar cómo se recopilan y utilizan las imágenes para entrenar modelos de IA, y de implementar medidas más estrictas para proteger la privacidad de los menores. Fuente: El Cronista
inSouth Magazine 8 años exaltando los valores de nuestra comunidad Latina. Síguenos en nuestras redes sociales como: @insouthmagazine en Instagram.
¡inSouth Magazine siempre contigo!
Seguir leyendo…