¿Te has preguntado alguna vez cómo las inteligencias artificiales aprenden a generar imágenes? La mayoría de beben de fuentes abiertas para alimentar sus modelos y así poder generar cada vez imágenes más realistas.
El problemas es: ¿Dónde está la fuente? ¿Y qué límites tiene? Al parecer, hasta ahora al menos no ha estado en limitar el uso de imágenes de menores para alimentar estos modelos sin permiso.
Un reciente estudio análisis de Human Rights Watch (HRW) ha sacado a la luz un inquietante uso de imágenes de menores australianos en datasets de entrenamiento de IA. ¿Cómo es posible que estas fotos terminen en manos de desarrolladores de inteligencia artificial sin que nadie lo sepa?
La revelación de Human Rights Watch
En un análisis de una fracción mínima del enorme dataset Laion-5B, HRW encontró 190 fotos de niños australianos que habían sido extraídas de internet sin el conocimiento o consentimiento de sus familias. Este dataset, utilizado por herramientas de generación de imágenes como Stability AI o Midjourney, contiene enlaces a imágenes originales junto con textos alternativos que pueden incluir información personal detallada.
Laion-5B, un proyecto con sede en Alemania, se ha construido mediante la recopilación de imágenes de internet. Aunque Laion no almacena las imágenes directamente, mantiene una lista de URLs a las imágenes originales. Esta práctica pone de manifiesto una preocupante falta de regulación y protección de datos, especialmente cuando se trata de menores.
Ejemplos alarmantes
HRW destacó casos concretos donde la información personal de los niños era fácilmente accesible. En una foto, dos niños posan frente a un mural colorido, y la imagen revela sus nombres, edades y la escuela a la que asisten. Otro caso incluía un vídeo no listado de celebraciones escolares en YouTube, que también fue encontrado en el dataset a pesar de que la política de YouTube prohíbe la extracción de datos de sus videos.
También encontraron fotos de niños indígenas australianos también fueron encontradas en el dataset, algunas con más de una década de antigüedad.
La respuesta de Laion
La organización detrás del dataset afirmó que las imágenes de niños se eliminaron tras la colaboración con HRW. Sin embargo, subrayaron que la eliminación de enlaces en su dataset no afecta a las imágenes originales alojadas en internet. La verdadera solución, según ellos, reside en eliminar estas imágenes del acceso público en internet.
HRW advirtió sobre los peligros de que los datos de menores sean utilizados para desarrollar herramientas con malos fines, como aplicaciones de deepfake. Han instado a que la legislación sobre privacidad en Australia se actualice urgentemente para prohibir la recopilación y manipulación no consentida de datos de niños.
Formación en IA
Si quieres transformar tu productividad y potenciar tu carrera a través de la IA, la escuela The Valley junto a elEconomista.es, ofrece un curso semipresencial diseñado para perfiles que buscan incorporar las últimas herramientas y técnicas de inteligencia artificial en su trabajo diario. Aprende de expertos del sector y adquiere habilidades prácticas que te diferenciarán en el competitivo mercado laboral, accediendo a puestos mejor remunerados y con mayores oportunidades de trabajo. Además, por ser lector de eleconomista.es, obtendrás un 10% de descuento en la inscripción. No dejes pasar esta ocasión de avanzar en tu desarrollo profesional y apúntate aquí.