La Inteligencia Artificial está en auge, y la llegada de cientos de apps y plataformas está creando todo un mundo de oportunidades esperando a ser explotadas. Y mientras la intención de todos estos proyectos es agilizar procesos y mejorar la vida de las personas, hay ciertos usos que están haciendo de la IA que están haciendo justo lo contrario.
La creación de imágenes a partir de esta tecnología es muy útil para generar fotos o estampas de cosas que nunca han pasado o conceptos que de otra forma no sería posible mostrar de una manera más visual. Sin embargo, se ha detectado que cada vez hay más personas que utilizan las herramientas creativas de la IA para generar "deepfakes" (imágenes falsas), normalemente sexualizando a mujeres.
Esto mismo es lo que ha ocurrido a lo largo de esta semana pasada, donde la popularísima cantante Taylor Switf ha sido víctima de la distribución de cientos de imágenes falsas generadas con IA que simulan desnudos de la artista.
Tan solo una de las fotos viralizadas fue vista más de 47 millones de veces en tan solo unas horas en X (antes Twitter), y la compañía tardó más de 17 horas en eliminar y bloquear a la cuenta que la subió. Pero ya era demasiado tarde y el término "Taylor Swift IA" se volvió tendencia, provocando que la red social tuviera que bloquear cualquier búsqueda sobre la cantante.
Este serio problema no afecta solo a Taylor Swift, sino que tan solo en este mes se han detectado cientos de 'deepfakes' de otras 30 celebridades femeninas. El daño de estas acciones es enorme, y lo que está dejando claro es que las principales afectadas son mujeres, y recordemos que de cualquier edad, ya que en nuestro país hace tan solo unos meses se difundieron muchas fotos de niñas de entre 12 y 17 años desnudas creadas con IA en Almendralejo (Badajoz).
Cómo se crean los 'deepfakes' y qué solución hay
La generación de imágenes con IA está al alcance de todo el mundo, y mientras es cierto que las apps más populares como ChatGPT tienen vetadas ciertas temáticas y palabras y no permiten usarlas para generar contenido, hoy en día más de 100.000 aplicaciones y modelos disponibles públicamente que no tienen estos límites y que permiten crear estas imágenes.
Y es que con tan solo coger una foto de la persona, normalmente son incluso fotos que suben las vícitmas a sus redes sociales, la IA es capaz de generar una imagen de la persona desnuda. Otro de los grandes problemas alrededor de los 'deepfake' es que ni los buscadores ni las redes sociales tienen herramientas para prevenir que estas fotos o vídeos se puedan subir a la red.
Por ejemplo, tanto Google como Microsft tienen un apartado para solicitar la eliminación de estos contenidos, pero la víctima tiene que pasar la URL donde salga. Por desgracia, ninguno de los buscadores rastrea o si quiera elimina contenido porno 'deepfake' de manera proactiva, al igual que ni estos ni las redes tienen sistemas de detección de contenidos sexuales generados con IA, por lo que este delito que se está poniendo cada vez más de moda seguirá siendo un problema serio, hasta que las compañíás quieran atajarlo de verdad.
