La IA de Elon Musk y X genera deepfakes e imágenes sin control: así es la nueva versión de Grok

¿Qué sucede cuando una herramienta con el potencial de generar cualquier imagen imaginable cae en manos del público? Ese es uno de los grandes temores de la era de la inteligencia artificial generativa, y Elon Musk lo ha puesto a prueba con la nueva versión de Grok.

Grok, lanzada a finales del año pasado como un homólogo de ChatGPT pero sin censura para integrarse en X (y de paso beber de la información que publican sus usuarios), ha desplegado una nueva versión capaz de generar imágenes. Hasta ahí todo normal, salvo que no cuenta con ningún tipo de cortapisa para evitar imágenes censurables o evitar que genere deepfakes.

Así, en estos primeros días con la herramienta disponible en Estados Unidos hemos visto a Donald Trump y Kamala Harris esperando un hijo juntos o tomando el sol en la playa o a Mickey Mouse portando armas, a la cantante Taylor Swift en todo tipo de actitudes.

Aunque Grok en principio contaba con limitaciones para evitar la creación de contenido inapropiado, la realidad muestra un panorama mucho más caótico y preocupante.

Grok anticipa el caos en la generación de imágenes con IA

El chatbot, creado por xAI, permite a los usuarios generar imágenes a partir de simples descripciones de texto. Aunque otras plataformas de IA ya ofrecen funcionalidades similares, Grok ha destacado por la laxitud en sus restricciones, lo que ha dado lugar a la creación de imágenes que van desde lo absurdamente cómico hasta lo profundamente perturbador.

Usuarios de X Premium (necesario para acceder a la plataforma) han compartido imágenes que van desde Barack Obama con un cuchillo al cuello de Joe Biden, hasta Donald Trump vestido con un uniforme nazi.

Estos ejemplos ilustran la peligrosidad de una IA sin restricciones claras, especialmente en un momento donde la desinformación y la manipulación digital están en su punto álgido.

A pesar de que Grok afirma evitar la generación de contenido que pueda ser violento, pornográfico o infringir derechos de autor, la realidad es que estas restricciones parecen ser inconsistentes y fácilmente superadas con prompts lo suficientemente trabajados.

¿Puede usar Grok todo el mundo?

Para aquellos interesados en explorar las capacidades de Grok, el proceso es sorprendentemente sencillo. Sin embargo, hay que cumplir con algunos requisitos técnicos y de acceso.

Es necesario tener una cuenta X Premium o X Premium+, de pago, para acceder a Grok. Además, solo está disponible en la versión de escritorio de la web de X.

Pasos para crear imágenes cumpliendo estos requisitos:

• Inicia sesión en tu cuenta X desde un ordenador.
• Selecciona Grok en el menú lateral, el cual aparece en la parte central del menú.
• Elige Grok-2 o Grok-2 mini dependiendo de la resolución deseada para las imágenes.
• Introduce tu indicación en la barra de búsqueda, asegurándote de comenzar con las palabras "crear una imagen de".
• Espera a que Grok genere la imagen, la cual se puede compartir directamente en X.

El proceso de creación de imágenes es intuitivo, similar a pedirle a Grok que explique un concepto o busque información, lo que lo hace accesible para cualquier usuario, independientemente de su familiaridad con la tecnología de IA.

La llegada de Grok en este contexto global no podría ser más oportuna o problemática. La Unión Europea ya ha comenzado a investigar posibles violaciones de la Ley de Seguridad Digital por parte de X, lo que podría incluir el uso de Grok para generar contenido inapropiado o peligroso. En el Reino Unido, la ley de Seguridad Online podría también abarcar estos nuevos tipos de contenido generado por IA, incluyendo deepfakes y otras formas de manipulación visual que Grok podría facilitar.

Mientras tanto, en Estados Unidos, donde las protecciones de libertad de expresión son más amplias, aún se debate cómo regular el uso de IA para prevenir la difusión de desinformación o contenido explícito sin afectar los derechos de los usuarios.

Formación en IA

Si quieres transformar tu productividad y potenciar tu carrera a través de la IA, la escuela The Valley junto a elEconomista.es, ofrece un curso semipresencial diseñado para perfiles que buscan incorporar las últimas herramientas y técnicas de inteligencia artificial en su trabajo diario. Aprende de expertos del sector y adquiere habilidades prácticas que te diferenciarán en el competitivo mercado laboral, accediendo a puestos mejor remunerados y con mayores oportunidades de trabajo. Además, por ser lector de eleconomista.es, obtendrás un 10% de descuento en la inscripción. No dejes pasar esta ocasión de avanzar en tu desarrollo profesional y apúntate aquí.