Inteligencia Artificial: ¿ángel o demonio?

Estamos viviendo la revolución del data science y la Inteligencia Artificial (IA), que promete traer extraordinarios beneficios. En la actualidad, muchas empresas están empezando a explorar las posibilidades que la IA puede llegar a ofrecer. Sin embargo, no debemos olvidar que, para implementar correctamente iniciativas de IA, es necesario no perder de vista los potenciales riesgos de esta tecnología. Esta necesidad de precaución en el uso de la IA tampoco ha pasado desapercibida por los legisladores, que están prestando mayor atención a este asunto.

Es innegable que la IA y el machine learning pueden ser víctimas involuntarias de los sesgos. Estos sesgos pueden estar causados por errores a la hora de programar, por un uso inadecuado de la tecnología o, con frecuencia, venir incluidos implícitamente dentro de los datos empleados para "enseñar" a la máquina. Por ejemplo, Amazon tuvo que descartar una herramienta de IA para selección de personal porque actuaba de forma sesgada contra las mujeres.

Su tremendo potencial nos obliga a reflexionar sobre los posibles riesgos que acarrea

Hoy en día, hasta los algoritmos de IA más elementales son más rápidos en la toma de decisiones que cualquier ser humano. Esto hace más difícil identificar sesgos inicialmente ocultos. El impacto que estos sesgos pueden tener en la privacidad, la libertad y la seguridad de las personas requiere precaución a la hora de programar y alimentar con datos los algoritmos que, aunque aprendan independientemente, lo hacen según los parámetros definidos y con los datos suministrados por el ser humano, que siempre pueden verse afectados por sesgos.

La privacidad es una preocupación recurrente en el mundo de la tecnología y subraya la necesidad de que exista un adecuado control humano sobre la IA. Este riesgo queda bien ilustrado si consideramos, por ejemplo, posibles derivadas "perversas" de la aplicación masiva de herramientas de reconocimiento facial en lugares públicos o el caso de un asesinato que fue grabado por el asistente virtual de Amazon, generando un intenso debate sobre la legalidad de usar esa grabación como medio de prueba en el juicio.

¿Es incompatible el actual ritmo de desarrollo tecnológico con una adecuada regulación legal? ¿Deberían existir leyes que regularan los mecanismos de aprendizaje que usan los sistemas de IA? Estas son algunas de las preguntas sobre qué tipo de control debería ejercerse sobre las empresas que desarrollan software de IA y las que gestionan las masas de datos con las que se alimenta.

Aunque los potenciales beneficios que la IA podría tener son enormes ¿dónde debemos establecer el límite? ¿Deben aplicarse tecnologías de IA al sistema penal? E incluso si fuéramos capaces de llegar a un consenso sobre dónde establecer el límite, ¿quién estaría encargado de velar por su cumplimiento y de qué manera?

Cada día, en ciudades de todo el mundo, se generan cantidades ingentes de información a través de las cámaras de tráfico o de otras tecnologías que, por ejemplo, permiten registrar el movimiento de los ciudadanos. El uso de estos datos puede ayudar a prevenir y perseguir el crimen, mejorar la gestión del transporte público, etc. de formas que no serían imaginables sin la IA. Sin embargo, quién puede acceder y usar esos datos, y con qué propósito, genera enormes preocupaciones a nivel legal, por su impacto en el consentimiento y la privacidad.

Las empresas competirán por ofrecernos tecnologías que hagan nuestras vidas más fáciles y que nos permitan abandonar las tareas más triviales. Los consumidores seguiremos comprando cada nueva versión de sus productos, aunque muchas veces no entendamos del todo la invasión que suponen a nuestra intimidad.

Las empresas competirán por ofrecer tecnología que haga la vida más fácil a los usuarios

Todas estas herramientas van a mejorar nuestras vidas, nos van a dar acceso a más conocimiento e incluso van a acabar previniendo o curando enfermedades en un futuro no muy lejano. Por ello, es de vital importancia que seamos conscientes de todos los cambios que se avecinan y de las oportunidades y riesgos inherentes a la adopción de la IA.

Los gobiernos pronto comenzarán a legislar al respecto, pero siempre irán un paso por detrás del desarrollo de la tecnología. Es muy probable que el desajuste entre legislación y tecnología sea importante, y que dicha legislación ofrezca una protección relativamente débil frente a la siempre cambiante tecnología. El Derecho tendrá muchas dificultades para seguir el ritmo de la revolución tecnológica.

Davos ve en inteligencia artificial y 5G las claves de la economía digital

---

Entidades

Juan J. Valderas Martos

Managing Director de Alvarez & Marsal

WhatsAppFacebookTwitterLinkedinBeloudBluesky