Madrid
ADP, especializada en herramientas tecnológicas para la Gestión del Capital Humano, cumple ahora 75 años. Entre su millón de clientes en 140 países, podemos nombrar a Coca-Cola, Amazon, Mastercard, Paypal o Fujifilm. Entre otros servicios, gestiona las nóminas de más de 41 millones de personas en todo el mundo. Para ADP trabajan 63.000 profesionales, 1.100 de ellos en sus oficinas de Madrid y Barcelona. En esta última sede comparten espacio perfiles de más de 40 nacionalidades.
Con su CTO global conversamos sobre los aspectos jurídicos del nuevo reglamento europeo para la Inteligencia Artificial (IA). "Estamos al inicio de la era de la IA y todos sabemos que la tecnología avanza rápidamente y de manera inesperada, por lo que la flexibilidad en su regulación será clave", adelanta.
Antes de que llegara el reglamento de la UE sobre IA, ustedes ya habían tomado algunas medidas éticas...
En ADP, nos hemos centrado durante mucho tiempo en estudiar y tratar aspectos éticos y de regulación de la IA. Así, en 2019 creamos un Consejo de Ética de Datos e IA con expertos internos y externos, para ofrecer orientación y asesoría sobre usos novedosos de la IA y los datos. También publicamos nuestros principios éticos de IA y los hemos ido actualizando con el paso del tiempo, entre otras medidas.
En su caso, ¿cómo está afectando a ADP la aplicación del nuevo reglamento de la UE sobre Inteligencia Artificial?
La implementación de la Ley de IA de la UE en ADP estará basada en nuestra experiencia internacional e incluirá un enfoque de extremo a extremo en la regulación y el tratamiento de la IA; desde los datos utilizados y el desarrollo de algoritmos, pasando por el suministro de información a los usuarios de servicios habilitados para IA, hasta el análisis continuo del rendimiento de dichos servicios en el mercado. Por lo tanto, consideramos que la puesta en marcha es un proceso en el tiempo y el siguiente paso natural es la implementación de la Ley mientras que seguimos trabajando para asegurarnos de que nuestros servicios basados en IA sean precisos, aborden problemas relacionados con los sesgos, brinden transparencia a los clientes y usuarios finales, e incorporen la supervisión humana.
¿Qué medidas concretas han tenido que adoptar para aplicar la nueva ley?
Una vez que la Ley de IA de la UE sea adoptada, habrá un período de transición de 24 meses para implementar sus disposiciones relacionadas con los llamados servicios de IA de alto riesgo. Estos incluyen ciertos (pero no todos) servicios en la industria de los Recursos Humanos, específicamente aquellos relacionados con la búsqueda de candidatos, la contratación, la asignación de trabajo y el despido. Todavía estamos diseñando los pasos específicos a tomar, pero al igual que hicimos cuando pusimos en marcha el protocolo RGPD, analizaremos los requisitos de la Ley, los compararemos con nuestros procesos e implementaremos las medidas necesarias para cumplir dichos requisitos. Nuestra oferta de servicios actual ya está basada en datos de alta calidad, extraídos de nuestro más de un millón de clientes a nivel global, de los más de 41 millones de trabajadores a los que damos servicio y en los 140 países en los que tenemos presencia.
¿Cómo luchan contra los sesgos en los procesos de selección?
Testeamos continuamente el nivel de calidad y precisión de nuestros servicios y soluciones y, cuando sea relevante, el sesgo. Y además contamos con programas integrales de privacidad y seguridad. Todos estos factores nos hacen estar bien posicionados. Además, la nueva Ley impone requisitos tanto a los desarrolladores de servicios habilitados para IA como a aquellos que los utilizan. Por lo tanto, no se trata sólo de cómo se construyen los servicios basados en IA, sino que las entidades que los desplieguen también tendrán que tomar medidas para poder cumplirla.
¿Está aplicando esta ley sólo en la UE o también en el resto de países en los que está presente?
Tenemos tanto un programa global de regulación de la IA como uno global de cumplimiento de la privacidad. Cuando se lanzó el reglamento RGPD, muchas empresas lo adoptaron como un nuevo punto de referencia global, aplicando sus requisitos no sólo en Europa, sino en otros lugares. Es posible que veamos la misma estrategia con esta nueva ley, sobre todo porque los requisitos de la Ley de IA de la UE se centran más en el desarrollo de servicios basados en IA que en procesos de negocios, y para muchas empresas sus servicios son de naturaleza global. Además, muchos de los requisitos de la Ley deben cumplir con estándares en otras partes del mundo como, por ejemplo, el Marco de Gestión de Riesgos de IA del NIST en los EE.UU., sobre todo cuando se trata de la protección de los datos, el sesgo, la precisión, la transparencia y la supervisión humana.
¿Considera que esta normativa podría tomarse como ejemplo o modelo para la regulación de la IA en Estados Unidos y otros países?
Podemos decir que estamos aún en los comienzos de la era de la IA y los responsables políticos de todo el mundo están todavía pensando cómo regularla para que podamos ver lo que realmente puede ofrecer. Al final, es la sociedad la que determina las reglas que rigen el uso de las nuevas tecnologías y su normativa. Esta nueva ley de la UE es la primera regulación integral adoptada en el mundo y exige una estrategia horizontal que regule la IA, ya sea como una oferta independiente o vinculada al hardware.
Habrá que vigilar entonces su recorrido…
Requiere también un recorrido "vital", desde el desarrollo inicial hasta el uso y el seguimiento posterior a su puesta en marcha. Los encargados de redactar las políticas en otras partes del mundo pueden optar por emular aspectos de la Ley teniendo en cuenta su propia cultura y enfoques legales. Pero también, en algunos casos, podrían apostar por un enfoque diferente. Lo que está claro es que para facilitar el cumplimiento y proteger a las personas, será importante que los servicios ofrecidos a nivel internacional cuenten con una estrategia global que incluya información sobre regulaciones, estándares o guías de autorregulación.
¿Cuáles son los puntos más problemáticos o conflictivos a tener en cuenta en la nueva ley?
Como ocurre con cualquier ley nueva, será importante ver cómo se aplica. Con la Ley de IA, mucho queda en manos del desarrollo de estándares, y la cantidad y los tipos que existan afectarán su cumplimiento. Además, existen varios organismos reguladores relacionados que serán responsables en los Estados miembros de la UE de hacer cumplir o asesorar sobre aspectos de la Ley. Ver cómo se desarrolla ese consejo con el tiempo y si es consistente en toda Europa será algo que habrá que seguir de cerca. En teoría, hay aspectos de la ley diseñados para que la ley se vaya adaptando a medida que la tecnología evolucione.
¿Qué dificultades están teniendo las empresas para adaptarse a esta nueva normativa?
Es de esperar que las empresas tengan que aportar más recursos para gestionar la nueva regulación. Además, deberán reconocer que el objetivo de la Ley es el desarrollo de servicios basados en IA y tendrán que ajustar sus procesos de desarrollo iniciales para cumplir con los requisitos, de modo que sus servicios basados en IA ofrecidos en la UE estén preparados cuando la Ley entre en vigor. Y aquellas compañías que implementen servicios habilitados para IA desarrollados por otros deberán asegurarse de cumplir con las instrucciones para utilizar esos servicios, así como para brindar supervisión humana sobre cómo operan en su entorno.
¿Cree que puede mejorarse? ¿De qué manera?
Creo que aún habría que esperar a comprobar cómo funciona antes de poder sugerir un cambio o mejoras. Sin embargo, una piedra angular clave será el equilibrio que se logre entre los requisitos de la Ley, el nivel de protección que ofrece a los individuos y la capacidad de la sociedad para seguir obteniendo rápidamente los nuevos beneficios de la IA. Esa sería la ecuación a tener en cuenta. Con el tiempo, la experiencia sobre cómo funciona la Ley en la práctica podrá sugerir posibles ajustes para mantener ese equilibrio y garantizar su eficacia.
¿Reclama mayor flexibilidad?
Todos sabemos que la tecnología de IA avanza rápidamente y de manera inesperada, por lo que la flexibilidad será clave. Afortunadamente, la legislación de la UE se somete a revisiones periódicas, así que ya contamos con un proceso para tener en cuenta los cambios necesarios en el futuro.
¿Qué retos plantea para la privacidad?
La relación entre IA y privacidad es compleja. Los datos son el alma de la IA. Existen reglas de privacidad que sirven tanto para proteger los datos de las personas como para garantizar que se utilizan de manera adecuada y para fines legítimos. La IA nos ofrece nueva información obtenida de los datos existentes mientras que intentamos encontrar técnicas para minimizar la cantidad utilizada de datos personales. Además, es importante cumplir con las leyes de privacidad y los derechos de las personas en el uso de datos para desarrollar y potenciar sistemas de IA, y también evitar que proporcionen información incorrecta sobre las personas.