La nueva ley europea sobre Inteligencia Artificial (IA), que verá la luz a inicios de 2024, regula la aplicación de esta tecnología ante la gran influencia que tendrá en la vida de los ciudadanos.
La norma permitirá utilizar estos sistemas para hacer una criba de los alumnos que acceden a una universidad, qué candidatos entran a un puesto de trabajo o a qué usuario se le puede conceder financiación. Pablo Uslé, director de equipo del Departamento de IPTech de Baker McKenzie explica que el reglamento se enmarca dentro de la estrategia de la UE sobre IA que incluye dos normas adicionales. La primera, una propuesta de directiva de responsabilidad que pretende adaptar las reglas tradicionales de responsabilidad contractual al mundo de la IA. Y la segunda, una modificación del reglamento de seguridad de productos. Los objetivos: garantizar la seguridad, la salud y los derechos fundamentales de las personas.
Tres textos diferentes
Europa tiene en la actualidad tres textos diferentes. Uno elaborado por la Comisión Europea en 2021; otro por el Consejo Europeo, en 2022; y el más reciente aprobado este 14 de junio por el Parlamento Europeo. Con muchos puntos comunes y otros en los que discrepan, ahora las tres instancias deberán negociar para llegar a un acuerdo.
Sistemas prohibidos
Los tres texto prohíben determinados sistemas de IA por el alto riesgo que entrañan. De un lado, se veta el scoring social, es decir, prohíbe hacer una valoración de las personas por sus prácticas sociales (si se saltan un semáforo o van a visitar a sus familias), datos que sirven para puntuar socialmente al usuario y a raíz de ahí, por ejemplo, poder otorgarle financiación. También prohíbe sistemas de identificación biométrica en tiempo real, aunque la versión del Parlamento sí quiere permitir este uso a los cuerpos policiales. Otra prohibición son las técnicas subliminales para distorsionar el pensamiento de una persona para tomar decisiones y, el último texto del Parlamento, propone prohibir los sistemas de reconocimiento de emociones por ejemplo, en los controles de pasaporte.
Sistemas de alto riesgo
Los textos sí permiten el uso de los clasificados como sistemas de alto riesgo, aunque sujetos a requisitos de control muy elevados. Entre estos sistemas estarían los mencionados como los que se puedan usar para cribar a los alumnos que acceden a una universidad, los candidatos que entran a un trabajo, o la evaluación de los empleados en su puesto para ascender. También permite usarlos para que las entidades puedan hacer un scoring del cliente a la hora de decidir si le da o no crédito o para mantener el control y la seguridad de infraestructuras críticas como pueden ser de suministro de agua, gas o energía.
Sistemas específicos
Este tipo de sistemas, también permitidos, y que generan menos riesgos que los anteriores, pueden ser los chat de determinadas empresas cuyo interlocutor con el usuario es un robot o los deepface, vídeos en los que sale una persona hablando pero realmente no es ella quien dice esas palabras. En estos casos, la norma exige informar al usuario que habla con una máquina o en el caso de los deepface, que son contenidos falsos.
Otros sistemas
En esta categoría más abierta se han incluido los denominados sistemas fundacionales como el ChatGPT, para regularlos de forma individual.
Derechos de las personas
El texto del Parlamento Europeo introdujo, a diferencia de los dos anteriores, derechos para las personas. De un lado, que los usuarios puedan plantear reclamaciones para las autoridades competentes y, de otro, en los sistemas de alto riesgo, que tengan derecho a entender por qué la inteligencia artificial ha tomado una determinada decisión, por ejemplo, como descartar al usuario para un puesto de trabajo.
Fricciones
Según Pablo Uslé, los distintos organismos de la UE afrontarán fricciones a la hora de unificar los textos. "Un tema relevante va a ser el periodo de tiempo desde que se aprueba el reglamento hasta que las compañías tengan que cumplir con él. La Comisión daba tres años, mientras que el Parlamento da dos años. Se cuestionaba que tres años era poco tiempo para que esté todo adaptado, no solo para las compañías, también para las autoridades públicas a efectos de sus procesos internos para hacer la supervisión. Y, ahora, parece que se reduce. Va a ser un tema difícil", explica Uslé.
Añade, que otro punto de fricción va a estar en cómo regular los sistemas fundacionales (donde está incluido el ChatGPT) ante su multitud de casos de uso. "El Consejo y el Parlamento tienen enfoques distintos. Son temas relevantes porque son sistemas usados prácticamente por todo el mundo en su día a día para complementar situaciones o para enriquecer temas de los que tienen que hablar. Ahora mismo, el Consejo prácticamente propone equipararlos a los sistemas de alto riesgo y el Parlamento, establecer algunas obligaciones más especificas. Este es un tema que va a ser relevante por el uso tan extendido que tiene", finaliza Pablo Uslé.
Las sanciones
El experto de Baker McKenzie señala que los tres organismos europeos también tendrán que llegar a un punto en común en materia de sanciones. El reglamento, que será de aplicación en todos los Estados miembros una vez se apruebe y finalice el plazo de adaptación, sin necesidad de transposición nacional como en el caso de las directivas, también establece un régimen sancionador. Inicialmente, la Comisión Europea propuso por prácticas prohibidas multas de hasta 30 millones de euros o el 6% de la cifra de volumen de negocio; por incumplimiento de obligaciones, de hasta 20 millones o el 4% del volumen de negocio; y por entregar información incorrecta a las autoridades, de hasta 10 millones o el 2% de la cifra de negocio.
Ahora, según Pablo Uslé, el Parlamento Europeo ha elevado las cuantías y propone que las sanciones por prácticas prohibidas escalen hasta los 40 millones de euros o el 7% del volumen de negocio. "Son sanciones bastantes significativas", puntualiza.
