Los usos de la Inteligencia Artificial generativa son ya innumerables. Durante los últimos años se ha producido una adopción progresiva y masiva de algoritmos de inteligencia artificial en toda clase de aplicaciones. Seamos conscientes o no, forman parte de muchos ámbitos de nuestra vida, como la salud, la educación, el empleo y el consumo, entre otros.
La IA es una tecnología que?ha avivado los debates públicos sobre su potencial, pero también sobre sus riesgos.?Es por ello que la Unión Europea (UE) se ha visto en la tesitura de aprobar una regulación que garantice que los sistemas de IA sean seguros y respeten los derechos y valores fundamentales de las personas.
Uno de los puntos más conflictivos en la elaboración de esta primera Ley de IA era si permitir o no el reconocimiento biométrico. Finalmente, tras intensos debates en los cinco trílogos celebrados, se ha establecido la prohibición de las técnicas biométricas de reconocimiento facial en lugares públicos en tiempo real.
No obstante, no podemos negar que la biometría se ha convertido en una tecnología cada vez más importante para garantizar la seguridad y la privacidad en los dispositivos digitales. La creciente relevancia de esta herramienta también se ha traducido en un incremento de su valoración en el mercado que, según un estudio reciente de Grand View Research, se espera que alcance los 59.310 millones de dólares en 2025 en todo el mundo, incremento impulsado por la creciente demanda de soluciones de autenticación en entornos digitales.
Adquiere importancia, principalmente, por la singularidad de los datos, dado que cada persona tiene características biométricas que son intrínsecamente diferentes a las de cualquier otro individuo,?lo que le convierte en una herramienta poderosa para la identificación y la autenticación.
No obstante, ahora el reto para las empresas con la nueva regulación se centra en la búsqueda de sistemas que garanticen la seguridad del uso de la biometría y que no infrinjan la ley. La norma establece una clasificación de sistemas de IA en función del riesgo que presentan para los derechos fundamentales y otros intereses legítimos. En el caso concreto de la biometría, la norma prohíbe todos los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas o por su raza y orientación sexual.?Así como tampoco se podrán utilizar los sistemas que puntúan a las personas en función de su comportamiento o características personales, ni se podrá hacer uso de la inteligencia artificial para manipular el comportamiento humano. Estarán prohibidos, además, los sistemas para expandir o crear bases de datos faciales captando información de manera indiscriminada a través de internet o de grabaciones audiovisuales.
En este punto cobra importancia el Reglamento eIDAS, que regula los servicios electrónicos de confianza, ya que estos servicios, como la firma, el sello y la autenticación electrónica pueden utilizarse para cumplir con algunos de los requisitos de la ley de IA y garantizar la seguridad de la biometría en los casos que esté permitido por dicha ley. Por tanto, existe una estrecha relación entre la nueva normativa de IA y el eIDAS.
A modo de ejemplo, los servicios electrónicos de confianza pueden utilizarse para garantizar la transparencia, es decir, sirven para registrar y documentar el funcionamiento de los sistemas IA, así como los datos empleados y los resultados obtenidos. Por su parte, la firma, el sello y la autentificación electrónica almacenan y conservan los registros de las decisiones automatizadas que toman los sistemas y las razones por las que se tomaron esas decisiones, por lo que son de utilidad para la accountability de IA de alto riesgo. Y, finalmente, también pueden ser de uso para proteger la seguridad de los sistemas que procesan datos personales o que están sujetos a ciberataques.
Los servicios de confianza se posicionan como una garantía para la seguridad en el uso de la biometría. Por ello, podemos afirmar que la nueva ley de IA y el Reglamento eIDAS proporcionan un marco normativo sólido para el desarrollo y la utilización de sistemas de IA seguros y confiables en la Unión Europea. ?Aunque es probable que la relación entre ambas normativas continúe desarrollándose en el futuro. A medida que los sistemas de IA se vuelvan más complejos y sofisticados, seguramente se requerirán nuevos servicios electrónicos de confianza para cumplir con los requisitos legales de la ley de IA.
