La normativa de protección de datos otorga a los individuos derechos específicos sobre sus datos personales, como el derecho a acceder a sus datos, a corregirlos, a borrarlos y a objetar su uso en ciertas circunstancias.
Estos derechos deben ser respetados cuando se usan sistemas de IA, y los individuos deben tener la capacidad de impugnar, o, solicitar revisión de decisiones tomadas automáticamente por algoritmos. La relación entre los derechos del individuo y la inteligencia artificial (IA) es fundamental y compleja, y abarca cómo los desarrollos en IA afectan, y a veces desafían, los derechos fundamentales de las personas.
A medida que la IA se integra más en la vida cotidiana y en sistemas críticos, garantizar que se respeten y protejan los derechos individuales se convierte en un elemento imperativo de carácter muy determinante.
En este sentido, se puede afirmar, que la IA depende de grandes volúmenes de datos, incluidos los datos personales, y consiguientemente con ellos, debe tenerse presente que los derechos derivados de la protección de la privacidad de las personas se centran fundamentalmente, en el hecho de proteger estos datos contra usos indebidos, debiendo los mismos ser recopilados, usados y protegidos, de acuerdo con la normativa vigente en cada momento sobre protección de datos personales.
Adicionalmente, es importante recordar, que los individuos tienen derecho a ser informados sobre cómo sus datos personales van a ser usados, y cómo deben dar su consentimiento, y los requisitos que ha de reunir el mismo, es decir, que dicho consentimiento sea prestado de manera libre e informada, especialmente cuando estos datos son utilizados para alimentar sistemas de IA.
Del mismo modo, la IA es capaz de tomar decisiones que pueden afectar a los individuos, desde la selección de empleo, hasta las concretas decisiones sobre la concesión de crédito. Por ello, los derechos individuales incluyen la capacidad de entender y cuestionar estas decisiones, así como la garantía de que no serán sujetos a decisiones importantes, basadas únicamente en el procesamiento automatizado sin supervisión humana de manera significativa. En este orden de cosas, cobra una especial transcendencia tanto la transparencia, como la explicabilidad de los algoritmos en los que se fundamenta dicha IA.
Este derecho a la explicación consiste básicamente, en el derecho que tienen las personas a recibir explicaciones sobre las decisiones tomadas por sistemas de IA, especialmente, cuando estas decisiones afectan a sus vidas de manera significativa. Esto implica, que los sistemas de IA deben ser diseñados de manera que sus operaciones y decisiones puedan ser comprendidas y explicadas a los usuarios.
Complementariamente a ello, se produce el llamado derecho al acceso a la información, en el sentido de que los derechos en este ámbito de actuación también incluyen el acceso a la información sobre cómo los sistemas de IA operan, y, cómo se procesan los datos, lo que es esencial para la existencia de transparencia en los tratamientos en el sistema de la IA.
Del mismo modo, un principio fundamental en esta vinculación que debe existir entre los derechos de las personas en el ámbito de la privacidad es el que se refiere a la no discriminación, y al hilo de ello, que no se produzcan sesgos que produzcan estos efectos.
Los sistemas de IA pueden perpetuar o incluso exacerbar sesgos existentes si no se gestionan cuidadosamente, y por ello, el derecho a no ser discriminado implica la necesidad de desarrollar y operar sistemas de IA, que sean justos y equitativos, y que no refuercen prejuicios contra ciertos grupos sociales o determinados individuos. Dentro de la relación que es objeto de estas reflexiones, es importante tener en consideración el derecho a la rectificación, y, también el derecho al olvido.
Los individuos tienen derecho a corregir datos incorrectos o desactualizados, que puedan afectar a cómo los mismos son tratados por sistemas de IA. Como corolario de ello, existe el derecho a la eliminación de los datos, y así, de manera asociada con el derecho al olvido, los individuos pueden solicitar que sus datos personales sean borrados de los sistemas de IA, especialmente si ya no son necesarios para los fines para los que fueron recogidos.
En otro orden de cosas, debe tenerse en cuenta que aspectos como la seguridad y la protección de los datos personales, se lleva a efecto mediante la adopción de las correspondientes medidas de seguridad.
Los derechos incluyen la protección contra el acceso no autorizado o ilegal, y, contra la pérdida o destrucción de datos personales, y de manera consecuente con ello, se requiere que los sistemas de IA implementen aquellas medidas de seguridad, que, en cada caso, sean adecuadas.
Un criterio importante al analizar esta relación es el que hace referencia a la participación de los stakeholders en el desarrollo de la IA. La inclusión de los grupos de interés lleva consigo el hecho de promover una participación amplia en el diseño y desarrollo de la IA, lo que puede ayudar a asegurar que los sistemas sean inclusivos, y de manera simultánea, consideren las necesidades y los derechos de los diversos grupos de la sociedad.
Otro factor a tener en consideración es el que hace referencia a la cada vez más necesaria existencia de una supervisión regulatoria, a los efectos de poder proteger eficazmente los derechos individuales de las personas.
Para ello, se necesitan marcos regulatorios robustos, que rijan el desarrollo y uso de la IA en todo su alcance y extensión. Complementariamente a todo ello, es conveniente que los individuos cuenten con la existencia de los llamados "mecanismos de recurso", ya que por parte de los individuos se debería tener acceso a los correspondientes recursos legales y/o administrativos, cuando sus derechos son lesionados o ignorados por los sistemas de IA.
Todo ello lleva a la conclusión de que la relación entre los derechos del individuo y la IA tiene un carácter eminentemente dinámico, y, al mismo tiempo, requiere una atención constante y deliberada para asegurar, que el avance de la tecnología, no solo traiga consigo la producción de innovaciones, sino que también respete y fomente de manera eficiente, los derechos fundamentales de las personas.