Opinión

Algoritmos e infalibilidad: una falacia de nuestra época

Las nuevas tecnologías exigen mejores controles

Inteligencia Artificial, deep y machine learning, big data, redes neuronales, edge computing, robot process automation, algoritmos…Tecnologías y metodologías en boga; matemáticas e informática viviendo una nueva época dorada. Es tal su momentum, que el último informe de Gartner (Hype Cycle) afirma que casi un tercio de las tecnologías llamadas a cambiar significativamente nuestra sociedad en la próxima década tienen relación con estas disciplinas. De hecho, muchas de ellas, especialmente las vinculadas a la Inteligencia Artificial, se ubican ya en la fase de "pico de expectativas infladas".

Sus aplicaciones abarcan todo tipo de actividades. Gestión del tráfico rodado o incluso aéreo. Control de procesos o cultivos. Cotizaciones bursátiles, noticias redactadas por robots, diagnósticos médicos. De forma consciente o no, prácticamente todos hemos interaccionado con ellas: las relaciones con clientes a través de IA se han multiplicado por dos desde 2018. E irá a más.

Urge desterrar el mito de que las nuevas tecnologías no pueden estar equivocadas

El mundo del trabajo no es ajeno a ello. Ya tenemos algoritmos en la mayoría de procesos de selección; encontramos cálculos del desempeño o valoraciones profesionales sometidas a programas informáticos autónomos. El máximo exponente lo encontramos en las plataformas digitales, donde toda la organización del tiempo de trabajo reside en un algoritmo que reparte tareas, turnos y descansos.

Legisladores y reguladores están, tímidamente, comenzando a estudiar este fenómeno, siempre bajo una perspectiva económica o ética. Nada se comenta sobre su aplicación en el mundo del trabajo o de las relaciones labores. Para el grupo de expertos de alto nivel de la Comisión Europea, es una cuestión que ni siquiera se nombra. Aquí en España, las referencias al factor trabajo en la futura Carta de Derechos Digitales son, siendo benevolentes, simplemente tangenciales.

Sin embargo, llevamos varias décadas comprobando como el uso de los algoritmos en las relaciones laborales genera perniciosas consecuencias. Desde los test de Escala del programador, que expulsaron a las mujeres de la informática entre los años 70 y 80, hasta recientes estudios de la Universidad de Pricenton, que califican a los algoritmos laborales como "muy poco fiables", los hechos demuestran que nos encontramos ante una confluencia de exageradas expectativas, conceptos falsos y disfunciones demostrables.

Las herramientas digitales deben estar sometida al mismo grado de seguridad que las tangibles

Urge desterrar el mito de la infalibilidad de los algoritmos. El reciente ejemplo de la selectividad británica, que discriminaba abiertamente a los alumnos más brillantes de las escuelas más humildes, es uno más dentro de una larga lista. En los Países Bajos, el gobierno se vio obligado a retirar un programa de fraude en las ayudas sociales que excluía a personas oriundas de determinados países. Otro tanto encontramos en los estados de Idaho, Arkansas u Oregón (EEUU) que empleaban algoritmos defectuosos en la asignación de ayudas a discapacitados, excluyendo a solicitantes de pleno derecho. Incluso el ultimísimo y avanzado GPT-3, un modelo de machine learning que maneja 600.000 millones de parámetros, presenta comportamientos sexistas y racistas.

Traigamos de nuevo estos ejemplos al terreno laboral: despidos injustos de profesores en Washington DC, a consecuencia de un algoritmo fallido de medición del desempeño. Discriminación de colectivos vulnerables en procesos de selección (Kronos, Boston). O el reciente ejemplo de Amazon, que se vio obligada a retirar un motor de contratación por mostrar perjuicios contra las mujeres. Hasta tal punto hemos llegado que el Foro Económico Mundial ha acuñado el término "estupidez artificial", refiriéndose a los errores que cometen este tipo de tecnologías.

Todas estas muestras deberían ponernos en guardia. Si las decisiones informatizadas están tan sesgadas como las de cualquier humano, no podemos atribuirles el cariz de objetivas o indiscutibles. No se trata de regular el tráfico o de pautar el goteo de un regadío: cuando hablamos de informatizar nuestras relaciones laborales estamos intentado codificar aspectos que la tecnología, hoy por hoy, todavía no maneja con plenas garantías.

Deberíamos tener bien presente que la mayor parte de la ciudadanía europea y española tiene en su empleo su única fuente de ingresos. No podemos dejar a merced de mercados e intereses comerciales el uso de estas tecnologías en los puestos de trabajo. No se propone ni se pretende renunciar a un progreso tecnológico. Al contrario, debemos aprovecharlo siempre y cuando garantice el cumplimiento de todos los estándares al uso, como se exige a una fresadora o una caja registradora. Estamos ante herramientas de trabajo, y por tanto, deben estar sometidas al mismo grado de seguridad, inspección y trazabilidad que sus hermanas tangibles.

Por todo ello, debemos situar esta problemática en lo más alto de la agenda pública. Comenzando por cómo hacer cumplir la actual legislación (en especial el artículo 22.1 del RGPD, que garantiza que cualquier decisión que nos afecte no podrá estar completamente automatizada) a cómo la evolucionamos, haciéndola más garantista. La facultad de hacer explicable y comprensible la lógica de los algoritmos implicados en nuestra relación laboral; la verificación de ausencia de sesgo en los sets de datos de entrenamiento, afianzando la perspectiva de género desde el diseño; el papel de las autoridades laborales en la auditoría de los algoritmos; los test de fiabilidad extremo a extremo; la definición de responsabilidades jurídicas en caso de mal funcionamiento o la supremacía de los derechos de información y consulta de los sindicatos sobre los secretos comerciales son aspectos que necesariamente estarán en el debate futuro. E incluso, por qué no, una futura ley de justicia algorítmica que nos proporcione la seguridad jurídica necesaria para confiar en estos sistemas.

comentariosforum2WhatsAppWhatsAppFacebookFacebookTwitterTwitterLinkedinlinkedin

forum Comentarios 2

En esta noticia no se pueden realizar más comentarios

Vicente
A Favor
En Contra

Un algoritmo es un conjunto de reglas para resolver un problema manejando símbolos ciegamente, es decir, ignorando lo que significan. Para que me entienda todo el mundo, consideremos esta regla:

Cuando veas estos símbolos 3+5 , los sustituyes por 8. Eso es un algoritmo para sumar 3 más 5. Lo puede aplicar un tonto sin saber lo que hace. Pues esa es la esencia de los algoritmos y en eso se basa la mal llamada Inteligencia Artificial.

Cuando la gente era analfabeta, veía lo escrito como algo misterioso. De ahí que para que aceptaran algo como verdadero se les decían frases como estas: Está escrito", "lo he leído", etc. y nadie se atrevía a contradecirte. Ahora, como construir algoritmos es tarea que ignora la mayoría, se sustituye "está escrito" por "lo ha hecho un algoritmo".

Para que se vea la estupidez que conlleva, he aquí un hecho. Un vecino mio tuvo que viajar 120 kmt durante 35 días para someterse a radioterapia por un cáncer de laringe. Como el algoritmo detectó que todos los días a la misma hora acudía al hospital, interpretó que era médico. Después de tres años, todavía recibe e-mails invitándole a congresos médicos. Así funciona la inteligencia artificial y los algoritmos que la realizan-

Puntuación 4
#1
Vicente
A Favor
En Contra

Como la palabra algoritmo se ha puesto de moda desde el uso de ordenadores, ya que se identifica con "programa de ordenador", creo que conviene explicar de qué se trata.

UN algoritmo es cualquier conjunto finito de reglas que sirven para resolver un problema. Por ejemplo, usted tiene 50 libros y quiere ordenarlos en un estante por orden alfabético de sus títulos. Usará algún procedimiento, por ejemplo, seleccionar primero los que empiezan por A, etc. Si le explica a otra persona ese procedimiento para que lo haga por usted, esa explicación será un algoritmo para ordenar libros.

El origen de la palabra se debe al matemático persa del siglo VIII llamado Mohamed Ibn Mussa Al-khwarizmi. Su nombre significa Mohamed, hijo de Mussa (Moisés), oriundo de la región de Khuarizm. Este matemático fue el que introdujo el sistema de numeración indio, inventó los procedimientos (algoritmos) que nos enseñan en la escuela para sumar, restar, multiplicar y dividir y extraer raices cuadradas. Estuvo asl servicio de Califa de Bagdad. Escribió 70 cartas astronómicas.

Muchos siglos después, Leonardo de Pisa, conocido por Fibonacci (hijo de Bonifacio), quiso introducir en el mundo cristiano el sistema árabe de numeración y las reglas de Al-khwarizmi. El libro se escribió en latín y latinizó el nombre de Al-khwarizmi por Algoritmus. De ahí que se llamara algoritmo a cualquier procedimiento para resolver problemas. Su tratado para resolver ecuaciones, que se conserva en Oxford, empezaba con esta frase: "Aljabr wa al mukabala." De ahí que la nueva disciplina se llamara álgebra, la palabra con la que empieza su libro y que viene a significar algo así como re-composición.

El sistema de numeración árabe usa cifras diferentes a las 0, 1, 2 ...9 que usamos hoy universalmente. Estas cifras 0, 1, 2...9, se inventaron en por los sabios que enseñaban en la Mezquita (Madrassa) de Córdoba, y las llamaron cifras "gubar". Este nombre procede de la tablita que usaban los musulmanes españoles para sus cálculos. La palabra cifra proviene de árabe sifr que significa circulito. Ello se debe a que a la numeración india, Al-Khwarizmi añadió in circulito pequeño que representaba al cero. Muchos confunden cifra con número. Cifra es el símbolo y número el significado de ese símbolo. Con frecuencia leemos algo así: "alcazó la cifra de 23.000 euros". Mal 23.000 no es una cifra. Es un número de cinco cifras.

Puntuación 3
#2