Firmas

Inteligencia artificial y desigualdad

  • Es posible eliminar los sesgos, pero para ello es necesario esfuerzo y dinero
Imagen: Dreamstime.

Las mujeres están hoy subrepresentadas en numerosas esferas de la vida económica; por ejemplo, ocupan únicamente el 19% de las juntas directivas en EEUU y Europa. La brecha de género se mantiene a pesar de que las mujeres han obtenido, en las dos últimas décadas, calificaciones educativas medias superiores a sus homólogos masculinos en numerosos países de la OCDE.

El despliegue de la inteligencia artificial (IA) reforzará todavía más esta brecha social debido a que los datos que se utilizan actualmente en el entrenamiento de las máquinas son parciales. Y, por tanto, también lo serán los resultados de sus predicciones.

Esta parcialidad, siempre presente en los procesos que dependen de decisiones humanas, influye en aspectos tan variados como la contratación laboral, la calificación de exámenes de estudiantes, los diagnósticos médicos o las aprobaciones de préstamos bancarios, entre muchos otros. La metodología que utilizan las máquinas para aprender -un subcampo de la IA- implica alimentar los datos de la computadora (texto, imágenes o voz) y agregar un clasificador.

Por ejemplo: mostrar una imagen de una mujer que trabaja en una oficina y luego etiquetarla como mujer oficinista. Con el tiempo y muchas imágenes, la computadora habrá aprendido a reconocer imágenes similares y podrá asociarlas a las mujeres que trabajan en una oficina.

La industria financiera ha avanzado notablemente en el uso de sistemas de IA. Por ejemplo, para evaluar el riesgo de crédito antes de emitir tarjetas de crédito u otorgar pequeños préstamos. En estos procesos, filtra los datos de los clientes para descartar a los que probablemente no puedan llegar a pagar. Pero usar datos de clientes rechazados y asociarlos con un conjunto de reglas podría generar sesgos. Una de esas reglas podría ser: Si el cliente es una mujer soltera, no acepte su solicitud.

Eso no es todo. Por ejemplo, LinkedIn mostraba con más frecuencia trabajos altamente remunerados en las búsquedas realizadas por hombres que en las búsquedas realizadas por mujeres. Se debía a la forma de escribir sus algoritmos: los usuarios iniciales para estos trabajos bien remunerados eran predominantemente hombres, por lo que terminaron proponiendo estos trabajos preferentemente a hombres y reforzaron el prejuicio contra las mujeres.

Hoy, el uso de datos está reemplazando progresivamente a las decisiones humanas y, con ello, se incrementan las acciones predictivas discriminatorias. Para evitarlo, es fundamental comprender los sesgos que crean estas cajas negras.

Un sistema para probar estos sesgos es la prueba de estrés, utilizada por el científico informático Anupam Datta para estudiar si la IA mostraba parcialidad en la preselección de empleados en un proceso de contratación. La selección se realiza a partir de criterios como las habilidades y la educación, que generan una puntuación que indica cuán apropiado es el candidato para el trabajo.

En un programa de selección de candidatos para empresas de mudanzas, el programa de Datta cambió aleatoriamente el sexo y el peso que los solicitantes dijeron que podían levantar en su solicitud y, si no hay cambios en el número de mujeres preseleccionadas para las entrevistas, entonces el sexo del solicitante no determina el proceso de contratación.

Como muestra este ejemplo, es posible eliminar los sesgos. Pero requiere esfuerzo y dinero para implementarse.

En un futuro en el que la IA conduzca a que los humanos sean reemplazados por máquinas en algunas situaciones, los mayores niveles de inteligencia emocional de las mujeres serán cada vez más valiosos. Existirá una mayor necesidad de roles que comprendan el comportamiento humano de un modo que las máquinas no llegan a alcanzar.

Estos roles requerirán la comprensión de los contextos sociales, la empatía o la compasión, y es aquí donde destacarán las personas con niveles más altos de inteligencia emocional. De este modo, aunque es probable que los sesgos aumenten a corto plazo, la igualdad de género sí tiene una posibilidad a la larga.

comentarios0WhatsAppWhatsAppFacebookFacebookTwitterTwitterLinkedinlinkedin