Especial Tecnología y Startups

Ante un nuevo desafío: abordar el sesgo algorítmico

  • El aprendizaje automático se está utilizando en la toma de decisiones con implicaciones comerciales
  • Los beneficios al reconocer los sesgos que pueden dañar a dichas elecciones son múltiples
Madrid

Desde hace un tiempo, cada vez más empresas se han lanzado a aplicar el aprendizaje automático (ML por sus siglas en inglés) a la toma de decisiones. El aprendizaje automático es un tipo de inteligencia artificial (IA) que proporciona a las computadoras la capacidad de aprender, sin necesidad de que sean programadas explícitamente. Si bien esta tecnología no es exactamente novedosa. En el campo de las Ciencias se ha utilizado durante más de medio siglo, pero su concepto es todavía más antiguo. Un conjunto de matemáticos ya lo expresaron a principios del siglo XIX. Sin embargo, ahora es cuando su uso se está extendiendo a empresas, y cobrando mayor fuerza a raíz de la llegada de potentes ordenadores, Internet y la digitalización de la información a gran escala.

Constantemente se están lanzando nuevos programas que configuran algoritmos complejos para que trabajen con conjuntos de datos grandes y sean capaces de analizarlos. Lo cierto es que la velocidad a la que esto está ocurriendo da fe del atractivo de esta tecnología, pero la falta de experiencia crea también ciertos riesgos reales como el sesgo algorítmico.

El sesgo algorítmico es uno de los mayores riesgos para una empresa porque compromete el propósito mismo del aprendizaje automático. Los algoritmos de aprendizaje automático permiten a las empresas ser más eficientes en algunos procesos que realizan habitualmente, pero también son tan susceptibles como cualquier sistema al síndrome de lo que en inglés se denomina como GIGO o ''Garbage In Garbage Out'' (entra basura, sale basura). Una expresión utilizada en el ámbito de la informática y que hace referencia a que el fallo del sistema a la hora de tomar decisiones si parte de datos inexactos, el programa dará datos erróneos.

En el caso de los sistemas de autoaprendizaje, el tipo de "basura" son datos sesgados. Si no se controla, la entrada de datos sesgados a los sistemas de autoaprendizaje puede generar resultados no deseados y, a veces, peligrosos para las empresas.

Máquinas sesgadas

En los procesos comerciales automatizados, los algoritmos de aprendizaje automático toman decisiones más rápido que los humanos y por una fracción del costo.

Los algoritmos de aprendizaje automático tienden a incorporar los sesgos de sus creadores

El aprendizaje automático también promete mejorar la calidad de las decisiones, debido a la supuesta ausencia de sesgos humanos. Los tomadores de decisiones humanos podrían, por ejemplo, ser propensos a dar un peso adicional a sus experiencias personales. Esa forma de sesgo es conocida como 'anclaje' y es una de las múltiples maneras en las que pueden afectar a las decisiones comerciales. O el sesgo de confirmación que es la tendencia a seleccionar una evidencia que respalde creencias preconcebidas, mientras que el sesgo de aversión o miedo a las pérdidas, impone un conservadurismo indebido en los procesos de toma de decisiones.

Por tanto, ¿están las máquinas sesgadas? La respuesta, por supuesto, es sí, por algunas razones básicas. Los algoritmos de aprendizaje automático tienden a incorporar los sesgos de sus creadores humanos. Por ejemplo, los algoritmos de contratación experimentales de Amazon que, basándose en sus prácticas de contratación anteriores y en los datos de los solicitantes, rechazaban preferentemente las solicitudes de empleo de las mujeres. Amazon finalmente abandonó la herramienta porque el sesgo de género estaba muy arraigado en su sistema debido a las prácticas de contratación anteriores y no podía garantizar la equidad.

Pese a que la inteligencia artificial es tan propensa al sesgo como la humanidad, pero la buena noticia es que los sesgos en los algoritmos también se pueden diagnosticar y tratar.

comentarios0WhatsAppWhatsAppFacebookFacebookTwitterTwitterLinkedinlinkedin