A estas alturas del decisivo partido llamado "transformación digital", cuyas inversiones en automatización, multicanalidad, movilidad y conectividad han ayudado notablemente a mitigar el impacto en las organizaciones de la crisis de la Covid-19 que estamos sufriendo, nadie duda de que el exitoso desarrollo de soluciones y plataformas de Inteligencia Artificial (IA) será clave en el futuro posicionamiento competitivo de las compañías en sus segmentos de mercado.
Si nos ceñimos a las cifras, los analistas arrojan previsiones de impacto de entre el 12% y el 15% del PIB mundial, con una inversión cercana a los 21.000 millones de dólares en 2023 solamente en Europa, siendo el sector sanitario, de automoción, financiero, transporte y logística los que liderarán su evolución. En nuestro país, según los últimos estudios, cada vez es mayor el número de empresas conscientes de la relevancia de esta tecnología, que está siendo implantada progresivamente por más organizaciones.
Se debe garantizar que los datos no presentan sesgos que den lugar a discriminaciones
Desde un punto de vista cualitativo, es de esperar que los servicios basados en IA estén cada vez más integrados en procesos críticos de negocio, como en la concesión de crédito o en la optimización de la cadena de suministro. En ellos, se explotará una mayor cantidad de datos e irán aumentando su autonomía en la toma de decisiones, lo que aportará tanto beneficios para los consumidores como generación valor para las compañías.
Este incremento de la relevancia de la IA, que irá ganando peso en los procesos críticos de negocio con independencia del sector, también traerá aparejado nuevos incidentes no deseados, algunos de ellos de potencial gravedad. Todo ello no pasa desapercibido a los diferentes organismos reguladores y supervisores, que comienzan a establecer directrices orientadas a mitigar los riesgos del uso de las soluciones basadas en IA. En este sentido, tenemos como ejemplo reciente la guía para adaptar los productos y servicios que utilizan IA al Reglamento General de Protección de Datos (RGPD), emitida por la Agencia Española de Protección de Datos (AEPD) el pasado mes de febrero.
La mejora de los procesos y servicios es aún más importante ahora por la pandemia
Ante este contexto, resulta imprescindible integrar en la estrategia de desarrollo de soluciones de IA de la organización un modelo de gestión de riesgos robusto. Para ello, más que nunca se requiere hacer una profunda reflexión del nivel de apetito al riesgo que la empresa quiere/puede asumir, lo que le permitirá capitalizar adecuadamente las inversiones necesarias, reduciendo el nivel de incertidumbre sobre el retorno de la inversión.
Esta gestión del riesgo en sistemas de Inteligencia Artificial aúna tanto riesgos tradicionales como riesgos específicos asociados al empleo de IA. Por lo tanto, como primera premisa, será necesario un enfoque integral de la gestión del riesgo, lo que implica una visión completa de la plataforma tecnológica involucrada – no únicamente sobre cada solución de IA individual - y adicionalmente, la cobertura de todo el ciclo de vida de los modelos IA.
Para garantizar el éxito en el diseño e implantación del modelo integral de gestión de riesgos IA, es necesario alinear diferentes roles y responsabilidades existentes en las organizaciones, así como tener en cuenta el gobierno de la arquitectura tecnológica de la entidad en cuestión. Asimismo, resulta crítico garantizar que la información empleada para ser consumida por los sistemas de IA dispone de los niveles de calidad e integridad adecuada. En este sentido, particularmente se deben formalizar procedimientos sistemáticos de evaluación que permitan garantizar que los datos no presentan sesgos que den lugar a la discriminación de individuos en la toma de decisiones por parte del sistema.
Entre otros elementos a considerar, no debemos obviar las exigencias regulatorias - presentes y futuras- que resulten aplicables a nuestras soluciones IA. En este ámbito, es especialmente relevante el cumplimiento de los requerimientos RGPD, que afecta entre otros a la identificación del tratamiento, al deber de información o a los derechos de los interesados.
Con todo ello, la organización aprovechará los beneficios de adoptar de manera temprana un enfoque integral de la gestión de riesgos y maximizará la ventaja competitiva derivada de implantar soluciones de Inteligencia Artificial. Este activo permitirá a la entidad dotarse con un factor esencial para la mejora de sus procesos y servicios, diferencial en el mercado y que podría ser relevante para mejorar la sostenibilidad de la empresa en un momento crítico, como el actual, marcado por la pandemia de la Covid-19.
