Nuevos retos para la IA

Tras varios años de adopción creciente y experimentación práctica, la inteligencia artificial ha dejado de ser una promesa futurista para convertirse en una herramienta transversal en casi todos los sectores. Hemos pasado de la fascinación inicial al uso cotidiano de modelos de IA en múltiples ámbitos de la vida, desde asistentes virtuales con los que ya interactuamos muchos de nosotros, hasta herramientas que apoyan decisiones clínicas o financieras. Ahora que la tecnología ha alcanzado un cierto grado de madurez y la sociedad ha interiorizado su presencia, es momento de abordar dos de los grandes desafíos que definirán su evolución futura: la explicabilidad de los modelos (XAI, por sus siglas en inglés) y su sostenibilidad energética. La evolución de la IA ya no se mide solo por su precisión o potencia, sino también por su capacidad para ser comprendida y su impacto en el planeta.

Por un lado, transparencia algorítmica y la explicabilidad se han convertido en un imperativo en contextos donde las decisiones de la IA tienen consecuencias críticas, como la medicina, donde un sistema de IA que asiste en diagnósticos no puede limitarse a emitir una predicción: debe ser capaz de justificarla. Saber por qué un algoritmo sugiere una patología u otra no solo permite mayor confianza por parte del profesional sanitario, sino que es esencial para detectar posibles sesgos o errores.

En el sector financiero, los algoritmos que evalúan riesgos crediticios deben ser transparentes para evitar sesgos y discriminaciones.

Coste energético

Por otro lado, el crecimiento exponencial de los modelos de IA a lo largo de todo el mundo ha traído consigo una concienciación sobre el coste energético asociado: entrenar un modelo de gran escala (LLM o Large Language Models) puede llegar a consumir cientos de megawatios hora.

Según estudios recientes, el entrenamiento de GPT-3 generó más de 500 toneladas de CO?, que es la energía que consume una ciudad pequeña en varios días. Estos niveles de consumo no son sostenibles a largo plazo, y urgen desarrollos de IA más eficientes y menos dependientes de grandes infraestructuras computacionales.

Avances

La buena noticia es que ya existen avances relevantes en ambas direcciones. En explicabilidad, se desarrollan técnicas como LIME, SHAP o los llamados "modelos interpretables por diseño", que permiten comprender mejor qué variables han influido en una predicción.

En el ámbito de la sostenibilidad, surgen propuestas como el green AI, que aboga por priorizar el rendimiento por unidad de energía consumida, o la utilización de hardware especializado, como chips diseñados para minimizar el gasto energético. Además, se exploran modelos más ligeros, adaptativos o de "few-shot learning" que requieren menos datos y ciclos de entrenamiento, con menor huella ecológica. La creciente presión regulatoria y social está empujando a las empresas tecnológicas a rendir cuentas sobre cómo y por qué toman decisiones automatizadas, y con qué impacto ambiental.

En conclusión, la inteligencia artificial entra en una nueva fase donde los sistemas no solo deben ser potentes, sino que deben ser comprensibles y sostenibles. Estos desafíos o no son menores, pero son muy necesarios si queremos desterrar el temor a que la IA nos sobrepase y escape a nuestro control, pudiendo convertirse en una potente herramienta transformadora. Abordar estos aspectos de manera adecuada, es el camino correcto hacia la llamada Era de la IA, en la que la tecnología no solo sea poderosa sino humana, justa y que cuide el planeta.