El abuso de la inteligencia artificial resta agilidad y poder al cerebro

Un estudio del Media Lab del Instituto Tecnológico de Massachusetts revela que el 83% de quienes usaron las herramientas de inteligencia artificial generativa fueron incapaces de recordar ni una sola frase de su ensayo sin consultarlo. Sí, la tecnología nos facilita mucho la vida. Es indudable la manera en que nos ayuda en todo tipo de tareas. Pero si, por ejemplo, nos acostumbramos a movernos siempre con el GPS, quizá si este no funciona o nos quedamos sin batería, seamos incapaces de orientarnos por nosotros mismos por la ciudad… También si solemos pedir a Siri o a Google que nos recuerde todo, la memoria se irá atrofiando. Ahora se ha demostrado que con la inteligencia artificial (IA) generativa pasa algo bien parecido.

Cansados de sospechar sobre si el uso de ChatGPT y resto de herramientas en el ámbito educativo podían mermar nuestras capacidades intelectuales y creativas, en el Media Lab del instituto Tecnológico de Massachusetts (MIT) se lo han tomado muy en serio. Y acaban de presentar los resultados de su estudio, titulado Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. En sus conclusiones revela consecuencias relevantes que podrían transformar nuestra manera de entender la relación entre tecnología y aprendizaje.

Conviene conocer bien los entresijos del estudio. Para empezar, los investigadores diseñaron un experimento con 54 participantes distribuidos en tres grupos. Un primer grupo utilizó ChatGPT como único recurso, otro grupo empleó motores de búsqueda tradicionales, mientras que el tercero escribió únicamente a partir de sus conocimientos, sin acceso a herramientas externas. En tres sesiones, cada participante trabajó bajo la misma modalidad. En una cuarta sesión experimental, se invirtieron los roles. De esta manera, quienes habían utilizado ChatGPT escribieron sin herramientas (grupo LLM-to-Brain), mientras que quienes habían trabajado sin ayuda usaron por primera vez el modelo de lenguaje (grupo Brain-to-LLM). Cuando dicen LLM se refieren a los modelos de lenguaje grande o Large Language Models, o lo que es lo mismo, los sistemas de IA diseñados para entender y generar lenguaje humano.

Un estudio del Media Lab del Instituto Tecnológico de Massachusetts revela que el 83% de quienes usaron estas herramientas de inteligencia artificial generativa fueron incapaces de recordar ni una sola frase de su ensayo sin consultarlo

Para evaluar los resultados se usaron varios métodos: electroencefalografía (EEG) para medir la actividad cerebral, análisis lingüístico con procesamiento de lenguaje natural (NLP) y entrevistas cualitativas y evaluaciones de calidad de los textos tanto por jueces humanos como por un sistema de IA especialmente desarrollado. Esto último también dice mucho del momento que vivimos: herramientas de IA ayudan a extraer conclusiones de un estudio sobre el impacto del uso de la IA…

Menor carga cognitiva

Una de las conclusiones más relevantes del estudio ha sido la evidencia de que el uso de ChatGPT reduce la carga cognitiva inmediata, pero a un coste significativo. Según explican los autores, "el uso de LLMs redujo la fricción al responder, pero también redujo la inclinación de los participantes a evaluar críticamente las respuestas del modelo". Esta reducción del esfuerzo mental conlleva lo que definen como "deuda cognitiva", un concepto que describe cómo una delegación excesiva de funciones intelectuales en la IA puede deteriorar progresivamente habilidades como la memoria, la atención sostenida y la elaboración creativa. Como resumen, los investigadores afirman que "la deuda cognitiva difiere el esfuerzo mental a corto plazo, pero conlleva costes a largo plazo como menor creatividad, pensamiento superficial y vulnerabilidad a manipulaciones". Ninguna tontería perder esas capacidades, que son precisamente las que nos distinguen del resto de animales.

Desde el MIT sugieren que el uso repetido de LLMs puede dejar huella en los patrones de procesamiento cerebral

Uno de los indicadores más tangibles de esta falta de implicación cognitiva fue la baja capacidad para recordar el contenido de los ensayos. En la primera sesión, el 83% de los participantes que usaron ChatGPT fueron incapaces de citar correctamente una sola frase de su ensayo sin consultarlo. En cambio, en los grupos que usaron buscadores o no usaron herramientas, apenas el 11% falló en esta tarea. La percepción de los propios participantes ratifica esta diferencia: "Sabía más o menos lo que había escrito, pero no podía citar nada con precisión", confesó uno de los usuarios del grupo LLM durante las entrevistas posteriores.

En el plano neurológico, los registros del electroencefalograma mostraron diferencias significativas entre los grupos. La actividad cerebral del grupo que escribió sin herramientas fue mucho más intensa y distribuida, especialmente en las zonas prefrontales responsables de la planificación, la memoria de trabajo y la toma de decisiones. En contraste, quienes utilizaron ChatGPT presentaron una conectividad cerebral más débil y localizada, lo que sugiere una forma de procesamiento más pasiva. "La conectividad cerebral disminuyó sistemáticamente con el nivel de asistencia: mayor en el grupo Brain-only, intermedia en el de búsqueda web y más baja en el grupo LLM", concluyen los autores.

Capacidades mermadas

Incluso en la cuarta sesión, cuando los usuarios habituales de ChatGPT intentaron escribir sin ayuda, su rendimiento cognitivo no se recuperó del todo. Las mediciones del electroencefalograma indicaron una actividad neural reducida en comparación con aquellos que no habían utilizado nunca herramientas digitales. Esto sugiere que el uso repetido de LLMs puede dejar huella en los patrones de procesamiento cerebral, afectando la forma en que los usuarios abordan tareas cognitivamente exigentes incluso después de dejar de usar el sistema.

Otro hallazgo relevante es el efecto del uso de ChatGPT sobre la percepción de autoría. Muchos participantes del grupo LLM señalaron que sentían que los ensayos "no eran completamente suyos". Algunos afirmaron que el 50% del contenido era generado por la IA, aunque lo hubieran editado. Por el contrario, los participantes de los otros grupos manifestaron un sentido de propiedad mucho mayor. "El ensayo estaba bien, pero sentí que no terminé de desarrollar mis ideas", comentó uno de los usuarios de ChatGPT. En cambio, otro participante del grupo autorizado a usar buscadores dijo: "Aunque busqué algo en Google, sentí que el ensayo era totalmente mío".

Desde el punto de vista del contenido, los textos generados con ayuda de ChatGPT tendieron a ser más homogéneos y menos diversos, tanto en términos lingüísticos como en la variedad temática. El análisis reveló que las respuestas de ChatGPT repetían fórmulas similares, lo que facilitó incluso a los evaluadores humanos identificar cuáles ensayos habían sido generados con IA. "Los ensayos del grupo LLM tendían a repetir un conjunto limitado de ideas y a usar estructuras homogéneas", expresan los autores del estudio.

Herramienta "muy útil"

A pesar de que muchos participantes valoraron la utilidad de ChatGPT como herramienta de apoyo lingüístico o estructural, también surgieron múltiples críticas sobre su capacidad para fomentar un pensamiento profundo. "El ensayo estaba bien escrito, pero no sentí que lo hubiera pensado yo", dijo una participante. Otro usuario señaló que "la herramienta ayuda a empezar, pero no necesariamente mejora tus ideas".

Las conclusiones del equipo investigador son claras y prudentes. Aunque reconocen el potencial de ChatGPT como herramienta educativa, advierten que su uso debe estar condicionado a ciertas precauciones pedagógicas. "Antes de que los LLMs se consideren beneficios netos para los humanos, necesitamos estudios longitudinales que midan su impacto real en el cerebro humano", señalan los autores en la conclusión del informe. Y añaden: "Nuestros resultados respaldan un modelo educativo que posponga la integración de IA hasta que los estudiantes hayan desarrollado habilidades cognitivas suficientes por sí mismos".

Este estudio revela una paradoja fundamental en la educación contemporánea: las herramientas que nos hacen más productivos también pueden alejarnos del proceso intelectual que da sentido al conocimiento. Aunque ChatGPT puede mejorar la eficiencia de la escritura, su uso excesivo amenaza con debilitar habilidades clave como la memoria, la autoría y el pensamiento crítico. En un momento donde las aulas y las profesiones adoptan con entusiasmo estos sistemas, estos hallazgos ofrecen una llamada bien interesante a la reflexión.

Como explica Carlos Ortiz de Lucas, profesor de emprendimiento en varias escuelas de negocio, en su perfil Linkedin, este estudio del MIT corrobora que "la IA también va a hacer más tontos a los más listos". Admite asimismo en esta red social no sentirse demasiado sorprendido por los resultados y lo explica basándose en su propia experiencia. "Llevo siendo varios años docente en varias universidades y es preocupante que alumnos que entregan 'buenos trabajos' luego en los exámenes son incapaces de redactar más de dos párrafos con sentido, estamos hablando de capacidad de redacción y de escritura peor que en la ESO".

Admite este docente que siempre ha sido defensor de que cada cual escriba su propio contenido. "Un LLM puede ayudarte a conseguir inspiración, a mejorar la estructura del texto o los "ganchos"... pero si te vuelves 100% dependiente de hacer todo con ChatGPT tu cerebro acabará atrofiado". Y lanza una advertencia: "Creo que lo mismo que ahora está demostrado y le está pasando a los niños cuyos padres les han dado pantallas y tablets desde bebés y los problemas mentales que eso les está ocasionando, se acabará demostrando para quien usa ChatGPT para todo".