El estudio del MIT y sus implicaciones para las empresas del conocimiento

Hace poco el MIT Media Lab ha publicado un estudio sobre los cambios que se dan en la actividad cerebral cuando las personas utilizan LLMs para tareas de escritura. El estudio tuvo 3 sesiones y una cuarta voluntaria. De 60 participantes, 55 completaron el estudio, de los que 18 asistieron además a la sesión voluntaria.

Se monitorizó la actividad cerebral de los participantes mientras completaban tareas de escritura creativa. En cada sesión debían escribir sobre un tema (a elegir entre 3) durante 20 minutos. En la cuarta sesión se les permitió escribir sobre alguno de los temas tratados anteriormente. No para verificar el conocimiento adquirido, ya que son temas más bien de opinión, sino para revisitarlo con un sistema diferente.

Y estas son algunas de las conclusiones a las que se llegó:

• Problemas en el desarrollo cognitivo: el cerebro se acostumbra a que sea un agente externo el que realiza los procesos cognitivos, por lo que reduce el esfuerzo. Se documentó una reducción significativa en la conectividad cerebral, mostrando los usuarios hasta un 55% menos de conectividad neural en comparación con quienes escribieron sin asistencia.
• El uso de LLMs altera significativamente los patrones de actividad cerebral durante tareas cognitivas, afectando la formación y recuperación de la memoria. El 83% de los usuarios tenían fallos de memoria: los participantes de la cuarta sesión no podían recordar lo que habían escrito en sesiones anteriores.
• Disminución en la evaluación crítica de las respuestas. El usuario se expone a un contenido sesgado que no cuestiona. En el estudio pocos usuarios lograron mantener su propio razonamiento, prefiriendo seguir la "línea de pensamiento" propuesta por la IA.
• La dependencia temprana de la IA puede interferir en el desarrollo de habilidades cognitivas, especialmente en los más jóvenes. El estudio no desaconseja su uso, pero considera importante el cuándo utilizarla: siendo ya adulto y una vez se ha aprendido sobre un tema en concreto. Es decir, cuando se es una persona experta en el tema. 

Más allá de los resultados, es llamativo el concepto de “deuda cognitiva” que resaltan en el estudio, que consiste en diferir el esfuerzo mental a corto plazo.

A corto plazo, la deuda cognitiva facilita la escritura; a largo plazo, puede reducir el pensamiento crítico, aumentar la susceptibilidad a la manipulación y limitar la creatividad. (Alex MacFarland,Unite.AI).

Cuando se reemplazan procesos cognitivos esenciales por la dependencia de IA se reduce la capacidad de activar las redes cognitivas internas más adelante. Durante la cuarta sesión del estudio los participantes que cambiaron de LLM a escritura sin ayuda mostraron una conectividad neuronal más débil que el grupo que no usó LLM. Es decir, al haber dependido de la IA en actividades previas, el cerebro había quedado en “ahorro de energía” y no estaba preparado para el trabajo independiente que se les pedía en ese momento.

Quizás las conclusiones no son algo novedoso, pero resultan bastante interesantes. Eso sí, el estudio ha recibido críticas por el número de participantes (para este tipo de estudios se recomienda que haya más de 100) y por limitarse a un tipo de tarea cognitiva. 

No es el único estudio sobre este tema. Hay otros trabajos con enfoques distintos. Por ejemplo:

• "Learning not cheating" o “The effect of ChatGPT on students’ learning performance, learning perception, and higher-order thinking: insights from a meta-analysis” tienen puntos de vista contrarios al estudio del MIT, pero también advierten de lo importante que es el contexto, cómo se aplica y el tipo de tarea a la hora de usar la IA. 
• “Generative AI in universities: Grades up, signals down, skills in flux” explica que, aunque suben las calificaciones y baja el fracaso escolar, el aprendizaje real no mejora necesariamente. Por lo que el uso de IA podría ser beneficioso según el contexto adecuado, pero si se hace un uso excesivo durante el proceso de aprendizaje, puede perjudicar a los estudiantes.
• “Human-generative AI collaboration enhances task performance but undermines human’s intrinsic motivation” habla de la colaboración humano-IA, pero también advierte de que pueden existir “efectos duales complejos” y de que el aumento inmediato de productividad puede "desmotivar" las experiencias a largo plazo de los trabajadores.

¿Y en el mundo ágil? ¿Creéis que el uso de IA en equipos ágiles puede estar afectando la reflexión, la colaboración o la autonomía?

¡Os leemos en los comentarios!