¿Pero qué aprendemos cuando aprendemos?

En este momento donde más se investiga sobre aprendizaje no es en las facultades de Psicología, de Neurociencia o de Pedagogía, sino en las grandes empresas tecnológicas. Esta semana, ha habido una noticia trágica. El ejército de Israel ha matado a siete cooperantes de la ONG del chef José Andrés. Se ha sabido que la identificación de los objetivos lo hace un programa de IA llamado Lavender. Es decir, que las decisiones las toma una máquina.

De esta forma, por ejemplo, es importante saber qué es un “terrorista” para el sistema Lavender, porque puede equivocarse. De hecho, el ejército tiene que permitir un margen de error que considere soportable. Esta evaluación está de acuerdo con la importancia del objetivo.

Para conseguir de la máquina lo que representa una imagen tenemos que entrenarla. Imaginemos que queremos que reconozca a un perro. Para ello tenemos que mostrarle miles de imágenes diferentes de imágenes de perros de diferentes razas, en diferentes actitudes, o en entornos distintos. Así el programa va elaborando su propia representación de lo que es un perro. Al final del entrenamiento lo identificara con notable grano de exactitud.

En realidad, no sabemos lo que el programa está aprendiendo. Sucede algo parecido a lo que decía un gran pedagogo: nuestros alumnos siempre están aprendiendo algo, pero no sabemos qué. 

Bien, pues a principios del siglo XX apareció en Alemania un individuo diciendo que había enseñado a su caballo a hacer cálculos aritméticos. El procedimiento era el siguiente: se le presentaba al caballo un problema – por ejemplo 97 x 9-, luego se le enseñaban varias cartulinas con diferentes resultados, incluido el verdadero. Cuando aparecía el correcto, el caballo golpeaba con la pata.  Un grupo de investigadores estudió este comportamiento cuidadosamente, y dictaminó que el caballo actuaba como si en efecto supiera aritmética.

Uno de los investigadores continuó investigando y al final descubrió el misterio. El caballo había aprendido algo, era verdad, pero no matemáticas, sino a reconocer algo que inconscientemente hacía el investigador cuando le enseñaba la solución verdadera. Si el investigador no sabía si le estaba enseñando la solución correcta, el caballo no respondía nada.