TECNOLOGÍA. 'Avance' de la IA: la red neuronal tiene una capacidad similar a la humana para generalizar el lenguaje

'Avance' de la IA: la red neuronal tiene una capacidad similar a la humana para generalizar el lenguaje

 

Una red neuronal ha logrado una versión de la capacidad humana para aplicar nuevo vocabulario de manera flexible. Imagen: marrio31/Getty

Una inteligencia artificial basada en redes neuronales supera a ChatGPT al incorporar rápidamente nuevas palabras en su léxico, un aspecto clave de la inteligencia humana.

26 octubre 2023.- Los científicos han creado una red neuronal con la capacidad, similar a la humana, de hacer generalizaciones sobre el lenguaje. El sistema de inteligencia artificial (IA) funciona tan bien como los humanos al incorporar palabras recién aprendidas en un vocabulario existente y utilizarlas en contextos nuevos, lo cual es un aspecto clave de la cognición humana conocido como generalización sistemática.

Los investigadores asignaron la misma tarea al modelo de IA que subyace al chatbot ChatGPT y descubrieron que se desempeña mucho peor en dicha prueba que la nueva red neuronal o las personas, a pesar de la asombrosa capacidad del chatbot para conversar de manera humana.

El trabajo, publicado el 25 de octubre en Nature , podría conducir a máquinas que interactúen con las personas de forma más natural que incluso los mejores sistemas de inteligencia artificial actuales. Aunque los sistemas basados ​​en grandes modelos de lenguaje, como ChatGPT, son expertos en la conversación en muchos contextos, muestran lagunas e inconsistencias evidentes en otros .

El rendimiento similar al humano de la red neuronal sugiere que ha habido un "gran avance en la capacidad de entrenar redes para que sean sistemáticas"

Lecciones de idiomas

La generalización sistemática se demuestra por la capacidad de las personas para utilizar sin esfuerzo palabras recién adquiridas en entornos nuevos. Por ejemplo, una vez que alguien haya comprendido el significado de la palabra "fotobomba", podrá utilizarla en una variedad de situaciones, como "fotobomba dos veces" o "fotobomba durante una llamada de Zoom". De manera similar, alguien que entienda la frase "el gato persigue al perro" también entenderá "el perro persigue al gato" sin pensarlo mucho.

Pero esta capacidad no es innata en las redes neuronales, un método de emulación de la cognición humana que ha dominado la investigación sobre inteligencia artificial. 

A diferencia de las personas, las redes neuronales luchan por usar una palabra nueva hasta que han sido entrenadas con muchos textos de muestra que usan esa palabra. Los investigadores de IA han discutido durante casi 40 años sobre si las redes neuronales podrían alguna vez ser un modelo plausible de cognición humana si no pueden demostrar este tipo de sistematicidad.

Para intentar resolver este debate, los autores primero probaron con 25 personas qué tan bien implementaban las palabras recién aprendidas en diferentes situaciones. Los investigadores se aseguraron de que los participantes aprendieran las palabras por primera vez probándolas en un pseudolenguaje que constaba de dos categorías de palabras sin sentido. 

Palabras "primitivas" como "dax", "wif" y "lug" representaban acciones básicas y concretas como "saltar" y "saltar". Palabras de "función" más abstractas como "blicket", "kiki" y "fep" especificaban reglas para usar y combinar las primitivas, lo que daba como resultado secuencias como "saltar tres veces" o "saltar hacia atrás".

Se entrenó a los participantes para vincular cada palabra primitiva con un círculo de un color particular, de modo que un círculo rojo representa "dax" y un círculo azul representa "lug". Luego, los investigadores mostraron a los participantes combinaciones de palabras primitivas y funcionales junto con los patrones de círculos que resultarían cuando las funciones se aplicaran a las primitivas. Por ejemplo, la frase 'dax fep' se mostró con tres círculos rojos y 'lug fep' con tres círculos azules, lo que indica que fep denota una regla abstracta para repetir una primitiva tres veces.

Finalmente, los investigadores probaron la capacidad de los participantes para aplicar estas reglas abstractas dándoles combinaciones complejas de primitivas y funciones. Luego tuvieron que seleccionar el color y la cantidad correctos de círculos y colocarlos en el orden apropiado.

Punto de referencia cognitivo

Como se predijo, la gente se destacó en esta tarea; eligieron la combinación correcta de círculos de colores aproximadamente el 80% de las veces, en promedio. Cuando cometieron errores, los investigadores notaron que seguían un patrón que reflejaba prejuicios humanos conocidos.

A continuación, los investigadores entrenaron una red neuronal para realizar una tarea similar a la presentada a los participantes, programándola para aprender de sus errores. Este enfoque permitió a la IA aprender a medida que completaba cada tarea en lugar de utilizar un conjunto de datos estáticos, que es el enfoque estándar para entrenar redes neuronales. Para hacer que la red neuronal parezca humana, los autores la entrenaron para reproducir los patrones de errores que observaron en los resultados de las pruebas en humanos. 

Cuando se probó la red neuronal en nuevos acertijos, sus respuestas correspondieron casi exactamente a las de los voluntarios humanos y, en algunos casos, superaron su rendimiento.

Por el contrario, GPT-4 tuvo problemas con la misma tarea, fallando, en promedio, entre el 42 y el 86% de las veces, dependiendo de cómo presentaron la tarea los investigadores. No es magia, es práctica. Al igual que un niño también practica cuando aprende su lengua materna, los modelos mejoran sus habilidades de composición a través de una serie de tareas de aprendizaje de composición.

Este estudio es una prueba de principio interesante, pero queda por ver si este método de entrenamiento puede ampliarse para generalizarse en un conjunto de datos mucho más grande o incluso a imágenes. 

Esta investigación podría hacer que las redes neuronales aprendieran más eficientemente. Esto reduciría la gigantesca cantidad de datos necesarios para entrenar sistemas como ChatGPT y minimizaría las "alucinaciones", que ocurren cuando la IA percibe patrones que son inexistentes y crea resultados inexactos. 

Fuente: Lake, B.M., Baroni, M. Human-like systematic generalization through a meta-learning neural network. Nature (2023). https://doi.org/10.1038/s41586-023-06668-3