Conciencia: qué es, de dónde viene y si las máquinas pueden tenerla
I’ve Been Thinking Daniel C. Dennett W. W. Norton / Allen Lane (2023)
Free Agents: How Evolution Gave Us Free Will Kevin J. Mitchell Princeton Univ. Press (2023)
The Four Realms of Existence: A New Theory of Being Human Joseph E. LeDoux Harvard Univ. Press (2023)
30 octubre 2023.- Estos son buenos tiempos para ser una criatura pensante y consciente, a pesar de los acontecimientos en el mundo que podrían hacernos dudar de ello. Estos son tiempos aún mejores para ser una criatura que piensa en la conciencia: el debate científico es más animado que nunca, y los avances tecnológicos y las controversias políticas están haciendo que las cuestiones prácticas y filosóficas que rodean la conciencia sean cada vez más apremiantes. ¿Se volverá consciente la inteligencia artificial (IA)? (¿O tal vez ya lo es...? Bueno, no, diría yo, pero llegaremos a eso más adelante.) ¿Pueden los algoritmos de última generación manipular nuestra conciencia para cambiar nuestra visión del mundo? ¿Qué animales, además de los humanos, son conscientes? ¿Qué pasa con los fetos? ¿O organoides neuronales artificiales?
Cada vez está más claro que se extraerán implicaciones para la vida real de las respuestas que este campo genere a tales preguntas 1 , 2 . Eso significa que debemos mejorar enormemente nuestra comprensión fundamental de la conciencia y los fenómenos relacionados, como la agencia, el libre albedrío y el sentido de uno mismo. Con tanto en juego, será mejor que hagamos las cosas bien. Esta sensación de gravedad se cierne sobre tres libros que, de una forma u otra, abordan estas espinosas cuestiones.
Significado, conciencia y libre albedrío
El primero lo hace mayoritariamente de pasada. I’ve Been Thinking, de Daniel Dennett, es ante todo una autobiografía del influyente filósofo estadounidense, radicado en la Universidad de Tufts en Medford, Massachusetts, desde su infancia en Beirut como hijo de un espía, hasta su obra fundamental sobre Conciencia, libre albedrío y teoría de la mente. Los lectores disfrutarán de la información detrás de escena sobre algunos filósofos contemporáneos de renombre, desde las preferencias por la bebida de George Ryle hasta el arresto de Jacques Derrida por un (falso) cargo de contrabando de drogas. También hay un ajuste de cuentas directo y bastante duro en un capítulo dedicado a los 'matones académicos' , así como los consejos de Dennett para mantenerte concentrado en largas charlas filosóficas (escucha las palabras). que empiezan con cada letra del alfabeto en orden), perfeccionar tus propios argumentos (camina y habla contigo mismo hasta convencerte) y detecta líneas débiles de razonamiento en los demás (busca la palabra 'seguramente').
Hacia el final del libro, Dennett resume su visión de cómo la conciencia, el libre albedrío y el significado surgieron de miles de millones de años de selección natural y configuración cultural, a medida que los organismos unicelulares se convirtieron en eucariotas y multicelulares. En la última pequeña fracción del proceso llegó el Homo sapiens y el desarrollo del lenguaje. Esto requirió millones de años de I+D por parte de, como dice Dennett, “agentes que aún no entendían lo que estaban haciendo y por qué”. Pero las posibilidades que brindaba el lenguaje (percibir el significado, analizar, pensar en lo que estamos pensando y comunicar y actuar según nuestros pensamientos) presentaban un problema. ¿Cómo podrían los humanos controlar estos grados de libertad sin precedentes?
La respuesta, según Dennett, era la conciencia. La conciencia, para él, es una arquitectura de control que toma corrientes de ideas en competencia y determina a partir de ellas nuestras expectativas y acciones. Este sistema de control es, fundamentalmente, quiénes somos "nosotros". La conciencia no se trata de cómo se siente al tocar una superficie caliente, por ejemplo, sino de generar una señal de control que nos dice que alejemos la mano de esa superficie, una acción que tiene valor de supervivencia. El libre albedrío, a su vez, es la capacidad de diferenciar entre corrientes de pensamientos y acciones en competencia. Ser humano consiste esencialmente en ser un razonador: razonar sobre razones y ejercer control sobre el propio comportamiento. Nuestro sentido de identidad (ser un ser que "experimenta" cosas, observándolas de algún modo desde fuera) es una mera ilusión de usuario.
Forzamiento evolutivo
Kevin Mitchell y Joseph LeDoux aplican fundamentos evolutivos similares para explicar el surgimiento de la conciencia y la agencia en sus libros. Mitchell es genetista y neurocientífico del Trinity College Dublin. Sus Free Agents dedica sus primeros seis capítulos a un relato evolutivo del desarrollo de la vida y sus diversas facultades. Sostiene que los rasgos cognitivos como la acción, la percepción y la elección comenzaron a partir de mecanismos muy simples que fueron seleccionados y perfeccionados para maximizar la aptitud o la supervivencia. Al leer su libro, uno tiene la fuerte impresión de que los humanos fueron obligados por la selección natural a poder tomar decisiones y convertirse en agentes conscientes.
En algún momento, añade el indeterminismo a la mezcla. Sostiene que el Universo no es determinista: implica cierto grado de aleatoriedad, y los acontecimientos a veces parecen gobernarse por el lanzamiento de una moneda. En su opinión, lo mismo ocurre con el cerebro. Este indeterminismo es adaptativo, lo que hace que los humanos sean menos predecibles y, por tanto, más capaces de sobrevivir y luchar contra sus oponentes.
¿Este indeterminismo por sí solo dota a las personas de libre albedrío? No, dice Mitchell: no hay nada gratuito en ser gobernado por el lanzamiento de una moneda. Pero el indeterminismo en las respuestas de un organismo le permite tener cierta influencia en su futuro. La capacidad de crear y expresar significado es crucial aquí: dota a nuestras razones para hacer las cosas y a nuestro razonamiento sobre las razones (que Dennett también enfatiza) con poder causal. Dennett quiere disipar la "ilusión" del yo, pero para Mitchell, el yo, con todas sus metas, deseos y creencias, es real y clave para nuestro libre albedrío. Junto con el significado de los patrones de nuestra actividad neuronal, nos permite ejercer un control de arriba hacia abajo, planificar con anticipación y moldearnos continuamente a medida que interactuamos con el mundo. Para Mitchell, ese control consciente y racional de nuestras acciones no es otra cosa que nuestro libre albedrío. Es una función biológica y evolucionada, como también sostiene Dennett.
En el reino consciente
LeDoux está de acuerdo. En The Four Realms of Existence, LeDoux, neurocientífico de la Universidad de Nueva York, sugiere que existen cuatro variedades básicas de vida en la Tierra: biológica, neurobiológica, cognitiva y consciente. El libro proporciona una descripción profunda de estos ámbitos (el cognitivo me pareció especialmente estimulante) y describe cómo evolucionaron, de una manera que recuerda el enfoque de Mitchell. En este esquema, la mayoría de los seres vivos ocupan sólo el ámbito biológico. Los organismos con sistema nervioso también son neurobiológicos. De estos, algunos animales muestran un comportamiento basado en modelos: utilizan experiencias pasadas para predecir los efectos futuros de sus acciones y, al hacerlo, optimizan los resultados. Estos cuentan como criaturas cognitivas 3 .
El cuarto y menos común ámbito es el consciente. LeDoux valora la capacidad de informar verbalmente el contenido de las experiencias como indicador principal de la conciencia, posición que no todos comparten 4 . Destaca la importancia de la actividad en la corteza prefrontal para permitir la creación de estados de orden superior que representan el contenido de la experiencia (aunque nuevamente se debate el papel especial de esta área del cerebro 5 ).
LeDoux diferencia además entre tipos de conciencia, que van desde formas más simples hasta el tipo explícito y rico en contenido que tienen los humanos. Sostiene que deberíamos aspirar a conectar cada tipo de conciencia con una arquitectura cerebral prefrontal diferente y juzgar las afirmaciones de la conciencia animal sobre esa base. Por ejemplo, debido a que todos los mamíferos comparten las mismas áreas prefrontales mesocorticales, podrían tener "cualquier tipo de conciencia que estas áreas permitan en los humanos". Sin embargo, algunas estructuras cerebrales prefrontales son exclusivas de los humanos, lo que posiblemente nos dota (y posiblemente a otros grandes simios) de algunos aspectos inusuales de la conciencia, como la capacidad de viajar mentalmente en el tiempo, que no se comparten con otros animales.
¿Y qué pasa con la IA? Estos libros se publican en un momento en que el debate sobre el potencial de las máquinas para ganar conciencia y agencia está atrayendo una atención sustancial (ver go.nature.com/46hjzvk ) 6 , 7 . Los tres tienen algo que decir al respecto. LeDoux adopta un enfoque biológico de línea dura, argumentando que la conciencia sólo puede existir en seres biológicos. Incluso si uno imitara todos los mecanismos biológicos que sustentan la conciencia (cualesquiera que sean, desde el nivel micro al macro), el sistema resultante no sería consciente.
Dennett tampoco se muestra entusiasmado y se refiere a esta ola de entusiasmo como una “burbuja que deberíamos reventar antes de que muchas más personas se dejen engañar profundamente por ella”. Presenta DigiDan, un modelo GPT-3 entrenado en casi todas las publicaciones de Dennett (¡más de un millón de palabras!), que utiliza para generar oraciones similares a las de Dennett. Pero como explica (el verdadero) Dennett, a pesar de las impresionantes capacidades de DigiDan, no entiende nada de lo que dice: no es un agente con creencias y deseos o, en palabras de Dennett, un sistema intencional (todavía).
Pero no te desesperes (ni te regocijes, dependiendo de dónde te encuentres). El epílogo de Free Agents proporciona una "receta" para crear sistemas artificiales que se parezcan a los humanos, que tengan inteligencia y agencia generales. Es seguir la trayectoria evolutiva que nos trajo aquí: encarnación, sensación, acción, con cierta motivación y habilidades de aprendizaje, y una gota de indeterminación.
Por eso es, de hecho, un buen momento para ser una criatura que piensa en la conciencia: como enfatizan los tres libros, las discusiones actuales sobre estos temas están mucho más informadas que hace, digamos, 70 años. En aquel entonces, había que recurrir a Yo, robot , la brillante colección de historias de ciencia ficción de Isaac Asimov de 1950, para pensar sobre la conciencia en entornos artificiales. Hoy en día podemos confiar en una sólida columna vertebral de la investigación biológica, en conocimientos conceptuales y filosóficos desarrollados y en un extenso trabajo empírico en el campo de los estudios de la conciencia. Aunque el campo está lejos de ponerse de acuerdo sobre una única explicación teórica o empírica 8 , se han logrado avances en la comprensión de los problemas y en la sugerencia de soluciones 9 .
Creo firmemente que este enfoque interdisciplinario basado en el conocimiento es la manera de trasladar el tipo de preguntas que planteé al principio de este artículo del dominio de la ciencia ficción al de la ciencia. Este año formé parte de un grupo de filósofos, informáticos y neurocientíficos que publicaron un extenso informe sobre la conciencia en la IA 6 , identificando posibles indicadores de conciencia en sistemas artificiales, utilizando teorías desarrolladas principalmente pensando en los humanos. Mostramos que los sistemas de IA actuales no cumplen con estos criterios, pero también que no existen barreras técnicas para construir un sistema que los satisfaga.
¿Sería consciente un sistema así? Para ser honesto, no estoy seguro; Considero que los indicadores significan el potencial de la conciencia, más que su existencia. ¿Realmente querríamos construir una máquina con conciencia o agencia? Aquí estoy aún menos seguro. Todavía tenemos que entender qué criaturas en el mundo son conscientes y no hemos desarrollado marcos éticos que den cuenta de esta posibilidad. Como tristemente lo demuestran nuestro pasado y nuestro presente, maltratamos repetidamente incluso a aquellas criaturas que sin duda son conscientes, nuestros semejantes.
No me parece muy prudente añadir más criaturas conscientes a este cuadro ya complicado y combustible. Quizás sea más sabio, entonces, ser una criatura que piensa en la conciencia que alguien que aspira a crear versiones artificiales de ella.
Referencias
1. Mudrik, L., Mylopoulos, M., Negro, N. & Schurger, A. Curr. Opin. Behav. Sci. 53, 101299 (2023). Artículo
2. Mazor, M. et al. Persp. Psych. Sci 18, 535–543 (2022). Artículo
3. Daw, N. D., Gershman, S. J., Seymour, B., Dayan, P. & Dolan, R. J. Neuron 69, 1204–1215 (2011). Artículo
4. Tsuchiya, N., Wilke, M., Frässle, S. & Lamme, V. A. F. Trends Cog. Sci. 19, 757–770 (2015). Artículo
5. Boly, M. et al. J. Neurosci. 37, 9603–9613 (2017). Artículo
6. Butlin, P. et al. Preprint at https://doi.org/10.48550/arXiv.2308.08708 (2023).
7. Bengio, Y. Preprint at https://doi.org/10.48550/arXiv.1709.08568 (2017).
8. Yaron, I., Melloni, L., Pitts, M. & Mudrik, L. Nature Hum. Behav. 6, 593–604 (2022). Artículo
9. Seth, A. K. Brain Neurosci. Adv. 2, 2398212818816019 (2018). Artículo
COMENTARIOS