Ya nos han dicho que las cajas negras de los aviones en realidad son de color naranja. Registran conversaciones de pilotos con control aéreo, parámetros de vuelo y otras variables para reconstruir o investigar un incidente o, a lo peor, un accidente. Versión complicada de los tacómetros de los camiones y sus conductores.
La otra caja negra parece que no tiene nada que ver con la aviación. Son algunas cosas que pasan dentro de la IA. Aquello que producen los algoritmos pero que no se sabe muy bien cómo pasa. Pero estas cajas, desde el siglo XVI, tienen un símil más complicado que un tacómetro: nuestros cerebros. Después de que haya pasado el siglo del cerebro, y llevemos todos cerebros más o menos usados y perjudicados, seguimos sin saber muy bien qué es un pensamiento. Una rosa es una rosa, por ejemplo conocido, pero una única unidad de pensamiento, más sencilla que una perla de nuestro palacio de la memoria, es algo muy inaprensible. Joaquín Fuster decía que estas unidades de pensar eran cognits, fragmentos que destellan en una red neuronal, manera consciente o inconsciente en el tiempo. Chistof Koch y Francis Crick hablaban de la trampa del homúnculo, pensar que dentro de nosotros hay otra cosa que piensa y no, para nada. No hay ninguna mente que piense, somos nosotros, si nuestra memoria es algo cambiante, que provoca esa ilusión, pero engaña y se reconstruye cada vez que recordamos. Toda unidad de pensamiento tendría un correlato neuronal y ya está. CNCs, Correlatos Neurales de Consciencia, lo mínimo para que tengamos un pensamiento, qualia.
Nuestro cerebro está funcionando siempre. Multitud de ritmos cerebrales están sincronizados y funcionan sin que nada llegue de fuera.
Y con la consciencia hemos topado. Jeff Hawkins, el inventor de los asistentes digitales Palm, abandonó todo, y se hizo neurocientífico, para pensar en los pensamientos. Llegó a la conclusión de que somos dispositivos simuladores, los cerebros, que comparan con las cosas de fuera y se van modificando. Sin cosas de fuera, y experiencias previas, no hay pensamientos. Llamó a su estructura de conciencia teoría de la memoria-predicción.
El gran Georgy Buzsaki intenta romper la baraja. Dice que para nada nos estimulamos de fuera a dentro, como nos han contado toda la vida. Creer que vemos, sentimos o hacemos algo y que respondemos a ello como si arrancara una maquinaria misteriosa. Él cree que es justo al contrario. Nuestro cerebro está funcionando siempre. Multitud de ritmos cerebrales están sincronizados y funcionan sin que nada llegue de fuera. Lo que llega de fuera, altera esos ritmos, desincroniza, crea caos, y desde dentro, pasan cosas más o menos acertadas y acostumbradas. El cerebro no sería un chisme de absorber información, sino un metrónomo muy complejo, elaborando hipótesis internas cuando se alteran sus ritmos incansables. Lo llama inside out y es lo más sorprendente para cambiar nuestros esquemas de pensamiento y realidad.
Vaya pollo. Pensar que pensamos que no hay nada que piense pensando que pensamos. Muchos filósofos plantean lo difícil que es conocer un sistema desde dentro. Y como la vida sigue, y sin embargo, se mueve, no somos coherentes con estos esfuerzos. Uno de los grandes neurocientíficos, a caballo entre nuestros dos siglos, José María Delgado García, pone el dedo en la llaga de nuestra incoherencia. No paramos de regalar colgantes con corazoncitos como símbolo del amor, la atención, la memoria y el recuerdo. No somos coherentes con lo poco que sabemos. Cree que mejor deberíamos regalar colgantes de plata con un pequeño modelo del sistema límbico, mucho más próximo a nuestras pasiones.
Después del siglo del cerebro, seguimos sin saber muy bien qué es un pensamiento
Cuesta mucho mirar de dentro para afuera, con el bombardeo de fuera que colabora al ruido y al caos. El propio lenguaje, las letras y las palabras, ¿han desarrollado nuestro cerebro? Lo dicen mucho. No parece ser así. Más bien es nuestro cerebro que adopta el lenguaje porque responde a su estructura de funcionamiento. Mínimas unidades de proceso y ritmo que se repiten por toda la corteza cerebral en capas cada vez más integradas, pero unidades similares, Vernon Mountcastle dixit hace cincuenta años.
Y la IA. Su caja negra puede alucinar y a veces no sabemos cómo hace lo que presenta, como dice Sam Altman. Y nos alteramos cuando preguntamos desde la caja aún negra de nuestros cuerpos. Nature + Nurture= IA Architecture. Nuestra naturaleza y civilización alimentan las IAs. Puede que la ignorancia sea ignorante y seamos ignorantes por la de capas que arrastramos de las ideas del pasado. Tacómetros borrosos con datos inútiles. Y en IA, la caja negra o naranja aún no funciona sola, dentro fuera, ¿no son modelos de lenguaje y clasificación? ¿La IA? ¿Lenguaje natural?
Junio 2024
Este artículo es IA free; solo IGN, IGnorancia Natural, y va a hombros de gigantes:
Fuster, J. M. (2002). Cortex and mind: Unifying cognition. Oxford University Press.
Koch, C. (2004). The quest for consciousness: A neurobiological approach. Roberts & Company Publishers.
Hawkins, J., Blakeslee, S. (2004). On intelligence. Macmillan.
Delgado-García, J.M. (2013). Lenguajes del cerebro. Letra Áurea.
Buzsáki, György, (2019). The brain from inside out. Oxford University Press.
Mountcastle, V. B. Edelman (eds), (1978) The Mindful Brain. MIT Press.
