Hace unos días cayó en mis manos un paper que no esperaba que me removiera tanto. Se titula «The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness» —la falacia de la abstracción: por qué la inteligencia artificial puede simular pero no crear consciencia— y lo firma Alexander Lerchner, investigador de Google DeepMind. Lo interesante no es solo lo que dice. Es que lo diga alguien que trabaja precisamente en el centro de la industria que construye estas máquinas.
Su tesis es incómoda para el relato dominante: la inteligencia artificial no puede ser consciente. Y no porque le falte potencia de cálculo. No porque necesite más parámetros, más datos o más GPUs. Sino por una razón lógica, estructural, que ninguna cuestión de escala puede resolver: la inteligencia artificial se basa en la computación, y la computación es un mapa. Y un mapa nunca es el territorio real que representa. Solo es su abstracción.
¿Qué significa que la computación sea un mapa?
Vale la pena detenerse aquí, porque toda la argumentación cuelga de esta idea.
Coge por ejemplo un mapa de Sevilla. Está lleno de líneas, colores, nombres. Puedes usarlo para llegar a Triana, para calcular distancias, para entender cómo se organiza la ciudad. Es enormemente útil. Pero por muy detallado que sea, por muy preciso, por mucho que amplíes la escala hasta el último azulejo, ese mapa nunca va a oler a azahar en abril. Nunca va a hacer 42 grados en julio. No hay ninguna cantidad de detalle cartográfico que convierta el papel en lo que es realmente la ciudad.
“Un mapa y un territorio son cosas de naturaleza distinta. El mapa describe. El territorio existe”
Ahora aplica esto a un ordenador. Cuando decimos que un ordenador «procesa información», lo que ocurre físicamente es que hay corrientes eléctricas moviéndose por un chip de silicio. Eso es todo lo que pasa. Voltajes que suben y bajan. La física del sistema no contiene números, ni palabras, ni conceptos: contiene electrones. Los números, las palabras y los conceptos los ponemos nosotros. Nosotros decidimos que cuando el voltaje está por encima de cierto umbral eso significa «1», y por debajo significa «0». Nosotros decidimos que una determinada secuencia de esos unos y ceros signifique la letra A, o el color rojo, o el precio de una acción.
El chip no sabe nada de eso. El chip hace física. El significado es nuestro mapa sobre su territorio. Y aquí está el golpe de Lerchner: si el significado siempre lo pone alguien de fuera, entonces la computación no puede generar por sí sola a ese alguien.
La figura que lo cambia todo
Lerchner introduce un concepto que no consigo quitarme de la cabeza: el cartógrafo. El creador de mapas. En definitiva, el que diseña.
Y me interesa especialmente esta palabra, porque cartógrafo no significa «medidor». Significa alguien que hace elecciones. Cualquiera que trabaje proyectando ideas y haciéndolas realidad lo entiende inmediatamente: diseñar un mapa es un acto creativo de principio a fin. Hay que decidir qué escala usar y por tanto qué se ve y qué desaparece. Qué se representa y qué se omite. Qué proyección se elige, sabiendo que toda proyección miente en algo (Mercator agranda Groenlandia, Peters deforma los continentes, y las Islas Canarias no están debajo de Huelva). Hay que decidir la jerarquía visual, la tipografía, la paleta, los símbolos. Si el norte va arriba, que es una convención, no una ley física.
Un mapa del metro de Londres no se parece en nada a la geografía real de Londres. Harry Beck lo diseñó en 1931 renunciando a la escala, a las distancias y a la forma del río, porque entendió que el pasajero no necesita saber dónde están las estaciones: necesita saber cómo llegar de una a otra. Fue una decisión de diseño. Una decisión creativa. Y cambió para siempre cómo se representa el transporte público en el mundo entero.
Eso es un cartógrafo. Alguien que mira un territorio infinitamente complejo y decide qué merece la pena representar, cómo, y para quién.
Lerchner sostiene que la computación exige exactamente esa figura. Para que unos voltajes se conviertan en símbolos con significado, alguien tiene que hacer el corte: decidir qué estados físicos cuentan cómo y qué. Él lo llama alfabetización. Es el momento en que la realidad continua se parte en un conjunto finito de piezas con nombre. Y ese corte no lo puede hacer la máquina. Lo hace siempre un agente consciente que está fuera de ella. Lo dice sin rodeos: sin un agente activo que interprete la computación, no hay símbolos, solo eventos físicos continuos.
De ahí extrae la consecuencia demoledora. El funcionalismo computacional —la hipótesis dominante, la que sostiene que una IA podría llegar a ser consciente si alcanza la arquitectura adecuada— asume esta cadena causal: física > computación >consciencia. Lerchner demuestra que la cadena real va en el sentido contrario: física > consciencia > conceptos > computación.
La computación es el último eslabón. No el primero. Necesita de la consciencia para existir. Pretender que la computación genere consciencia es pedirle al mapa que sea él quien dibuje al cartógrafo.
Donde la ciencia se encuentra con Platón
Cuando leí la palabra cartógrafo recordé mis clases de filosofía preparando selectividad y el concepto del demiurgo de Platón.
En el Timeo, Platón describe una figura que no crea el mundo desde la nada. Encuentra un caos —materia informe, sin orden, sin límites— y le impone una estructura. No inventa: ordena. Es un artesano cósmico, y la palabra griega demiurgo significa literalmente eso, artesano.
Pero ¿de dónde saca el modelo para ordenar? Aquí está lo interesante. El demiurgo mira las Ideas. Y las Ideas, para Platón, no están en el mundo físico ni en la mente de nadie: existen en un plano propio, perfecto e inmutable, fuera del tiempo. No hace falta crearlas porque ya existen en el mundo. Por eso Platón no tiene problema con el origen de las cosas. Su cartógrafo no necesita haber vivido nada antes de dibujar, porque no crea los conceptos: los contempla y los ordena. El demiurgo da forma y armonía a todo ese caos.
Lerchner no puede permitirse ese movimiento. Su marco es estrictamente físico: para él los conceptos no flotan en ningún plano ideal, son estados físicos concretos dentro de un organismo que ha vivido experiencias. El concepto «rojo» no existe en abstracto: existe como una configuración material en el cerebro de alguien que ha visto cosas rojas. Y eso deja un agujero que él mismo reconoce, y que a mí me resulta imposible ignorar. Si todo cartógrafo necesita haber vivido el territorio antes de poder mapearlo, ¿quién es el cartógrafo de los humanos?
La pregunta que no queremos hacernos
Hay tres respuestas posibles y las tres son realmente curiosas.
1. La respuesta física: nadie.
Esta es la que sostiene Lerchner, y merece traducción porque él la formula en lenguaje de laboratorio. Su idea es que la consciencia no es un programa que se ejecuta, sino algo que le pasa a cierta materia por cómo está organizada físicamente. Igual que el agua moja. Una sola molécula de agua no moja nada; «mojar» no es una instrucción escondida dentro de la molécula. Pero junta unos cuantos trillones de moléculas de agua en las condiciones adecuadas y aparece lo que conocemos como humedad. No porque alguien la programe, sino porque esa es la consecuencia física de esa organización concreta de esa materia concreta.
Su apuesta es que con la experiencia pasa lo mismo. Un sistema vivo que quema energía para mantenerse en pie, que está permanentemente al borde de dejar de existir y trabajando para evitarlo, en algún punto de complejidad empieza a experimentar. No hay nadie fuera que le dé la consciencia. Hay un umbral que se cruza.
Y aquí está la honestidad del paper: eso no es una explicación, es una descripción del misterio. Lerchner no dice cómo ocurre. Dice que no le hace falta saberlo para demostrar su tesis. Y tiene razón tácticamente. Pero deja la pregunta del origen exactamente donde estaba.
2. La respuesta evolutiva: la selección natural.
El cartógrafo no fue diseñado, fue fabricado a golpes. Durante millones de años, los organismos que dibujaron mejores mapas de la realidad sobrevivieron más que los que dibujaron mapas malos. Confundir una sombra con un depredador cuesta energía; confundir un depredador con una sombra cuesta la vida. La capacidad de abstraer conceptos desde la experiencia es una solución adaptativa, no un plan. Por lo tanto, nadie dibujó al primer cartógrafo. Se fue esculpiendo bajo la presión de morir por equivocarse.
3. La respuesta teológica: Dios.
En la tradición abrahámica, Dios crea nombrando. «Hágase la luz» no es la descripción de una luz que ya estaba: es el acto que la hace existir. La palabra divina no es un mapa del territorio. Es lo que hace que haya territorio. Y aquí ocurre algo que me parece precioso. Si aplicamos con rigor la lógica de Lerchner, Dios sería el único ser para el que mapa y territorio coinciden. El único, por tanto, que no comete la falacia de la abstracción.
Todos los demás cartógrafos —nosotros incluidos— llegamos siempre después. Primero se vive, luego se abstrae, luego se nombra. Ese orden no se puede invertir. Ni con fe, ni con filosofía, ni con computación.
¿Y si dotamos a la máquina de muchos mapas que no conoce?
Si a un modelo le entregas mapas que no conocía, ten por seguro que los explora. Los cruza. Los combina de maneras que ningún humano había combinado. Y produce salidas que ningún humano habría producido solo. En algún sentido razonable, eso es cartografía nueva. Lo vemos todos los días en Arteria.
A esto Lerchner respondería que no. Que lo que parece exploración es interpolación: el sistema calcula la posición más probable dentro del espacio de todo lo que ha visto. Que no hay nadie ahí dentro viviendo el territorio nuevo. Y que el momento en que algo de todo eso significa algo no ocurre en la máquina, sino en el humano que lee el resultado.
Es el argumento del caleidoscopio. Un caleidoscopio genera patrones que nunca habían existido, combinaciones que jamás se repetirán. Pero no es consciente de que los está generando. La belleza del patrón vive únicamente en el ojo que mira.
En mi opinión pienso como Lerchner y tengo claro que la máquina no experimenta. Por dentro no hay nadie. Y ninguna mejora de escala va a cambiar eso, porque no es un problema de grado sino de qué tipo de cosa es un ordenador. Donde creo que se equivoca es en pensar que ahí termina la conversación. Porque la pregunta que decide el trabajo real no es si la máquina experimenta. Es quién decide qué mapas merece la pena dibujar.
Lo que esto significa para Arteria
En Arteria somos una empresa AI First. Y precisamente por eso este paper nos interesa tanto. Porque le da fundamento a algo que decimos desde el primer día: la IA es un multiplicador del talento humano, nunca un sustituto.
No lo decimos por nostalgia del oficio. Lo decimos porque es una verdad estructural. El cartógrafo no se puede eliminar del sistema. Puede ser mejor o peor, más analítico o más creativo, más valiente o más cobarde. Pero no se puede eliminar de ninguna de las formas. La máquina puede generar mil versiones de una campaña. No puede decidir cuál construye marca y cuál la destruye, porque para eso hay que haber vivido en el territorio de las marcas, de los mercados y de la gente. Puede escribir un guión técnicamente impecable. No puede saber si emociona, porque nunca ha sentido nada. Puede darte cien caminos. No puede decirte cuál es el tuyo. Y aunque los chats conversacionales parezcan en apariencia que lo saben, no es más que una abstracción de un lugar que en realidad desconocen.
¿Cuál será el verdadero desafío?
Vamos a pasarnos los próximos años debatiendo si la IA puede llegar a ser humana. El paper de Lerchner invierte la pregunta y nos hace poner el foco en otro aspecto: qué hace único al humano. Y la respuesta es hermosa. Somos los únicos que podemos dibujar el primer mapa, porque somos los únicos que hemos vivido el territorio.
Cuando las máquinas produzcan mapas de todo, a una velocidad y con una fluidez que ningún equipo humano puede igualar, va a instalarse una sensación muy peligrosa: la de que ya está todo hecho. La de que ya está todo explorado. La de que solo queda elegir entre opciones que “algo” nos pone delante. Y esa sensación va a ser falsa, pero va a ser cómoda. Y lo cómodo gana casi siempre.
Ahí está el desafío verdadero para el ser humano de los próximos años: seguir decidiendo cuando parezca que ya está decidido. Seguir creando cuando parezca que ya está creado. Seguir explorando cuando el mapa que nos entreguen tenga toda la pinta de estar completo. Y hará falta personas y empresas con criterio, que hayan vivido, que tomen decisiones, que mantengan la curiosidad, que dibujen nuevos caminos, diseñen soluciones y que puedan demostrar que siempre habrá nuevos lugares por descubrir.