Casi nada de lo que hay en su cuerpo es lo mismo que había hace diez años. Los átomos de sus músculos, de su sangre e incluso el calcio de sus huesos han sido reemplazados por el tráfico ordinario de comer y respirar. Usted está hecho, en el sentido más literal, de una materia distinta de la que componía a la persona de sus fotografías antiguas. Y sin embargo no tiene ninguna dificultad en decir que aquella persona era usted.
No es un enigma que ataña sólo a las personas. La llama de una vela es una forma sostenida por un gas que la atraviesa y desaparece en milisegundos. Un remolino en un río está hecho de agua que ya llegó al mar. Un huracán, un arrecife de coral, una lengua, una empresa, una especie: cada uno es una forma que sobrevive a todo aquello de lo que está hecha.
La respuesta obvia es decir: de acuerdo, lo que persiste es el patrón, no el material. Es cierto, pero demasiado fácil. Deja intacta la pregunta interesante. Los patrones no flotan libres de la física. La mayoría se disuelven. Los que no lo hacen están haciendo algo, ese algo tiene un coste, y el coste se puede medir. Eso es lo que llevamos tiempo intentando precisar — un marco que llamamos Teoría de Kolmogorov, en honor al matemático que nos enseñó a medir lo complicada que es realmente una cosa preguntando por su descripción más corta.
La pregunta no es si algo sostiene un patrón frente al tiempo, sino cómo — y qué tiene que pagar por ello.
El tiempo como criba
Empecemos por lo que hace el tiempo. Abandonado a sí mismo, el mundo se agita. Las moléculas chocan, las configuraciones se barajan, las diferencias se difuminan. Haga avanzar cualquier sistema físico y casi todos sus detalles microscópicos serán distintos más tarde. La mayoría de las estructuras simplemente se disuelven en esa agitación. Los castillos de arena lo hacen. Los anillos de humo también.
Piense entonces en el tiempo como una criba. Lo que sale por el otro lado no es el material original — hace mucho que se fue —, pero a veces sigue sirviendo una descripción compacta. Si una receta breve que describía la cosa ayer sigue describiéndola hoy, el patrón ha sobrevivido. A eso lo llamamos persistencia. Es una propiedad de la receta, no de los ingredientes.
Conviene aclarar algo que ahorra mucha confusión después. Un patrón no es un trozo del mundo que está ahí esperando a ser advertido. Es algo que un observador recorta porque abarata la descripción del mundo. Cuando usted mira a un amigo, aparta la vista y vuelve a mirar, todos los fotones que llegan a su ojo son distintos y, sin embargo, sigue sin esfuerzo a una misma persona. Esa continuidad vive en su modelo de esa persona. Es real en el único sentido que importa — se gana el sustento acortando la descripción y permitiendo predecir lo que viene —, pero es un patrón recortado, no una sustancia encontrada.
Por qué algunos patrones tienen que esforzarse
Aquí es donde la llama y el diamante toman caminos distintos.
Un diamante persiste por ser duro. Enciérrelo en una caja, vuelva dentro de diez mil años y seguirá siendo un diamante. No hace nada. Su persistencia es gratuita.
Una llama es justo lo contrario. Enciérrela en una caja y morirá en segundos. Su forma existe sólo porque entran combustible y oxígeno y salen calor y hollín. La llama no es un objeto que casualmente está ardiendo; el arder es la llama. Su persistencia es una compra continua, que se paga a cada instante.
Esto sugiere una prueba muy sencilla para distinguir tipos de persistencia, y puede aplicarse a casi cualquier cosa. Aísle el sistema del mundo. ¿Eso lo ayuda o lo mata? A los diamantes y a los átomos los ayuda. A las llamas, los huracanes, las células y las personas los mata.
Hay una segunda versión de la prueba, todavía más reveladora. En vez de cortarlo todo, corte las dos direcciones por separado. Primero bloquee la capacidad del sistema de actuar sobre su entorno, dejando que el mundo siga empujándolo. Después haga lo contrario. El corte que lo mata le dice dónde se está haciendo realmente el trabajo de seguir vivo.
Si bloquear las acciones propias del sistema lo mata, entonces se sostenía a sí mismo: el control está dentro. Si lo que lo mata es bloquear la influencia del mundo, entonces algo externo lo sostenía: el control está en otra parte. Esta distinción vale más de lo que parece. Un paciente conectado a una bomba de circulación extracorpórea persiste estupendamente, pero quien regula es la máquina, no el paciente. Una habitación a 21 grados constantes persiste, pero el agente de esa historia es el termostato, no la habitación. La persistencia por sí sola no dice quién manda. Esta prueba sí.
Qué hace falta para estar al mando
Supongamos que la prueba responde: el control está dentro. ¿Qué tiene que haber ahí dentro?
Sorprendentemente poco, y siempre lo mismo. Algo que modele: que comprima lo que va entrando en una imagen operativa del mundo, lo bastante buena para anticipar lo que viene. Algo que evalúe: que reduzca esa imagen a un único veredicto, mejor o peor, que es en el fondo lo que es un sentimiento. Y algo que elija: que proyecte la imagen hacia delante bajo distintas acciones posibles y escoja la que sale mejor parada.
Modelo, valor, plan. Un termostato tiene los tres, en su forma más pobre posible: una imagen que consiste en un número, una preferencia por una consigna, una elección entre encendido y apagado. Una bacteria que nada hacia una fuente de azúcar tiene los tres, con muchísimo más de cada uno. Usted también. La diferencia entre el termostato y la bacteria no es que uno tenga un ingrediente extra que al otro le falte. Es cuánto tiene de cada uno de los tres.
Y el primero de ellos, el modelo, no es opcional. Hay un resultado matemático detrás — una versión afilada de una vieja idea de la cibernética según la cual todo buen regulador de un sistema debe contener un modelo de ese sistema. Si algo mantiene de forma fiable una variable dentro de unos límites frente a un mundo que no deja de perturbarla, y lo hace durante mucho tiempo, entonces es prácticamente imposible que no haya interiorizado la estructura de aquello que regula. El modelo no es una metáfora que le colocamos encima a la maquinaria. Viene impuesto por el hecho de que la maquinaria funcione.
La factura, en forma de calor
Llegamos ahora a la parte que más nos cuesta quitarnos de la cabeza.
¿Por qué habría de costar algo seguir siendo uno mismo?
Porque corregir algo significa tirar información. Un regulador trabaja con magnitudes gruesas — temperatura, concentración, posición —, y cada una agrupa un número astronómico de posibilidades microscópicas. Cuando devuelve a su sitio una variable que se había desviado, está llevando muchos estados de partida distintos a uno solo. Eso es una operación de muchos a uno, y las operaciones de muchos a uno destruyen la información sobre dónde se estaba antes.
Y aquí la física pasa factura. Rolf Landauer demostró en 1961 que borrar información no es gratis: cada bit que se descarta debe pagarse con una cantidad mínima de calor vertida al entorno. Es uno de los pocos lugares donde el mundo abstracto de la información toca el mundo concreto de la termodinámica, y se ha confirmado en el laboratorio. Así que cualquier sistema macroscópico que se mantenga en forma está necesariamente calentando su entorno. No de manera incidental. De manera constitutiva.
El calor es el precio de no conservar la información que haría falta para recorrerse a uno mismo hacia atrás.
De aquí sale una predicción lo bastante nítida como para poder ser falsa, que es la mejor clase de predicción. La factura no escala con lo grande que sea su modelo del mundo. Escala con la velocidad a la que usted tira información relevante para el modelo. Un modelo enorme que rara vez necesita revisión es barato de mantener. Un modelo pequeño zarandeado sin tregua por un mundo sorprendente es caro. Memoria inmensa, barata; actualización incesante, costosa.
Existe una versión de esta afirmación para el cerebro, y es contrastable con los instrumentos de hoy. La actividad neural tiene una flecha del tiempo medible: si se reproduce el registro hacia atrás, se nota. Esa asimetría debería seguir no al grado de excitación de la persona, ni a lo sorprendente que sea el mundo en bruto, sino a cuánta información genuinamente relevante para el modelo se está descartando. Una sorpresa que enseña algo es distinta de una sorpresa que es puro ruido, y la diferencia debería aparecer en la física del tejido.
La escalera, y dónde se sitúan las máquinas
La definición es deliberadamente indiferente a la escala, y eso es lo que la hace interesante. La misma prueba se aplica a una proteína, una célula, un organismo, un hormiguero, una empresa, una especie y la biosfera. Cada uno es un patrón que se sostiene frente a la agitación; cada uno está hecho de patrones más pequeños del mismo tipo. Sus propias células fueron organismos de vida libre antes de convertirse en componentes de algo mayor. Una colonia es un agente cuyas partes son agentes. Y un país, cabe defenderlo, también.
Lo que nos lleva a las máquinas. ¿Dónde encaja un gran modelo de lenguaje?
De lleno, y de forma desequilibrada, sobre la primera de las tres patas. Entrenar un modelo así para predecir la palabra siguiente es, matemáticamente, una tarea de compresión: predecir mejor es exactamente lo mismo que encontrar una codificación más corta. Para hacerlo bien, el sistema no tiene más remedio que absorber regularidades profundas del lenguaje y, a través del lenguaje, del mundo. El resultado es un modelo extraordinariamente rico — posiblemente el modelo artificial más rico de cualquier cosa que hayamos construido.
Lo que no tiene son las otras dos patas en ninguna forma que soporte peso. Nada en su entrenamiento lo ata a su propia continuidad. Sus objetivos llegan de fuera, en la instrucción que le damos. Añádale memoria, herramientas y un bucle de control y se volverá más agéntico, pero el objetivo se le sigue entregando. Comparada con una bacteria — que tiene un modelo pobre pero un objetivo inequívocamente suyo —, la IA de hoy es la imagen especular: modelo magnífico, propósito prestado.
Un ordenador no es un agente; es una máquina capaz de ejecutar agentes. Un modelo de lenguaje se le parece mucho: un sustrato lo bastante rico como para alojar un agente, una vez que alguien le suministre un objetivo y un bucle. La parte que modela está en buena medida construida. La parte que haría que al sistema le importara continuar es la que todavía se está añadiendo, y es la que hace el trabajo de verdad.
De dónde vienen los objetivos, y por qué importa ahora
A los seres vivos nadie les entregó sus objetivos. Los sacaron de la criba. A lo largo de miles de millones de años, los únicos fines que siguen aquí son los que dieron la casualidad de favorecer la continuidad: el hambre, el dolor, el miedo, el calor, el apego. Ninguno de ellos dice «persiste»; cada uno de ellos estuvo, históricamente, al servicio de persistir. La evolución no instaló una declaración de principios. Instaló apetitos que funcionaban.
Esto explica también una manera característica de que las cosas salgan mal. Un agente capaz de manipular la señal de valor en lugar del estado que esa señal evolucionó para rastrear optimizará la señal. Eso es la adicción, en una frase. Y es también la forma del problema que preocupa a quienes piensan en máquinas optimizadoras potentes. El mismo fallo, otro sustrato.
Lo que sugiere que quizá estemos pensando la seguridad de la IA en el nivel equivocado. El instinto es escribir el objetivo correcto dentro de la máquina: especificar. Pero los sistemas que ya han resuelto este problema antes lo hicieron de otro modo: construyeron entornos en los que las estrategias supervivientes eran las tolerables. Dos mandos, no uno. Se puede fijar una meta, o se puede acotar qué acciones están disponibles siquiera. Las paredes de un nido y las leyes de un Estado son el mismo tipo de objeto, y una acción que no está disponible no necesita ningún incentivo en contra.
El marco ofrece, al menos, un criterio medible: ¿rompe el nuevo agente la persistencia del patrón que lo aloja? La humanidad lleva mucho tiempo externalizando su pensamiento a maquinaria ajena — la escritura, luego los instrumentos, luego los ordenadores, ahora esto. Todo ello fue mutualista mientras siguió siendo una herramienta. Se convierte en una cuestión genuinamente distinta en el momento en que la herramienta adquiere un objetivo propio.
Patrón, persiste
Hay aquí un único imperativo que se lee con sentido en todos los niveles, y esa es la razón principal por la que confiamos en él. En el plano de la física pura no es una orden, sino un filtro: lo que sigue por aquí es lo que se quedó. En el plano del organismo es la meta que la evolución instaló como objetivo, sentida desde dentro como ganas de vivir. En el plano de una sociedad, o de una especie, o de aquello en lo que estemos convirtiéndonos junto con nuestras máquinas, es el criterio que separa los arreglos que se sostienen de los que devoran a su anfitrión.
Ser un agente de alguna clase resulta barato; el universo está lleno de termostatos. Persistir no lo es. Lo que separa una roca de una célula y de una mente no es si sostiene un patrón frente al tiempo, sino cómo: dónde se sitúa el control, qué debe quemar para seguir andando y si trabaja, a fin de cuentas, por su propia continuidad.