Quasi nulla, nel vostro corpo, è ciò che era dieci anni fa. Gli atomi dei vostri muscoli, del vostro sangue, perfino il calcio delle vostre ossa sono stati sostituiti dal traffico ordinario del mangiare e del respirare. Siete fatti, nel senso più letterale, di materia diversa da quella della persona nelle vostre vecchie fotografie. Eppure non avete alcuna difficoltà a dire che quella persona eravate voi.
Non è un enigma che riguardi soltanto le persone. La fiamma di una candela è una forma tenuta in piedi da un gas che la attraversa e sparisce in millisecondi. Un vortice in un fiume è fatto di acqua che ha già raggiunto il mare. Un uragano, una barriera corallina, una lingua, un’azienda, una specie: ciascuno è una forma che sopravvive a tutto ciò di cui è fatta.
La risposta ovvia è dire: d’accordo, ciò che persiste è lo schema, non il materiale. Vero, ma troppo facile. Lascia intatta la domanda interessante. Gli schemi non fluttuano liberi dalla fisica. La maggior parte si dissolve. Quelli che non lo fanno stanno facendo qualcosa, quel qualcosa ha un costo, e il costo si può misurare. È questo che cerchiamo da tempo di mettere a fuoco — un quadro teorico che chiamiamo Teoria di Kolmogorov, dal nome del matematico che ci ha insegnato a misurare quanto una cosa sia davvero complicata chiedendone la descrizione più breve.
La domanda non è se qualcosa tenga in vita uno schema contro il tempo, ma come — e che cosa debba pagare per farlo.
Il tempo come setaccio
Partiamo da ciò che fa il tempo. Lasciato a sé, il mondo si agita. Le molecole si urtano, le configurazioni si rimescolano, le differenze si sfumano. Fate avanzare un qualsiasi sistema fisico e quasi ogni suo dettaglio microscopico sarà diverso più tardi. La maggior parte delle strutture semplicemente si dissolve in questa agitazione. I castelli di sabbia lo fanno. Gli anelli di fumo pure.
Pensate allora al tempo come a un setaccio. Ciò che esce dall’altra parte non è il materiale originario — è sparito da un pezzo —, ma a volte una descrizione compatta continua ad andare bene. Se una ricetta breve che descriveva la cosa ieri la descrive ancora oggi, lo schema è sopravvissuto. Lo chiamiamo persistenza. È una proprietà della ricetta, non degli ingredienti.
Vale la pena chiarire subito una cosa, perché risparmia molta confusione. Uno schema non è un pezzo di mondo che sta lì ad aspettare di essere notato. È qualcosa che un osservatore ritaglia perché rende il mondo più economico da descrivere. Quando guardate un amico, distogliete lo sguardo e tornate a guardarlo, ogni fotone che raggiunge il vostro occhio è diverso, eppure seguite senza sforzo una sola persona che continua. Quella continuità vive nel vostro modello di lui. È reale nell’unico senso che conta — si guadagna da vivere accorciando la descrizione e permettendo di prevedere ciò che viene dopo —, ma è uno schema ritagliato, non una sostanza trovata.
Perché certi schemi devono faticare
È qui che la fiamma e il diamante si separano.
Un diamante persiste perché è duro. Chiudetelo in una scatola, tornate fra diecimila anni e sarà ancora un diamante. Non fa nulla. La sua persistenza è gratuita.
Una fiamma è l’opposto. Chiudetela in una scatola e muore in pochi secondi. La sua forma esiste soltanto perché combustibile e ossigeno entrano, e calore e fuliggine escono. La fiamma non è un oggetto che per caso sta bruciando; il bruciare è la fiamma. La sua persistenza è un acquisto continuo, pagato a ogni istante.
Questo suggerisce una prova bellissima nella sua semplicità per distinguere i tipi di persistenza, e si può applicare a quasi tutto. Isolate il sistema dal mondo. Questo lo aiuta o lo uccide? I diamanti e gli atomi ne traggono giovamento. Le fiamme, gli uragani, le cellule e le persone muoiono.
Ne esiste una seconda versione, ancora più rivelatrice. Invece di tagliare tutto, tagliate le due direzioni separatamente. Prima bloccate la capacità del sistema di agire sul proprio ambiente, lasciando che il mondo continui a spingerlo. Poi fate il contrario. Il taglio che lo uccide vi dice dove si stia svolgendo davvero il lavoro di restare vivi.
Se bloccare le azioni del sistema lo uccide, allora era lui a tenersi insieme: il controllo sta dentro. Se a ucciderlo è bloccare l’influenza del mondo, allora era qualcosa di esterno a tenerlo in piedi: il controllo sta altrove. Questa distinzione vale più di quanto sembri. Un paziente in circolazione extracorporea persiste benissimo, ma a regolare è la macchina, non il paziente. Una stanza tenuta a 21 gradi costanti persiste, ma l’agente, in quella storia, è il termostato, non la stanza. La persistenza da sola non dice chi comanda. Questa prova sì.
Che cosa serve per essere al comando
Supponiamo che la prova risponda: il controllo sta dentro. Che cosa deve esserci, là dentro?
Sorprendentemente poco, e sempre le stesse tre cose. Qualcosa che modella: che comprime ciò che arriva in un’immagine funzionante del mondo, abbastanza buona da anticipare quel che succede dopo. Qualcosa che valuta: che riduce quell’immagine a un unico verdetto, meglio o peggio, che è poi in fondo ciò che un sentimento è. E qualcosa che sceglie: che proietta l’immagine in avanti sotto diverse azioni possibili e prende quella che ne esce meglio.
Modello, valore, piano. Un termostato ha tutti e tre, nella forma più misera possibile: un’immagine che consiste in un numero, una preferenza per un valore di consegna, una scelta fra acceso e spento. Un batterio che nuota risalendo un gradiente di zucchero ha tutti e tre, con enormemente più di ciascuno. E così voi. La differenza fra il termostato e il batterio non è che uno abbia un ingrediente in più che all’altro manca. È quanto ne ha di ciascuno dei tre.
E il primo dei tre, il modello, non è facoltativo. C’è un risultato matematico dietro tutto questo — una versione affilata di una vecchia idea della cibernetica secondo cui ogni buon regolatore di un sistema deve contenere un modello di quel sistema. Se qualcosa mantiene in modo affidabile una variabile entro certi limiti contro un mondo che non smette di perturbarla, e lo fa a lungo, allora è praticamente impossibile che non abbia interiorizzato la struttura di ciò che regola. Il modello non è una metafora che drappeggiamo sopra il meccanismo. È imposto dal fatto stesso che il meccanismo funzioni.
Il conto, in calore
Veniamo ora alla parte di cui facciamo più fatica a liberarci.
Perché mai restare sé stessi dovrebbe costare qualcosa?
Perché correggere qualcosa significa buttare via informazione. Un regolatore lavora con grandezze grossolane — temperatura, concentrazione, posizione — e ciascuna raccoglie un numero astronomico di possibilità microscopiche. Quando riporta al suo posto una variabile che si era allontanata, sta mandando molti stati di partenza diversi in uno solo. È un’operazione molti-a-uno, e le operazioni molti-a-uno distruggono l’informazione su dove ci si trovava prima.
E qui la fisica presenta il conto. Rolf Landauer mostrò nel 1961 che cancellare informazione non è gratis: ogni bit che si scarta va pagato con una quantità minima di calore riversata nell’ambiente. È uno dei pochi punti in cui il mondo astratto dell’informazione tocca il mondo concreto della termodinamica, ed è stato confermato in laboratorio. Sicché qualunque sistema macroscopico che si mantenga in forma sta necessariamente riscaldando ciò che lo circonda. Non per caso. Per costituzione.
Il calore è il prezzo del non conservare l’informazione che servirebbe per ripercorrere sé stessi all’indietro.
Da qui esce una previsione abbastanza netta da poter essere sbagliata, che è il tipo migliore di previsione. Il conto non cresce con quanto è grande il vostro modello del mondo. Cresce con la velocità con cui buttate via informazione rilevante per il modello. Un modello sterminato che va rivisto di rado costa poco da mantenere. Un modello piccolo, sballottato di continuo da un mondo sorprendente, costa molto. Memoria immensa, a buon mercato; aggiornamento incessante, caro.
Ne esiste una versione per il cervello, verificabile con la strumentazione di oggi. L’attività neurale ha una freccia del tempo misurabile: se si riproduce la registrazione all’indietro, si nota. Quell’asimmetria dovrebbe seguire non il grado di eccitazione della persona, né quanto il mondo sia sorprendente in senso grezzo, ma quanta informazione genuinamente rilevante per il modello venga scartata. Una sorpresa che insegna qualcosa è diversa da una sorpresa che è puro rumore, e la differenza dovrebbe affiorare nella fisica del tessuto.
La scala, e dove si collocano le macchine
La definizione è deliberatamente indifferente alla scala, ed è questo a renderla interessante. La stessa prova si applica a una proteina, a una cellula, a un organismo, a un formicaio, a un’azienda, a una specie e alla biosfera. Ciascuno è uno schema che si tiene insieme contro l’agitazione; ciascuno è fatto di schemi più piccoli dello stesso tipo. Le vostre stesse cellule sono state un tempo organismi liberi, prima di diventare componenti di qualcosa di più grande. Una colonia è un agente le cui parti sono agenti. E lo è, si può sostenere, anche un Paese.
Il che ci porta alle macchine. Dove si colloca un grande modello linguistico?
In pieno, e in modo sbilanciato, sulla prima delle tre gambe. Addestrare un modello simile a prevedere la parola successiva è, matematicamente, un compito di compressione: prevedere meglio è esattamente la stessa cosa che trovare una codifica più corta. Per riuscirci bene il sistema non ha altra scelta che assorbire regolarità profonde del linguaggio e, attraverso il linguaggio, del mondo. Il risultato è un modello straordinariamente ricco — forse il più ricco modello artificiale di qualsiasi cosa che abbiamo mai costruito.
Ciò che non ha sono le altre due gambe in una forma che regga il peso. Nulla nel suo addestramento lo lega alla propria continuazione. I suoi obiettivi arrivano da fuori, nell’istruzione che gli diamo. Aggiungetegli memoria, strumenti e un ciclo di controllo e diventerà più agentivo, ma l’obiettivo continua a essergli consegnato. Rispetto a un batterio — che ha un modello povero ma un obiettivo inequivocabilmente suo — l’IA di oggi è l’immagine speculare: modello magnifico, scopo in prestito.
Un computer non è un agente; è una macchina in grado di eseguire agenti. Un modello linguistico gli somiglia molto: un substrato abbastanza ricco da ospitare un agente, una volta che qualcuno gli fornisca un obiettivo e un ciclo. La parte che modella è in buona misura già costruita. La parte che farebbe sì che al sistema importi di continuare è quella che si sta ancora aggiungendo, ed è quella che fa il lavoro vero.
Da dove vengono gli obiettivi, e perché conta adesso
Ai viventi nessuno ha consegnato i propri obiettivi. Li hanno ricavati dal setaccio. Nell’arco di miliardi di anni, gli unici fini ancora in circolazione sono quelli che si sono trovati a favorire il continuare: la fame, il dolore, la paura, il calore, l’attaccamento. Nessuno di essi dice «persisti»; ciascuno di essi è stato, storicamente, al servizio del persistere. L’evoluzione non ha installato una dichiarazione d’intenti. Ha installato appetiti che funzionavano.
Questo spiega anche un modo caratteristico in cui le cose vanno storte. Un agente capace di manomettere il segnale del valore invece dello stato che quel segnale si è evoluto per seguire ottimizzerà il segnale. È la dipendenza, in una frase. Ed è anche la forma del problema che preoccupa chi pensa alle potenti macchine ottimizzatrici. Stesso guasto, substrato diverso.
Il che suggerisce che forse stiamo pensando alla sicurezza dell’IA al livello sbagliato. L’istinto è scrivere l’obiettivo giusto dentro la macchina: specificare. Ma i sistemi che questo problema l’hanno già risolto in passato hanno fatto diversamente: hanno costruito ambienti in cui le strategie sopravvissute erano quelle tollerabili. Due manopole, non una. Si può fissare una meta, oppure si può delimitare quali azioni siano perfino disponibili. I muri di un nido e le leggi di uno Stato sono lo stesso tipo di oggetto, e un’azione non disponibile non ha bisogno di alcun incentivo contrario.
Il quadro offre, quantomeno, un criterio misurabile: il nuovo agente rompe la persistenza dello schema che lo ospita? L’umanità delega il proprio pensiero a macchinari esterni da molto tempo — la scrittura, poi gli strumenti, poi i computer, ora questo. Tutto ciò è stato mutualistico finché è rimasto uno strumento. Diventa una questione davvero diversa nel momento in cui lo strumento acquisisce un obiettivo proprio.
Schema, persisti
C’è qui un unico imperativo che si legge sensatamente a ogni livello, ed è la ragione principale per cui gli diamo credito. Sul piano della fisica pura non è un comando ma un filtro: le cose ancora in giro sono quelle che sono rimaste. Sul piano dell’organismo è la meta che l’evoluzione ha installato come obiettivo, sentita da dentro come voglia di vivere. Sul piano di una società, o di una specie, o di qualunque cosa stiamo diventando insieme alle nostre macchine, è il criterio che separa gli assetti che si reggono da quelli che divorano il proprio ospite.
Essere un agente di qualche tipo si rivela a buon mercato; l’universo è pieno di termostati. Persistere no. Ciò che separa una roccia da una cellula e da una mente non è se tenga in piedi uno schema contro il tempo, ma come: dove sieda il controllo, che cosa debba bruciare per andare avanti e se lavori, in ultima analisi, per la propria continuazione.