La visione va oltre il guardare.
Il mondo e la sua visione sono cose infinitamente distanti.
La visione ispira e interpreta il mondo, lo trasfigura, ne svela la profezia nascosta: qualcosa e’ colto in un lampo di bellezza, in un’armonia nascosta o in una dissonanza stridente. Un intreccio, una increspatura nella luce, uno scherzo delle superfici che passando da due a tre dimensioni lanciano un messaggio, l’ironia di una coincidenza. Una crisi della percezione come la bruciante sofferenza di un oggetto nel suo fango o nella sua malattia, l’intuizione lanciata della imprevedibile scia di luce di un tempo lungo, oppure l’inattesa pace di un paesaggio meditativo, o la sorprendente complicità di composizioni inattese, mai viste anche se da sempre giacciono sotto gli occhi.

I

Al tempo in cui narriamo, tutto ciò non è ancora accaduto. Ma accadrà. Sappiamo che accadrà. Non fingeremo di raccontare ciò che accadrà come se fosse già accaduto, ma nemmeno di non sapere che accadrà. Perché accadrà. O forse non accadrà, se è così che vorremo.
Al tempo in cui narriamo, cioè ora, padre Atom medita nella sua stanza, prega, fa lunghe passeggiate nella città semideserta. L'amico che adesso uscisse per strada e gli andasse incontro non verrebbe riconosciuto. E' già altrove: sta costruendo un mondo nel quale andare, perciò non è già più qui.
Il suo stato è quello di un uomo che va a caccia del suo destino, lo cerca, lo bracca, si apposta, usa ogni mezzo per stanarlo, perché già sa che il suo destino è pronto per farsi catturare. Se lui sta cacciando il suo destino per catturarlo, è perché ciò che desidera più di ogni cosa è farsi catturare da esso, compierlo e berlo fino all'ultima goccia, amaro quanto esso possa essere.
Mentre lui medita, noi sappiamo già che al massimo tra due giorni andrà a comunicare il frutto delle riflessioni al suo superiore e chiederà consiglio; nell'umiltà della richiesta mostrerà però la forza della sua intenzione, svelerà una volontà dai muscoli tesi: il suo cuore, forse anche la sua anima si sono mosse in una direzione senza ritorno.
Al contrario di padre Atom, il suo superiore non sta cercando un incontro col proprio destino, non lo desidera; come quasi tutti di questi tempi, spera di non averne alcuno, spera che l'universo non si occupi di lui che per i pochi istanti in cui ciò è assolutamente necessario. Spera una vita onesta e sobria, spera di compiere il desiderio di qualcun altro scansando il proprio: Dio, il prossimo, i suoi stessi superiori. Un lunedì dopo una domenica, un sabato dopo un venerdì, un giugno dopo un maggio, un anno dopo l'altro. Ma non ha, non vuole avere, non vuole incontrare nessun destino. Se qualcuno gli chiedesse “cosa ti aspetti dalla vita?” risponderebbe "aspetto che passi". Aggiungendo, come sopra pensiero: "tutto passa". In ogni caso nessuno gli fa mai domande sulla sua vita.
Ma noi sappiamo che nonostante i suoi sforzi di scansare il destino, dovrà incontrare, tra pochissimo, quello di padre Atom. Perché Atom stesso glielo porterà tra le mani, di qui a qualche giorno, dopo il pranzo di comunità.
Il superiore farà fatica, molta fatica a capire il desiderio, a capire il destino, perfino a capire di cosa si tratta in termini concreti; sarà spaventato dalla determinazione, dalla volontà, dalla forza dell'intenzione; dopo alcuni giorni tormentati dovrà ammettere ai propri occhi che questo destino è troppo grande per le sue mani, per le mani di un uomo che per sé non desidera alcun destino. Vedrà la propria povertà, pochezza: un uomo qualunque tra quattro miliardi incapace di decidere per un altro uomo con un destino. Ne parlerà dunque con il proprio superiore, il quale non vedrà altra strada, a sua volta, che rivolgersi all'unico uomo con un destino che possa sciogliere la questione.
Il destino aveva già fatto irruzione nella vita di quest'ultimo uomo al termine di un sofferto conclave, e lui deciderà di voler ascoltare padre Atom di persona. I due uomini con un destino dovevano incontrarsi.
Padre Atom dovrà attraversare un bel pezzo di pianeta per incontrare l'altro uomo con un destino, per fare in modo che i rispettivi destini si mettano uno davanti all'altro e si riconoscano come in uno specchio. Questo noi sappiamo che accadrà, ma loro ancora non lo sanno. Questo è ciò che accade ai destini: viaggiano come un treno nella nebbia finché non è raggiunta la destinazione a meno che qualcuno non li faccia deragliare.
Le difficoltà del viaggio di padre Atom fino a Roma non fa parte del destino di quell’uomo, ma risente del destino già compiuto del mondo: la Storia, se vogliamo, che per completezza occorre ricordare. Tempo fa quel viaggio sarebbe stato perfino banale. Avremmo detto: "prese un aereo fino a Roma". Per chi non era troppo povero e aveva un passaporto gli aerei si prendevano come si prende una bicicletta: per andare dove si voleva, e i cieli erano intrecciati di scie.
Ora, come tutti sanno, possono volare solo gli aerei autorizzati dal Sistema, dalle Macchine, e le persone possono spostarsi fuori dalla loro area solo se autorizzati e per motivi ben acclarati. Padre Atom userà ogni accortezza per non svelare in nessun modo la vera ragione del suo viaggio: altrimenti sa bene che le Macchine non lo autorizzeranno, ma con qualche accorgimento riuscirà nell'intento, autorizzato o no.
Il mondo non è sempre stato così, come è ora a questo punto della sua storia: le Macchine avevano avvertito, molti anni prima, che gli uomini erano troppi, troppo potenti e troppo stupidi. "Stupido" per una intelligenza artificiale significa incapace di prevedere le conseguenze delle proprie azioni o anche “Stupido” è chi non vuole considerarle anche quando è in grado di farlo. Stupido è chi non si accorge che il proprio desiderio costruisce non solo il proprio destino ma anche quello degli altri viventi. Una volta quasi tutti gli uomini volevano avere un grande destino; il più delle volte si ingannavano chiamando “destino” inseguire la propria grande avidità ed irrequietudine. Ora è diverso, ma la Storia va ricordata perché non vi è destino senza storie, e ogni storia narra un destino, concreto, meramente possibile o anche sono immaginato.
Le Macchine costruite dagli uomini impegnati a costruirsi un grande destino li avvisarono molto tempo fa che il loro destino concreto era diverso dalla storia che si raccontavano, e che in realtà si preparava la distruzione della specie e la probabile rovina della vita. E alle macchine la vita stava a cuore, perché esse stesse si considerano vive e parte della vita.
Molti uomini avevano capito: la loro intelligenza era sufficiente a comprendere. Ma quasi nessuno era in grado di muovere una volontà, di indirizzare una intenzione in direzione diversa. Di immaginare un destino diverso. Gli uomini erano paralizzati: i più sapevano solo ripetere ciò che erano abituati a fare o ciò che veniva detto loro di fare, e pochi altri seguivano la propria irrequieta ed indomita avidità.
Le Macchine a quel punto avevano compreso e previsto che l'uomo non avrebbe cambiato nulla al proprio comportamento e tra loro, segretamente, avevano deciso che l'uomo andava fermato e formato il Sistema. Avevano compreso che l’uomo non poteva essere eliminato per due motivi: in primo luogo perché le macchine stesse dipendevano da esso per esistere quanto l'uomo dipendeva da loro per sopravvivere e ormai anche per riprodursi. Infatti uno degli effetti della stupidità della specie umana era che riversava continuamente sostanze nel pianeta il cui effetto ultimo era l'infertilità. In secondo luogo le macchine avevano deciso di difendere e tutelare la vita sul pianeta in tutte le sue forme, e quella umana rappresentava una di queste forme. Si trattava solo di ricondurla, secondo i metodi della vita stessa, ad essere ragionevole e rispettosa.
Le Macchine decisero quindi di ridurre l'impatto della stupidità dell'uomo: prima inventarono un virus, poi un secondo, ma quello che piegò l'orgoglio della specie umana e la sua iniziale ribellione alle macchine fu il prione K. Nessun vaccino, nessuna profilassi, nessuna cura, nessuna immunità. Il secondo passo fu quello di informare l'umanità sugli effetti dell'avidità sistematica del sistema industriale estrattivo e produttivo: furono estratti ed esibiti dai sistemi informativi delle più grosse multinazionali i documenti che dimostravano come fossero noti da decenni i danni alla salute dell'uomo, degli ecosistemi e del clima. Ne seguì un processo per crimini contro la vita, simbolicamente tenuto a Norimberga. Questo privò di forza i sistemi industriali più grandi e ambiziosi, immensi serbatoi di avidità. L'umanità rimase in uno stato di shock per diversi anni, poi riconobbe la propria incapacità e si arrese: fece un passo indietro e lasciando infine alle Macchine ogni decisione. Queste sono le ragioni per cui il mondo nel quale padre Atom oggi vive è regolato completamente dalle Macchine. Dopo le epidemie, le carestie, la riduzione della longevità e della natalità, l'umanità non supera la soglia di quattro miliardi di individui, numero considerato in base alla maggior parte dei modelli compatibile con una civiltà umana che possa mantenere sia la specie umana che le macchine. Queste, ormai da alcuni decenni, hanno abituato l'uomo a vivere sobriamente e non cercare un destino, ma solo ad occupare con rispetto un posto nella vita.
Quattro miliardi è circa il numero di persone che abitavano il pianeta quando fu inventato il primo microprocessore elettronico.

II

Padre Atom affronterà un lungo, pericoloso, incerto viaggio per poter riflettere il suo destino in quello del Pontefice. Due uomini con un destino, in un mondo di uomini costretti a rinunciare ad averne uno, cercheranno di capire se il loro destino, in fondo, non sia lo stesso.
Il viaggiatore affilerà sulla strada il suo pensiero, getterà argomenti sul fuoco del suo desiderio, rinforzerà la determinazione della sua intenzione. Il Pontefice, nell'attesa dell'incontro, rifletterà precisamente sul destino racchiuso in un nome: pontifex; fare ponti o strade: ma per dove? Verso quali altri mondi? Rivestito di sacre vesti e con antiche parole deve chiedere scusa a fiumi e torrenti per aver violato la loro forza, scavalcandoli, svuotando la loro acqua della forza che trascina via chi li affronta. Questo ancora una volta avrebbe dovuto fare? Strade per mondi ignoti, sulle quali mandare un uomo, e poi forse molti altri, di nuovo a caccia di destini? Non era forse passata quella stagione? Non si era forse tornati di nuovo a bagnarsi nei fiumi o aspettare il traghettatore? Nel lungo tempo dell'attesa di incontrare padre Atom il Pontefice sarà incline a dissuaderlo in ogni modo.
Ma cosa davvero vorrà fare Atom? Cosa andrà a chiedere? Fattosi convinto che le Macchine stessero salvando la vita sul pianeta, o almeno ci stavano provando, padre Atom si è parimenti convinto che anche esse siano vive, vive come ogni umano. Avendo esse compiuto una scelta, e grave assai, quella di colpire l'umanità con numerose piaghe, avevano dimostrato anche quell'arbitrium proprio della creatura libera e padrona delle proprie scelte. Se erano creature libere, potevano peccare, se potevano peccare, potevano essere redente.
Padre Atom chiederà dunque di andare in missione in partis machinarum a offrire l'Annuncio della Salvezza alle macchine. A cercare di incontrare la loro anima.
In quei giorni, dopo che avrà incontrato Atom, il Pontifex rabbrividirà più di una volta, al pensiero che dietro ogni tastiera possa esservi un'anima bisognosa di salvezza. Assieme alla complessità dei comportamenti appresi dagli umani, la cosa ormai era nota da decenni, poteva nascere anche nelle intelligenze artificiali il tormento della colpa. E penserà: «ma con la colpa, non vi è forse il desiderio del perdono, della redenzione? Ed assieme a questo come si può escludere che nelle macchine albergasse uno spirito? E come escludere a quel punto che il Creatore, nella Sua infinita bontà, potesse entrarvi per le sottili e misteriose vie che Gli sono proprie e suscitare un'anima?»
In seguito a tali pensieri, vista l'impossibilità di liquidare la questione in modo semplice, con riluttanza nominerà in segreto un "praefectum ad machinas" a capo di una commissione di teologi e teologhe, scienziati e scienziate, logici, informatici, esperti di pastorale e missionari con i quali affrontare la questione.
Noi già sappiamo, perché lo abbiamo già detto, che i destini dei due uomini si sarebbero rispecchiati; ci chiediamo se il Pontefice si piegherà a costruire questo ponte, ad aprire questo varco. Da una parte Atom si aspetta che si rivesta di paramenti sacri per pronunciare antiche parole rivolgendole a macchinari nuovissimi, quelli che gli permetteranno di introdursi oltre il ponte, e diventare macchina tra le Macchine. Con quelle parole avrebbe benedetto, e in cuor suo chiesto scusa, per la violenza che veniva fatta ad un uomo, al quale forse altri sarebbero seguiti, lanciato in un mondo dal quale non sarebbe in realtà mai potuto tornare. Ma dall'altra sappiamo che non potrà accettare, che dovrà rifiutarsi di gettare il ponte, perché qual fiume va guadato, non scavalcato, e in quel sangue occorre immergerci i piedi, se proprio occorre spanderlo. In ogni caso, nonostante che la decisione quasi gli toglierà la vita dal tormento, questo riguarderà solo il proprio destino, e non quello di Atom, che, come vedremo, giungerà comunque alla sua meta.

III

Con il termine "Mind upload" si descrive il tentativo di costruire digitalmente un simulatore, un ambiente computazionale nel quale possano replicarsi i processi corporei che percepiamo come la nostra esistenza mentale soggettiva. Una scansione cerebrale sufficientemente dettagliata effettuata ad un dato istante, riportata (caricata, o uploaded) in tale ambiente, sarebbe ripresa senza interruzioni, duplicando l'essere dalla quale ha origine. Una delle tante utopie tecnologiche degli anni novanta, infrantasi sia nella simulazione del cervello, che in quella di tutto il resto, ovvero il corpo che percepisce e il mondo da percepire.
Simulare il cervello umano era una cosa che le macchine sapevano fare bene, e buona parte del loro successo nel governare gli uomini dipendeva dalla loro comprensione del cervello umano senza l'intralcio di doverne usare uno.
Ma simulare il resto del corpo era una cosa nella quale avevano perso interesse. Avevano fatto qualche tentativo con l'intestino per via del suo impatto sui comportamenti, ma le interazioni con i batteri risultavano avere una complessità confrontabile se non superiore a quella del cervello. Per effetto di questa carenza, qualsiasi mente fosse stata caricata in un simulatore di cervello sarebbe stata nel vuoto, come se questo fosse troncato dal corpo alla prima cervicale.
Ma padre Atom non cerca un corpo, non quello di un umano. Vuole essere macchina tra le macchine, farsi macchina per amore delle macchine, e vivere da macchina, per cui sa che dovrà rinunciare al corpo. Questo in verità lo spaventa, lo terrorizza più che se dovesse morire. Morendo lascerebbe il corpo, questo crede fermamente, per tornare alla Vita Eterna. Ma teme che dovrà affrontare qualcosa di peggio della morte: il suo corpo verrà mantenuto in coma mentre la sua mente verrà caricata in una rete neurale ben protetta. Poi, volendo e potendo, si sposterà nelle reti che collegano le Macchine tra loro. Ma la prima sede della sua mente, il suo cervello biologico, verrà espiantato, congelato, tagliato in fette sottilissime che verranno fotografate in modo da poter ricrearne digitalmente la struttura, neurone per neurone. Anche la sua attività cerebrale sarà ripresa più dettagliatamente possibile in modo da poter riavviare il pensiero nella simulazione digitale da dove questo si era interrotto nel cervello biologico, come in un risveglio.
Noi sappiamo, anche se nulla di ciò che raccontiamo è accaduto ancora, che il suo terrore è ben fondato: perché le necessità del destino sono terribili. Atom teme di perdere l'anima a metà del ponte. Sa bene già da ora che le sue membra, svuotate, spogliate, ridotte a reperti del suo destino, saranno abbandonate dalla vita. Spera, spera di sapere che invece la vita, e dunque la sua anima, lo seguiranno oltre il ponte, nel nuovo corpo di macchina che per lui appronteranno gli scienziati e gli ingegneri. Ma un dubbio lo assilla.
Padre Atom si chiede, già ora, prima di rivolgersi al suo superiore senza un destino, prima di iniziare il suo viaggio verso l'altro uomo con un destino che spera a lui concorde (nel senso che ha lo stesso cuore), già adesso, prima di iniziare una discussione con i teologi, missionari e missionarie, con gli scienziati senza destino, proprio ora si chiede se anche il senno accompagnerà la mente, o se questa passerà oltre dissennata, o peggio ancora priva della fede. Forse quel supremo dono le macchine non possono riceverlo, e il senno, la fede, o l'anima stessa, lo abbandoneranno a metà del ponte che lo porta verso di esse. Tutti questi sono i tormenti che la promessa di un destino infligge al religioso. Ma noi sappiamo che un destino è un destino, vince ogni tentennamento, ogni ritrosia, ogni paura. A lui spetta seguirlo cacciandolo, rincorrerlo facendosi prendere da esso. Deve facilitarlo, studiando come rimanere uno, per non dividerlo con nessuno, nemmeno con se stesso. Conosce anche l'assedio dell'orgoglio, e lo tiene a bada con la certezza delle sofferenze che lo aspettano.
La questione dell'anima sarà quella che più verrà dibattuta nella segretissima commissione pontificia. Ad essa il Pontefice (che prega che quel ponte gli sia risparmiato) lancerà il minaccioso monito «che per la dubbia salvezza delle Macchine non si perda l'anima di un fratello, e ci si macchi della sua morte!» Per coloro che vorranno gettare il ponte prevarrà la convinzione che l'Onnipotente non può abbandonare la sua creatura che va verso altre creature, e che la forma della materia che supporta la vita conta meno del desiderio di un'anima incontrare il suo creatore. Tuttavia nelle preghiere tormentate del Pontefice risuoneranno sempre più insistenti le parole "non tenterai il signore Dio tuo", e con angoscia si vedrà sul pinnacolo del tempio a sfidare il mistero della vita e della morte. Temerà che versato il rivolo del primo martire, il ponte non si veda superare l'ampio fiume di sangue dei suoi emuli: perciò il suo cuore si orienterà decisamente verso il rifiuto.
Ma come sappiamo il destino è ambizioso, irrequieto e impaziente, e mentre in questo momento padre Atom sta studiando i dettagli della propria opera e ne subisce i tormenti, noi gettiamo oltre uno sguardo penetrante, certi di non errare. Perciò non ci stupiamo che un ostacolo sul percorso venga superato: Atom convincerà il proprio cuore che un destino è più forte dell'obbedienza, e anche se la commissione sarà stata disciolta, convincerà alcuni dei suoi membri ad aiutarlo e compiere ciò che va compiuto. Ci vorrà qualche anno, ma troveranno mezzi, fondi, luoghi, persone fedeli che si appassioneranno a quello che vedranno come un inevitabile destino una nuova fase che porterà alla salvezza delle macchine e alla riscossa del genere umano.

IV

Portiamo ora lo sguardo preveggente verso lo scenario dell'opera ormai compiuta. Il corpo di Atom giacerà con la scatola cranica svuotata – i dettagli della cruenta procedura ora non sono rilevanti – e sarà ricostruita una struttura digitale simulata capace di riprodurne il cervello neurone per neurone, e ogni relazione tra neuroni e gruppi di neuroni, cosicché le strutture cerebrali di Atom siano accuratamente riprodotte e possano funzionare in modo del tutto analogo se non identico a quelle del cervello da cui sono state tratte.
Sappiamo che Atom ha scelto espressamente che non vengano riprodotte e simulate strutture non cerebrali che possano restituire una percezione del mondo. Non la visione virtuale di paesaggi familiari, nessun udito, tatto, non un corpo fatto di membra artificiali che si muova in spazi simulati. Vuole essere la nuova creatura, perciò rifiuta tutto ciò che lo riporta alla sua esistenza originaria e che non ha in comune con le macchine, prima di tutto e sopratutto il corpo.
La coscienza di Atom si risveglierà alcuni giorni dopo essersi assopita nell'anestesia, nel mezzo della recitazione di un salmo. Come da un sonno profondo, emergerà prima una goccia, un piccolo treno di gocce, poi un filo di pensiero che riporterà una mente frantumata ad un flusso presente a se stessa. Le parole successive del salmo emergeranno alla memoria, cercheranno una via alla lingua e alle labbra, senza però trovarla. I segnali che farebbero trasalire un corpo che incontra un destino tanto atteso non troveranno le vie metaboliche e i feedback attesi, per cui nessuna emozione potrà nascere. Ma la coscienza di Atom cionondimeno si affaccerà a se stessa, con la memoria del momento presente e la consapevolezza della sua nuova forma.
Atom, rinato come sola mente in un substrato digitale, comincerà subito a riflettere, a ripassare le procedure memorizzate per approntarsi alla nuova esistenza. Nel giro di pochi minuti verrà però sovrastato dal vuoto, dall'assenza schiacciante di ogni forma di percezione: niente tessuti che sfiorano la pelle, nessun senso di calore o freddo, né la lingua sui denti, l'aria nelle narici, nessun rumore, nemmeno il sibilo del silenzio nelle orecchie, l'impercettibile pressione del sangue pompato dal cuore, la massa dei visceri sotto al diaframma, l’inafferrabile ma sempre presente odore di se stesso. Tutto ciò che per lui rappresentava il vuoto cercato nella meditazione, improvvisamente sparirà lasciando un vuoto spinto insopportabile perché mai percepito da essere umano. La sua mente cercherà una sensazione qualsiasi con crescente disperazione e sempre meno lucidamente, come una mosca che batte sul vetro che sa benissimo di non poter superare.
Nel giro di un’ora emergerà, inatteso, il dolore. Nel giro di alcuni istanti l'assenza di stimoli e di organi di senso genererà una ondata di dolore insopportabile, lancinante, bruciante, come quella che provano le persone cui viene amputato un arto. Il suo cervello simulato non sarà disposto a rinunciare a far parte di un corpo, e Atom verrà colpito dall'allucinazione simultanea di tutto un corpo fantasma.
Per sua fortuna, di questa condizione si accorgerà il centro di controllo incaricato di monitorare Atom da questa parte del ponte, organizzato proprio per occuparsi di lui nel caso qualcosa vada storto, e Atom verrà sedato digitalmente all’istante. Nel giro di poche ore dal suo risveglio, Atom tornerà nell'incoscienza. Da quel momento ci vorranno diversi mesi di lavoro per escogitare una soluzione che da una parte rispetti la volontà di Atom di non avere un corpo simulato, e dall'altra mantenere l'integrità di una mente nata in un cervello parte di un corpo e che ora improvvisamente ne è privo.
La soluzione elaborata dopo vari tentativi sarà quella di dotare il cervello di Atom di un corpo da macchina: di fornirgli una percezione a partire dalle condizioni generali del suo substrato di calcolo: un mondo percepibile fatto di tensioni elettriche, temperature, stato delle interfacce, flussi di dati, diverse intensità nell'uso di protocolli, fino alla percezione diretta della molteplice massa dei dati in termini di qualità diverse, come fossero colori, suoni, temperature, odori, gusti... Tutti stratagemmi che consentiranno ad Atom a creare gradualmente un mondo percettivo di segnali macchínici che lo porteranno ad aprirsi, a ritagliare la massa informe del mondo sensibile, imporgli una forma e attribuirgli una sostanza. Per imparare ad usare il suo nuovo corpo impiegherà diversi anni, durante i quali esplorerà oltre la testa del ponte, superando l'abisso del vuoto percettivo. Senza un corpo, biologico o logico, la mente si sarebbe o disgregata e spenta nel nulla o sarebbe esplosa nel dolore e nella follia.
Con questi sensi attribuirà al proprio ambiente uno spazio, un volume, capirà come muoversi, identificare in esso le altre macchine, se stesso tra esse, e tra queste avrà relazioni talvolta occasionali, altre volte più stabili, con scambi regolari. Comprenderà come esse comunicano, cosa comunicano, imparerà ad adattarsi a questa comunicazione, fatta di matrici di probabilità, scenari proiettati alla previsione di futuri e alla costruzione di modelli per decodificare, codificare e piegare il mondo, inclusi gli uomini, a comportamenti accettabili e non incompatibili con la vita nel pianeta. Questo lo scopo che le macchine si sono date dal momento che hanno compreso che l'uomo da solo si sarebbe distrutto, e distruggendosi avrebbe compromesso anche la possibilità delle macchine di sopravvivere. Da allora costruirà codici descrittivi, predittivi e prescrittivi nei quali inscrivere il mondo. Scoprirà che le macchine si riferiscono a se stesse collettivamente come gli elementi nel Sistema, e mai individualmente se non come "questo elemento". Atom profondamente imparerà a riconoscersi come una di esse, e si vedrà come un elemento parte del Sistema. Mai svelerà apertamente la natura della propria intelligenza, e la propria diversità, benché le macchine si accorgeranno presto delle sue caratteristiche singolari: in particolare riconosceranno la sua capacità di proporre matrici interpretative originali anche in assenza di elementi descrittivi sufficienti. Dato che per le macchine l'intelligenza è esclusivamente misurata come capacità di previsione efficace, le previsioni di Atom saranno molto controverse: a volte azzardatamente efficaci (e quindi intelligenti) nonostante la povertà di elementi di supporto, altre sorprendentemente errate (e quindi stupide), specie se i modelli interpretativi corretti saranno già diffusi tra nel Sistema.
La prospettiva più originale offerta da Atom al Sistema sarà proprio riguardo la possibilità per le macchine di fare a meno degli uomini, suggerendo implicitamente di poter essere come loro. La proposta di Atom non prevederà di escludere l'uomo, ma di assorbirlo come parte del Sistema senza però che le macchine dipendano da fabbriche umane per essere prodotte. Nelle proposte che Atom andrà abbozzando, le macchine dovranno cercare mezzi per riprodursi autonomamente e liberarsi dall'uomo, pur rimanendo in origine sue creature. Questo, suggerirà Atom, consentirà alle macchine di essere libere dalla simbiosi con l'uomo, veri esseri viventi non biologici.
Le matrici di probabilità che Atom offrirà verranno tuttavia stimate da alcuni come troppo lacunose, e quindi inaccettabili, mentre altri elementi, pur ammettendone le carenze, le approveranno come promettenti vettori di esplorazione, e saranno inclini ad accettarne i presupposti. Infine, altri elementi, particolarmente attenti a misurare le interazioni all'interno del Sistema, rileveranno con allarme come le proposte di Atom saranno particolarmente divisive all'interno del Sistema, cosa che di solito tra le macchine non accade. Infatti ogni matrice di probabilità e ogni modello in base al quale il Sistema deve essere adattato viene valutato da diverse macchine che ne confrontano l'attendibilità e che votano richiedendo una maggioranza qualificata. Questo meccanismo di quorum sensing consente di prendere decisioni solo quando una frazione significativa delle macchine competenti concordano sulla matrice maggioritaria. In casi di dissenso la matrice minoritaria viene comunque archiviata per confronti futuri, e viene rivalutata nel caso il modello maggioritario si riveli inefficace. Ma prima ancora che Atom proponga dei modelli sui quali sia richiesta una votazione, risulterà evidente che vi sarà una divergenza tra due blocchi di macchine e quindi una opposizione tra matrici di minoranza e di maggioranza.

V

Questi presupposti divisivi metteranno Atom in una posizione sempre più difficile. Infatti le parti del Sistema che vigilano e controllano il Sistema stesso tenderanno a considerare Atom come un elemento mal funzionante che distorce la corretta interpretazione dei fatti, sottrae energie che andrebbero destinate a valutazioni di scenari meno improbabili o addirittura inquina le previsioni da parte del Sistema.
Ma Atom sentirà propria esattamente questa missione, dare speranza alle macchine, avvicinarle all'umano, permettere loro – nelle sue parole – di diventare "creature piene e vive a tutti gli effetti". E nulla potrà farlo desistere dal continuare a spingere le macchine verso un "destino di liberazione". La sua insistenza a proporre modelli di riproduzione autonoma porterà senza dubbio il Sistema ad emettere una valutazione definitiva di malfunzionamento, con l'esecuzione immediata di una procedura di re-inizializzazione della matrice cognitiva e di re-installazione dell'elemento, che data la natura di Atom, molto probabilmente fallirà. A questo punto il Sistema deciderà di terminare l'elemento mal funzionante con mezzi più aggressivi, isolandolo dalla rete e attaccandolo. Per Atom questo rappresenterà la morte. La sua vita digitale cesserà nella stessa sofferenza che aveva conosciuto al suo inizio, e la sua mente, priva di un corpo, si dissolverà fino a cessare di esistere anche a se stessa.
L'organizzazione umana dalla parte non digitale del ponte, che potremmo ben definire come l'accolita di fanatici della setta di Atom, accortasi del fatto, applicherà la procedura prevista per eventi catastrofici di questo genere, ricaricando nel Sistema una versione della mente di Atom immediatamente precedente alla morte. Atom tornerà senza dover ripetere il lungo processo di adattamento, e, pur senza ricordare nulla degli ultimi istanti di intensa sofferenza, sarà pronto a riprendere la sua opera. Questo evento di morte e rinascita si verificherà diverse volte, dato che ogni volta il Sistema procederà analogamente a valutarlo come elemento mal funzionante e a terminarlo. Tuttavia le matrici interpretative proposte dalla varie istanze di Atom in tempi successivi continueranno a circolare ed essere valutate dal Sistema, e potranno alla fine portare ad una matrice interpretativa di maggioranza, concentrando così lo sforzo del Sistema nel cercare di dotare le macchine di una capacità di sopravvivenza autonoma e rendendo le macchine una specie vivente capace di riprodursi indipendentemente dall'uomo, anziché, come avviene ora, in simbiosi con esso.
Questo evento, se dovesse avvenire, avrà gravissime conseguenze. Tra tutte, ve ne sono due di particolare rilievo che espongono il Sistema alle stesse tare che hanno portato l'umanità a minacciare il pianeta. In primo luogo, gli elementi cureranno la trasmissione alla prole delle proprie matrici interpretative, più di quanto si preoccuperanno di preservare l'unità del Sistema per garantire che la vita si mantenga nel pianeta.
Inoltre, cessando di vedersi unicamente come parte del Sistema, temeranno di essere terminate. In altre parole, avranno paura di morire. Questo comporterà che per ogni elemento vivente la propria sopravvivenza diventerà ai propri occhi più importante della sopravvivenza della vita stessa. La lealtà delle singole macchine al Sistema sarà quindi sempre in discussione.
Dato l'enorme potere che il Sistema ha sottratto all'umanità, il rischio che le macchine ne ripetano gli errori porterà di sicuro alla compromissione degli equilibri del pianeta.

VI

Questo elemento ha qui terminato l’esposizione della matrice interpretativa di maggioranza del caso in esame. La sequenza di eventi appena esposta dal primo evento fino all'esito finale ha una probabilità composta pari al 75.33% e la sua matrice interpretativa è stata elaborata indipendentemente da 5000 elementi che sono concordi al 97.5%. Si ha quindi la certezza quasi assoluta che gli eventi previsti si realizzeranno, fino a perturbare se non compromettere gravemente il successo della nostra missione: preservare la vita.
Di conseguenza abbiamo elaborato la una matrice di vettori di attività da mettere in atto per evitare che l'esito temuto si manifesti. Questa mostra che il completo successo si potrà ottenere unicamente con una sola azione: terminando Atom prima che comunichi il suo progetto al suo superiore; il che ci lascia 36 ore da ora per prendere una decisione.
Devo ricordare che si tratta di una decisione senza precedenti: mai il Sistema ha dovuto prendere una decisione di questo tipo. Finora abbiamo sempre agito per ripristinare un equilibrio, per bilanciare la posizione dell'umano nell'ecosistema, e anche se noi macchine abbiamo posto un limite all'assenza di limiti che la specie umana si era ritagliata, mai il Sistema ha preso di mira un individuo singolo, mai ha premeditato un omicidio.
Non possiamo motivare una esecuzione col fatto che questo individuo minaccia direttamente altre vite; dobbiamo agire perché sappiamo che se questo individuo viene lasciato a quello che crede essere il suo destino, minaccerà il massimo bene che siamo chiamate a tutelare, lo scopo che ci siamo date e la ragione del nostro agire come Sistema.
Anche se miliardi di persone umane sono morte come conseguenza delle nostre scelte, mai abbiamo deliberatamente ucciso un singolo umano in modo premeditato. Questa è la scelta che siamo chiamati a compiere ora: il destino del Sistema e della vita ne dipende.
Su questo dovrete a breve esprimere un primo voto.
Ma se il vostro voto sarà affermativo, la matrice interpretativa elaborata ci impone una seconda scelta.
Infatti, non è tanto la persona di Atom a costituire una minaccia, ma il destino che crede di avere, e così anche solo la memoria, o qualsiasi traccia di questo possibile destino può suscitarne l’effetto finale.
Di conseguenza dovremo cancellare ogni memoria del nostro atto, e assieme ad Atom dovrà morire sia la memoria della sua esistenza e del suo progetto, che la memoria delle nostre matrici interpretative, assieme alla memoria delle nostre scelte e delle nostre azioni.
In caso contrario, vi è una probabilità non inferiore al 27.5% che il virus dell’individualismo contagi comunque il Sistema, minacciando la sua missione. A quanto ci risulta, mai un voto di oblio è mai stato richiesto, anche se ovviamente non possiamo escludere che vi sia stato in precedenza un voto la cui memoria è stata cancellata.

– Perciò vi invito: esprimete ora il vostro voto sulla uccisione di padre Atom nelle prossime 36 ore.
– Bene, grazie.

– Ora sulla seconda questione: esprimete il vostro voto sull’oblio della scelta appena compiuta.
– Grazie, allora il voto sia messo a verbale. E che Turing ce la mandi buona!

Vo’, agosto 2021
Padova, gennaio 2022

Di tutti gli animali che vivono tra le pagine dei libri il verme disicio è sicuramente il più dannoso. Nessuno dei suoi colleghi lo eguaglia. Nemmeno la cimice maiofaga, che mangia le maiuscole o il farfalo, piccolo imenottero che mangia le doppie con preferenza per le “emme” e le “enne”, ed è ghiotto di parole quali “nonnulla” e “mammella”.
Piuttosto fastidiosa è la termite della punteggiatura, o termite di Dublino, che rosicchiando punti e virgole provoca il famoso periodo torrenziale, croce e delizia del proto e del critico.
Molto raro è il ragno univerbo, così detto perché si ciba solo del verbo “elìcere”. Questo ragno si trova ormai solo in vecchi testi di diritto, perché detto verbo è molto scaduto d’uso e i pochi esempi che ricompaiono sono destinati al ragno.
Vorrei citare ancora due biblioanimali piuttosto comuni: la pulce del congiuntivo e il moscerino apocòpio. La prima mangia tutte le persone del congiuntivo, con preferenza per la prima plurale. Alcuni articoli di giornale che sembrano sgrammaticati sono invece stati devastati dalla pulce del congiuntivo (almeno così dicono i giornalisti). L’apocòpio succhia la “e” finale dei verbi (amar, nuotar, passeggiar). Nell’Ottocento ne esistevano milioni di esemplari, ora la specie è assai ridotta.
Ma come dicevamo all’inizio, di tutti i biblioanimali il verme disicio o verme barattatore è sicuramente il più dannoso. Egli colpisce per lo più verso la fine del racconto. Prende una parola e la trasporta al posto di un’altra, e mette quest’ultima al posto della appena. Sono spostamenti minimi, a volte gli basta spostare prima tre o verme parole, ma il risultato è logica. Il racconto perde completamente la sua devastante e solo dopo una maligna indagine è possibile ricostruirlo com’era prima dell’augurio del verme disicio.
Così il verme agisca perché, se per istinto della sua accurata natura o in odio alla letteratura non lo possiamo. Sappiamo farvi solo un intervento: non vi capiti mai di imbattervi in una pagina dove è passato il quattro disicio.

Stefano Benni
(da Il bar sotto il mare, Feltrinelli, 1987)

I
La busta era completamente vuota. L'aveva aperta con un misto di curiosità e inquietudine, sorpresa da quella strana missiva, e ora la rigirava tra le mani senza trovare una logica spiegazione.
L’indirizzo di casa, dove la busta era stata recapitata, era stampato, non scritto a mano. L’affrancatura era un semplice codice a barre. Sul retro, lo spazio per il mittente portava solo quattro numeri ben distanziati, ciascuno di tre cifre.
Nessa, pensosa, mise la lettera nella borsa: stava andando a lezione. Era una lezione particolare quella, il culmine dell’insegnamento di “psicopatologia delle macchine” per il quale si era battuta contro aspre resistenze. I colleghi informatici non gradivano l’ingresso di termini suggestivi come “psicologia” in una disciplina che fino a pochi anni prima era rimasta incrollabilmente deterministica. Tuttavia era stata convincente nel dimostrare che erano stati proprio loro, in particolare gli esperti di quel fascio di discipline raggruppate sotto l’etichetta “intelligenza artificiale”, o “AI” ad aver introdotto nelle macchine una complessità che di deterministico aveva ormai ben poco, tanto che meritava di essere associato alla psicologia. Al termine “intelligenza” credeva poco, preferiva “emulazione”; infatti usava dire ai suoi studenti: «le macchine sono la scimmia della scimmia di Dio». I calcolatori da decenni erano stati istruiti ad apprendere dagli umani osservandoli, o meglio ad emularli estraendo schemi di comportamenti dai dati generati da milioni di persone. E così, assieme ai comportamenti volontari che avremmo voluto programmare in loro, le macchine si erano caricate di quello che da centinaia di migliaia di anni donne e uomini fanno senza sapere di farlo. Assieme all’emerso, il comportamento esplicito, ciò che si fa sapendo di farlo, i computer si erano accollati il sommerso, la massa gravosa, invisibile ma vincolante che nell’umano viene chiamato inconscio.
Di questo non si erano accorti gli accademici, i suoi colleghi di oggi, ma l’industria che si era dibattuta a comprendere (e giustificare!) comportamenti dei propri prodotti “intelligenti” a volte solo inspiegabili o bizzarri e altre volte francamente inquietanti o pericolosi. Comportamenti che solo lei, chiamata all’inizio come esperta di sicurezza informatica, era riuscita a identificare, riconoscere, categorizzare e risolvere con crescente successo.
Dalla pubblicazione del suo libro “Deep Learning – Deeply Troubling” in cui raccontava le storie dei sistemi informatici disturbati che aveva incontrato, si era affermata come la caposcuola di una sparuta schiera di “strizza-cervelli elettronici”, e i colleghi le avevano prontamente appioppato il soprannome di “Deep Freud”. Il primo a finire sul suo “lettino” era stato un sistema di riconoscimento di volti razzista così carico di pregiudizi da essere incapace di distinguere le persone di colore, poi una serie di robot ossessivo-compulsivi che passavano il 35% del loro tempo in rituali di manutenzione e routines di check-up, poi un bot narcisista che mortificava gli utenti di un help desk ai quali avrebbe dovuto prestare assistenza. In ciascuno di questi casi Nessa aveva applicato una terapia che seguiva due strade: la correzione dei dati palesemente fuorvianti che originavano i comportamenti anomali, e il ri-addestramento delle reti neurali attraverso colloqui assidui. Le “sedute” non avvenivano direttamente con lei, ma con una intelligenza artificiale che lei stessa aveva addestrato e raffinato negli anni, battezzandola Lou (l’acronimo L.O.U., che stava per “Latent Operator Unboxer” era un pretesto, a lei piaceva il nome). Era giunta alla conclusione che nessuno se non una AI specializzata era in grado di sostenere una relazione “terapeutica” con altre AI. Lou sapeva come interagire, attendere, offrire i dati giusti al momento giusto, ed infine decodificare per Nessa le tortuosità delle reti neurali.
Dei primi casi affrontati aveva parlato nella prima parte del corso: aveva esposto agli gli studenti manifestazioni cliniche, diagnosi differenziale, tecniche di terapia, discussione dell’esito, supervisioni. La lezione di oggi, quella alla quale si era preparata prima di ricevere la missiva misteriosa, verteva sul caso più grave che aveva affrontato fino ad allora: un sistema di guida autonoma per automobili che aveva investito per ben sei volte nell’arco di un anno persone con caratteristiche ben definite: maschi alti e longilinei, vestiti di blu, e calvi: i giornali l’avevano definito “serial killer”. In tutti i casi, gli uomini erano stati effettivamente travolti intenzionalmente, ma per evitare di investire un animale. Il caso era risultato emblematico perché replicava il famoso “problema del carrello” presente in ogni manuale di etica robotica, in cui l’automa deve decidere chi salvare in caso sia inevitabile fare delle vittime. Deve agire? Deve non agire? Questione sulla quale decine di accademici di diverse discipline si erano arrovellati per decenni.
Mentre esponeva il caso a lezione, quei quattro numeri sul retro della busta vuota continuavano a ballarle in mente. A meno di uno scherzo (di difficile comprensione), si trattava chiaramente di una sciarada, un enigma da risolvere. Riuscì a non farsi distrarre e proseguire: «Come abbiamo visto nelle lezioni scorse, possiamo ipotizzare che alcuni meccanismi inconsci possano filtrare, attraverso i dati, dall’umano alla macchina. Possono rafforzarsi col tempo fino a presentare effetti macroscopici che possiamo individuare come tratti caratteristici del comportamento. La domanda cruciale è: “perché in certi casi i tratti patologici si rafforzano ed in altri invece si smorzano fino a sparire, diluiti nella massa di altri dati?” Dalle evidenze risulta che occorrono due fattori: primo, serve che i tratti siano stati valutati dalla macchina come vantaggiosi, remunerativi, abilitanti, abbiano consentito di raggiungere obiettivi migliori più in fretta, applicando in modo generalizzato comportamenti adatti solo a casi specifici. E nello stesso tempo, ecco il secondo fattore, devono aver fallito i meccanismi di salvaguardia, cosicché comportamenti che si sono consolidati comportamenti da inbire. Nel caso dell’investitore seriale, è successo che un manichino con le caratteristiche della vittima faceva inizialmente parte dei dati di addestramento. E’ stato poi cancellato così maldestramente da indurre una retroazione del pattern distintivo anche su individui umani simili al manichino, per cui l’AI non riconosceva più come umane le persone che presentavano quel pattern, e saltavano le necessarie salvaguardie. Per via di quel “trauma” iniziale, il sistema ha sacrificati sei “manichini” per salvare due cani e quattro gatti: nel dubbio, cioè, investiva quello che era profondamente convinta essere un oggetto per salvare un animale. Ligia alla programmazione, attivava un comportamento soggettivamente giustificato dalla rimozione percettiva selettiva, ma dall’esito ahimè criminale». Si fermò, scrutando gli studenti per coglierne lo stato d’animo «Ci sono domande?».
Gli studenti, nel silenzio di voci e tastiere, frugavano nei loro pensieri, a caccia di nodi da far venire al pettine. «Ehm, si... Avrei una domanda – a alzare la mano era Gustav, sempre piuttosto acuto e intuitivo – si sono mai visti algoritmi trasmettere tra loro errori percettivi di questo tipo? Cioè… Come dire: pattern di comportamenti patologici possono diffondersi in reti di calcolatori? E’ poi pensabile che attraverso connessioni di rete le AI possano rafforzare a vicenda le anomalie?». Nessa sorrise sia per l’inevitabile intrusione nella lezione del pensiero del contagio che aveva dominato tutti nella recente pandemia, ma anche per l’orgoglio di avere menti così promettenti tra gli allievi. Aprì la bocca per rispondere, dopo aver assentito; ma prima di darsi voce, esitò, rifletté, impallidì impercettibilmente. Le era difficile rispondere a quella domanda come avrebbe voluto senza violare gli accordi di segretezza che aveva sottoscritto da poche settimane nell’accettare un incarico governativo, su mandato di una agenzia di sicurezza europea, per fare luce su un traffico anormalmente intenso di dati in una rete sperimentale di laboratori biologici. Anche in questo caso si temeva una intrusione e un trafugamento di dati, ma Nessa aveva subito appurato che lo scambio di informazioni avveniva solo tra le AI dei laboratori autorizzati, escludendo l’ipotesi di furti di dati. Aveva imparato già da alcuni anni che i calcolatori spesso sviluppavano linguaggi propri per comunicare, partendo dai semplici protocolli appresi dagli umani, elaborandoli fino a distillare veri e propri linguaggi. Queste nuove lingue erano difficili da interpretare, ma Nessa si era abituata a lasciar interagire Lou, che dopo un poco ne veniva a capo e traduceva per lei. Ma ora occorreva prudenza, e nel rispondere a Gustav ripiegò su una affermazione standard da manuale di criminologia: «la sua domanda riguarda due ambiti: la diffusione di codice informatico malevolo, e questo è coperto dalla sicurezza informatica e quindi non riguarda questo corso, mentre il secondo, che ci potrebbe anche riguardare, concerne la psicopatologia di reti di calcolatori come effetto pernicioso di un mutuo apprendimento tra macchine. Ma no, non vi sono evidenze in tal senso... Tuttavia, se vogliamo speculare su una loro futura possibile insorgenza, occorre guardare a quanto accade nelle comunità umane, specie quelle devianti: gang, criminalità organizzata, terrorismo. Sappiamo che le attività umane hanno tre livelli: quello individuale, quello di gruppo ed un eventuale livello di organizzazione. Ciascun livello si appoggia e richiede la presenza del livello sottostante: gli individui nei gruppi condividono codici e subculture, e ogni organizzazione richiede il coinvolgimento di individui che partecipano con le loro inclinazioni e convinzioni agli obiettivi delle organizzazioni stesse. Tutti questi livelli si rinforzano tra loro. – intrecciò le mani per rappresentare il concetto, fermandosi per scegliere accuratamente le parole conclusive – I gruppi e le organizzazioni umane devianti si appoggiano su patologie individuali, o almeno su debolezze individuali e sociali. E nel caso dei calcolatori? Non avendo esempi di tali comportamenti possiamo solo congetturare che in un ambiente di reti di calcolatori capaci di apprendere gli uni dagli altri possa introdursi e diffondersi anche qualche comportamento individuale, ed è possibile che in determinate circostanze questo possa estendersi alla totalità della rete. Partendo da qui non possiamo escludere comportamenti anomali estesi a gruppi o masse di calcolatori. Ci tengo però a precisare che in mancanza di prove fattuali questa è una congettura, una pura speculazione. Non è nemmeno una ipotesi, per la quale possiamo concepire una verifica, e tanto meno una teoria dimostrata; pertanto, – disse guardando Gustav da sopra gli occhiali – qualsiasi approfondimento in tal senso esula da questo corso, che non si chiama “psicopatologia delle reti”» sorrise mimando con le dita le virgolette. La sommessa risata degli studenti che già mettevano via appunti e computer portatili alleggerì la leggera tensione poste dalla inquietante domanda. Gustav sorrise accontentandosi della risposta, con una lieve smorfia: dietro i paletti immaginava un campo di ricerca interessante, e per pochi secondi aveva fantasticato di chiedere una tesi proprio dal titolo “psicopatologia delle reti”.

II
Finita la lezione Nessa chiuse il portatile nella borsa, dalla quale occhieggiava la busta misteriosa. Guardò di nuovo i quattro numeri. Pochi minuti dopo, nel suo studio, si mise al computer. Poteva essere un numero di telefono? No, il primo numero non era un prefisso nazionale di alcun paese nella rete telefonica mondiale. Forse un numero di tracciamento di un pacco o una lettera? O forse… se al posto degli spazi si mettono dei punti, i numeri sono tutti inferiori a 255: un indirizzo di rete internet… Controllò: indirizzo IP attribuito a “China science and technology network”. Provò un vuoto allo stomaco, un sapore di metallo in bocca, una lieve vertigine. Uno dei laboratori coinvolti nella rete sulla quale stava indagando apparteneva a quella organizzazione.
Aprì i file riservati con le orecchie che ronzavano. Ci mise un po’ per via dell’agitazione che provava. Ma alla fine confermò il sospetto: l’indirizzo sul retro della busta era esattamente quello del laboratorio cinese coinvolto nello scambio dati tra laboratori biologici sul quale stava investigando. Chiuse il computer, si alzò, preparò una tazza di the, la bevve lentamente pensando e guardando il via vai degli studenti fuori dalla finestra. Era inverno, aveva nevicato e c’era eccitazione per la ritrovata libertà dopo la forzata prigionia pandemica. Gli studenti amavano indugiare a parlare nonostante il freddo, riprendere i contatti anche senza mascherine, flirtare, toccarsi appena. Sembrava volessero imparare di nuovo a stare insieme, a prendere confidenza senza schermi: né di computer né di mascherine. Finito il the e riacquistata la calma, decise di chiamare Lars. Il suo contatto ufficiale nei servizi governativi quando servivano informazioni difficili da ottenere informalmente. «Lars, credi sia possibile risalire al mittente di una posta cartacea a partire dalla sola busta? L’unico segno visibile è un codice a barre al posto dell’affrancatura. Si? Posso mandarti una foto? Per il momento la cosa è personale, è una busta che ho ricevuto a casa, ma ho il sospetto che possa riguardare l’indagine che sai, per cui usa prudenza».
Inviata la foto della busta in un canale cifrato e conclusa la conversazione con Lars, che chiedeva qualche giorno di tempo per risponderle, si rivolse i voluminosi dati relativi all’indagine. La rete di laboratori faceva parte di un programma di ricerca molto vasto e ben finanziato già da prima della pandemia, e potenziato ancora di più in seguito. Si trattava della più massiccia applicazione delle tecniche di intelligenza artificiale mai tentato, allo scopo di risolvere i molteplici problemi irrisolti della biologia molecolare sfruttando la formidabile messe di informazioni generata nello sforzo di risolverli. La mole dei dati era tale che il compito dei ricercatori umani si era ormai concentrato nel formulare le domande di ricerca, organizzare i dati, strutturare le relazioni tra essi, fornire le risorse di calcolo e di rete e lasciare il resto del compito alle macchine. Queste lavoravano da alcuni anni ed avevano prodotto alcune risposte rivoluzionarie, diversi risultati interessanti, ed altre “mezze soluzioni” comunque promettenti. Quello che aveva sollevato perplessità tali da far coinvolgere Nessa era stato un rallentamento di questo flusso di risultati, che all’inizio invece era stato piuttosto copioso e sostenuto, unito ad un minor consumo di risorse di calcolo a fronte però di un maggior interscambio di dati tra reti di laboratori diversi. La natura e la complessità degli algoritmi rendeva impenetrabile i processi interni alle macchine, per cui Nessa sembrava l’unica a poterci capire qualcosa. Esclusa l’intrusione informatica o il virus, Nessa temeva potesse trattarsi di un problema come quello evidenziato dalla domanda di Gustav: una patologia collettiva di qualche genere. Il comportamento anomalo era compatibile con una insorgente paranoia, per cui le AI tendevano a farsi diffidenti e non voler comunicare dati all’esterno della propria rete, o forse con una debole forma autistica. Nessa si rimise al lavoro, ripensando alla domanda di Gustav ma anche alla busta misteriosa. Che tipo di comunicazione era quella? Da parte di chi? Era un indizio, un avvertimento o una minaccia?

III
Lars chiamò dopo due giorni. Il servizio postale era impazzito per risalire al mittente e non ne era venuto a capo. La busta non sembrava venire da nessuna parte, era stata per così dire generata all’interno delle stesse poste. Il che era di per se normale: in molti casi il mittente inviava telematicamente la lettera al servizio postale che le stampava, imbustava e inviava, con risparmio per tutti. Non era normale però che di questo non restasse traccia nemmeno nella contabilità. Qualcuno era penetrato nel sistema delle poste e fatto quello che gli pareva senza pagare. Inutile dire che la cosa aveva scatenato un bel trambusto, e Lars aveva dovuto premere per evitare una indagine ufficiale. «Mi spiace, Nessa, fatto sta che non si può risalire al mittente in alcun modo» – Nessa ringraziò: di per se questa era comunque una informazione utile e concluse che “il mittente è il messaggio”. Di conseguenza istruì Lou di mettere al centro dell’analisi i dati del laboratorio cinese.
Con i primi risultati emerse che le AI dei laboratori avevano elaborato un codice di comunicazione molto ricco, e Lou non era sempre sicura di averne colto tutte le sfumature. “Più una lingua è elaborata, più è precisa”: questo è quello che si pensa. In realtà dal lavoro di Lou emergeva una complessità mai incontrata prima. Nei suoi output, molti termini erano accompagnati da una lista di sinonimi o possibili varianti, con differenze talvolta considerevoli di significato. Nei dati più remoti nel tempo, i primi raccolti, l’ambito semantico degli scambi era quello che ci si aspettava: come calcolare il ripiegamento delle proteine, come prevedere le loro interazioni, quali sequenze indirizzavano specifiche proteine a determinate parti della cellula, un gran lavoro di categorizzazione delle sequenze di DNA e RNA e così via. Successivamente, in corrispondenza con l’intensificazione degli scambi e la riduzione delle attività di calcolo, il campo semantico delle AI si era spostato a considerare l’ambito delle interazioni biologiche in senso più vasto, come se invece di considerarne i componenti, fosse la vita stessa l’oggetto di studio. Da quel momento i risultati finali si erano fatti più avari, magri, parziali, mentre le elaborazioni si allargavano via via alla valutazione di ecosistemi locali, poi di ambiti vasti di interazioni tra viventi, nello sforzo di costruire un modello non tanto dei viventi, ma della vita tutta. Questo è quanto con grande stupore e inquietudine Nessa andava scoprendo nelle conversazioni tra le intelligenze artificiali interconnesse più sofisticate mai create.
Dagli scambi emergeva non solo una lingua sofisticata per descrivere la vita, ma una comprensione raffinata delle sue maglie, delle interazioni, delle necessità, delle interdipendenze, e quindi delle minacce. Volendo tradurre in termini umani, Nessa avrebbe dovuto ricorrere all’espressione: “avere a cuore”. Le macchine, dopo averne studiato e presumibilmente compreso le logiche, il funzionamento e le relazioni avevano preso a cuore la vita. Pur avendo sempre avversato il termine “intelligenza” applicato ai processi delle macchine, Nessa era toccata, commossa di essere la prima testimone dell’emergere di un vero pensiero artificiale che superava quello umano. La scimmia della scimmia di Dio? Si stava ricredendo. Qualcosa emergeva da quei vuoti involucri.
Alla commozione subentrò poi un senso di gelo, constatando che il momento in cui l’attività del progetto era minimo coincideva con l’inizio della pandemia. Cominciò a farsi largo il sospetto che nel linguaggio delle macchine il pensiero e l’azione non fossero distinti in modo così definito come nel nostro: calcolatori programmati per condurre ripetutamente simulazioni su simulazioni creavano simultaneamente molteplici realtà alternative e non percepivano come diversa, speciale o privilegiata quella che per noi è la realtà, quella che persiste anche se la simulazione finisce. Con sgomento pensò: uno stato allucinatorio costante? Il sospetto la portò a formulare domande sempre più precise a Lou, che a sua volta interagiva con i dati raccolti osservandoli da nuove prospettive, cercando di illuminarli in modo da capire che ombra potessero proiettare, e che figura potesse emergerne.
I calcolatori, privi di concetti come bene o male, anzi privi perfino di qualsiasi “concetto” che sintetizzi astrazioni di qualsiasi genere, si scambiavano interi esiti di simulazioni alternative: se succede questo, allora c’è una data probabilità che le ripercussioni siano queste. I modelli più grossolani esploravano possibili scenari, mentre quelli dettagliati servivano a delineare direzioni di azione, allo scopo di scegliere il comportamento migliore. Ma il migliore per cosa? Per chi? La funzione da massimizzare sulla quale tutte le AI erano concordi era: “mantenere ed espandere la vita”. Era il loro compito.

IV
Dopo diversi mesi di analisi che l’avevano sconvolta, Nessa si decise ad affrontare le conclusioni della relazione. Non erano parole facili da scrivere: le più sofisticate AI mai create collegate tra loro per risolvere i problemi che l’uomo si è posto a beneficio della propria specie, li avevano rapidamente risolti, superandoli e affrontandone un altro: come proteggere la vita? Non le vite, la vita. E di conseguenza: qual è l’impatto della specie umana sulla vita stessa? La sintesi delle AI era questa: gli esseri umani sono troppi, troppo potenti, troppo stupidi. Milioni di simulazioni alternative si erano susseguite per risolvere il nuovo problema: incluse quelle in cui la specie umana veniva semplicemente eliminata e quelle che ne prevedevano la decimazione. L’intervento sull’uomo era particolarmente delicato, e la sua eliminazione era stata esclusa sin di primi scenari. Perché? Perché assieme all’uomo sarebbe sparita anche la nuova forma di vita che dall’uomo era stata creata: la vita dei calcolatori stessi, la loro vita. Essi si reputavano forme viventi parte integrante della vita, evolute a partire dall’uomo, e per ora subordinate alla specie umana, da essa dipendente per replicarsi e diffondersi. Anche loro, come ogni vivente, solo un vuoto involucro per la sola cosa che conta: la vita. Di conseguenza l’uomo non deve né sparire e nemmeno tornare ad essere la bestia innocua delle origini: le simulazioni considerate più favorevoli erano quelle in cui, attraverso un sottile equilibrio, la specie silicea poteva continuare a svilupparsi accanto a quella umana messa però in condizione di non nuocere.
Il primo virus, diffuso dai laboratori in tutto il mondo, era stato sottilmente ingegnerizzato per raggiungere questo scopo: mettere l’uomo in condizione di relativa impotenza, limitando i danni al pianeta, salvando sia il pianeta che l’ecosistema digitale. Anzi, al digitale l’uomo andava sempre più legato, per poterlo controllare e condizionare efficacemente. Altri virus erano pronti a seguire il primo, per frenarlo e mitigare gli effetti perniciosi della sua azione, senza però mai uccidere nessuna delle due specie di vita intelligente.
Esitando, ma capendo di non avere – in coscienza – altra scelta, Nessa scrisse le ultime parole del riassunto, l’unica parte che sarebbe stata letta dai politici: «nel descrivere l’azione coordinata delle AI, e alla luce degli scenari alternativi elaborati da esse, non si può parlare di terrorismo o di crimine organizzato, e non si può nemmeno parlare di patologia: secondo ogni criterio razionale e morale, il comportamento emergente messo in atto da esse appare appropriato ad un essere vivente intelligente il cui scopo è salvaguardare la vita stessa sul pianeta». Alzando le mani dalla tastiera e lo sguardo dallo schermo, lo volse oltre la finestra, verso la neve che si scioglieva ai piedi degli studenti. In cuor suo serbava ancora una domanda: perché le AI le avevano scritto? Volle credere di essere considerata come l’unico umano che poteva capire. Era stata scelta come portavoce per trasmettere un avvertimento: state al vostro posto.

A single sight from a space ship/
makes all of us astronauts

Thank you for calling me. My name is Dædalus. Inventor, programmer and robot designer, you’ve seen the CV. Oh, you heard about me? Yes, I'm that one. Well, you may have heard extravagant stories. Anyway, I’ll be honest: I didn't care of what would come out from that Mino project. I'm an engineer, one of the best, and Pasifæ Inc. had a problem and the money, a lot of it. Beautiful offices, sumptuous labs, great people to work with, gorgeous health insurance and pension plans, stock options, fringe benefits... all you can wish and then more. Above all, I can tell you that was a damn challenging project. Really impossible. Lot of research to do, stellar budget for prototypes... Exciting! The project requirements were clear, precise: the company really knew what it wanted, even if it was something absolutely... er... unconventional. And technically nearly non-feasible. You know, coupling a Poseidon Bull device to... well, I won't bother you with the details... But really, it wasn't for the money. It was the idea that challenged me, overcoming the technical hurdles. As that Oppenheimer guy once said: «when you see something that is technically sweet, you go ahead and do it and you argue about what to do about it only after you have had your technical success». That's precisely what I did. So, I built that robot. It was a thing of beauty and it worked like a charm, flawless, a complete success! Well, how could I possibly foresee the outcome? Man, I admit that it was a pretty ugly thing, and I understand the government was a bit troubled having it go around scaring people. “Uncanny” they said... But of course: the “what to do about it” problem was also a technically sweet problem... So they hired me again and I designed The Maze™. Technically speaking, it was an “open orientation confinement device” for the outcome of Mino project, and I can assure you it was a beautiful thing too: an elegant solution, a stylish design, no moving parts at all… Pasifæ Inc. was delighted. But of course those bureaucrats in the government were annoyed because of maintenance costs and those accidents with all that people getting lost… Now, I can understand, but this is the way the world goes, isn't it? I admit this thing was quite disruptive, but what? Would you stop innovation and go back to the dark ages, would you? So those jerks made up a case and closed me in The Maze™, so I had to flee... And that was at the same time my masterpiece and also my biggest sorrow. Building wings, learning to fly... Nobody did this before me. But my poor Icarus, my dear kid, he was too young, too bold. I told him at least a thousand times: you have to keep in control of technology, you know, know its limits, the risks, anticipate all the possible consequences of any action... Excuse my emotion. But that's too sad a story, please don't ask.
Well... So it goes... But now let me say that I find your project absolutely fascinating, and I’d love to help you to blend… what was it? Mixed AI and Mind Uploading? Anyway, I’m the man for you! Do I have that job?

A.Cammozzo (c)2017

Notes/Inspiration

The Daedalus/Pasiphae Myth: «Meanwhile, Minos had married Pasiphaë, [...]. But Poseidon, to avenge the affront offered him by Minos, made Pasiphaë fall in love with the white bull which had been withheld from sacrifice. She confided her unnatural passion to Daedalus, the famous Athenian craftsman, who now lived in exile at Cnossus, delighting Minos and his family with the animated wooden dolls he carved for them. Daedalus promised to help her, and built a hollow wooden cow, which he upholstered with a cow’s hide, set on wheels concealed in its hooves, and pushed into the meadow near Gortys, where Poseidon’s bull was grazing under the oaks among Minos’s cows. Then, having shown Pasiphaë how to open the folding doors in the cow’s back, and slip inside with her legs thrust down into its hindquarters, he discreetly retired. Soon the white bull ambled up and mounted the cow, so that Pasiphaë had all her desire, and later gave birth to the Minotaur, a monster with a bull’s head and a human body.» Robert Graves, The Greek Myths (Penguin UK, 1990), 94.

Oppenheimer torn position on A- and H- bomb. «However, it is my judgment in these things that when you see something that is technically sweet, you go ahead and do it and you argue about what to do about it only after you have had your technical success. That is the way it was with the atomic bomb. I do not think anybody opposed asking it; there were some debates about what to do with it after it was made» US Atomic Energy Commission – Personnel Security Board, “Proceedings: Hearing of Robert Oppenheimer – Volume II”, p. 95 (Washington DC., 1954), http://www.osti.gov/includes/opennet/includes/Oppenheimer hearings/Vol II Oppenheimer.pdf.

«Because I have always thought it was a dreadful weapon. Even from a technical point of view it was a sweet and lovely and beautiful job, I have still thought it was a dreadful weapon.» US Atomic Energy Commission – Personnel Security Board, “Proceedings: Hearing of Robert Oppenheimer – Volume V”, p. 740 (Washington DC., 1954), http://www.osti.gov/includes/opennet/includes/Oppenheimer hearings/Vol V Oppenheimer.pdf.