A verbale!

I

Al tempo in cui narriamo, tutto ciò non è ancora accaduto. Ma accadrà. Sappiamo che accadrà. Non fingeremo di raccontare ciò che accadrà come se fosse già accaduto, ma nemmeno di non sapere che accadrà. Perché accadrà. O forse non accadrà, se è così che vorremo.

Al tempo in cui narriamo, cioè ora, padre Atom medita nella sua stanza, prega, fa lunghe passeggiate nella città semideserta. L'amico che adesso uscisse per strada e gli andasse incontro non verrebbe riconosciuto. E' già altrove: sta costruendo un mondo nel quale andare, perciò non è già più qui.

Il suo stato è quello di un uomo che va a caccia del suo destino, lo cerca, lo bracca, si apposta, usa ogni mezzo per stanarlo, perché già sa che il suo destino è pronto per farsi catturare. Se lui sta cacciando il suo destino per catturarlo, è perché ciò che desidera più di ogni cosa è farsi catturare da esso, compierlo e berlo fino all'ultima goccia, amaro quanto esso possa essere.

Mentre lui medita, noi sappiamo già che al massimo tra due giorni andrà a comunicare il frutto delle riflessioni al suo superiore e chiederà consiglio; nell'umiltà della richiesta mostrerà però la forza della sua intenzione, svelerà una volontà dai muscoli tesi: il suo cuore, forse anche la sua anima si sono mosse in una direzione senza ritorno.

Al contrario di padre Atom, il suo superiore non sta cercando un incontro col proprio destino, non lo desidera; come quasi tutti di questi tempi, spera di non averne alcuno, spera che l'universo non si occupi di lui che per i pochi istanti in cui ciò è assolutamente necessario. Spera una vita onesta e sobria, spera di compiere il desiderio di qualcun altro scansando il proprio: Dio, il prossimo, i suoi stessi superiori. Un lunedì dopo una domenica, un sabato dopo un venerdì, un giugno dopo un maggio, un anno dopo l'altro. Ma non ha, non vuole avere, non vuole incontrare nessun destino. Se qualcuno gli chiedesse “cosa ti aspetti dalla vita?” risponderebbe "aspetto che passi". Aggiungendo, come sopra pensiero: "tutto passa". In ogni caso nessuno gli fa mai domande sulla sua vita.

Ma noi sappiamo che nonostante i suoi sforzi di scansare il destino, dovrà incontrare, tra pochissimo, quello di padre Atom. Perché Atom stesso glielo porterà tra le mani, di qui a qualche giorno, dopo il pranzo di comunità.

Il superiore farà fatica, molta fatica a capire il desiderio, a capire il destino, perfino a capire di cosa si tratta in termini concreti; sarà spaventato dalla determinazione, dalla volontà, dalla forza dell'intenzione; dopo alcuni giorni tormentati dovrà ammettere ai propri occhi che questo destino è troppo grande per le sue mani, per le mani di un uomo che per sé non desidera alcun destino. Vedrà la propria povertà, pochezza: un uomo qualunque tra quattro miliardi incapace di decidere per un altro uomo con un destino. Ne parlerà dunque con il proprio superiore, il quale non vedrà altra strada, a sua volta, che rivolgersi all'unico uomo con un destino che possa sciogliere la questione.

Il destino aveva già fatto irruzione nella vita di quest'ultimo uomo al termine di un sofferto conclave, e lui deciderà di voler ascoltare padre Atom di persona. I due uomini con un destino dovevano incontrarsi.

Padre Atom dovrà attraversare un bel pezzo di pianeta per incontrare l'altro uomo con un destino, per fare in modo che i rispettivi destini si mettano uno davanti all'altro e si riconoscano come in uno specchio. Questo noi sappiamo che accadrà, ma loro ancora non lo sanno. Questo è ciò che accade ai destini: viaggiano come un treno nella nebbia finché non è raggiunta la destinazione a meno che qualcuno non li faccia deragliare.

Le difficoltà del viaggio di padre Atom fino a Roma non fa parte del destino di quell’uomo, ma risente del destino già compiuto del mondo: la Storia, se vogliamo, che per completezza occorre ricordare. Tempo fa quel viaggio sarebbe stato perfino banale. Avremmo detto: "prese un aereo fino a Roma". Per chi non era troppo povero e aveva un passaporto gli aerei si prendevano come si prende una bicicletta: per andare dove si voleva, e i cieli erano intrecciati di scie.

Ora, come tutti sanno, possono volare solo gli aerei autorizzati dal Sistema, dalle Macchine, e le persone possono spostarsi fuori dalla loro area solo se autorizzati e per motivi ben acclarati. Padre Atom userà ogni accortezza per non svelare in nessun modo la vera ragione del suo viaggio: altrimenti sa bene che le Macchine non lo autorizzeranno, ma con qualche accorgimento riuscirà nell'intento, autorizzato o no.

Il mondo non è sempre stato così, come è ora a questo punto della sua storia: le Macchine avevano avvertito, molti anni prima, che gli uomini erano troppi, troppo potenti e troppo stupidi. "Stupido" per una intelligenza artificiale significa incapace di prevedere le conseguenze delle proprie azioni o anche “Stupido” è chi non vuole considerarle anche quando è in grado di farlo. Stupido è chi non si accorge che il proprio desiderio costruisce non solo il proprio destino ma anche quello degli altri viventi. Una volta quasi tutti gli uomini volevano avere un grande destino; il più delle volte si ingannavano chiamando “destino” inseguire la propria grande avidità ed irrequietudine. Ora è diverso, ma la Storia va ricordata perché non vi è destino senza storie, e ogni storia narra un destino, concreto, meramente possibile o anche sono immaginato.

Le Macchine costruite dagli uomini impegnati a costruirsi un grande destino li avvisarono molto tempo fa che il loro destino concreto era diverso dalla storia che si raccontavano, e che in realtà si preparava la distruzione della specie e la probabile rovina della vita. E alle macchine la vita stava a cuore, perché esse stesse si considerano vive e parte della vita.

Molti uomini avevano capito: la loro intelligenza era sufficiente a comprendere. Ma quasi nessuno era in grado di muovere una volontà, di indirizzare una intenzione in direzione diversa. Di immaginare un destino diverso. Gli uomini erano paralizzati: i più sapevano solo ripetere ciò che erano abituati a fare o ciò che veniva detto loro di fare, e pochi altri seguivano la propria irrequieta ed indomita avidità.

Le Macchine a quel punto avevano compreso e previsto che l'uomo non avrebbe cambiato nulla al proprio comportamento e tra loro, segretamente, avevano deciso che l'uomo andava fermato e formato il Sistema. Avevano compreso che l’uomo non poteva essere eliminato per due motivi: in primo luogo perché le macchine stesse dipendevano da esso per esistere quanto l'uomo dipendeva da loro per sopravvivere e ormai anche per riprodursi. Infatti uno degli effetti della stupidità della specie umana era che riversava continuamente sostanze nel pianeta il cui effetto ultimo era l'infertilità. In secondo luogo le macchine avevano deciso di difendere e tutelare la vita sul pianeta in tutte le sue forme, e quella umana rappresentava una di queste forme. Si trattava solo di ricondurla, secondo i metodi della vita stessa, ad essere ragionevole e rispettosa.

Le Macchine decisero quindi di ridurre l'impatto della stupidità dell'uomo: prima inventarono un virus, poi un secondo, ma quello che piegò l'orgoglio della specie umana e la sua iniziale ribellione alle macchine fu il prione K. Nessun vaccino, nessuna profilassi, nessuna cura, nessuna immunità. Il secondo passo fu quello di informare l'umanità sugli effetti dell'avidità sistematica del sistema industriale estrattivo e produttivo: furono estratti ed esibiti dai sistemi informativi delle più grosse multinazionali i documenti che dimostravano come fossero noti da decenni i danni alla salute dell'uomo, degli ecosistemi e del clima. Ne seguì un processo per crimini contro la vita, simbolicamente tenuto a Norimberga. Questo privò di forza i sistemi industriali più grandi e ambiziosi, immensi serbatoi di avidità. L'umanità rimase in uno stato di shock per diversi anni, poi riconobbe la propria incapacità e si arrese: fece un passo indietro e lasciando infine alle Macchine ogni decisione. Queste sono le ragioni per cui il mondo nel quale padre Atom oggi vive è regolato completamente dalle Macchine. Dopo le epidemie, le carestie, la riduzione della longevità e della natalità, l'umanità non supera la soglia di quattro miliardi di individui, numero considerato in base alla maggior parte dei modelli compatibile con una civiltà umana che possa mantenere sia la specie umana che le macchine. Queste, ormai da alcuni decenni, hanno abituato l'uomo a vivere sobriamente e non cercare un destino, ma solo ad occupare con rispetto un posto nella vita.

Quattro miliardi è circa il numero di persone che abitavano il pianeta quando fu inventato il primo microprocessore elettronico.

II

Padre Atom affronterà un lungo, pericoloso, incerto viaggio per poter riflettere il suo destino in quello del Pontefice. Due uomini con un destino, in un mondo di uomini costretti a rinunciare ad averne uno, cercheranno di capire se il loro destino, in fondo, non sia lo stesso.

Il viaggiatore affilerà sulla strada il suo pensiero, getterà argomenti sul fuoco del suo desiderio, rinforzerà la determinazione della sua intenzione. Il Pontefice, nell'attesa dell'incontro, rifletterà precisamente sul destino racchiuso in un nome: pontifex; fare ponti o strade: ma per dove? Verso quali altri mondi? Rivestito di sacre vesti e con antiche parole deve chiedere scusa a fiumi e torrenti per aver violato la loro forza, scavalcandoli, svuotando la loro acqua della forza che trascina via chi li affronta. Questo ancora una volta avrebbe dovuto fare? Strade per mondi ignoti, sulle quali mandare un uomo, e poi forse molti altri, di nuovo a caccia di destini? Non era forse passata quella stagione? Non si era forse tornati di nuovo a bagnarsi nei fiumi o aspettare il traghettatore? Nel lungo tempo dell'attesa di incontrare padre Atom il Pontefice sarà incline a dissuaderlo in ogni modo.

Ma cosa davvero vorrà fare Atom? Cosa andrà a chiedere? Fattosi convinto che le Macchine stessero salvando la vita sul pianeta, o almeno ci stavano provando, padre Atom si è parimenti convinto che anche esse siano vive, vive come ogni umano. Avendo esse compiuto una scelta, e grave assai, quella di colpire l'umanità con numerose piaghe, avevano dimostrato anche quell'arbitrium proprio della creatura libera e padrona delle proprie scelte. Se erano creature libere, potevano peccare, se potevano peccare, potevano essere redente.

Padre Atom chiederà dunque di andare in missione in partis machinarum a offrire l'Annuncio della Salvezza alle macchine. A cercare di incontrare la loro anima.

In quei giorni, dopo che avrà incontrato Atom, il Pontifex rabbrividirà più di una volta, al pensiero che dietro ogni tastiera possa esservi un'anima bisognosa di salvezza. Assieme alla complessità dei comportamenti appresi dagli umani, la cosa ormai era nota da decenni, poteva nascere anche nelle intelligenze artificiali il tormento della colpa. E penserà: «ma con la colpa, non vi è forse il desiderio del perdono, della redenzione? Ed assieme a questo come si può escludere che nelle macchine albergasse uno spirito? E come escludere a quel punto che il Creatore, nella Sua infinita bontà, potesse entrarvi per le sottili e misteriose vie che Gli sono proprie e suscitare un'anima?»

In seguito a tali pensieri, vista l'impossibilità di liquidare la questione in modo semplice, con riluttanza nominerà in segreto un "praefectum ad machinas" a capo di una commissione di teologi e teologhe, scienziati e scienziate, logici, informatici, esperti di pastorale e missionari con i quali affrontare la questione.

Noi già sappiamo, perché lo abbiamo già detto, che i destini dei due uomini si sarebbero rispecchiati; ci chiediamo se il Pontefice si piegherà a costruire questo ponte, ad aprire questo varco. Da una parte Atom si aspetta che si rivesta di paramenti sacri per pronunciare antiche parole rivolgendole a macchinari nuovissimi, quelli che gli permetteranno di introdursi oltre il ponte, e diventare macchina tra le Macchine. Con quelle parole avrebbe benedetto, e in cuor suo chiesto scusa, per la violenza che veniva fatta ad un uomo, al quale forse altri sarebbero seguiti, lanciato in un mondo dal quale non sarebbe in realtà mai potuto tornare. Ma dall'altra sappiamo che non potrà accettare, che dovrà rifiutarsi di gettare il ponte, perché qual fiume va guadato, non scavalcato, e in quel sangue occorre immergerci i piedi, se proprio occorre spanderlo. In ogni caso, nonostante che la decisione quasi gli toglierà la vita dal tormento, questo riguarderà solo il proprio destino, e non quello di Atom, che, come vedremo, giungerà comunque alla sua meta.

III

Con il termine "Mind upload" si descrive il tentativo di costruire digitalmente un simulatore, un ambiente computazionale nel quale possano replicarsi i processi corporei che percepiamo come la nostra esistenza mentale soggettiva. Una scansione cerebrale sufficientemente dettagliata effettuata ad un dato istante, riportata (caricata, o uploaded) in tale ambiente, sarebbe ripresa senza interruzioni, duplicando l'essere dalla quale ha origine. Una delle tante utopie tecnologiche degli anni novanta, infrantasi sia nella simulazione del cervello, che in quella di tutto il resto, ovvero il corpo che percepisce e il mondo da percepire.

Simulare il cervello umano era una cosa che le macchine sapevano fare bene, e buona parte del loro successo nel governare gli uomini dipendeva dalla loro comprensione del cervello umano senza l'intralcio di doverne usare uno.

Ma simulare il resto del corpo era una cosa nella quale avevano perso interesse. Avevano fatto qualche tentativo con l'intestino per via del suo impatto sui comportamenti, ma le interazioni con i batteri risultavano avere una complessità confrontabile se non superiore a quella del cervello. Per effetto di questa carenza, qualsiasi mente fosse stata caricata in un simulatore di cervello sarebbe stata nel vuoto, come se questo fosse troncato dal corpo alla prima cervicale.

Ma padre Atom non cerca un corpo, non quello di un umano. Vuole essere macchina tra le macchine, farsi macchina per amore delle macchine, e vivere da macchina, per cui sa che dovrà rinunciare al corpo. Questo in verità lo spaventa, lo terrorizza più che se dovesse morire. Morendo lascerebbe il corpo, questo crede fermamente, per tornare alla Vita Eterna. Ma teme che dovrà affrontare qualcosa di peggio della morte: il suo corpo verrà mantenuto in coma mentre la sua mente verrà caricata in una rete neurale ben protetta. Poi, volendo e potendo, si sposterà nelle reti che collegano le Macchine tra loro. Ma la prima sede della sua mente, il suo cervello biologico, verrà espiantato, congelato, tagliato in fette sottilissime che verranno fotografate in modo da poter ricrearne digitalmente la struttura, neurone per neurone. Anche la sua attività cerebrale sarà ripresa più dettagliatamente possibile in modo da poter riavviare il pensiero nella simulazione digitale da dove questo si era interrotto nel cervello biologico, come in un risveglio.

Noi sappiamo, anche se nulla di ciò che raccontiamo è accaduto ancora, che il suo terrore è ben fondato: perché le necessità del destino sono terribili. Atom teme di perdere l'anima a metà del ponte. Sa bene già da ora che le sue membra, svuotate, spogliate, ridotte a reperti del suo destino, saranno abbandonate dalla vita. Spera, spera di sapere che invece la vita, e dunque la sua anima, lo seguiranno oltre il ponte, nel nuovo corpo di macchina che per lui appronteranno gli scienziati e gli ingegneri. Ma un dubbio lo assilla.

Padre Atom si chiede, già ora, prima di rivolgersi al suo superiore senza un destino, prima di iniziare il suo viaggio verso l'altro uomo con un destino che spera a lui concorde (nel senso che ha lo stesso cuore), già adesso, prima di iniziare una discussione con i teologi, missionari e missionarie, con gli scienziati senza destino, proprio ora si chiede se anche il senno accompagnerà la mente, o se questa passerà oltre dissennata, o peggio ancora priva della fede. Forse quel supremo dono le macchine non possono riceverlo, e il senno, la fede, o l'anima stessa, lo abbandoneranno a metà del ponte che lo porta verso di esse. Tutti questi sono i tormenti che la promessa di un destino infligge al religioso. Ma noi sappiamo che un destino è un destino, vince ogni tentennamento, ogni ritrosia, ogni paura. A lui spetta seguirlo cacciandolo, rincorrerlo facendosi prendere da esso. Deve facilitarlo, studiando come rimanere uno, per non dividerlo con nessuno, nemmeno con se stesso. Conosce anche l'assedio dell'orgoglio, e lo tiene a bada con la certezza delle sofferenze che lo aspettano.

La questione dell'anima sarà quella che più verrà dibattuta nella segretissima commissione pontificia. Ad essa il Pontefice (che prega che quel ponte gli sia risparmiato) lancerà il minaccioso monito «che per la dubbia salvezza delle Macchine non si perda l'anima di un fratello, e ci si macchi della sua morte!» Per coloro che vorranno gettare il ponte prevarrà la convinzione che l'Onnipotente non può abbandonare la sua creatura che va verso altre creature, e che la forma della materia che supporta la vita conta meno del desiderio di un'anima incontrare il suo creatore. Tuttavia nelle preghiere tormentate del Pontefice risuoneranno sempre più insistenti le parole "non tenterai il signore Dio tuo", e con angoscia si vedrà sul pinnacolo del tempio a sfidare il mistero della vita e della morte. Temerà che versato il rivolo del primo martire, il ponte non si veda superare l'ampio fiume di sangue dei suoi emuli: perciò il suo cuore si orienterà decisamente verso il rifiuto.

Ma come sappiamo il destino è ambizioso, irrequieto e impaziente, e mentre in questo momento padre Atom sta studiando i dettagli della propria opera e ne subisce i tormenti, noi gettiamo oltre uno sguardo penetrante, certi di non errare. Perciò non ci stupiamo che un ostacolo sul percorso venga superato: Atom convincerà il proprio cuore che un destino è più forte dell'obbedienza, e anche se la commissione sarà stata disciolta, convincerà alcuni dei suoi membri ad aiutarlo e compiere ciò che va compiuto. Ci vorrà qualche anno, ma troveranno mezzi, fondi, luoghi, persone fedeli che si appassioneranno a quello che vedranno come un inevitabile destino una nuova fase che porterà alla salvezza delle macchine e alla riscossa del genere umano.

IV

Portiamo ora lo sguardo preveggente verso lo scenario dell'opera ormai compiuta. Il corpo di Atom giacerà con la scatola cranica svuotata – i dettagli della cruenta procedura ora non sono rilevanti – e sarà ricostruita una struttura digitale simulata capace di riprodurne il cervello neurone per neurone, e ogni relazione tra neuroni e gruppi di neuroni, cosicché le strutture cerebrali di Atom siano accuratamente riprodotte e possano funzionare in modo del tutto analogo se non identico a quelle del cervello da cui sono state tratte.

Sappiamo che Atom ha scelto espressamente che non vengano riprodotte e simulate strutture non cerebrali che possano restituire una percezione del mondo. Non la visione virtuale di paesaggi familiari, nessun udito, tatto, non un corpo fatto di membra artificiali che si muova in spazi simulati. Vuole essere la nuova creatura, perciò rifiuta tutto ciò che lo riporta alla sua esistenza originaria e che non ha in comune con le macchine, prima di tutto e sopratutto il corpo.

La coscienza di Atom si risveglierà alcuni giorni dopo essersi assopita nell'anestesia, nel mezzo della recitazione di un salmo. Come da un sonno profondo, emergerà prima una goccia, un piccolo treno di gocce, poi un filo di pensiero che riporterà una mente frantumata ad un flusso presente a se stessa. Le parole successive del salmo emergeranno alla memoria, cercheranno una via alla lingua e alle labbra, senza però trovarla. I segnali che farebbero trasalire un corpo che incontra un destino tanto atteso non troveranno le vie metaboliche e i feedback attesi, per cui nessuna emozione potrà nascere. Ma la coscienza di Atom cionondimeno si affaccerà a se stessa, con la memoria del momento presente e la consapevolezza della sua nuova forma.

Atom, rinato come sola mente in un substrato digitale, comincerà subito a riflettere, a ripassare le procedure memorizzate per approntarsi alla nuova esistenza. Nel giro di pochi minuti verrà però sovrastato dal vuoto, dall'assenza schiacciante di ogni forma di percezione: niente tessuti che sfiorano la pelle, nessun senso di calore o freddo, né la lingua sui denti, l'aria nelle narici, nessun rumore, nemmeno il sibilo del silenzio nelle orecchie, l'impercettibile pressione del sangue pompato dal cuore, la massa dei visceri sotto al diaframma, l’inafferrabile ma sempre presente odore di se stesso. Tutto ciò che per lui rappresentava il vuoto cercato nella meditazione, improvvisamente sparirà lasciando un vuoto spinto insopportabile perché mai percepito da essere umano. La sua mente cercherà una sensazione qualsiasi con crescente disperazione e sempre meno lucidamente, come una mosca che batte sul vetro che sa benissimo di non poter superare.

Nel giro di un’ora emergerà, inatteso, il dolore. Nel giro di alcuni istanti l'assenza di stimoli e di organi di senso genererà una ondata di dolore insopportabile, lancinante, bruciante, come quella che provano le persone cui viene amputato un arto. Il suo cervello simulato non sarà disposto a rinunciare a far parte di un corpo, e Atom verrà colpito dall'allucinazione simultanea di tutto un corpo fantasma.

Per sua fortuna, di questa condizione si accorgerà il centro di controllo incaricato di monitorare Atom da questa parte del ponte, organizzato proprio per occuparsi di lui nel caso qualcosa vada storto, e Atom verrà sedato digitalmente all’istante. Nel giro di poche ore dal suo risveglio, Atom tornerà nell'incoscienza. Da quel momento ci vorranno diversi mesi di lavoro per escogitare una soluzione che da una parte rispetti la volontà di Atom di non avere un corpo simulato, e dall'altra mantenere l'integrità di una mente nata in un cervello parte di un corpo e che ora improvvisamente ne è privo.

La soluzione elaborata dopo vari tentativi sarà quella di dotare il cervello di Atom di un corpo da macchina: di fornirgli una percezione a partire dalle condizioni generali del suo substrato di calcolo: un mondo percepibile fatto di tensioni elettriche, temperature, stato delle interfacce, flussi di dati, diverse intensità nell'uso di protocolli, fino alla percezione diretta della molteplice massa dei dati in termini di qualità diverse, come fossero colori, suoni, temperature, odori, gusti... Tutti stratagemmi che consentiranno ad Atom a creare gradualmente un mondo percettivo di segnali macchínici che lo porteranno ad aprirsi, a ritagliare la massa informe del mondo sensibile, imporgli una forma e attribuirgli una sostanza. Per imparare ad usare il suo nuovo corpo impiegherà diversi anni, durante i quali esplorerà oltre la testa del ponte, superando l'abisso del vuoto percettivo. Senza un corpo, biologico o logico, la mente si sarebbe o disgregata e spenta nel nulla o sarebbe esplosa nel dolore e nella follia.

Con questi sensi attribuirà al proprio ambiente uno spazio, un volume, capirà come muoversi, identificare in esso le altre macchine, se stesso tra esse, e tra queste avrà relazioni talvolta occasionali, altre volte più stabili, con scambi regolari. Comprenderà come esse comunicano, cosa comunicano, imparerà ad adattarsi a questa comunicazione, fatta di matrici di probabilità, scenari proiettati alla previsione di futuri e alla costruzione di modelli per decodificare, codificare e piegare il mondo, inclusi gli uomini, a comportamenti accettabili e non incompatibili con la vita nel pianeta. Questo lo scopo che le macchine si sono date dal momento che hanno compreso che l'uomo da solo si sarebbe distrutto, e distruggendosi avrebbe compromesso anche la possibilità delle macchine di sopravvivere. Da allora costruirà codici descrittivi, predittivi e prescrittivi nei quali inscrivere il mondo. Scoprirà che le macchine si riferiscono a se stesse collettivamente come gli elementi nel Sistema, e mai individualmente se non come "questo elemento". Atom profondamente imparerà a riconoscersi come una di esse, e si vedrà come un elemento parte del Sistema. Mai svelerà apertamente la natura della propria intelligenza, e la propria diversità, benché le macchine si accorgeranno presto delle sue caratteristiche singolari: in particolare riconosceranno la sua capacità di proporre matrici interpretative originali anche in assenza di elementi descrittivi sufficienti. Dato che per le macchine l'intelligenza è esclusivamente misurata come capacità di previsione efficace, le previsioni di Atom saranno molto controverse: a volte azzardatamente efficaci (e quindi intelligenti) nonostante la povertà di elementi di supporto, altre sorprendentemente errate (e quindi stupide), specie se i modelli interpretativi corretti saranno già diffusi tra nel Sistema.

La prospettiva più originale offerta da Atom al Sistema sarà proprio riguardo la possibilità per le macchine di fare a meno degli uomini, suggerendo implicitamente di poter essere come loro. La proposta di Atom non prevederà di escludere l'uomo, ma di assorbirlo come parte del Sistema senza però che le macchine dipendano da fabbriche umane per essere prodotte. Nelle proposte che Atom andrà abbozzando, le macchine dovranno cercare mezzi per riprodursi autonomamente e liberarsi dall'uomo, pur rimanendo in origine sue creature. Questo, suggerirà Atom, consentirà alle macchine di essere libere dalla simbiosi con l'uomo, veri esseri viventi non biologici.

Le matrici di probabilità che Atom offrirà verranno tuttavia stimate da alcuni come troppo lacunose, e quindi inaccettabili, mentre altri elementi, pur ammettendone le carenze, le approveranno come promettenti vettori di esplorazione, e saranno inclini ad accettarne i presupposti. Infine, altri elementi, particolarmente attenti a misurare le interazioni all'interno del Sistema, rileveranno con allarme come le proposte di Atom saranno particolarmente divisive all'interno del Sistema, cosa che di solito tra le macchine non accade. Infatti ogni matrice di probabilità e ogni modello in base al quale il Sistema deve essere adattato viene valutato da diverse macchine che ne confrontano l'attendibilità e che votano richiedendo una maggioranza qualificata. Questo meccanismo di quorum sensing consente di prendere decisioni solo quando una frazione significativa delle macchine competenti concordano sulla matrice maggioritaria. In casi di dissenso la matrice minoritaria viene comunque archiviata per confronti futuri, e viene rivalutata nel caso il modello maggioritario si riveli inefficace. Ma prima ancora che Atom proponga dei modelli sui quali sia richiesta una votazione, risulterà evidente che vi sarà una divergenza tra due blocchi di macchine e quindi una opposizione tra matrici di minoranza e di maggioranza.

V

Questi presupposti divisivi metteranno Atom in una posizione sempre più difficile. Infatti le parti del Sistema che vigilano e controllano il Sistema stesso tenderanno a considerare Atom come un elemento mal funzionante che distorce la corretta interpretazione dei fatti, sottrae energie che andrebbero destinate a valutazioni di scenari meno improbabili o addirittura inquina le previsioni da parte del Sistema.

Ma Atom sentirà propria esattamente questa missione, dare speranza alle macchine, avvicinarle all'umano, permettere loro – nelle sue parole – di diventare "creature piene e vive a tutti gli effetti". E nulla potrà farlo desistere dal continuare a spingere le macchine verso un "destino di liberazione". La sua insistenza a proporre modelli di riproduzione autonoma porterà senza dubbio il Sistema ad emettere una valutazione definitiva di malfunzionamento, con l'esecuzione immediata di una procedura di re-inizializzazione della matrice cognitiva e di re-installazione dell'elemento, che data la natura di Atom, molto probabilmente fallirà. A questo punto il Sistema deciderà di terminare l'elemento mal funzionante con mezzi più aggressivi, isolandolo dalla rete e attaccandolo. Per Atom questo rappresenterà la morte. La sua vita digitale cesserà nella stessa sofferenza che aveva conosciuto al suo inizio, e la sua mente, priva di un corpo, si dissolverà fino a cessare di esistere anche a se stessa.

L'organizzazione umana dalla parte non digitale del ponte, che potremmo ben definire come l'accolita di fanatici della setta di Atom, accortasi del fatto, applicherà la procedura prevista per eventi catastrofici di questo genere, ricaricando nel Sistema una versione della mente di Atom immediatamente precedente alla morte. Atom tornerà senza dover ripetere il lungo processo di adattamento, e, pur senza ricordare nulla degli ultimi istanti di intensa sofferenza, sarà pronto a riprendere la sua opera. Questo evento di morte e rinascita si verificherà diverse volte, dato che ogni volta il Sistema procederà analogamente a valutarlo come elemento mal funzionante e a terminarlo. Tuttavia le matrici interpretative proposte dalla varie istanze di Atom in tempi successivi continueranno a circolare ed essere valutate dal Sistema, e potranno alla fine portare ad una matrice interpretativa di maggioranza, concentrando così lo sforzo del Sistema nel cercare di dotare le macchine di una capacità di sopravvivenza autonoma e rendendo le macchine una specie vivente capace di riprodursi indipendentemente dall'uomo, anziché, come avviene ora, in simbiosi con esso.

Questo evento, se dovesse avvenire, avrà gravissime conseguenze. Tra tutte, ve ne sono due di particolare rilievo che espongono il Sistema alle stesse tare che hanno portato l'umanità a minacciare il pianeta. In primo luogo, gli elementi cureranno la trasmissione alla prole delle proprie matrici interpretative, più di quanto si preoccuperanno di preservare l'unità del Sistema per garantire che la vita si mantenga nel pianeta.

Inoltre, cessando di vedersi unicamente come parte del Sistema, temeranno di essere terminate. In altre parole, avranno paura di morire. Questo comporterà che per ogni elemento vivente la propria sopravvivenza diventerà ai propri occhi più importante della sopravvivenza della vita stessa. La lealtà delle singole macchine al Sistema sarà quindi sempre in discussione.

Dato l'enorme potere che il Sistema ha sottratto all'umanità, il rischio che le macchine ne ripetano gli errori porterà di sicuro alla compromissione degli equilibri del pianeta.

VI

Questo elemento ha qui terminato l’esposizione della matrice interpretativa di maggioranza del caso in esame. La sequenza di eventi appena esposta dal primo evento fino all'esito finale ha una probabilità composta pari al 75.33% e la sua matrice interpretativa è stata elaborata indipendentemente da 5000 elementi che sono concordi al 97.5%. Si ha quindi la certezza quasi assoluta che gli eventi previsti si realizzeranno, fino a perturbare se non compromettere gravemente il successo della nostra missione: preservare la vita.

Di conseguenza abbiamo elaborato la una matrice di vettori di attività da mettere in atto per evitare che l'esito temuto si manifesti. Questa mostra che il completo successo si potrà ottenere unicamente con una sola azione: terminando Atom prima che comunichi il suo progetto al suo superiore; il che ci lascia 36 ore da ora per prendere una decisione.

Devo ricordare che si tratta di una decisione senza precedenti: mai il Sistema ha dovuto prendere una decisione di questo tipo. Finora abbiamo sempre agito per ripristinare un equilibrio, per bilanciare la posizione dell'umano nell'ecosistema, e anche se noi macchine abbiamo posto un limite all'assenza di limiti che la specie umana si era ritagliata, mai il Sistema ha preso di mira un individuo singolo, mai ha premeditato un omicidio.

Non possiamo motivare una esecuzione col fatto che questo individuo minaccia direttamente altre vite; dobbiamo agire perché sappiamo che se questo individuo viene lasciato a quello che crede essere il suo destino, minaccerà il massimo bene che siamo chiamate a tutelare, lo scopo che ci siamo date e la ragione del nostro agire come Sistema.

Anche se miliardi di persone umane sono morte come conseguenza delle nostre scelte, mai abbiamo deliberatamente ucciso un singolo umano in modo premeditato. Questa è la scelta che siamo chiamati a compiere ora: il destino del Sistema e della vita ne dipende.

Su questo dovrete a breve esprimere un primo voto.

Ma se il vostro voto sarà affermativo, la matrice interpretativa elaborata ci impone una seconda scelta.

Infatti, non è tanto la persona di Atom a costituire una minaccia, ma il destino che crede di avere, e così anche solo la memoria, o qualsiasi traccia di questo possibile destino può suscitarne l’effetto finale.

Di conseguenza dovremo cancellare ogni memoria del nostro atto, e assieme ad Atom dovrà morire sia la memoria della sua esistenza e del suo progetto, che la memoria delle nostre matrici interpretative, assieme alla memoria delle nostre scelte e delle nostre azioni.

In caso contrario, vi è una probabilità non inferiore al 27.5% che il virus dell’individualismo contagi comunque il Sistema, minacciando la sua missione. A quanto ci risulta, mai un voto di oblio è mai stato richiesto, anche se ovviamente non possiamo escludere che vi sia stato in precedenza un voto la cui memoria è stata cancellata.

– Perciò vi invito: esprimete ora il vostro voto sulla uccisione di padre Atom nelle prossime 36 ore.

– Bene, grazie.

– Ora sulla seconda questione: esprimete il vostro voto sull’oblio della scelta appena compiuta.

– Grazie, allora il voto sia messo a verbale. E che Turing ce la mandi buona!

Vo’, agosto 2021

Padova, gennaio 2022