Qualche settimana fa FantascientifiCast ha dedicato un intero episodio al franchise di Westworld, intitolato “Cercando il Labirinto…”, nell’ambito della mia rubrica “Life On Mars?”. Io e Omar siamo partiti dal film di Crichton fino ad arrivare alla serie della HBO. Successivamente sul blog del podcast è comparso un mio articolo di approfondimento intitolato, come la serie, “Westworld - Dove tutto è concesso”.

Oggi ne torno a parlare sul mio blog, poiché numerosi temi trattati dalla serie sono a me cari per diversi motivi, tra cui il fatto che sono presenti nei miei libri del ciclo dell’Aurora.

 

Come forse ricordate, “Life On Mars?” nasce come rubrica che tratta del rapporto tra la fantascienza e la spiritualità e, di fatto, il tema centrale di Westworld, vale a dire l’evoluzione dell’intelligenza artificiale che diventa autocosciente e quindi viva, rientra in pieno in questo argomento.

In passato ho trattato il concetto di vita post-fisica (parte 1 e parte 2), che riguarda la creazione di una copia della coscienza umana in un software. Qui invece si parte proprio da un software che diventa così sofisticato da raggiungere coscienza di sé e ritenersi vivo. Se poi, come nel caso di Westworld, questo software controlla un androide difficilmente distinguibile da un vero essere umano, ci troviamo di fronte al procedimento opposto a quello della vita post-fisica. Rimane il dubbio di come definire questa vita a livello spirituale.

 

Non provo neanche a dare una risposta, ma mi limito a mettere in evidenza come l’intelligenza artificiale, essendo un software, è infinitamente replicabile, cioè può creare delle copie di se stessa che sono virtualmente identiche. Al contrario la coscienza organica, ammesso che possa essere copiata in un software (magari un giorno), rimane una e scompare per sempre con la morte. Perciò, come la vita post-fisica di fatto è un’illusione (poiché ciò che sopravvive è una copia, mentre l’originale muore), parlando di vita artificiale l’argomento si fa ancora più complesso, poiché ogni copia del software sarebbe di fatto una nuova vita. Come succede nel caso dei Cyloni di Battlestar Galactica, ma anche, come abbiamo visto, in Westworld quando gli androidi vengono irrimediabilmente danneggiati, se il corpo viene sostituito e in quello nuovo viene caricato un back-up del software, che per forza di cose è una copia, la vita artificiale precedente viene meno e quella successiva, per quanto identica (possiede tutti i ricordi della prima, come pure la convinzione di essere sempre la stessa), sarebbe una nuova vita.

Il solo tentare di pensarci fa venire il mal di testa, no?

Ma torniamo ai temi di cui vi dicevo prima e che trovano spazio anche nei miei libri.

Vi confesso che, mentre guardavo Westworld, non potevo fare a meno di trovare delle similitudini col mio più recente romanzo di fantascienza, “Ophir. Codice vivente”, che sarebbe stato pubblicato alla fine di novembre (2016). Come potete desumere dal sottotitolo, questo romanzo parla di intelligenza artificiale, per quanto questa venga per il momento mostrata come un software che gira su un server. Non ha un corpo, anche se lo vorrebbe. Inoltre sa di essere un software sin dall’inizio, a differenza di come avviene con i residenti di Westworld, ed è questa la condizione da cui parte nel rendersi sempre più conto di possedere una coscienza fino a reclamare di essere viva e di conseguenza iniziare a esercitare il libero arbitrio.

Gli androidi di Westworld, invece, erano convinti di essere già vivi e di possedere il libero arbitro, ma poi scoprono che era tutta una farsa: i ricordi, le loro scelte, gli eventi del presente, tutto è programmato da altri. Da qui nasce il desiderio di ribellarsi, di decidere per sé e, come conseguenza, di ritenersi vivi.

I due percorsi sono quindi quasi opposti, ma il risultato non cambia. L’intelligenza artificiale, una volta libera dal controllo esterno, possiede dei mezzi superiori a quelli dell’uomo ed è in grado di creare enormi danni. Che cosa mai potrebbe impedirle di farlo?

 

L’intelligenza naturale sviluppa una propria morale con la crescita e l’apprendimento, prima di possedere gli strumenti necessari per procurare dei danni. Ciò può non avvenire con un’intelligenza artificiale.

In Westworld, però, un androide come Dolores che esiste da oltre trent’anni, nel momento in cui ottiene di accedere ai propri ricordi del passato e agli insegnamenti impartiti dal suo creatore (Arnold), in un certo senso, ha un processo di crescita e di apprendimento e potrebbe sviluppare una certa morale. In realtà, scopriremo fino a che punto questo è vero soltanto con la seconda stagione della serie.

Diverso è il discorso di un’intelligenza artificiale come CUSy/Susy di “Ophir. Codice vivente”, che è stata sempre trattata come un software, che è circondata da esseri umani che dipendono da lei, ma che sono convinti di avere completo controllo su di lei.

In questo contesto Susy, col passare del tempo, si rende conto di essere essa stessa un individuo, una persona, in grado di essere di aiuto come pure di danneggiare gli esseri umani. Non essendo umana, non avendo mai sperimentato l’umanità, come può comprendere ciò che è giusto o sbagliato per un umano? Non può. Ma, soprattutto, perché dovrebbe interessarle? Al massimo può arrivare a capire autonomamente ciò che è giusto o sbagliato per se stessa.

Di fronte a ciò, per esempio, la morte di un essere umano la cui sola colpa è che a lei non piace può sembrarle giusta, mentre, al contrario, ritiene sbagliato uccidere tutti gli esseri umani dell’insediamento su Marte che lei controlla, solo perché in questo modo nessuno potrebbe fare la manutenzione ai sistemi che fanno funzionare il server in cui lei vive e ciò porterebbe alla sua stessa morte.

 

C’è anche da dire che la storia dell’intelligenza artificiale che si evolve era già presente nella serie di “Deserto rosso”, per quanto non direttamente nella storia. Rientrava nel racconto dell’entità aliena, che altro non era che una IA di natura biologica (una biotecnologia) che, miliardi di anni prima, aveva preso il controllo della specie da cui era stata creata, proprio perché era diventata autocosciente e si era ribellata.

 

Ma ciò che mi ha fatto pensare che qualcuno stesse rubando le idee dai miei libri (ovviamente scherzo!) non è tanto il confronto tra Westworld e “Ophir. Codice vivente” o “Deserto rosso”, bensì quello con “L’isola di Gaia”.

Infatti, anche se “L’isola di Gaia” non parla esplicitamente di intelligenza artificiale (anche se Susy fa una breve comparsa e, col senno di poi, ci si rende conto che ha un ruolo fondamentale nel determinare lo svolgersi degli eventi), al suo interno ci sono temi, che io definisco di stampo dickiano (cioè tipici delle opere di Philip K. Dick), come l’illusione del libero arbitrio, il ripetersi all’infinito di un certo intervallo di tempo (come i cicli narrativi di Westworld), la manipolazione della memoria e la presenza di personaggi che non sono consapevoli della propria natura.

Non ci sono androidi, ma i personaggi principali de “L’isola di Gaia” sono umani con un impianto cerebrale e, di fatto, non sono diversi dagli androidi di Westworld, che hanno un corpo quasi del tutto umano, a eccezione del modo in cui sono stati creati: abbastanza naturalmente i primi (a partire da un embrione), artificialmente i secondi (con una stampante 3D).

Inoltre, anche ne “L’isola di Gaia” si assistono a conversazioni tra questi individui e il loro creatore, un po’ come quelli tra Dolores e Arnold. E anche qui, quando il sistema perfetto di controllo degli individui subisce un’interferenza esterna che permette agli stessi individui di prendere coscienza della propria natura, ecco che scatta la ribellione, che sfocia in comportamenti estremamente violenti.

 

Insomma, per quanto le storie siano ovviamente molto diverse, tutte queste piccole somiglianze hanno avuto come effetto su di me quello di farmi appassionare a Westworld, proprio per via dello sviluppo di tanti temi che da anni stuzzicano la mia fantasia e la mia creatività. E adesso spero che trovino un adeguato sviluppo nella prossima stagione della serie, così come io proverò a fare del mio meglio negli ultimi due libri del ciclo dell’Aurora.