Per predire il futuro basta predire il presente. I dilemmi morali Black Mirror

Gli scienziati che lavorano all’intelligenza artificiale si dichiarano ottimisti sul fatto che i robot saranno, un giorno, anche in grado di produrre empatia. Ma se davvero proveranno, o quanto meno, replicheranno emozioni, dovremo nei loro confronti comportarci secondo la stessa etica propria delle relazioni intraumane?Ad oggi la filosofia morale si pone in rapporto con le macchine considerandole esclusivamente come oggetti, per lo più interrogandosi su quanto sia lecito fare a noi, attraverso questi strumenti, e su quali codici debbano essere introdotti dentro robot messi in condizione di operare scelte dai riflessi morali: si comincia a dibattere di dove debba sterzare e come debba frenare l’automobile quando siano in gioco, alternativamente, la vita del conduttore e quella dei pedoni che attraversano la strada.

Se però l’IA si affinerà, magari riproducendo caratteri delle persone che affianca, potremmo trovarci di fronte a dilemmi che coinvolgono le macchine, o altre forme di duplicazione degli esseri umani, come soggetti senzienti.

E’ questo il tema del primo episodio della quarta serie di “Black Mirror”, la miglior serie televisiva degli ultimi anni, e certamente quella che più spinge fondo sulla dimensione morale. Quest’articolo non è una recensione della serie: basti qui ricordare che si tratta di una serie “impropria”, poichè composta da episodi scollegati che vengono resi disponibili tutti nello stesso momento (parliamo di primo episodio per convenzione), tutti centrati intorno al perverso legame tra l’uomo e le sue tecnologie. Una narrazione distopica, quindi, già acclamata per la sua capacità di predire il futuro, visto che alcune delle sue trame sono state poi riprese fedelmente dalla vita reale: in realtà Black Mirror possiede la qualità, non meno pregevole, di predire il presente. L’autore, Charlie Brooker, è un acuto osservatore di quel che già accade, e si limita a portarlo alle estreme conseguenze. Che sono poi, per quanto terrificanti, assolutamente coerenti, dato che l’assioma di partenza, per Brooker, suona come la legge di Murphy: data una certa possibilità tecnologica, se l’uomo potrà usarla in modo da far accadere qualcosa di negativo lo farà.

Pur suonando come monito per il futuro, come dicevo, Black Mirror dice un mucchio di cose su come viviamo ora, e solleva persino interrogativi eterni sulla vita, la morte, il destino. Non a caso il giovane filosofo Tommaso Ariemma che ha scritto un educativo “La filosofia spiegata con le serie tv” per Mondadori ha scelto per ben tre volte la serie come paradigma rappresentativo del pensiero di un filosofo (per la precisione: Platone, Cartesio e Sartre).

Siccome entrare del dettaglio degli episodi sarebbe spoiler di una serie da poco disponibile richiamerò qui (oltre che più avanti il primo episodio) lo speciale natalizio del 2014, White Christmas, che mi pare, per il tipo di sceneggiatura e i temi, il parente più immediato della quarta serie.

In White Christmas ci sono ben tre situazioni-limite che aprono la stura a una ramificazione di dilemmi morali. Fulcro dell’episodio non è un singolo argomento ma una chance, quella di sostituire gli occhi con gli zed-eyes, grazie ai quali è possibile far accedere altri a quel che gli occhi vedono e condividerlo. Non è questo il tratto più originale, costituendo nulla più che la distopia del microchip, variamente praticata nella letteratura di genere e nelle diagnosi futurologiche: visto che ci serviamo di un dispositivo di piccola dimensione, dal quale alcuni non sono disposti a separarsi neppure nel letto o sul water, perché non semplificare la vita e annullare la separazione uomo/dispositivo, impiantandolo nell’organismo, in modo che non ci si debba preoccupare nemmeno delle cadute, dei furti e della ricarica Tim? Con gli zed-eyes, in effetti, gli uomini sono anche dispositivi. Questa non la chiamerei neppure situazione-limite: è lo sfondo-limite che agevola le situazioni-limite che ora racconterò.

La prima è la possibilità di avvalersi di un assistente oculare. Come fa, nell’episodio, un ragazzotto allupato ma inetto al corteggiamento: nella spoglia esistenza analogica, se non se la sente di contare su se stesso e le persone che lo circondano, ricorrerebbe a uno psicologo o, se è più disimpegnato verso l’eccesso di introspezione e maggiormente trendy, a un personal coach. Ma vuoi mettere la comodità di portarsi appresso un allenatore che segue da casa dentro i tuoi occhi il party a cui ti sei imbucato e ti dirige passo passo dentro l’auricolare? Guarda quella bionda, parla con la brunetta che così la bionda si sente esclusa e ti viene dietro…E se capita l’imprevisto, il bellimbusto che ti domanda chi t’ha invitato, l’assistente oculare mette a fuoco la persona, fa una rapida ricerca sulla Rete che ne estrae vita, morte e miracoli, e pure le feste a cui è stato nei giorni prima e così tu puoi rispondergli: ti chiami Andy, giusto? Ci siamo visti alla festa da Jackson! Non ti ricordi? (i nomi a memoria non li ricordo, me li sono inventati, ma la scena c’è) e metti quello dalla parte del torto, mortificato, alle prese con l’atavico, analogico problema riassumibile: chi cazzo è questo che mi saluta e mi parla? (per il quale passiamo tutti, non solo Luciano De Crescenzo da quando ha la prosopagnosia, e gira con un biglietto da visita che infila nella mani dell’interlocutore per avvertirlo della sua patologia ed evitare che si offenda). L’assistente oculare in realtà non è da solo, è collegato in video con una squadretta di guardoni che si appassionano e danno indicazioni strategiche, come i commentatori calcistici di Sky. Poi a un certo momento sbaraccano tutti, perché la conquista del malcapitato si rivela un soggetto poco raccomandabile. Ma lasciamo per ora andare la trama e concentriamoci sulla sitazione-limite, o meglio sulle sue ramificazioni morali.

Il ragazzo non è consapevole della claque. Men che mai la ragazza immagina che il ragazzo agisca sotto l’impulso di una direzione e che lei sia sotto osservazione di persone esterne (e siccome non lo sa e si accorge che parla da solo- apparentemente- ne deduce che è uno disagiato pari suo e da qui nascono le grane). La lezione che se ne trae, drammaticamente attuale, è che la trasparenza non rende affatto le persone più trasparenti tra loro: li rende psicologicamente schiavi dei rispettivi “pubblici” e meno trasparenti persino a se stessi. Inoltre la trasparenza è asimmetrica: sarà sempre una situazione in cui qualcuno ha libero accesso alla casa d’altri (alle sue giornate, ai suoi gusti, ai suoi sentimenti) e qualcun altro no. I giganti della Silicon Valley proteggono gelosamente la vita privata (sentito mai un pettegolezzo su Zuckenberg o Bezos?) e voi, appena avete letto questo articolo, comincerete a ricevere pubblicità per abbonarvi con lo sconto a Netflix. Siamo oltre la privacy e le sue violazioni. E’ che uno stadio discreto di opacità è il presupposto su cui è stata fondata la civiltà occidentale.

Quanto all’aiutino esterno, in White Christmas vengono cumulati quello del coach e quello del dispositivo, e ci rammentano quanto la “risorsa” esterna, tanto più è esageratamente a portata, tanto più diventa una protesi cui l’uomo ricorre nonostante il suo organo non sia ancora atrofizzato (però lo diventerà).

Infine, la morbosità con cui i fan seguono il corteggiamento del giovanotto ci pone di fronte a un’altra esigenza immediata, quella di ripristinare una “ecologia dello sguardo”: un occhio che non vada a rimorchio di tutto ciò che lo attira e richiama, in difesa delle dignità propria e di chi consegna la sua intimità cedendo alla richiesta del suo fragile Io.

Nel seguito dell’episodio, apprendiamo che grazie agli zed-eyes si può “bloccare” la persona con cui non vogliamo avere a che fare, naturalmente con un telecomando: l’individuo continua a esistere ed agire nel mondo circostante, ma i suoi contorni sono per chi lo blocca sono sfumati e indistinguibili, ridotti a una sagoma, e la voce esce come da un vinile che gira alla velocità sbagliata e suona da un diffusore distorto, del tutto incomprensibile. La scelta può essere contingente, per troncare una discussione; o più radicale, e interrompere definitivamente il contatto. Il sistema del “blocco” viene applicato anche dalla polizia, come misura intermedia tra la pena e la prevenzione, e in questo caso esclude chi ne è sanzionato dai contatti con tutti quelli che hanno gli zed-eye (praticamente il resto del mondo). Come non vedere nel “blocco” quel che già ora è l’incapacità del confronto dialettico e la riduzione della persona a dispositivo che può essere messo in pausa (la psicologa Sherry Turkle ha coniato il termine “pausabilità”) e in qualche modo cassato, in quanto problema, e come tale incompatibile con la funzionalità confortevole di un dispositivo? (di questo aspetto ho ampiamente scritto qui).

La terza situazione-limite, che avevo accennato al principio e concerne l’intelligenza artificiale, è che in White Christmas si possono realizzare copie delle persone che vengono inserite in un cookie. Nascono con la stessa dotazione cerebrale (inclusa la memoria personale e la capacità di provare sofferenza psichica) dell’originale ma fisicamente assimilabili a un elemento digitale. Servono a sgravare da ogni impronta di iniziative quello che fu l’homo faber, fanno spuntare dal tostapane la fetta al giusto grado di fragranza, comparire l’agenda della giornata sul display. Vita grama per chi ha una coscienza, per quanto impiantata. Ma è esattamente quella coscienza che li rende docili e remissivi. Per chi tenta di resistere viene fatto scattare un timer che corrisponde a un minuto di vita reale e a un tempo del tutto differente per la copia: per la quale trascorrono sei mesi in una stanza dove non accade nulla o si ripete la stessa scena. Anche la copia viene impiegata dalla polizia. Per metterla in contatto con altre copie, per farle confessare i crimini commessi dall’originale, o per punire la copia, come plus della sanzione inflitta all’originale, facendo che quel che all’esterno è un batter di ciglia diventi per lei mille anni di inazione.

Una situazione analoga si verifica nel primo episodio della quarta serie “Uss Callister”. Un programmatore geniale ma imbranato nella vita privata, Robert Daly, preleva tracce di dna dai colleghi di lavoro e li clona inserendoli dentro la versione alternativa e offline di un gioco di realtà virtuale prodotto dalla sua azienda, sorta di seguito di Star Trek: in questo mondo separato Daly sfoga le sua frustrazioni tiranneggiando e torturando, quale capitano dell’equipaggio sulla navicella spaziale, i duplicati di quegli stessi esseri umani (non tutti impeccabili nel mondo fuori) con i quali non riesce a interagire felicemente. Così i cloni perseguono l’obiettivo di morire, dentro quel gioco, con lo stesso furore con il quale, probabilmente perseguono quello di vivere nella versione primaria.

Nello stesso momento in cui il filone neuroscientifico più ortodosso mette in discussione l’esistenza di una coscienza e di quel che abbiamo sempre inteso come Io, e altri considerano l’Io e la coscienza espressione della nostra relazione con l’ambiente piuttosto che monade, l’autore di Black Mirror rilancia e ci getta in faccia la moltiplicazione dispersiva di quell’Io: che per forza si traduce nella decisa affermazione dell’Io e nell’invito, rivolto a noi tutti, a un umanesimo radicale.