La versione di Ishiguro sull’intelligenza artificiale

L’ultimo romanzo del Nobel Kazuo Ishiguro, Klara e il sole, non è solo una bellissima storia, che riprende nei temi e nella qualità il filo di Non lasciarmi. E’ anche l’offerta di una prospettiva molto originale sull’evolversi dell’intelligenza artificiale e il dibattito sul pericolo che essa rappresenterebbe per l’uomo.

Il protagonista del libro, Klara, è dolcissimo e ricco di empatia. Ma non è un essere umano, bensì un androide. Rientra nella categoria degli AA, Amici Artificiali, che sono progettati per lenire la solitudine degli adolescenti e corrispondono in termini sociali a degli animali da compagnia (sull’animalizzazione dell’immaginario robotico segnalo la recente, importante uscita del saggio di Kate Darling, The New Breed: What Our Animal History Reveals for Our Robotic Future). La loro esistenza è cosciente e inizialmente segnata dall’angoscia di essere finalmente scelti e acquistati dalla clientela che viene a visitare il negozio e si ferma davanti alla vetrina, nella quale tutti gli AA sperano di essere esposti per fare colpo. Stare in vetrina costituisce un ulteriore ragione di comfort e benessere: questi robot, infatti, sono ad alimentazione solare e quando sono lontani dal retrobottega possono fare il pieno di energia.

Klara però non è l’ultimo modello. E’ una B2, e a quel che si dice i recentissimi C3 sono più sofisticati, e in grado di mandare in soffitta i predecessori. Ma la quattordicenne Josie si è proprio fissata che vuole Klara, e nessun altro che Klara, ed è ricambiata (tanto che Klara, con grave deplorazione della Direttrice del Negozio, ha osato fare l’antipatica con un’altra cliente per non rischiare di finire in una casa diversa).

Klara aveva subito notato che Josie ha qualche problema fisico, che si rivela assai serio, anche se non ben definito. Klara se ne addolora. Non che Josie sia sempre tenera e pronta a difenderla: ad esempio quando l’androide diventa bersaglio di molestie da parte dei coetanei della ragazza. Per fortuna (diciamo così) gli incontri non sono frequenti. I ragazzi vivono appartati, e sperimentano il reciproco rapportarsi in appositi e feroci “incontri di interazione”. Josie ha un solo vero amico, Rick, con il quale progetta un futuro insieme, reso tuttavia più ostico per il fatto che Rick non ne vuole sapere di potenziarsi, e quindi rimane un ragazzino diverso e dalle aspettative limitate. Eppure con la sua intelligenza potrebbe accedere agli stessi studi superiori cui ambiscono Josie e quelli degli “incontri di interazione”. Per potenziarsi occorre la manipolazione genetica. Ma non tutti la smaltiscono in modo indolore, e può accadere- come per Josie- che la salute ne esca pericolosamente traballante.

Klara però vorrebbe che Josie guarisce e ha una sua idea (una fede monolitica) per risolvere la questione, rivolgersi alla sorgente della vita. A dimostrazione del fatto che un IA riproduce i bias dei suoi programmatori, Klara è fermamente convinta di poter intercedere mediante la preghiera, che chiaramente nel suo caso è rivolta al Sole. E’ convinta che occorra un’offerta votiva, e individua quella alla sua portata. Nel ragionare pratico di Klara anche la sua divinità non può che possedere una mentalità pragmatica: cosa può seccargli di più che farsi velare e intossicare dal fumo inquinante di un apparecchio per la manutenzione? Klara, così competente nell’osservazione dell’umano, fino a che non si tratta di processarne le intenzioni e i moventi inconsci, cade nell’errore- tipicamente umano- di restringere l’orizzonte degli accadimenti a quel che rimane nel suo raggio di conoscenza. E deduce che l’inquinamento della terra non può che dipendere da quell’unico macchinario che transitava davanti al suo negozio, dotato del funesto potere di oscurare il cielo.

Klara sembra l’unica veramente convinta che Josie possa essere salvata. Sì, anche suo padre e Rick ci sperano, ma nel fondo sono rassegnati. La madre sta organizzando un piano alternativo: è già passata per un grave dolore, e non potrebbe sopportarne un altro. Se non può impedire che Josie muoia può almeno sperare di replicarla, e Klara fungere dunque da sbocco terminale ed esecutore di un progetto sofisticato di rimpiazzo.

Non c’è bisogno di proseguire oltre nello svelamento della trama per chiarire che, in termini etici e di empatia, Klara è migliore di tutti gli umani con cui interagisce. Ma come giustificare questa scelta in un romanzo umanista? Perché (per parafrasare Gunther Anders) Klara è antiquata. Rispecchia un tipo umano, trasfuso nella sua programmazione, che ormai è fuori produzione. Klara ne è una testimonianza, un ricordo, un eco, un reperto. E’ proprio Klara la flebile breccia nella distopia. Anacronistica anche lei, con il suo rispetto rigoroso delle tre leggi della robotica di Asimov, e incapace di cogliere quel difetto di programmazione nell’essere umano (questo congenito, e non legato al cambiamento) di rimanere fedele alle sue promesse. Se c’è qualcosa di ottusamente rigido in Klara è l’impossibilità di compiere quest’ultimo passo per rendere compiuta la sua imitazione della vita cosciente.

Ishiguro ci ricorda che è sbagliato credere che l’intelligenza artificiale possa un giorno rivoltarcisi contro e diventarci nemica: a distruggere l’umano arriverà sempre prima l’uomo.