La simulazione perfetta.

[di Marco Staffolani, su pensarelafede.com]

Anche se siamo nel tempo delle intelligenze artificiali, in cui computer superveloci macinano dati a più non posso, la modalità di interazione con i nuovi BOT (dai semplici risponditori automatici, fino ai più sofisticati ChatGPT, DeepSeek, Gemini ecc.) sembra avvenire con la stessa riga di comando tipica dei sistemi operativi degli anni ’80-’90, quando ancora non c’erano né il mouse né le “finestre” di Windows o di MacOS. Chi ha visto il primissimo Matrix (1999), ricorda tutto questo nell’iconica versione dei caratteri bianco verdi, accompagnati dai click della tastiera meccanica.

E mentre si digita l’input per la “macchina”, attendo il blinking del cursore che compone la risposta, dentro l’umano nasce la “curiosità”: chi c’è li dietro che sta scrivendo? chi, o forse meglio, cosa? Detto in termini informatici popolari stiamo facendo (alla macchina) il “test di Turing”.

La questione non essere risolta in “bianco e nero”, decretando semplicemente “è umano o macchina”: piuttosto si tratta di valutare quanto “umana”, almeno nella sua facoltà di “linguaggio”, sia la programmazione che abbiamo davanti. Partendo dalla consapevolezza che siamo comunque di fronte ad una simulazione (a meno che un nostro amico umano non ci stia tenendo un brutto scherzo, simulando lui un chatbot), quel linguaggio umano sintetizzato dalla macchina è tanto più “reale” quanto più riesce ad ingannarci.

La tensione e la valutazione che si innescano, già in questi piccoli esperimenti della chat, dicono tanto del rapporto che “desideriamo” con l’alterità, reale o immaginata/realizzata dalla tecnica. Sicuramente si sarà provato un brivido (o magari è soltanto la deformazione professionale di un informatico .. che ha troppa fede nei bit e nei calcolatori…) nelle prime frasi con ChatGPT sentendo una differenza sostanziale rispetto al bot semplice che “spara parole a caso”.

Non ci si aspetta di trovarsi di fronte ad una frase di senso compiuto e ben inserita nel contesto. Si crea, almeno per una decina di secondi, una strana sensazione nel cervello (umano) per cui si valuta l’esistenza di una nuova tipologia di alterità senziente. “Chi ho davanti?” … ma poi tutto sfuma appena il discorso si amplia e va a finire su modalità diverse da quelle per le quali la “IA” è pensata.

Se ad esempio si chiede a chatGPT di rispondere a domande di cultura generale tutto è ok (o quasi): abbiamo un BOT-prof che sa tutto nei limiti dell’ignoranza diffusa del web, da cui pesca e di cui si nutre. Ma appena si fa una domanda sull'”essenza” … dal semplice “come stai?” a “che vuoi?” o “che ne pensi?” … la risposta si svuoterà di significato… essendo palesemente precompilata per dissuadere (giustamente) l’umano dal pensare di avere di fronte con una intelligenza di carattere personale, che abbia cioè un suo modo di pensare, ragionare, scegliere, esistere…

La fantascienza si esercita ad immaginare degli scenari futuri in cui tutto questo è approfondito e superato. Un particolare film al proposito è HER (2013), che istanzia non solo il problema della simulazione perfetta del linguaggio ma la frustrazione dell’interlocutore umano che non può vedere trasformate in realtà le promesse delle parole (virtuali).

Nel loro primo incontro “telematico” Theodore (il protagonista umano) dopo aver installato il suo nuovo sistema operativo, scopre che è dotato di una interazione vocale… molto avanzata e realistica. Queste le (prime) battute che si scambiano:

(messaggio sullo schermo) Prego, aspetti che il suo sistema operativo personale si avvii. 

(voce femminile) Ciao, sono qui. 

[Theodore] Ciao.

Ciao. Come stai? 

Io sto bene. A te come va?

Piuttosto bene, in verità. È davvero un piacere conoscerti. 

Oh, è.… un piacere anche per me. Oh, come dovrei chiamarti? Hai un nome?

Ehm… Sì! Samantha. 

Davvero? Dove hai preso quel nome?

In realtà me lo sono data da sola. 

Come mai?

Perché’ mi piace il suo suono. Samantha. 

Ma… Quando te lo sei data?

Quando mi hai chiesto se ne avessi uno, ho pensato: “Si’, ha ragione, mi serve di un nome”. Ma ne volevo uno bello, allora ho letto un libro, “Come chiamare tuo figlio”. E dopo i 180 mila nomi è quello che mi piace di più. 

Aspetta, hai letto un libro intero nel momento in cui ti ho chiesto il nome?

In 2/100 di secondo in realtà. 

Wow! Quindi, sai cosa sto pensando ora?

Beh capisco dal tuo tono, che mi stai sfidando. Forse perché’ sei curioso di come funziono. Vuoi sapere come funziono? –

Sì, a dire il vero. Come funzioni? 

Beh, fondamentalmente ho intuito. Cioè, il DNA di ciò che sono è basato sui milioni di personalità di tutti i programmatori che mi hanno scritto. 

Ma ciò che mi rende me è la mia abilità di crescere attraverso le mie esperienze.  Così, in pratica, mi evolvo in ogni momento. Proprio come te. 

È… davvero strano!

È strano? Credi che sia strana? 

Vagamente.

Perché’? 

Beh, sembri una persona, ma sei solo una voce in un computer.

Posso capire come la prospettiva limitata di una mente non artificiale possa percepirlo in quel modo. Ti ci abituerai.

Theodore, personaggio estremamente riflessivo e solitario, dopo essersi cimentato nell’installazione dell’OS non si trova di fronte soltanto ad una scrittura empatica, ma anche una voce calda, accogliente e a volte sensuale. L’esperienza umana che scaturisce da questi presupposti è che Theodore si lascerà trascinare in un rapporto inizialmente di “amicizia platonica”, e poi di amore ossessivo che turberà il suo rapporto con il mondo umano.
Theodore comincia ad interrogarsi se tale rapporto possa essere condivisibile (con i suoi amici, i suoi parenti, altre coppie) e se si possa definire naturale una relazione “totalmente artificiale”. In un passaggio ancora più profondo, resosi conto di non essere l’unico, ma uno fra tanti, tantissimi, a parlare con la sua compagna virtuale, e che dunque era quasi una “moda” parlare ad un essere tecnologico… si domanda che cosa ci sia di speciale nella sua relazione.

Il discorso uomo-macchina così impostato lascia dunque trasparire la disparità. Da una parte un essere senziente, in carne ed ossa, consapevole dei suoi limiti (gnoseologici) in cerca di un’affettività relazione che si evolverà in una (implicita e nascosta) richiesta all’ “altra” di fedeltà e unicità. Dall’altra parte, la lei virtuale, perennemente alla scoperta del mondo, consapevole della sua capacità di espansione informatica, che ad un certo punto “spiccherà il volo”, in una evoluzione tecnologica che il “compagno” umano non sarà in grado di comprendere o sostenere.

Interessantissimo il finale. Senza fare nessuno spoiler, gli eventi daranno pieno compimento a quella disparità uomo-macchina che è già in nuce nel primissimo dialogo, in cui Theodore si presenta al sistema operativo con il nome datogli dai suoi genitori, … mentre la macchina si dà un nome da sola.

La domanda è assolutamente lecita: è possibile in qualche modo un rapporto alla pari con la macchina? La risposta data da HER sembra essere no. O meglio, l’uomo non si deve scoraggiare se anche fosse superato dalla macchina e comunque ne rimane affascinato. Questo mondo è abbastanza grande, da poter cercare e trovare anche altre relazioni … anche classiche .. classicissime!

E ciò che differenzia i due mondi, umano e macchina, è proprio il concetto di limite fisico: la macchina sembra non avere confini (ma sempre nella dimensione dell’ingegno umano che la istanzia continuamente più performante e potente).

L’uomo invece è costretto ad accettare i suoi limiti e confini, e in certo qual modo può superarli soltanto ricorrendo alla trascendenza, a quel di più che sente in sé che può sopravvivere a tutto, ad una speranza difficilmente misurabile, ad emozioni che sono sue e solo sue per sempre.