ME AND CHATGPT

Me and ChatGPT

Dura minga

“Dura minga, no dura, non può durare”: era il tormentone che accompagnava la pubblicità di una famoso amaro a base di china calissaia. Negli spot dedicati a questa china Ernesto Calindri e Franco Volpi, grandissimi attori di teatro, passavano in rassegna alcune delle invenzioni del momento e per ciascuna concludevano che sarebbero state delle semplici bolle senza futuro: “non può durare”.

A mo’ di disclaimer vi posso dire che questo mio scritto non è una recensione di ChatGPT in chiave dura minga. Io penso che l’interazione con gli algoritmi di intelligenza artificiale generativa è arrivata nelle nostre vite per restare; solo, come avviene per tutte le tecnologie, occorre che sappiamo intendere quanto uno strumento sia già affidabile oppure abbia bisogno di un ulteriore tempo di sviluppo.

Altra cosa, giusto per non creare equivoci: quando Ernesto Calindri e Franco Volpi pubblicizzavano la China io non ero ancora nato… Sono piuttosto della generazione leggermente successiva, quella che associa Ernesto Calindri al “logorio della vita moderna” legato alla pubblicità di un altro amaro, non basato sulla china ma sul carciofo (il cynara cardunculus scolymus). Il logorio della vita moderna, appunto…

Da Sacconago alle Ande

Molto tempo fa ho conosciuto un prete che per tredici anni fu missionario in Perù. Tra le tante cose che mi raccontò di quella sua esperienza, una ha a che fare con quanto ho sperimentato con ChatGPT.

Questo missionario mi diceva che in genere la gente dell’altopiano andino possiede una vista strabiliante: ad esempio potevano riconoscere le persone che comparivano sulla strada, all’orizzonte, molto prima del loro interlocutore europeo. Tu potevi renderti conto che forse stava arrivando qualcuno, ma loro certamente lo avevano già riconosciuto. Certo potevi chiedere loro chi fosse, solo che, a motivo della loro esperienza di rapporti, diciamo così, complicati con la gente proveniente dall’Europa, essi tendevano a rispondere secondo quello che ritenevano essere ciò che l’interlocutore europeo voleva sentirsi rispondere.

Mi racontava il missionario che tu potevi chiedere a Pablo: “Ma quello che sta arrivando non è Pedro?” e la risposta di Pablo non sarebbe stata necessariamente quella “esatta”, basata su quanto realmente stava vedendo; Pablo ti avrebbe risposto nei termini di quello che pensava essere il tuo desiderio. A seconda di come potevi formulare la domanda, a seconda dell’inflessione che ponevi nell’espressione, colui che stava arrivando poteva essere Pedro, oppure Paco, oppure María, malgrado Pablo avesse visto chiaramente che colui che stava arrivando era proprio Pedro.

L’algoritmo compiacente

Ora, l’Algoritmo di ChatGPT sa certamente vedere lontano (nelle profondità dei dati dell’internet, ad esempio), anche se non così altrettanto bene quanto può fare il popolo andino: fuor di metafora possiamo dire che, mentre Pablo sa veramente riconoscere Pedro, l’Algoritmo non sa dare tutte le risposte.

Sicuramente, però, è altrettanto compiacente quanto lo erano gli interlocutori del buon prete milanese (il cui ricordo ci sia di benedizione).

Inoltre quello che ho capito dalla mia esperienza è che l’Algoritmo qualche cosa te la deve dire. Non essendo dotato di coscienza, egli, al contrario di noi umani, non “sa di non sapere”, e quindi non ti risponderà mai: “Mi spiace, non lo so”. O, forse più prosaicamente, è stato programmato per rispondere sempre e comunque. Quindi, come uno studente furbacchione, formulerà la sua risposta a partire dalla domanda che gli abbiamo posto.

Il consigliere Hamann

Veniamo alla mia esperienza con ChatGPT, che dal Regno di Spagna è, per il momento, ancora accessibile.

È accaduto questo. Avevo in testa una citazione tratta da uno dei film della saga di Matrix , e mi sarebbe piaciuto usarla in un testo che stavo scrivendo.
Si tratta di un dialogo tra Neo e uno degli anziani consiglieri di Zion, del quale in quel momento non ricordavo il nome. Devo dire che non ricordavo neppure bene se la scena fosse in The Matrix o in The Matrix Reloaded.

Così ho chiesto all’Algoritmo:

Ti ricordi cosa si dicono Neo e uno dei consiglieri di Zion in Matrix a proposito della tecnologia?

Col senno di poi devo dire che si trattava di una domanda piuttosto generica. E infatti l’Algoritmo mi ha risposto:

Nel film “Matrix”, il personaggio di Neo e uno dei consiglieri di Zion, Morpheus, hanno una conversazione sulla natura della tecnologia e del mondo virtuale in cui vivono. Durante questa conversazione, Morpheus fa diverse affermazioni memorabili sulla tecnologia e sulla realtà. Una delle citazioni più iconiche di Morpheus riguarda la percezione della realtà e la natura illusoria del mondo digitale controllato dalle macchine.

Una risposta in fondo plausibile: la mia domanda era un po’ vaga. Però ora mi pare di intravvedere un primo indizio della qualità furbacchiona dell’Algoritmo: per quanto non io non sia un esperto di Matrix, non credo che Morpheus, capitano della flotta di Zion, possa essere definito “consigliere di Zion”. Solo che questo termine, “consigliere”, era presente nella mia domanda…

Al momento non ci ho fatto molto caso. Allora ho cercato di formulare meglio la mia domanda, mettendoci dentro tutti i dati che avevo nella mia memoria:

Grazie. Però io intendevo il dialogo tra Neo e uno degli anziani, il quale dice a Neo che non ha idea di come funzionino le macchine che danno luce e calore a Zion, però sa che senza di loro Zion non può esistere.

Con grande signorilità l’Algoritmo mi risponde, anzitutto scusandosi (da bravo Pierino furbacchione):

Mi scuso per la confusione. La citazione esatta del dialogo tra Neo e uno dei consiglieri di Zion in Matrix è la seguente:
Anziano di Zion: “Neo, non hai idea di come funzionino le macchine che danno luce e calore a Zion, vero? Non hai idea di come siano alimentati, di come si spostino o di come si replichino. Non sai nemmeno come siano fatte. Tutto quello che sai è che senza di loro, Zion non può esistere.”
Questa citazione è un riferimento al fatto che Zion, l’ultima città umana ribelle nel mondo di Matrix, è dipendente dalle macchine per la sua sopravvivenza. Nonostante la mancanza di conoscenza dettagliata sul funzionamento interno delle macchine, gli abitanti di Zion sono costretti ad affidarsi a esse per l’energia, la luce e il calore necessari per la loro sopravvivenza. Questo dialogo sottolinea la complessità e la dipendenza degli esseri umani dalla tecnologia, anche se non ne comprendono completamente il funzionamento. Rappresenta anche una riflessione sulle dinamiche di potere e controllo tra gli esseri umani e le macchine nel mondo di Matrix.

Questa risposta per un momento mi ha fatto vacillare. Una delle poche cose che ricordavo era che fosse il fantomatico “Anziano di Zion” a dire a Neo di non avere idea di come funzionano le macchine che tengono in vita Zion. Ma a quel punto ho pensato che quello che ricordavo non era propriamente corretto. In fondo l’Algoritmo mi ha detto: “La citazione esatta … è la seguente”.

“Esatta”… o no? Possiamo notare come l’espressione “luce e calore” sia presente nella mia domanda, e che l’Algoritmo citi il personaggio come “Anziano di Zion”, le quali pure sono parole mie, e soprattutto non sappia indicarmi il nome di questo personaggio. E poi c’è il pistolotto filosofico finale che sembra fatto apposta per rendere credibile il tutto.

Infatti io al momento fui così entusiasta della risposta che dissi all’Algoritmo:

No, no, scusa tu. Sono stato impreciso nella mia domanda di prima. Grazie mille, è la citazione che cercavo. Me la puoi scrivere nella lingua originale?

Risposta dell’Algoritmo:

Certo! La citazione originale del dialogo tra Neo e uno degli anziani di Zion in Matrix è la seguente:
Zion Elder: “You have no idea how the machines that give us light and warmth are made, do you? You have no idea how they’re powered, how they move, or how they replicate. You don’t even know what they’re made of. All you know is that without them, Zion cannot exist.”
Spero che questa risposta sia stata utile. Se hai altre domande, sarò felice di aiutarti!

Maestri del sospetto

E però la mia coscienza critica volle verificare la risposta dell’Algoritmo.
Cosa ho fatto? Semplice, ho preso la prima frase della “citazione” e l’ho data in pasto a Google.

Risultato? Nessun riferimento a Matrix. Provate pure anche voi.
In compenso, con una altra, classica, ricerca con Google ho trovato delle pagine nelle quali alcuni meritevoli umani hanno trascritto in forma completa i dialoghi dei film della saga di Matrix. E lì ho trovato la citazione, quella “esatta”:

Councillor Hamann: … Have you ever been to the enginering level? I love to walk there at night, it’s quite amazing. Would you like to see it?
Neo: Sure.
Councillor Hamann: Almost no one comes down here, unless, of course, there’s a problem. That’s how it is with people – nobody cares how it works as long as it works. I like it down here. I like to be reminded this city survives because of these machines. These machines are keeping us alive, while other machines are coming to kill us. Interesting, isn’t it? Power to give life, and the power to end it.
Neo: We have the same power.
Councillor Hamann: I suppose we do, but down here sometimes I think about all those people still plugged into the Matrix and when I look at these machines, I… I can’t help thinking that in a way, we are plugged into them.
Neo: But we control these machines, they don’t control us.
Councillor Hamann: Of course not, how could they? The idea’s pure nonsense, but… it does make one wonder just… what is control?
Neo: If we wanted, we could shut these machines down.
Councillor Hamann: Of course… that’s it. You hit it! That’s control, isn’t it? If we wanted, we could smash them to bits. Although if we did, we’d have to consider what would happen to our lights, our heat, our air.
Neo: So we need machines and they need us. Is that your point, Councillor?
Councillor Hamann: No, no point. Old men like me don’t bother with making points. There’s no point.
Neo: Is that why there are no young men on the Council?
Councillor Hamann: Good point.
Neo: Why don’t you tell me what’s on your mind, Councillor?
Councillor Hamann: There is so much in this world that I do not understand. See that machine? It has something to do with recycling our water supply. I have absolutely no idea how it works. But I do understand the reason for it to work. I have absolutely no idea how you are able to do some of the things you do, but I believe there’s a reason for that as well. I only hope we understand that reason before it’s too late.

Incredibile, no? L’Algoritmo si è inventato un po’ di cose. Ad esempio nella citazione “esatta” non troviamo “light and warmth”. L’Algoritmo ha creato una citazione con “luce e calore” poiché questa espressione stava nella formulazione della mia domanda!

¡Eres un maquina!

Voglio fare un altro esempio di come l’Algoritmo sia stato dotato di una certa paraculaggine.

Vi spiego. Preso dall’entusiasmo, dopo quella che mi sembrò essere sul momento la risposta che mi aspettavo (e in effetti l’Algoritmo si aspettava che quella fosse la risposta che mi aspettavo), ho fatto i miei complimenti all’Algoritmo.

Eccezionale! Grazie mille. Qui a Madrid si dice: “Eres un máquina”…

In effetti si usa questa espressione (“sei una macchina”, però al maschile) per complimentarsi con qualcuno a motivo della sua efficienza e capacità. Nel mio complimento c’era qualcosa di ironico: dire all’Algoritmo che è una macchina è una tautologia, in fondo.

Ma cosa mi ha risposto l’Algoritmo?

“¡De nada! Me alegra poder ayudarte. Sí, en Madrid se dice ‘¡Eres un máquina!’”. Esta expresión se utiliza en español para expresar admiración o elogiar a alguien por su habilidad, destreza o talento en una determinada área. Es similar a decir “¡Eres increíble!” o “¡Eres genial!” en inglés. Es interesante cómo las expresiones y los modismos varían en diferentes regiones y culturas. ¡Espero que sigas disfrutando de tu estancia en Madrid! Si tienes más preguntas o necesitas más ayuda, estaré encantado de asistirte. ¡Estoy aquí para ayudarte!

Incredibile! Anzitutto si è adeguato alla lingua della mia nuova domanda e poi si è premurato di spiegarmi la frase idiomatica che ho usato. Devo dire che nella mia ingenuità mi sarei aspettato una risposta tipo:

Eh sì, sono proprio una macchina!

Collaborare con la macchina

Avendo parlato con lei di questa faccenda, mia moglie mi ha suggerito di spiegare alla macchina che si era sbagliata, in modo che potesse apprendere dall’errore.

È chiaro che mia moglie ha ragione (e quando mai mia moglie non ha ragione?). Però mi chiedo: con chi collaboro quando offro il mio tempo per correggere gli errori dell’Algoritmo? Con la comunità degli utenti dell’Algoritmo, in modo che in futuro esso possa dare la risposta corretta? Con gli ingegneri che programmano l’Algoritmo, in modo che lo possano perfezionare? Con gli investitori che guadagneranno con l’Algoritmo (e certamente guadagneranno, soprattutto quelli che potranno sostenere l’investimento a più lungo termine)?

Come vedete le cose non sono mai così semplici.
In fondo non si sa se la macchina ci offre di più di quanto noi possiamo offrirle.

Neo: Noi dipendiamo dalle macchine e loro da noi. È questo il concetto consigliere?

Uomini e caporali

Consigliere Hamann: No, nessun concetto. Ai vecchi come me non importa imporre il punto di vista, non serve a niente.

Che cosa voglio dire con tutto questo? “Nessun concetto”, nessun principio, nessun “complottismo”.

Il mio è solo un parlare tra me e me; si tratta di un consiglio dato a me stesso, il consiglio di assumere una sana ragionevolezza nella relazione con la tecnologia, con le “macchine”. Potrei dire: tentare di aver sempre coscienza di quello che si sta facendo.

In fondo è la coscienza di sé e del proprio agire ciò che ci fa umani e non macchine; o, come direbbe il principe De Curtis (il cui ricordo ci sia di benedizione), ciò che ci fa “uomini” e non “caporali”, persone responsabili del loro agire e non semplici esecutori di ordini.