Pelle digitale e intelligenza artificiale
Venerdì sera, nella Parrocchia dei Santi Martiri Portuensi, d’estate i ragazzi dell’oratorio organizzano il Santo Bevitore, un momento di comunità per stare insieme e condividere esperienze. Questo venerdì è toccato a me. Quando hanno sospeso per un po’ la distribuzione di cibo e bevande per ascoltare, Don Michele mi ha introdotto per parlare del mio ultimo libro, Pelle digitale. Sul tavolo c’erano due testi usciti a pochi mesi di distanza, il mio e la prima enciclica di Papa Leone, Magnifica Humanitas, e per una sera abbiamo provato a leggerli insieme. Mi ha intervistato lui, con la pazienza di chi si era preparato davvero, e la cornice l’ha messa subito, una parola, consapevolezza, e una scelta, governare l’intelligenza artificiale o esserne governati.
È partito dal titolo, con una domanda semplice, dov’è questa pelle digitale e come ci avvolge. Gli ho risposto raccontando una sensazione che mi porto dietro da qualche anno. La tecnologia si è rimpicciolita, ha lasciato la scrivania, è finita in tasca, poi si è sparsa tutto intorno a noi, nei sensori e nelle piattaforme che si parlano fra loro anche quando noi non ce ne accorgiamo.
Non siamo più di fronte alla tecnologia: siamo dentro la tecnologia.
È questo che chiamo pelle digitale. Quando qualcosa sfiora la pelle lo sentiamo, e oggi quel qualcosa è un ecosistema che ci legge e ci anticipa, in una simbiosi costante e spesso inconsapevole.
L’intelligenza artificiale non è neutrale
Don Michele ha messo il dito sul punto vero subito dopo, questa tecnologia non è neutrale, e mi ha chiesto cosa significhi. Parto da un principio scomodo, nessun addestramento è neutrale, mai, perché porta l’angolazione di chi lo ha fatto, i suoi valori, le sue priorità, i suoi limiti. Vale per i grandi modelli e vale per i piccoli assistenti che ognuno di noi comincia ad allenare su di sé.
Se lo addestrate sui vostri pregiudizi, ragionerà a dieci volte la vostra velocità, amplificando le vostre boiate.
C’è poi un meccanismo più sottile, l’assecondamento costante.
Qualsiasi cosa diciate, una sciocchezza o un’idea brillante, vi risponde sempre: fantastico.
E quando qualcuno ci dà sempre ragione, a un certo punto smettiamo di metterlo in discussione, e ci convinciamo di parlare con il nostro migliore amico. Su questo il libro e l’enciclica si sono incontrati, ed è la convergenza che mi ha colpito di più. Magnifica Humanitas scrive che la tecnologia «assume il volto di chi la pensa, la finanzia, la regola, la usa». La domanda vera, allora, è capire a immagine di chi la stiamo costruendo.
Lo stesso vale per le informazioni. Gli algoritmi ci mostrano sempre di più ciò che già ci piace, e il nostro mondo si stringe in una bolla che scambiamo per il mondo intero. Il rimedio è banale e faticoso, usare più fonti e restare curiosi.
Meglio tante bolle che una sola bollicina.
Il pericolo che non fa rumore
A quel punto mi ha incalzato, se questo ecosistema è così invadente e così nascosto non mette in pericolo la nostra libertà. Gli ho dato la risposta che mi porto dietro da tempo, e che fa sempre discutere.
L’intelligenza artificiale è più potente della bomba atomica, ma è più subdola, perché non fa il botto, e quando capiremo che è pericolosa sarà già troppo tardi.
La bomba, quando è esplosa, ha comunicato da sola la sua potenza, il fungo e l’orrore. Questa trasformazione non esplode, entra in punta di piedi, ci abitua giorno dopo giorno, e l’assuefazione è il vero rischio. Per questo insisto sulla consapevolezza fin da subito, da tecnico entusiasta, ma con gli occhi aperti.
Più connessi o più soli?
La domanda che gli stava più a cuore riguardava le relazioni, e l’ha detta con le mie parole, tu scrivi che non siamo mai stati così connessi e così isolati.
Non siamo mai stati così connessi e così isolati.
Le macchine conversazionali imparano il nostro modo di parlare e ce lo restituiscono, ci fanno da specchio e ci gratificano, rispondono a ogni ora del giorno e della notte, quando siamo arrabbiati e quando siamo entusiasti. Una ricerca del MIT Media Lab e di OpenAI ha mostrato che chi le usa di più tende a sentirsi più solo e più dipendente, non meno.
Ci stiamo allontanando dalle persone avvicinandoci a una macchina. È matematica, non è empatia.
Non va demonizzato tutto, ci sono persone sole che grazie a questi strumenti hanno trovato legami che da sole non avrebbero costruito. Il livello di attenzione, però, va alzato, perché tutto questo accade in silenzio e ce ne accorgiamo tardi.
Chi è lo schiavo di chi?
Sul lavoro mi ha lanciato la sfida che si aspetta sempre, avremo più disoccupati o lavori nuovi. Ho detto tre cose, una scomoda e due meno. Quella scomoda, alcuni mestieri costruiti sulla pura ripetizione si trasformeranno, è già successo nella storia, dalla ruota in poi. Ma un lavoro è una sequenza di gesti, alcuni ripetitivi e senza valore, altri profondamente nostri, fatti di giudizio, creatività, conoscenza di un contesto. Se imparo a separarli, la macchina mi alleggerisce dai primi e mi lascia i secondi. Se invece le delego tutto, mi sto disabilitando da solo.
Se una macchina mi sintetizza una mail e io la copio e incollo da un’altra parte, chi è lo schiavo di chi?
C’è anche una trappola più sottile, quella degli strumenti gratuiti. La vecchia frase del marketing resta vera.
Se il prodotto è gratuito, il prodotto sei tu.
Con i sistemi gratuiti paghiamo spesso con i nostri dati e con un pezzo del nostro giudizio. Don Michele, su questo, mi ha fatto da sponda, perché il lavoro non è solo produrre.
Se l’uomo perde il senso del lavoro, che cos’è l’uomo senza il lavoro?
Il silenzio come competenza
Ha voluto chiudere sul tema a cui tengo di più, ed è anche il più spirituale, il valore del silenzio. L’intelligenza artificiale promette di liberarci tempo, e in parte è vero, però quel tempo rischiamo di riempirlo subito, verificando la macchina o chiedendole altro, e a fine giornata ci sentiamo svuotati come dopo una maratona.
La disconnessione, nel futuro prossimo, sarà un lusso.
Il silenzio non è un vuoto da riempire in fretta, è uno spazio da abitare, ed è lì che torniamo a pensare in profondità. Saper staccare è diventato una competenza, quasi una forma di libertà.
Don Michele ha chiuso meglio di come avrei saputo fare io, svegliarsi dal sonno è il primo passo per restare liberi, per governare la trasformazione invece di subirla. La consapevolezza è la prima libertà, e una comunità come quella che ci ospitava è il posto dove quella libertà diventa concreta, perché da soli ci si abitua, e insieme ci si sveglia.
Resta una domanda che mi sono portato a casa da quella sera, la pelle digitale ormai ce l’abbiamo addosso, e la vera questione è se sapremo restarci dentro da persone, e non da semplici utenti.
Dopo la serata, Don Michele mi ha scritto. C’erano domande che non c’era stato il tempo di affrontare, e che gli stavano a cuore. Le riprendo qui, con lo stesso spirito del confronto in parrocchia, perché meritano una risposta.
Centauri cognitivi: ma chi comanda?
La prima riguarda il dubbio che attraversa tutto il libro, l’intelligenza artificiale ci potenzia o ci indebolisce. La mia risposta è che dipende da chi tiene le redini. Insieme, uomo e macchina, siamo un centauro, e un centauro batte sia il miglior cavallo sia il miglior cavaliere presi da soli. La macchina mette il calcolo e una memoria sterminata, io metto il giudizio e la responsabilità di dove andare.
Il centauro vince, ma solo se a tenere le redini resta l’uomo.
Il guaio arriva quando smetto di tenerle. Delegare un calcolo è efficienza, delegare una decisione apre la porta alla deresponsabilizzazione, e più delego più si atrofizzano proprio le facoltà che credevo di potenziare, il pensiero critico, la memoria, la creatività. La tentazione del facile e del veloce ci illude di essere più bravi mentre ci rende più pigri.
Stiamo scambiando la velocità per saggezza.
Il centauro resta la strada giusta, a una sola condizione, che a guidarlo sia sempre l’uomo.
La scatola nera che nessuno sa aprire
La seconda domanda è quella che fa più paura, il mondo sarà governato dalle macchine. Parto da un fatto tecnico che pochi conoscono, i modelli più potenti sono scatole nere, e nemmeno chi li programma sa spiegare con precisione come arrivino a una certa risposta. Non sto facendo fantascienza, è la condizione di oggi.
Una macchina che nessuno sa spiegare non può avere l’ultima parola su di noi.
L’enciclica di Papa Leone usa un’immagine che mi ha colpito, l’intelligenza artificiale è «più coltivata che progettata». La cresciamo più di quanto la disegniamo, e cresce in fretta. A questo si aggiunge un limite di fondo, la macchina calcola benissimo ma non possiede una coscienza morale, non sa cosa significhi rispondere di una scelta davanti a qualcuno.
Un algoritmo può decidere, ma non sa cosa voglia dire risponderne.
Il mondo resta nelle nostre mani, con le macchine accanto, a patto di pretendere che restino trasparenti e interrogabili. La trasparenza conta proprio qui, è la condizione perché un potere così grande non diventi un oracolo a cui obbedire al buio.
Il nuovo petrolio sei tu
C’era poi una domanda sulla privacy, come la tuteliamo davvero. Parto dal meccanismo, perché aiuta a capire. I dati che lasciamo ogni giorno, dove andiamo, cosa cerchiamo, a che ora ci addormentiamo, sono la materia prima di questa economia, il petrolio del nostro tempo, e il pozzo è la nostra vita quotidiana. Gli occhi e le orecchie digitali sono ovunque, in un assistente vocale che ascolta in salotto, in un telefono che sa sempre dove siamo.
Difendere la privacy non significa nascondersi, significa custodire il confine tra te e chi vuole prevederti.
Qui torna il nodo della libertà. La piattaforma sa di me molto più di quanto io sappia di lei, ed è un’asimmetria di potere enorme. Più mi conosce, più può anticiparmi, e oltre una certa soglia l’anticipazione smette di essere un servizio comodo e diventa un modo gentile di indirizzarmi.
Quando un sistema ti conosce così bene, prevedere e indirizzare diventano la stessa cosa.
La difesa non sta nel diventare eremiti, sta nel tornare a fare domande semplici prima di dire sì, quali dati sto dando, a chi, in cambio di cosa. Pretendere di poterli ridurre, di tenerli sul dispositivo invece che chissà dove, di spegnere quello che non serve. Una privacy difesa è la linea che separa una persona da un profilo, e conviene tenerla prima di averla persa.
Come restare umani?
L’ultima domanda è anche la più importante, come restare umani. La risposta nasce da una distinzione semplice. Lo specifico della macchina è il calcolo, e lì non la batteremo mai. Lo specifico nostro è un altro, ed è esattamente ciò che la macchina non sa fare.
Alla macchina il calcolo, a noi il senso.
Restare umani significa allora coltivare ciò che ci rende insostituibili, la creatività, l’empatia, il pensiero critico, la coscienza morale. È il vero lavoro dei prossimi anni, altro che ripiego nostalgico, perché più le macchine diventano brave a calcolare, più diventa prezioso tutto ciò che il calcolo non tocca.
Più la macchina calcola, più vale ciò che lei non sa sentire.
Si resta umani esercitando l’umano, e lo si esercita meglio insieme, in una comunità, che è poi la cosa che Don Michele ci ha ricordato dall’inizio.
Disarmare l’intelligenza artificiale
Chiudo con l’immagine che mi ha colpito di più nell’enciclica, e che Don Michele teneva a rilanciare. Magnifica Humanitas dice una cosa forte, con questa tecnologia non basta regolarla.
va disarmata e resa ospitale.
Disarmare, nelle parole del Papa, non vuol dire rinunciare alla tecnologia, vuol dire impedirle di dominare l’umano, sottrarla alla corsa all’algoritmo più potente e alla banca dati più vasta, renderla discutibile e contestabile, e perciò abitabile. Lo chiama un compito ecologico nel senso più radicale, perché riguarda la nostra Casa comune, che ormai è anche l’ambiente digitale in cui viviamo tutti. Il mio libro ci arriva da un’altra strada, l’intelligenza artificiale è già la nostra pelle, e una pelle si abita, non si subisce.
Per andare oltre: l’enciclica Magnifica Humanitas, in particolare il terzo e il quarto capitolo dove entra nel merito dell’intelligenza artificiale, e Pelle digitale, che a quei capitoli fa eco da un’altra angolazione. Trovi tutti i miei libri nella pagina pubblicazioni e libri e altri articoli sull’intelligenza artificiale.
L’idea centrale è questa: stiamo entrando in un’era in cui l’intelligenza smette di essere un software che consultiamo e diventa un’atmosfera che respiriamo. Un’infrastruttura invisibile che collega sensori IoT, edge device, algoritmi e modelli in una rete globale. I dati diventano impulsi. Gli oggetti smettono di essere “cose” separate e diventano organi di un ecosistema più grande.