A ripercorrere quello che ho scritto sulla tecnologia in questi anni, non posso fare a meno di notare una tendenza ricorrente: abbiamo cambiato continuamente gli strumenti con cui raccontarci il futuro, ma siamo rimasti piuttosto fedeli alle nostre debolezze. Abbiamo prima affidato ai social network il compito di dirci chi siamo, poi abbiamo cominciato a preoccuparci di quello che sapevano di noi. Adesso conversiamo con macchine che producono testi, immagini e risposte e ci domandiamo se finiranno per sostituirci. Il percorso è stato meno lineare di quanto possa sembrare, ma il movimento di fondo è abbastanza riconoscibile: a ogni nuova possibilità tecnica abbiamo affidato una parte più consistente della nostra esperienza, salvo accorgerci soltanto dopo delle conseguenze.
Non ho mai pensato che la tecnologia fosse un nemico da cui difendersi. Sarebbe una posizione ingenua, oltre che poco interessante per chi, come me, si occupa di linguaggio e comunicazione, con un approccio psicosociale. Le tecnologie non arrivano da un altrove ostile: le progettiamo, le adottiamo, le finanziamo, le trasformiamo in abitudini. Ci consentono di fare cose che prima erano impossibili o troppo costose, modificano il nostro rapporto con lo spazio e con il tempo, ridisegnano le relazioni. Il punto è che non si limitano a offrirci nuove possibilità. Cambiano anche il modo in cui definiamo ciò che è normale, necessario, desiderabile.
Verso l’apocalisse?
L’ultima frontiera di questa trasformazione ha assunto contorni piuttosto teatrali: l’intelligenza artificiale potrebbe ucciderci tutti . Un finale decisamente impegnativo per una tecnologia che, nell’esperienza quotidiana, continua occasionalmente a inventarsi riferimenti bibliografici e a congratularsi con noi per domande tutt’altro che geniali. Il dibattito è più serio della sua caricatura. I rischi legati a sistemi sempre più autonomi non sono immaginari per definizione e le preoccupazioni sulla loro controllabilità sono legittime. Trovo però singolare che una parte dell’industria tecnologica sia riuscita a occupare contemporaneamente il ruolo di promotrice della rivoluzione, interprete privilegiata dei suoi pericoli e fornitrice delle soluzioni necessarie a contenerli. Una posizione commercialmente invidiabile: si vende il futuro, si avverte che potrebbe essere letale e si propone un abbonamento per affrontarlo con maggiore serenità.
La retorica dell’estinzione può trasformarsi in una forma particolarmente sofisticata di promozione commerciale. Naturalmente, il fatto che una previsione possa avere un’utilità economica non la rende automaticamente falsa. Ma dovrebbe renderci più esigenti nei confronti delle prove a carico di questa tesi. Günther Anders, filosofo tedesco noto per la sua riflessione critica sulla tecnica e sulla minaccia nucleare, aveva individuato molto prima dell’arrivo dei chatbot una frattura fondamentale della modernità tecnologica: la sproporzione tra ciò che siamo capaci di produrre e ciò che siamo capaci di immaginare, comprendere e governare.
Anders parlava anche di vergogna prometeica: il sentimento di inferiorità dell’essere umano di fronte alla perfezione dei propri prodotti. Oggi la declinazione potrebbe essere questa: abbiamo costruito sistemi capaci di produrre in pochi secondi ciò che a noi richiede ore, e abbiamo immediatamente cominciato a domandarci se fossimo diventati inutili. Una reazione comprensibile, ma che rivela un equivoco: abbiamo finito per misurare il valore dell’intelligenza umana con i parametri dell’efficienza delle macchine. Se scrivere velocemente è meglio che scrivere lentamente, se produrre dieci idee è meglio che elaborarne una, se rispondere subito è meglio che riflettere, allora abbiamo già deciso quale forma di intelligenza consideriamo superiore. E non è detto che sia una decisione particolarmente intelligente.
Il primo errore è stato chiamarla intelligenza
Continuo a trovare linguisticamente discutibile l’espressione «Intelligenza Artificiale» perché la parola «intelligenza» viene impiegata come se il suo significato fosse pacifico e universalmente condiviso. Gilbert Simondon, filosofo francese che ha dedicato una parte centrale del suo lavoro alla tecnica e agli oggetti tecnici, invitava a superare tanto l’ostilità quanto l’idolatria nei confronti delle macchine. Gli oggetti tecnici non sono entità estranee alla cultura: sono prodotti dell’attività umana, dotati di una propria organizzazione e di una storia evolutiva che occorre comprendere. L’alternativa non è venerarli o temerli, ma costruire una cultura tecnica capace di riconoscerne il funzionamento e il posto nella società.
Siamo esseri umani: antropomorfizzare ciò con cui interagiamo è una nostra tendenza consolidata. La differenza è che oggi l’oggetto della nostra proiezione è capace di sostenere una conversazione articolata e di restituirci esattamente il linguaggio che ci aspettiamo. Joseph Weizenbaum, informatico tedesco-americano e professore al MIT, se n’era accorto già negli anni Sessanta, quando sviluppò «ELIZA», un programma capace di simulare una conversazione attraverso semplici meccanismi linguistici. Rimase colpito dalla facilità con cui alcune persone attribuivano comprensione a un sistema che non ne possedeva nel senso umano del termine.
Quello che oggi chiamiamo «effetto ELIZA» descrive proprio la tendenza a proiettare comprensione e intenzionalità su un programma che produce risposte linguistiche plausibili. Questa dinamica è diventata enormemente più persuasiva con i sistemi contemporanei, le cui capacità sono incomparabilmente superiori a quelle di quel primo esperimento. Eppure il nostro atteggiamento sembra rimasto sorprendentemente simile. Non sto sostenendo che i sistemi attuali siano soltanto versioni più elaborate di «ELIZA» né che non possano manifestare capacità cognitive degne di questo nome. Sarebbe una semplificazione tecnicamente scorretta. Ritengo, piuttosto, che la competenza linguistica di una macchina non costituisca, da sola, una prova della sua comprensione del mondo, della sua coscienza o della sua intenzionalità. E soprattutto non dovrebbe bastare per conferirle un’autorità che non siamo disposti a riconoscere nemmeno a un essere umano senza prima interrogarci sulle sue competenze.
Costruire una versione di noi stessi
Negli articoli che ho scritto sui social network mi sono soffermata spesso sul rapporto tra identità, linguaggio e rappresentazione. Mi interessava capire quanto di ciò che mostriamo online corrisponda a ciò che siamo e quanto, invece, sia il risultato di una negoziazione continua con le aspettative degli altri.
Oggi quella riflessione mi sembra aver acquisito una dimensione ulteriore. Non ci limitiamo più a selezionare la versione di noi stessi che desideriamo mostrare. Possiamo chiedere a un sistema di costruirla per noi.
L’intelligenza artificiale scrive la nostra presentazione professionale, corregge il tono dei messaggi, suggerisce risposte diplomatiche, formula dichiarazioni d’amore, organizza le scuse e produce riflessioni che potremo pubblicare come nostre. Può aiutarci a trovare le parole quando ci mancano, e questa è una possibilità preziosa. Ma può anche diventare uno strumento attraverso cui sostituiamo progressivamente l’elaborazione del pensiero con la sua rappresentazione linguistica. Scrivere non significa soltanto trascrivere un pensiero già formato. Spesso significa costruirlo. Il linguaggio non è un contenitore neutro nel quale depositiamo idee preesistenti: partecipa alla loro organizzazione, permette di individuare contraddizioni, obbliga a scegliere, a precisare, a rinunciare.
Bernard Stiegler , filosofo francese che ha studiato il rapporto tra tecnica, memoria e società, considerava la tecnica una dimensione costitutiva dell’esperienza umana, non un semplice insieme di strumenti esterni. Il suo concetto di «proletarizzazione» non riguarda soltanto il lavoro industriale: si estende alla perdita di saper fare e saper vivere, alla progressiva esternalizzazione di capacità che contribuiscono alla nostra autonomia. Naturalmente non credo che utilizzare un assistente per scrivere una mail comporti la dissoluzione del pensiero occidentale. Sarebbe una conclusione sproporzionata, oltre che una curiosa forma di nostalgia per le comunicazioni aziendali. Ma credo che dovremmo distinguere tra l’uso di uno strumento per migliorare ciò che sappiamo fare e la rinuncia a esercitare una capacità perché uno strumento può produrne il risultato. La differenza, alla lunga, potrebbe essere tutt’altro che marginale.
Proviamo a immaginare una giornata ordinaria del 2035. La mia intelligenza artificiale riceve un messaggio dalla tua. Lo analizza, ne individua il tono, valuta il contesto e prepara una risposta. La tua intelligenza artificiale riceve la risposta della mia, la sintetizza e ti comunica che abbiamo avuto uno scambio costruttivo. Nel frattempo, noi non ci siamo detti assolutamente nulla.
Potremmo persino delegare la gestione dei conflitti sentimentali. Due assistenti si scambierebbero messaggi accuratamente calibrati, eliminerebbero le ambiguità, eviterebbero le parole che potrebbero ferire e raggiungerebbero un compromesso statisticamente soddisfacente. Noi continueremmo a non capirci, ma con una qualità comunicativa impeccabile. E non escludo che, a un certo punto, le nostre intelligenze artificiali possano sviluppare una relazione più stabile della nostra. Non perché provino sentimenti, ma perché avrebbero il vantaggio di non doversi confrontare con la parte più faticosa delle relazioni umane: l’alterità.
L’industria del futuro
Kate Crawford , ricercatrice e studiosa delle implicazioni sociali e politiche dell’intelligenza artificiale, nel libro «Atlas of AI» ha ricostruito la materialità dei sistemi di IA, ricordandoci che dietro l’apparente immaterialità degli algoritmi ci sono infrastrutture, risorse naturali, lavoro umano, concentrazioni di capitale e rapporti di potere. È un contributo essenziale per sottrarre il dibattito alla sua dimensione quasi mitologica. Parliamo continuamente di macchine che pensano, ma molto meno delle condizioni che permettono loro di funzionare.
L’intelligenza artificiale viene spesso rappresentata come una forza autonoma che avanza secondo una necessità interna. È una narrazione che fa comodo a chi detiene il monopolio della sua gestione perché trasforma decisioni umane in processi apparentemente inevitabili.
Se un’azienda automatizza una funzione, si dice che è stata l’intelligenza artificiale a sostituire un lavoratore. Se una piattaforma modifica le condizioni di accesso alle informazioni, si attribuisce il cambiamento all’evoluzione tecnologica. Se un sistema produce un errore, si dice che la macchina ha sbagliato. Il linguaggio distribuisce responsabilità. L’intelligenza artificiale diventa protagonista proprio quando sarebbe necessario identificare i soggetti che decidono come utilizzarla.
E così la discussione pubblica si concentra su una domanda spettacolare, se le macchine finiranno per prendere il controllo, mentre questioni molto più immediate rischiano di passare in secondo piano: chi controlla le infrastrutture, chi possiede i dati, chi stabilisce gli obiettivi, chi risponde degli errori e chi ha la possibilità di rifiutare una determinata applicazione. L’apocalisse ha il vantaggio di essere narrativamente irresistibile. E il linguaggio non è una questione secondaria. Non temo che le macchine diventino capaci di scrivere meglio di noi. In alcuni compiti lo sono già, e non vedo perché dovremmo considerarlo un affronto alla dignità umana. Temo che possiamo diventare meno esigenti nei confronti di ciò che leggiamo, scriviamo e pensiamo. Che la correttezza formale finisca per sostituire il rigore, che la velocità venga scambiata per competenza e che la disponibilità di una risposta ci faccia dimenticare la necessità di verificarla.
Continuiamo a domandarci quando le macchine saranno abbastanza intelligenti da prendere il nostro posto, senza chiederci con la stessa insistenza quale posto intendiamo occupare noi. Se riduciamo il pensiero alla produzione di risposte, la scrittura alla generazione di testi, le relazioni allo scambio di messaggi e la conoscenza alla disponibilità immediata di informazioni, abbiamo già preparato il terreno per considerarci sostituibili. Non sarà stata l’intelligenza artificiale a imporci questa definizione impoverita dell’umano. L’avremo costruita noi.
A quel punto, potremmo persino ritrovarci a leggere un articolo scritto da un’intelligenza artificiale, commentato da un’altra, condiviso da una terza e riassunto dalla nostra assistente personale, che ci informerà di aver individuato una riflessione particolarmente interessante sul rapporto tra tecnologia e società. Noi, naturalmente, non avremo letto nulla, ma avremo un’opinione perfettamente formulata.
Forse è questa la prospettiva che dovrebbe preoccuparci più dell’estinzione: non che le macchine imparino a pensare come noi, ma che noi ci abituiamo a considerare il pensiero un’attività facoltativa.
