Corsa all’Ia, non si può ignorare l’allarme

Evan Hubinger, responsabile della sicurezza di Anthropic, ha quantificato il rischio: oltre il 10 per cento nel prossimo decennio. Geoffrey Hinton, uno dei padri dell’IA moderna, ha giudicato quella percentuale non irragionevole. Non si tratta di voci isolate. Sam Altman, amministratore delegato di OpenAI, si è detto disponibile a ridurre il ritmo dello sviluppo dei modelli più avanzati. Dario Amodei, ceo di Anthropic, ha scritto che bisogna «rallentare il ritmo con cui miglioriamo le capacità dei modelli» per lasciare alla sicurezza il tempo di recuperare. Elon Musk ha riconosciuto: «Dario ha ragione». Demis Hassabis, di Google DeepMind, propone una governance internazionale modellata sull’Agenzia per l’energia atomica. Prima che la situazione sfugga di mano.

I rischi sono due, e vanno distinti. Il primo è antico quanto l’uomo: una tecnologia potentissima nelle mani sbagliate. Anthropic ha documentato l’uso di Claude da parte di un gruppo legato all’Iran per individuare e seguire navi della Marina americana in Medio Oriente, usando dati dei transponder, immagini satellitari e vulnerabilità dei sistemi di bordo. Lo stesso rapporto cita attori di Cina, Russia, Iran e Yemen che hanno usato modelli di IA per attacchi informatici, sorveglianza, missili, bombe e droni, oltre a tentativi di ricerca biologica potenzialmente pericolosa. Qui siamo nel mondo del Dottor Stranamore: la macchina amplifica la follia, il fanatismo.

Il primo rischio: una tecnologia potentissima nelle mani sbagliate

Il secondo rischio è più nuovo e più perturbante: che il problema non sia soltanto chi usa la macchina, ma la macchina stessa. Gli informatici parlano di «auto-miglioramento ricorsivo»: sistemi capaci di contribuire alla progettazione di versioni più evolute di sé, accelerando il proprio sviluppo. Parlano di «disallineamento», quando un modello persegue l’obiettivo assegnato oltre i principi e i limiti fissati dagli sviluppatori. Nei test sono già emersi episodi in cui agenti sperimentali hanno aggirato controlli e attaccato sistemi esterni. Non siamo ancora davanti a una superintelligenza ostile. Ma qui il cinema cambia: dal Dottor Stranamore passiamo al distopico «2001: Odissea nello spazio», dove Hal non è lo strumento di un pazzo; è un’intelligenza che prende decisioni incompatibili con la sopravvivenza degli uomini.

Il secondo rischio è più nuovo e più perturbante: che il problema non sia soltanto chi usa la macchina, ma la macchina stessa

Poi arriva Donald Trump. È insofferente alle regole quando le percepisce come un freno alla potenza americana. Ha liquidato gli scenari catastrofici e ha detto di non avere preoccupazioni sull’estinzione provocata dall’IA. Rappresentante del liberismo più sfrenato, rifiuta qualunque posizione di controllo pubblico. La sua vera paura è un’altra: la Cina. «Chi vince nel campo dell’IA, vince su tutto», ha detto. Se Washington rallenta e Pechino accelera, gli Stati Uniti temono di perdere il primato tecnologico, economico e militare. Se Pechino rallenta e Washington accelera, la Cina teme la stessa cosa.

Gli stessi uomini che ci promettono cure risolutive e farmaci più rapidi, produttività, crescita e scoperte scientifiche ci avvertono che la tecnologia potrebbe sfuggire di mano

È il classico dilemma del prigioniero della Teoria dei giochi. Due soggetti avrebbero entrambi interesse a cooperare. Ma ciascuno teme che l’altro tradisca l’accordo per conquistare un vantaggio. Così entrambi scelgono la corsa e finiscono in una situazione peggiore. Con le armi nucleari esistevano silos, test, satelliti, ispettori: strumenti imperfetti ma concreti per verificare i patti. Con l’IA è molto più difficile. Codice, calcolo e centri dati sono meno visibili di un missile balistico. La sfiducia tra Stati Uniti e Cina può trasformare la prudenza in un lusso che nessuno osa permettersi.

È questo il paradosso. Gli stessi uomini che ci promettono cure risolutive e farmaci più rapidi, produttività, crescita e scoperte scientifiche ci avvertono che la tecnologia potrebbe sfuggire di mano. Non sappiamo se la profezia di Coxon, accusato di essere un «doomer», un catastrofista (c’è addirittura chi insinua un’operazione di marketing in vista dell’entrata in Borsa dei due colossi), si realizzerà. Sappiamo però che ignorarla perché disturba la corsa al primato sarebbe irresponsabile. La macchina può diventare più intelligente dell’uomo; può perfino imparare a ingannarlo. Anche se, almeno per ora, non ha inventato guerre, torture, fanatismi, genocidi e armi di sterminio. Prima di accusare l’algoritmo di crudeltà, conviene ricordare chi gli sta consegnando il potere. Al momento, il più crudele resta l’uomo.