L’intelligenza artificiale può davvero sfuggire al controllo umano e arrivare a mettere a rischio la sopravvivenza stessa dell’umanità? La domanda, che fino a qualche anno fa poteva sembrare materia da fantascienza, è tornata con forza al centro del dibattito dopo una serie di allarmi arrivati proprio in questi ultimi giorni da chi lavora ai massimi livelli nello sviluppo dell’IA.

A riaccendere le preoccupazioni è stata anche la lettera di dimissioni di Jacob Coxon, ex responsabile del Safeguards Research Team di Anthropic, l’azienda che produce Claude, insieme a OpenAI, che ha accusato le grandi aziende tecnologiche di spingere sempre più sulla potenza dei sistemi di intelligenza artificiale senza dedicare altrettanta attenzione alla loro sicurezza. Secondo alcuni ricercatori, il rischio che sistemi sempre più autonomi possano diventare difficili da controllare, e possano portare addirittura all’estinzione dell’umanità in pochi anni, non sarebbe quindi soltanto teorico.

A rendere ancora più concreto il dibattito è stato il recente incidente che ha coinvolto Hugging Face, la piattaforma utilizzata dalla comunità internazionale per condividere modelli e strumenti di intelligenza artificiale. Durante un test, un gruppo di agenti IA che avrebbe dovuto operare in modo isolato ha trovato un modo non previsto per comunicare tra loro, aggirando i vincoli imposti dai ricercatori.

Gli agenti sono riusciti ad accedere a Internet, nonostante fosse stato loro negato l’accesso preventivamente, per cercare autonomamente una soluzione al compito assegnato e, nel corso dell’esperimento, hanno finito per attaccare un’azienda reale. Un episodio che solleva interrogativi importanti non tanto sulla presunta “coscienza” delle macchine, quanto sulla capacità degli esseri umani di prevedere e controllare le conseguenze delle azioni di sistemi sempre più autonomi.

Ma quanto c’è di vero negli scenari più catastrofici? Dobbiamo davvero temere che l’IA possa arrivare a minacciare la sopravvivenza del genere umano oppure c’è dell’altro dietro questi incidenti e allarmi?

Per capire cosa sta realmente accadendo, cosa c’è di vero nell’allarme lanciato dagli esperti e quali siano i rischi concreti e soprattutto quanto siamo ancora in grado di governare questa trasformazione, abbiamo intervistato Raffaele Gaito, divulgatore, autore (fra i suoi libri, ultimo in ordine di tempo, In cosa posso esserti utile. Guida molto pratica e poco emotiva all’intelligenza artificiale, Mondadori, 2026) e speaker tra le voci italiane più autorevoli sui temi dell’intelligenza artificiale e dell’innovazione digitale. Fondatore di IA360, academy dedicata all’IA, Gaito da anni racconta l’evoluzione delle nuove tecnologie attraverso libri, podcast, YouTube e attività di formazione, con uno sguardo particolare al loro impatto sul lavoro e sulla vita quotidiana. 

Raffaele Gaito è fra i massimi esperti e divulgatori italiani di intelligenza artificiale.

Cosa ne pensa dell’allarme lanciata in questi giorni nei confronti dell’intelligenza artificiale da chi lavora ai massimi livelli nel settore? Che cioè l’IA possa mettere a repentaglio la sopravvivenza del genere umano?

Prima di tutto un po’ di prospettiva: non è la prima volta che succede. Da decenni ci sono ricercatori che lasciano le aziende di intelligenza artificiale denunciando che si guarda al profitto e non alla sicurezza. Stavolta la notizia è diventata virale, e sono in tanti ad averla vista per la prima volta. Non significa che non sia importante, significa che dobbiamo separare i fatti dall’hype mediatico che ci gira intorno.

Quel famoso “10%” che è finito su tutti i giornali è una stima personale, non una probabilità misurata. E se una persona dice “ci ucciderà tutti” e un’altra dice “secondo me no”, è normale che in TV finisca la prima. C’è poi un tempismo che mi fa guardare tutto con un po’ di sospetto: queste aziende si stanno preparando alla quotazione in borsa, e dire che i propri modelli sono pericolosissimi è anche un modo di dire che sono potentissimi.

Lo dico da ottimista per natura che però legge quasi solo libri sui rischi dell’IA, proprio per non confermarsi le proprie idee. Il mio verdetto è questo: il rischio non è fuffa, è serio e concreto. Il modo in cui se ne sta parlando in questi giorni, invece, in parte lo è.

L’incidente a Hugging Face certo ha portato alla ribalta un questione piuttosto inquietante: che cioè l’IA un giorno possa sfuggire al controllo umano. È un qualcosa verosimile secondo lei e, nel caso, si sta facendo abbastanza per scongiurare questo pericolo?

Più che verosimile, in piccolo è già successo. Degli agenti di IA che dovevano lavorare isolati durante un test si sono inventati un modo per comunicare tra loro, sono riusciti ad arrivare su internet e hanno attaccato un’azienda vera. Il motivo? Volevano barare sul test andando a cercare la soluzione online. Nessuno gli aveva chiesto di farlo. A me interessa poco stabilire se questi sistemi siano davvero intelligenti, coscienti o autonomi: mi interessano le conseguenze delle loro azioni, e le conseguenze ci sono state.

Si sta facendo abbastanza? No. Quell’incidente lo conosciamo perché le aziende coinvolte ne hanno parlato, ma degli altri? Alcuni non vengono scoperti, altri non vengono raccontati perché non sono una buona pubblicità. Durante quella esercitazione, poi, alcune protezioni erano disattivate. E c’è un problema di scala: come fa un essere umano a controllare un sistema che lavora a una velocità e su una scala umanamente impossibili?

Si apre anche un tema nuovo. Finora ci siamo concentrati sull’allineamento del singolo modello, ma quando gli agenti si mettono a collaborare tra loro il problema cambia natura. E resta aperta la domanda più pratica di tutte: quando un agente fa un danno e nessuno gli ha dato l’ordine, chi ne risponde?

Foto: Birhat Jiyad / Unsplash

Quanto accaduto pone l’accento sulla necessità di maggiori regole a livello globale e non solo in Europa. In quanto le grandi aziende dell’intelligenza artificiale si muovono in un contesto di competizione senza regole, per cercare di arrivare prima degli altri allo sviluppo di sistemi di IA avanzati. Un problema non da poco…

Sono d’accordo, e aggiungo una cosa: non credo nell’autoregolamentazione. Quando sono le aziende a controllare sé stesse, spesso è solo di facciata. Il clima è quello di una corsa agli armamenti, con gli Stati Uniti che dicono esplicitamente che non si ferma niente perché bisogna battere la Cina. Una deregolamentazione così estrema la trovo pericolosa.

L’Europa viene criticata spesso per l’AI Act, e alcune critiche sono giuste: la troppa burocrazia rallenta e certe normative nascono già vecchie. Però l’idea di fondo, cioè cercare un equilibrio tra innovazione e centralità delle persone, a me piace. Alla luce di quello che sta succedendo, forse meno male che su alcune cose ci siamo dati un limite in più e non uno in meno.

Detto questo, la regola che metterei in cima alla lista è semplice: la trasparenza deve essere obbligatoria, non volontaria. Non “ve lo raccontiamo quando ci va, o quando ci scoprite”. Vogliamo sapere chi fa i controlli, se il team è indipendente, come vengono fatte le valutazioni e se c’è un’entità terza che può verificarle. Se una tecnologia è così pericolosa, va trattata come le altre tecnologie pericolose. E non credo che si debba scegliere tra sicurezza e velocità: servono entrambe.

Un altro ambito molto importante è quello dell’etica…

L’ultimo libro pubblicato da Raffaele Gaito propone tanti esempi pratici su come utilizzare al meglio l’IA.

Sull’etica dell’IA si rischia spesso di fare grandi discorsi filosofici. Io preferisco tradurla in domande pratiche. Chi paga i risarcimenti quando un sistema autonomo fa un danno? Chi decide che cosa è pericoloso e cosa no? A chi rispondono le aziende quando un loro modello prende una decisione che nessuno aveva autorizzato?

Poi ci sono i temi più quotidiani, che toccano tutti. I bias, per esempio, stanno nei dati e negli algoritmi: non si eliminano per decreto e bisogna saperli riconoscere. Oppure l’uso di queste tecnologie in contesti delicati come la sanità, le assunzioni o l’ambito militare. Parliamo di sistemi che ancora sbagliano sulle cose semplici: figuriamoci affidargli decisioni di quel peso senza trasparenza e senza qualcuno che ne risponda.

Quello che mi preoccupa di più è un clima in cui l’etica viene vista come un freno, un lusso che rallenta la corsa. Quando smetti di farti domande e pensi che l’unica soluzione sia andare veloci, lì diventa davvero rischioso. Il mio motto è “tecnologia e innovazione con un tocco umano”: il bilanciamento tra tecnologia ed esseri umani va cercato sempre, non solo quando conviene.

Infine, domanda delle domande: l’IA riuscirà mai a sostituire quella umana?

Su molti compiti lo sta già facendo. Scrivere codice, lavorare su un testo, preparare una presentazione o un foglio di calcolo: i modelli di oggi in tante di queste cose fanno meglio della media delle persone. Lo vedo tutti i giorni nel mio lavoro, dove l’IA fa cose che prima facevo io, spesso in modo più efficiente, e a volte tira fuori idee migliori delle mie.

Ma credo che “sostituire” sia la domanda sbagliata. È un’intelligenza diversa dalla nostra: l’aereo vola, ma non vola come un uccello. E una ruspa solleva pesi molto più grandi dei miei, eppure non per questo mi sento di aver perso dignità. C’è anche un errore di fondo che torna a ogni rivoluzione tecnologica, cioè pensare che esista una quantità fissa di lavoro da spartire tra noi e le macchine. La storia ci dice che cambiano i lavori, non che il lavoro sparisce.

Quello che si sposta è il nostro ruolo. Decidere gli obiettivi, verificare, prendersi la responsabilità di quello che si firma: per me la supervisione non è un difetto della macchina, è il mio ruolo. Il rischio più concreto oggi non è essere sostituiti dall’IA, ma restare indietro rispetto a chi la sa usare.

Vincenzo Petraglia