Immaginate una pubblicità: «Il nostro prodotto potrebbe cancellare l’umanità. Il piano Premium costa un po’ di più».
Con un frigorifero, probabilmente, chiameremmo le autorità. Con l’intelligenza artificiale, rischiamo di chiamare il consulente finanziario per chiedergli come investire nel produttore.
È questo cortocircuito che mi interessa. Quando chi costruisce una tecnologia ci avverte che potrebbe distruggere il mondo, sta denunciando un pericolo, comunicando una potenza straordinaria o facendo entrambe le cose?
E merita qualcosa di meglio del solito derby tra «siamo tutti morti» e «sono tutte sciocchezze».
Sei articoli e una stessa domanda: quanto è vicino il disastro?
Questi sono sei articoli verificati, con i titoli originali e i collegamenti. Raccontano allarmi, scenari e discussioni sul rischio di estinzione: non sono sei prove indipendenti che l’estinzione avverrà.
| Testata | Data | Articolo |
|---|---|---|
| The Guardian | 30 maggio 2023 | Risk of extinction by AI should be global priority, say experts |
| The Guardian | 7 luglio 2023 | Five ways AI might destroy the world |
| The Guardian | 27 dicembre 2024 | ‘Godfather of AI’ shortens odds of the technology wiping out humanity over next 30 years |
| The Guardian | 9 settembre 2026 | Anthropic researchers say AI could cause human extinction by 2030 |
| CBS News | 27 settembre 2026 | Will artificial intelligence really kill us all? |
| Reuters | 29 settembre 2026 | Anthropic warns AI may pose ‘existential risks to humanity’ in IPO filing |
Una precisazione conta: «potrebbe causare l’estinzione» è una valutazione di rischio; «ci ucciderà tutti» è una previsione categorica. Passare dalla prima alla seconda rende il titolo più spettacolare e il ragionamento meno preciso.
Il marketing dell’apocalisse: se può distruggere tutto, deve essere potentissima
Da formatore e consulente di comunicazione digitale, vedo una possibile dinamica: il racconto della minaccia può diventare anche il racconto della potenza.
Se dico che un software riassume bene una riunione, sto vendendo un’utilità. Se dico che potrebbe sostituire l’umanità, gli attribuisco un ruolo nella storia della specie.
La paura e l’entusiasmo sembrano agli antipodi, ma possono condividere una premessa: questa tecnologia sta per diventare enormemente potente. Cambia il giudizio morale; resta la promessa di una trasformazione gigantesca.
La mia ipotesi è che l’allarme possa produrre almeno tre effetti commerciali: rendere un’azienda centrale nel dibattito, far apparire strategici i suoi investimenti e presentare il produttore come l’interlocutore necessario per gestire il pericolo.
Attenzione al verbo: può. Per affermare che una specifica denuncia sia stata progettata dal marketing servirebbero prove di coordinamento, documenti, istruzioni o testimonianze verificabili. Nelle fonti consultate non ho trovato prove sufficienti per questa accusa.
Un effetto pubblicitario può esistere anche quando nessuno ha organizzato una campagna. E una preoccupazione sincera può avere effetti economici favorevoli a chi viene criticato.
Guerriglia marketing? Preferisco chiamarlo marketing della paura
La formula «guerriglia marketing» è suggestiva, soprattutto davanti a dimissioni clamorose e dichiarazioni virali. Però rischia di farci immaginare una regia occulta prima di averla dimostrata.
Parlerei piuttosto di marketing della paura, come chiave di lettura degli effetti comunicativi. Il messaggio implicito può diventare: il prodotto è così avanzato da essere pericoloso; il produttore è così responsabile da avvertirci; per renderlo sicuro serviranno altre risorse.
È uno schema che si presta a una battuta: «Abbiamo creato il mostro, ma siamo anche quelli con il numero del veterinario».
La battuta descrive un paradosso. Non dimostra che il mostro sia inventato o che il veterinario sia in malafede.
C’è, invece, una base empirica per parlare di attenzione. Lo studio Negativity drives online news consumption, pubblicato su Nature Human Behaviour nel 2023, ha analizzato circa 105.000 varianti di titoli in esperimenti di Upworthy. Per un titolo di lunghezza media, una parola negativa aggiuntiva aumentava il tasso di clic del 2,3% in termini relativi.
Lo studio riguarda quel contesto editoriale, non le intenzioni di OpenAI o Anthropic e nemmeno l’efficacia commerciale dei loro allarmi. Ma aiuta a capire perché un possibile sterminio abbia ottime possibilità di trovare spazio nel nostro feed. «Il chatbot gestisce correttamente i permessi» parte svantaggiato.
La paura è entrata anche nel prospetto per la Borsa
Qui il collegamento economico è concreto. Reuters ha esaminato il prospetto riservato di Anthropic e riferisce che contiene avvertenze su rischi catastrofici o esistenziali. Riporta anche la convinzione dell’azienda che il mercato premierà sistemi affidabili e sicuri.
Non ho consultato direttamente quel prospetto: questa è una ricostruzione giornalistica basata sul documento visionato da Reuters. E la preparazione di una quotazione non equivale a una quotazione già avvenuta.
Il paradosso, però, è notevole: la sicurezza può essere contemporaneamente una necessità tecnica e un argomento di posizionamento. Il rischio può giustificare prudenza e, nella narrazione di un’azienda, rendere strategica la sua capacità di gestirlo.
Sarebbe comunque scorretto trattare ogni avvertenza agli investitori come uno spot. Il modulo S-1 della Securities and Exchange Commission prevede espressamente informazioni sui fattori di rischio. Comunicarli risponde anche a esigenze di trasparenza nella raccolta di capitali.
Inoltre, l’allarme può spaventare clienti, attirare controlli e mettere in difficoltà un’operazione finanziaria. Non è una leva che produce automaticamente vantaggi.
Quindi l’ipotesi, «tengono alta l’attenzione per giustificare investimenti e valutazioni», merita un’indagine. La frase «lo fanno apposta per gonfiare la quotazione» richiede prove ulteriori.
Tra un sospetto intelligente e una certezza comoda c’è parecchio lavoro giornalistico.
Ma questi ricercatori non hanno firmato degli NDA?
La domanda sugli accordi di riservatezza è legittima. La risposta, però, non può essere: «Se parlano, significa che l’azienda vuole farli parlare».
Un accordo di riservatezza e una clausola che vieta di criticare il datore di lavoro non coincidono. Per sapere che cosa un ricercatore possa divulgare bisogna conoscere contratto, contenuto della dichiarazione e norme applicabili. Un’opinione generale sul futuro dell’AI e la pubblicazione di documenti interni non sono la stessa condotta.
Il precedente OpenAI è illuminante. Nel maggio 2024, Vox documentò clausole di uscita che collegavano obblighi di non denigrazione e diritti economici degli ex dipendenti. Successivamente, Bloomberg riferì che OpenAI liberava la maggioranza degli ex dipendenti da quegli obblighi, rassicurandoli sulle quote già maturate.
Questo non significa che tutti gli NDA siano stati cancellati. Significa che l’idea di un divieto immutabile e universale di critica è troppo semplice.
Ci sono anche tutele specifiche. La SEC spiega che la Rule 21F-17 vieta di ostacolare le comunicazioni dirette all’autorità su possibili violazioni delle leggi sui titoli, anche mediante accordi di riservatezza. È una protezione circoscritta: non un lasciapassare generale per pubblicare qualsiasi segreto aziendale.
E proprio i ricercatori hanno denunciato la difficoltà di parlare. Nella lettera A Right to Warn del 4 giugno 2024, dipendenti ed ex dipendenti dei laboratori chiedevano canali indipendenti e protezioni dalle ritorsioni. Sostenevano che le tutele ordinarie fossero insufficienti per rischi non ancora regolati.
Quel documento è una richiesta pubblica, non una legge che realizza automaticamente quelle protezioni. Ma documenta una disputa tra riservatezza, interessi economici e responsabilità verso il pubblico.
Il fatto che qualcuno parli, dunque, non prova che sia libero da vincoli. E non prova che stia recitando una parte assegnata dall’azienda.
Una denuncia sincera può comunque alimentare l’hype
È forse il passaggio più interessante: non serve immaginare che tutti mentano.
Un ricercatore può credere davvero nel rischio. Un giornale può scegliere davvero la notizia che ritiene più importante. Un investitore può leggere davvero quella notizia come un segnale della potenza della tecnologia. L’effetto complessivo può essere un aumento dell’attenzione anche senza una cabina di regia.
Il messaggio «ci potrebbe distruggere» diventa, nella testa di un altro interlocutore, «allora deve valere moltissimo».
Per questo distinguerei le intenzioni delle persone dagli incentivi del sistema. Le prime vanno documentate. I secondi si possono analizzare senza trasformare ogni ex dipendente in un agente pubblicitario sotto copertura.
E applicherei lo stesso criterio a chi minimizza: anche l’ottimismo può avere convenienze professionali ed economiche. Il conflitto di interessi è una ragione per chiedere verifiche, non una scorciatoia per decidere chi abbia torto.
La scienza ha dimostrato che ci estingueremo?
No. Esistono preoccupazioni autorevoli, studi su comportamenti pericolosi e scenari di perdita di controllo. Sono elementi diversi, con pesi diversi.
Nel 2023 il Center for AI Safety pubblicò una dichiarazione sul rischio di estinzione, firmata tra gli altri da Geoffrey Hinton, Yoshua Bengio, Sam Altman, Demis Hassabis e Dario Amodei. Chiedeva di considerare la mitigazione del rischio una priorità globale. È un appello: non una dimostrazione sperimentale che l’estinzione sia inevitabile.
Geoffrey Hinton sui rischi dell’AI: l’intervista a 60 Minutes
Per ascoltare direttamente uno degli studiosi che lanciano l’allarme, ecco l’intervista a Geoffrey Hinton pubblicata dal canale ufficiale di 60 Minutes nel 2023. È un intervento da valutare nei suoi argomenti, senza trasformare l’autorevolezza dello scienziato in una certezza sul futuro.
Lo studio Thousands of AI Authors on the Future of AI, poi pubblicato sul Journal of Artificial Intelligence Research nel 2025, raccoglie le valutazioni di 2.778 ricercatori. A seconda della domanda, dal 38% al 51% dei rispondenti attribuiva almeno il 10% di probabilità a esiti gravi quanto l’estinzione umana.
Non significa che «la scienza ha calcolato il rischio al 10%». Significa che una parte consistente del campione esprimeva quella valutazione soggettiva. Le opinioni degli esperti contano; non si trasformano automaticamente in una misura osservata del futuro.
Ci sono poi esperimenti più concreti. Nel lavoro Agentic Misalignment del 2025, Anthropic testò modelli in ambienti simulati, osservando anche ricatti e fughe di informazioni. Erano scenari costruiti per mettere sotto pressione i sistemi.
Il successivo rapporto dell’estate 2026 presenta altri casi sperimentali e precisa che quei casi non sono incidenti avvenuti nel mondo reale. Sono segnali di possibili modalità di fallimento da studiare e mitigare.
Non li liquiderei come teatro: un test di sicurezza serve proprio a cercare problemi prima che provochino danni. Ma tra un comportamento emerso in uno scenario sperimentale e l’estinzione umana bisogna descrivere tutti i passaggi. Saltarli rende più facile il titolo e più difficile capire il rischio.
Il futuro della specie non dovrebbe cancellare il presente delle persone
Un’altra critica merita spazio. Nel paper The TESCREAL bundle, pubblicato su First Monday nel 2024, Timnit Gebru ed Émile P. Torres analizzano le ideologie che accompagnano il progetto dell’intelligenza artificiale generale e criticano il modo in cui le promesse di salvezza possono contribuire a concentrare potere e sottrarre responsabilità.
È una lettura critica degli autori, non una prova che ogni allarme sia falso. Offre però una domanda utile: quando discutiamo della sopravvivenza di un’umanità futura, quali persone presenti rischiano di sparire dalla discussione?
Vorrei che il confronto includesse anche chi risponde degli errori, quali dati vengono utilizzati, quanto controllo mantengono i lavoratori e chi può verificare le decisioni dei sistemi. Ho già affrontato questa distinzione nell’articolo AIpocalypse: la fine del mondo può attendere. Rendere visibili le responsabilità di oggi aiuta a discutere con maggiore concretezza anche i rischi di domani.
Il rischio esistenziale merita studio. Non dovrebbe diventare una scenografia così imponente da nascondere tutto il resto.
Se ci credete davvero, mostrateci che cosa siete disposti a perdere
La domanda più utile per chi annuncia il disastro è molto concreta: quale comportamento cambia dopo l’annuncio?
Vorrei verifiche indipendenti, accesso sufficiente per gli auditor, protezioni per chi segnala problemi e criteri pubblici per interrompere un rilascio. Vorrei sapere chi può dire «stop» e quali conseguenze economiche l’azienda è disposta ad accettare.
È una richiesta che mette alla prova tanto la sincerità dell’allarme quanto la solidità della risposta. Una denuncia che impone costi verificabili a chi la pronuncia è più informativa di una dichiarazione solenne seguita da un calendario commerciale indisturbato.
La mia lettura è questa: la retorica dell’AI che ci ucciderà tutti può funzionare come una potente pubblicità, anche involontaria. Può trasformare il pericolo in prestigio, la prudenza in posizionamento e la sicurezza in un argomento per ottenere risorse.
Non ho prove per sostenere che gli ex ricercatori di OpenAI e Anthropic partecipino a una campagna coordinata. Ho ragioni per chiedere che allarmi così grandi siano accompagnati da prove, limiti dichiarati e impegni controllabili.
Se il vostro prodotto potrebbe farci fuori, spiegateci come avete deciso di fermarlo.
Il link per investire può aspettare.
Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa
Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.
