L’AI ci ucciderà tutti. Intanto, abbonati: il meme sul marketing della paura

Un uomo porge una penna e chiede: «Vendimi questa penna». L’altro risponde: «Vi ucciderà tutti».

Ammettiamolo: come argomento commerciale è insolito. Una penna che scrive bene potrebbe interessarmi. Una penna che stermina l’umanità, invece, preferirei lasciarla in cartoleria.

Eppure, se al posto della penna mettiamo l’intelligenza artificiale, la battuta diventa meno assurda. È questo il bersaglio del meme: il cortocircuito fra la promessa di una tecnologia straordinaria e l’annuncio delle conseguenze terribili che potrebbe produrre.

Mi ha fatto sorridere. Poi mi ha fatto pensare. Perché dietro due vignette c’è una domanda utile anche per chi non sa nulla di AI: quando qualcuno descrive il proprio prodotto come una forza capace di cambiare, o distruggere, il mondo, sta spiegando un rischio oppure ne sta aumentando il fascino?

Le due cose, talvolta, possono convivere.

Come si legge il meme, anche senza aver visto il film

L’immagine riprende la scena di “Vendi questa penna” di The Wolf of Wall Street, con Leonardo DiCaprio nei panni di Jordan Belfort. La richiesta è una prova di vendita: convincere l’interlocutore a comprare un oggetto banalissimo.

Nel meme, alla richiesta inglese «Sell me this pen» segue «It’s going to kill you all»: «Vi ucciderà tutti». La seconda battuta è la riscrittura satirica dell’immagine, non una citazione da usare come testimonianza sul dibattito scientifico.

Per ritrovare il contesto cinematografico si può guardare la scena della penna su YouTube.

La comicità nasce dal ribaltamento delle aspettative. Ci aspettiamo un vantaggio, riceviamo una minaccia. La penna diventa una metafora dell’AI: chi dovrebbe mostrarci perché usarla ci racconta quanto potrebbe essere pericolosa.

Non serve conoscere modelli linguistici, reti neurali o agenti. Basta riconoscere l’assurdità della situazione: «Compra il mio prodotto. È talmente potente che potrebbe essere l’ultimo che comprerai».

Perché il meme viene associato all’intelligenza artificiale

Il collegamento ha una base reale. Nella dichiarazione sul rischio di estinzione del Center for AI Safety, firmata anche da Sam Altman, Dario Amodei e Demis Hassabis, si chiede di trattare la mitigazione di quel rischio come una priorità globale, accanto a pandemie e guerra nucleare.

È una presa di posizione seria. Ma occorre leggerla bene: non afferma che il chatbot sul nostro telefono ci ucciderà, non indica una data e non quantifica la probabilità di un’estinzione.

Il meme comprime tutto in una frase brutale. Fa il suo mestiere: semplifica e provoca. Il nostro mestiere, dopo aver riso, è rimettere dentro le sfumature.

Una dichiarazione di preoccupazione non è una dimostrazione che un evento accadrà. E la presenza di interessi commerciali non rende automaticamente falsa una preoccupazione.

La paura può far sembrare un prodotto più potente?

Immaginiamo due presentazioni dello stesso software.

Nella prima, il venditore dice: «Aiuta a preparare una bozza di relazione. Va controllata».

Nella seconda: «Questa tecnologia potrebbe sconvolgere la civiltà».

La prima ci permette di valutarne un impiego concreto. La seconda ci invita a immaginare un potere enorme, prima ancora di aver visto come funziona.

Qui propongo una lettura del meme, non una diagnosi delle intenzioni di tutte le aziende AI: un racconto catastrofico può contribuire a costruire l’immagine di una tecnologia eccezionale. Se una cosa può distruggere il mondo, viene spontaneo pensare che sia potentissima. E se è potentissima, potremmo convincerci di doverla conoscere, comprare o adottare subito.

Persino una critica può diventare pubblicità involontaria.

La ricerca sulla persuasione offre un tassello utile. Una meta-analisi di Melanie Tannenbaum e colleghi, pubblicata su Psychological Bulletin nel 2015, ha esaminato 127 lavori e oltre 27.000 partecipanti. Nel complesso, i messaggi basati sulla paura influenzavano atteggiamenti, intenzioni e comportamenti; risultavano più efficaci quando indicavano anche una risposta capace di affrontare la minaccia.

Attenzione al salto logico: quella ricerca non dimostra che parlare di estinzione faccia vendere abbonamenti AI. Aiuta a capire perché l’accoppiata “minaccia più soluzione” possa persuadere. Per dimostrare un effetto commerciale specifico servirebbero dati specifici.

Parlare di sicurezza non equivale a vendere paura

Qui il meme rischia di portarci fuori strada. Se qualcuno mette in guardia da un pericolo, non possiamo liquidarlo automaticamente come un venditore furbo.

Un produttore di automobili deve studiare gli incidenti. Un’azienda che sviluppa AI deve studiare i danni che i suoi sistemi possono causare. Sarebbe preoccupante anche il contrario: «Tranquilli, andrà tutto bene, comprate e basta».

Per esempio, Anthropic ha presentato nel 2023 la propria Responsible Scaling Policy, un insieme di protocolli tecnici e organizzativi per gestire i rischi di sistemi sempre più capaci. La pagina della policy ne raccoglie le successive revisioni.

L’esistenza di una policy non prova che ogni rischio sia sotto controllo. Mostra però che il discorso sulla sicurezza può comprendere procedure e impegni, oltre agli slogan.

Io valuterei soprattutto questo: all’allarme seguono test, criteri verificabili, responsabilità e misure concrete? Oppure rimane soltanto una frase da rilanciare?

Tre piani da tenere distinti: danni, scenari, promesse

Per orientarsi conviene separare tre cose che spesso finiscono nello stesso titolo.

I danni documentati e i problemi osservabili. Un sistema può produrre informazioni false, esporre dati o restituire risultati discriminatori. Il profilo sui rischi dell’AI generativa del National Institute of Standards and Technology, NIST affronta, fra gli altri, proprio falsità generate con apparente sicurezza, privacy, distorsioni e integrità dell’informazione. Per subire un danno non serve una macchina “cosciente”: basta fidarsi di una risposta sbagliata.

Gli scenari futuri di rischio grave. La possibilità di perdere il controllo di sistemi molto più capaci richiede ricerca e precauzioni. Nell’International AI Safety Report 2025 si esplicitano anche divergenze fra esperti sulla probabilità di questi scenari. Possibile, probabile e inevitabile sono parole diverse.

Le promesse commerciali. “Cambierà tutto” o “chi non lo usa è finito” sono affermazioni da mettere alla prova. Un annuncio sul futuro dell’umanità non ci dice se uno strumento migliora davvero il nostro lavoro.

Confondere questi piani rende facile passare dall’entusiasmo al panico. Tenerli distinti permette di prendere decisioni migliori.

Cinque domande prima di comprare la penna

Quando incontro una promessa enorme o un allarme enorme sull’AI, provo a tradurlo in domande semplici:

1. Di quale sistema stiamo parlando? Un chatbot per scrivere bozze e un agente autorizzato a compiere operazioni hanno capacità e conseguenze diverse.
2. Qual è la prova? Un esperimento, un incidente documentato, una previsione o una frase promozionale?
3. Quanto è incerto ciò che viene detto? “Potrebbe accadere” non significa “accadrà”.
4. Chi parla e quali interessi ha? Gli interessi vanno considerati, senza usarli come scorciatoia per smentire ogni argomento.
5. Che cosa posso fare concretamente? Verificare una fonte, limitare i permessi, proteggere i dati, confrontare alternative?

Sono domande utili per un genitore, un insegnante, un professionista o un responsabile aziendale. Non richiedono una laurea in informatica.

E aiutano a gestire anche quella sensazione di essere sempre in ritardo di cui ho parlato nell’articolo sull’AI Anxiety, l’ansia da intelligenza artificiale.

Un esercizio: riscrivere il messaggio senza l’apocalisse

Questo meme può diventare un piccolo laboratorio di educazione alla comunicazione.

Prendiamo una frase ipotetica: «Se non introduci l’AI, la tua azienda sparirà».

Chiediamo di riscriverla indicando un’attività, una prova e un limite:

«Possiamo sperimentare l’AI nella preparazione delle risposte ai clienti. Confronteremo tempi e qualità con il processo attuale, mantenendo la revisione umana».

La seconda frase fa meno rumore. Ma ci permette di capire che cosa verrà fatto e come valutarlo.

Poi facciamo l’esercizio opposto. Trasformiamo «L’AI risolverà tutti i problemi» in una promessa circoscritta e verificabile. Scopriremo che l’entusiasmo senza prove e la paura senza prove condividono lo stesso difetto: ci chiedono di credere prima di capire.

La penna del meme, allora, serve davvero a qualcosa. Ci ricorda di chiedere spiegazioni a chi ci vende il futuro.

Io, prima di comprarla, vorrei vedere se scrive. Per l’estinzione possiamo evitare il pacchetto premium.