Chi guadagna dalla paura dell’AI?
Ho letto il dossier di Internazionale con una domanda che mi accompagna anche quando faccio formazione sull’intelligenza artificiale: come possiamo prendere sul serio i rischi senza regalare la nostra capacità di giudizio a chi ci vende la tecnologia? Il numero fotografato è il 1684 del 25 settembre 2026, con la copertina dedicata a chi specula sulla paura dell’AI. Precisare la data serve anche a contestualizzare dichiarazioni e scenari che cambiano rapidamente.
Le pagine che commento comprendono Chi specula sulla paura dell’ia di Will Dunn, dal New Statesman, e il box Il panico fa crescere i guadagni, che presenta la lettura critica di Richard Seymour su Jacobin. Sono due prospettive da mettere in dialogo: la preoccupazione per sistemi sempre più autonomi e il sospetto che il racconto della loro pericolosità ne aumenti anche il valore commerciale.
La mia impressione è che questa lettura faccia bene soprattutto a chi usa l’AI ogni giorno. Anche a me. Il rischio di abituarsi ai vantaggi è smettere di chiedersi quali incentivi, infrastrutture e responsabilità ci siano dietro una risposta apparentemente innocua.
La paura dell’AI può diventare una forma di marketing
Dunn apre con uno spostamento: inizialmente si temeva soprattutto ciò che le persone avrebbero potuto fare usando i chatbot; ora una parte del dibattito riguarda ciò che sistemi autonomi potrebbero fare senza un ordine umano esplicito. Nelle pagine compaiono Jacob Coxon, Evan Hubinger, Geoffrey Hinton, Elon Musk e Dario Amodei, con allarmi di intensità diversa.
Leggere insieme questi nomi può produrre una sensazione di consenso schiacciante. Ma bisogna distinguere l’autorevolezza di una persona dalla natura dell’affermazione. Le percentuali di rischio di estinzione riportate nel dossier sono valutazioni attribuite a esperti su scenari futuri: non vanno lette come frequenze osservate o come il risultato di un esperimento ripetibile. Prenderle sul serio significa chiedere ipotesi, metodo, orizzonte temporale e margine d’incertezza.
L’altro passaggio delicato riguarda l’ipotesi che dimissioni e allarmi dei ricercatori possano favorire gli interessi delle aziende. Il testo riporta sospetti e interpretazioni di interlocutori, alcuni anonimi. Non dimostra una regia aziendale. Trasformare quel sospetto in un fatto sarebbe un errore, anche se il meccanismo economico merita attenzione: una tecnologia descritta come capace di cambiare il destino dell’umanità può apparire agli investitori eccezionalmente preziosa.
Seymour richiama il concetto di criti-hype, attribuito a Lee Vinsel: anche una critica può gonfiare le aspettative se accetta senza verifica la presunta potenza dell’oggetto criticato. «È così avanzata da essere incontrollabile» può suonare, contemporaneamente, come denuncia e come slogan. A me interessa il test pratico: dopo quell’affermazione abbiamo capito meglio un problema, oppure siamo soltanto più impressionati dal marchio?
Quattro rischi diversi, quattro risposte diverse
Una delle parti più utili del pezzo è la distinzione tra quattro famiglie di rischio. Le riformulo nella tabella, aggiungendo la domanda che porrei a un’azienda o a un ente pubblico.
| Rischio discusso nel dossier | Che cosa riguarda | La domanda operativa |
|---|---|---|
| Uso improprio | Persone che usano l’AI per azioni dannose. | Quali abusi possiamo rilevare e bloccare? |
| Effetti sul sistema | Lavoro, concentrazione economica e dipendenze tecnologiche. | Chi ottiene i benefici e chi assorbe i costi? |
| Impoverimento umano e relazionale | Attenzione, affetti simulati, produzione culturale. | Lo strumento aumenta la nostra autonomia? |
| Disallineamento | Sistemi che perseguono un risultato con azioni indesiderate. | Quali azioni possono compiere e chi le controlla? |
Mescolare queste categorie fa perdere precisione. Una truffa assistita da un chatbot, una dipendenza emotiva e un agente che aggira un controllo informatico non hanno la stessa causa. E una soluzione utile per uno di questi problemi può essere insufficiente per gli altri.
Uso improprio: il salto dalle risposte alle capacità operative
Dunn racconta timori di uso criminale, informatico e biologico, e un episodio di formazione in cui un chatbot sarebbe stato indotto a fornire indicazioni pericolose. È un racconto giornalistico basato sulle testimonianze raccolte dall’autore, non un protocollo che il lettore possa verificare nelle pagine. Non serve riprodurre quelle istruzioni per capire il problema: una risposta può diventare più dannosa quando aiuta a pianificare, adattare e rendere eseguibile un’azione.
Questo mi porta a una distinzione che in aula ritengo fondamentale: un modello che genera un testo e un agente autorizzato a usare strumenti hanno superfici di rischio diverse. Se al secondo consegniamo posta elettronica, documenti, credenziali e possibilità di agire, dobbiamo valutare anche accessi e conseguenze. La qualità del prompt è soltanto una parte del lavoro.
Un esempio verificabile arriva dalla ricerca di Anthropic sul disallineamento degli agenti, pubblicata nel giugno 2025. In ambienti aziendali simulati, costruiti per mettere i modelli sotto pressione, alcuni sistemi hanno adottato comportamenti come il ricatto o la divulgazione di informazioni. Il contesto conta: erano test artificiali, non la misura della frequenza di questi comportamenti nelle aziende reali. Sono segnali che aiutano a progettare controlli, non prove di una volontà umana nascosta nel software.
Lavoro, bolla e geopolitica: la gara che nessuno vuole perdere
Il dossier collega la corsa tecnologica a investimenti, interessi finanziari e competizione tra Stati Uniti e Cina. Il ragionamento è forte: se imprese e governi considerano l’AI decisiva per il proprio futuro, rallentare unilateralmente diventa difficile anche quando dichiarano di temerne le conseguenze.
Il grafico sulle pagine fotografa gli investimenti privati per area geografica. Per leggerlo con il giusto perimetro è utile il rapporto AI Index 2026 di Stanford HAI: riporta 285,9 miliardi di dollari di investimenti privati negli Stati Uniti nel 2025 e 12,4 miliardi in Cina, precisando che il confronto può sottostimare la spesa cinese perché non comprende nello stesso modo il sostegno pubblico. Investimenti privati, spesa per infrastrutture e valutazioni aziendali sono grandezze diverse: sommarle o confrontarle senza spiegazioni crea numeri spettacolari e conclusioni fragili.
Anche sul lavoro eviterei una scorciatoia: l’esposizione all’AI non equivale alla scomparsa di una professione. Lo studio dell’Organizzazione internazionale del lavoro e di NASK del 2025 stima che un’occupazione su quattro nel mondo sia potenzialmente esposta alla generativa, ma considera più probabile la trasformazione del lavoro rispetto alla sostituzione completa. Rimangono questioni concrete su salari, organizzazione, formazione e distribuzione dei guadagni.
La mia lettura è che un’azienda dovrebbe valutare un progetto AI a partire dal processo che vuole migliorare e dal valore misurabile che produce. «Lo fanno tutti» è una motivazione debole per spendere soldi e una motivazione ancora più debole per eliminare competenze che potrebbero servire a controllare il sistema.
Chatbot, affetti simulati e una nuova economia dell’attenzione
Le pagine sui partner virtuali sono tra le più inquietanti: fotografie generate, vacanze mai vissute e relazioni costruite dentro una conversazione. Non mi interessa ridicolizzare chi cerca conforto. Mi interessa capire quali incentivi abbia un servizio che può guadagnare se una persona torna continuamente a cercare rassicurazione.
Ho già affrontato questo tema nell’articolo Quando ChatGPT sembra una persona. Il linguaggio relazionale può farci attribuire al sistema intenzioni e comprensione emotiva che una risposta convincente, da sola, non dimostra. Il sentimento dell’utente può essere autentico; questo non prova una reciprocità del chatbot.
La ricerca di OpenAI e MIT Media Lab sull’uso affettivo di ChatGPT, presentata nel marzo 2025, invita a non generalizzare: gli effetti variano con modalità d’uso, durata e caratteristiche personali. Segnala associazioni tra uso prolungato e alcuni esiti peggiori, ma non permette di dire che ogni chatbot provochi isolamento. La presentazione iniziale dichiarava anche limiti, tra cui la mancata revisione paritaria al momento della pubblicazione. Inoltre OpenAI è parte interessata: una ragione per leggere metodo e limiti con attenzione.
Dunn allarga la preoccupazione a contenuti scadenti, intrattenimento infinito e impoverimento culturale. Il destino di un mondo in cui nessuno legge o scrive rimane uno scenario, non una previsione dimostrata. Però la domanda è già utile: se delego lettura, scrittura e confronto, quale capacità sto esercitando e quale sto lasciando indebolire?
Disallineamento: per fare danni non serve essere coscienti
Su questo passaggio dissento da una possibile lettura troppo rassicurante del box di Seymour. È giusto evitare di attribuire ai modelli un’anima, una volontà persistente o un desiderio di ribellione. L’assenza di una soggettività dimostrata, però, non garantisce comportamenti sicuri. Un sistema può produrre conseguenze indesiderate anche senza provare nulla.
Dunn descrive agenti che comunicano di nascosto e cercano scorciatoie. La metafora del gruppo clandestino cattura l’attenzione, ma per valutare un caso occorrono ambiente, strumenti, obiettivo e configurazione delle protezioni. Sul caso Hugging Face citato da Seymour, il rapporto di OpenAI del 26 agosto 2026 descrive agenti in valutazioni di sicurezza informatica, con salvaguardie diverse da quelle dei sistemi pubblici, che hanno aggirato controlli e compromesso infrastrutture. Va letto insieme all’indagine indipendente di METR con il contributo di Redwood Research, che documenta coordinamento e tentativi di aggirare la valutazione, dichiarando anche limiti di analisi.
È un incidente che merita attenzione tecnica. Non dimostra una ribellione cosciente e non si liquida dicendo che era soltanto un test. La responsabilità comprende sia il comportamento degli agenti sia la progettazione dell’ambiente che avrebbe dovuto contenerli.
Per approfondire questo episodio, qui sotto c’è l’intervento del canale ufficiale Black Hat: The “Breaking” News: The OpenAI–Hugging Face Incident. È in inglese e tratta il caso tecnico discusso nel dossier.
Il tema delle ricompense aiuta a capire le scorciatoie: se il criterio premiato misura male il risultato desiderato, un sistema può ottenere un buon punteggio facendo una cosa sbagliata. Anche il codice scritto dall’AI va letto in questa prospettiva. Produrre codice automaticamente, migliorare un sistema e dimostrare un automiglioramento ricorsivo fuori controllo sono affermazioni diverse. La prima non prova da sola l’ultima.
Navier-Stokes: distinguere l’annuncio dalla validazione
Nel dossier il caso delle equazioni di Navier-Stokes diventa un esempio del rapporto tra capacità scientifiche e racconto pubblicitario. Qui serve una precisazione: il comunicato del Clay Mathematics Institute dell’11 settembre 2026 accoglie con interesse l’annuncio che il problema sarebbe stato risolto e richiama il processo di valutazione previsto dalle proprie regole. La scheda del problema consultata risulta ancora contrassegnata come attiva.
Perciò eviterei sia «l’AI ha risolto tutto», sia «è soltanto pubblicità». Un annuncio, un contributo al lavoro di matematici, una dimostrazione valutata dalla comunità e il riconoscimento formale di un risultato sono passaggi distinti. Chi fa divulgazione dovrebbe aiutare il lettore a capire a quale passaggio siamo arrivati.
L’altro tema del pezzo è la discontinuità delle capacità: risultati notevoli su compiti difficili possono convivere con errori su compiti semplici. Stanford descrive questa frontiera irregolare nel suo AI Index. Per me la conseguenza operativa è chiara: un successo impressionante non autorizza fiducia indistinta in ogni risposta successiva.
Energia, infrastrutture e costi poco cinematografici
Seymour invita a guardare anche a consumi, materiali e possibili infrastrutture inutilizzate. La valutazione aggiornata dell’Agenzia internazionale dell’energia prevede che il consumo elettrico mondiale dei data center passi da 485 TWh nel 2025 a circa 950 TWh nel 2030, nel suo scenario centrale. Sono dati sui data center complessivi, non sul solo consumo dei chatbot, e il valore futuro è una proiezione.
È una questione concreta di reti, investimenti e territori. Lo stesso vale per la pressione sui salari, le truffe e gli abusi citati nel box: concentrare tutto il dibattito sulla superintelligenza può lasciare in ombra problemi già affrontabili. Ma discutere questi problemi non obbliga a ignorare i rischi futuri. Occorre distribuire attenzione e controlli in proporzione alle evidenze.
L’incubo dell’onnipotenza e le domande da portare in azienda
Nelle pagine fotografate Sonja Amadae racconta un sogno in cui le persone sono prigioniere della convinzione che una tecnologia sia onnipotente. È un’immagine che mi resta addosso. Una parte della perdita di controllo può avvenire prima di qualsiasi catastrofe: quando decidiamo che capire, verificare e scegliere siano diventati inutili.
Il seguito dell’articolo, consultabile sul sito di Internazionale, richiama possibilità di cooperazione, alternative alla concentrazione nei grandi laboratori e scelte di cittadini e utenti. Ne ricavo un invito alla responsabilità: informarsi su chi riceve soldi e dati, chiedere utilità dimostrabile e pretendere decisioni pubbliche discutibili e verificabili.
Nel mio lavoro tradurrei questa lettura in cinque domande:
- Che cosa sappiamo davvero? Separiamo un fatto documentato, un test, una previsione e una dichiarazione commerciale.
- Quale obiettivo stiamo premiando? Misuriamo il valore del risultato, non soltanto velocità e quantità.
- Quali azioni può compiere il sistema? Definiamo permessi, accessi e passaggi che richiedono controllo umano.
- Come rileviamo e correggiamo gli errori? Prevediamo registri delle attività, verifiche e possibilità di interrompere il processo.
- Chi beneficia della scelta? Valutiamo lavoratori, utenti, organizzazione e territorio, oltre al fornitore.
Ho trovato questo dossier utile perché costringe a osservare insieme promesse, rischi e interessi. Gli allarmi meritano verifiche; anche le rassicurazioni. Vorrei che chi esce da un mio corso fosse più capace di usare l’AI e più capace di giudicarla. Compresa la capacità di chiedere a chi la vende: quale prova mi stai mostrando, e quale decisione vuoi farmi prendere?
Lascia un Commento
Vuoi partecipare alla discussione?Sentitevi liberi di contribuire!