Tag Archivio per: etica AI

Un’auto si guida da sola. Succede un incidente. A quel punto la domanda più difficile riguarda chi debba risponderne. Chi era al posto di guida? Chi ha progettato il sistema? Chi si è fidato delle sue capacità? E quanto è comodo, per tutti, poter dire che è stata colpa della macchina?

Sono tornato a Yugen Podcast per parlare di Colpevolezza, il romanzo di Bruce Holsinger che porta queste domande dentro una storia familiare. La puntata, pubblicata il 7 ottobre 2026, si intitola «Perché dovresti leggere Colpevolezza, il romanzo che inchioda l’A.I.». Qui sotto trovi il video completo: circa mezz’ora per incrociare libri, intelligenza artificiale e responsabilità umana.

Guarda la mia intervista intera a Yugen Podcast

https://www.youtube.com/watch?v=zPjS50FUp98

Se il lettore non compare, puoi guardare direttamente la puntata su YouTube.

Colpevolezza: un incidente che entra in famiglia

La presentazione ufficiale di Edizioni E/O racconta un incidente che coinvolge il minivan a guida autonoma dei Cassidy-Shaw. Al posto di guida c’è Charlie, diciassette anni; accanto a lui il padre Noah. Con loro viaggiano le sorelle e la madre Lorelei, studiosa di intelligenza artificiale. Nello scontro muore una coppia di anziani.

Da questo evento nasce una storia di segreti, tensioni e responsabilità. Mi interessa proprio il cambio di prospettiva: l’intelligenza artificiale entra nei rapporti tra le persone, nelle giustificazioni che cercano, nel bisogno di proteggersi e di essere perdonate. La tecnologia diventa parte del problema umano.

Copertina dell’edizione italiana di Colpevolezza di Bruce Holsinger, Edizioni E/O
Bruce Holsinger, Colpevolezza, Edizioni E/O, 2026. Traduzione di Dario Diofebi.

Il libro è disponibile in italiano nella traduzione di Dario Diofebi, pubblicata da Edizioni E/O nel 2026. Per acquistare l’edizione italiana puoi usare il collegamento Amazon indicato dall’editore, con l’ISBN dell’edizione corretta.

Dalle graffette a J.A.R.V.I.S.: cosa aspettarsi dalla puntata

La descrizione di Yugen anticipa anche profezie, graffette, Doom, uno spettacolo teatrale interattivo e J.A.R.V.I.S. Un percorso che parte da un romanzo e incontra riferimenti molto diversi: è anche questo il motivo per cui ti invito a vedere la conversazione, lasciando al video il piacere delle associazioni e delle sorprese.

Se vuoi approfondire il libro, leggi anche la mia recensione di Colpevolezza di Bruce Holsinger. Sul blog ho già intrecciato cultura e tecnologia, per esempio nell’articolo sui meme e sull’intelligenza artificiale, dove trovi anche un’altra mia intervista a Yugen. Un romanzo, un film o una battuta possono offrire un buon punto di partenza per discutere questioni che altrimenti resterebbero troppo astratte.

La domanda che vale anche fuori dal romanzo

Alla presentazione della puntata aggiungo una riflessione: delegare un’attività richiede di pensare anche a come controllarla e a cosa fare quando qualcosa va storto. Mi sembra una domanda utile per chi impiega l’AI al lavoro, anche quando non ci sono automobili coinvolte.

Esiste una ricerca che mette a fuoco i dilemmi morali legati ai veicoli autonomi: The Moral Machine experiment, pubblicato su Nature nel 2018, raccoglie preferenze umane davanti a scenari ipotetici. Queste preferenze aiutano a studiare il problema; non le considero una ricetta da trasformare automaticamente nelle decisioni di un veicolo.

Su un piano operativo, il framework del National Institute of Standards and Technology per la gestione dei rischi dell’AI offre un riferimento per valutare l’affidabilità dei sistemi durante progettazione, sviluppo, uso e valutazione. È una buona direzione: rendere esplicite le decisioni e le responsabilità, prima che sia necessario cercare un colpevole.

Un libro da discutere, oltre che da leggere

Colpevolezza è stato scelto anche dall’Oprah’s Book Club: nella conversazione di Oprah Winfrey con Holsinger torna la domanda sulla responsabilità dell’incidente. È il genere di domanda che rende un romanzo interessante anche dopo l’ultima pagina.

Ti invito a guardare la puntata di Yugen Podcast e a partire da lì per la lettura. Poi, se ti va, scrivimi nei commenti: quale decisione affideresti a un’intelligenza artificiale? E quale vorresti continuare a prendere personalmente?

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Inviaci email

Ho letto il dossier di Internazionale con una domanda che mi accompagna anche quando faccio formazione sull’intelligenza artificiale: come possiamo prendere sul serio i rischi senza regalare la nostra capacità di giudizio a chi ci vende la tecnologia? Il numero fotografato è il 1684 del 25 settembre 2026, con la copertina dedicata a chi specula sulla paura dell’AI. Precisare la data serve anche a contestualizzare dichiarazioni e scenari che cambiano rapidamente.

Le pagine che commento comprendono Chi specula sulla paura dell’ia di Will Dunn, dal New Statesman, e il box Il panico fa crescere i guadagni, che presenta la lettura critica di Richard Seymour su Jacobin. Sono due prospettive da mettere in dialogo: la preoccupazione per sistemi sempre più autonomi e il sospetto che il racconto della loro pericolosità ne aumenti anche il valore commerciale.

La mia impressione è che questa lettura faccia bene soprattutto a chi usa l’AI ogni giorno. Anche a me. Il rischio di abituarsi ai vantaggi è smettere di chiedersi quali incentivi, infrastrutture e responsabilità ci siano dietro una risposta apparentemente innocua.

La paura dell’AI può diventare una forma di marketing

Dunn apre con uno spostamento: inizialmente si temeva soprattutto ciò che le persone avrebbero potuto fare usando i chatbot; ora una parte del dibattito riguarda ciò che sistemi autonomi potrebbero fare senza un ordine umano esplicito. Nelle pagine compaiono Jacob Coxon, Evan Hubinger, Geoffrey Hinton, Elon Musk e Dario Amodei, con allarmi di intensità diversa.

Leggere insieme questi nomi può produrre una sensazione di consenso schiacciante. Ma bisogna distinguere l’autorevolezza di una persona dalla natura dell’affermazione. Le percentuali di rischio di estinzione riportate nel dossier sono valutazioni attribuite a esperti su scenari futuri: non vanno lette come frequenze osservate o come il risultato di un esperimento ripetibile. Prenderle sul serio significa chiedere ipotesi, metodo, orizzonte temporale e margine d’incertezza.

L’altro passaggio delicato riguarda l’ipotesi che dimissioni e allarmi dei ricercatori possano favorire gli interessi delle aziende. Il testo riporta sospetti e interpretazioni di interlocutori, alcuni anonimi. Non dimostra una regia aziendale. Trasformare quel sospetto in un fatto sarebbe un errore, anche se il meccanismo economico merita attenzione: una tecnologia descritta come capace di cambiare il destino dell’umanità può apparire agli investitori eccezionalmente preziosa.

Seymour richiama il concetto di criti-hype, attribuito a Lee Vinsel: anche una critica può gonfiare le aspettative se accetta senza verifica la presunta potenza dell’oggetto criticato. «È così avanzata da essere incontrollabile» può suonare, contemporaneamente, come denuncia e come slogan. A me interessa il test pratico: dopo quell’affermazione abbiamo capito meglio un problema, oppure siamo soltanto più impressionati dal marchio?

Quattro rischi diversi, quattro risposte diverse

Una delle parti più utili del pezzo è la distinzione tra quattro famiglie di rischio. Le riformulo nella tabella, aggiungendo la domanda che porrei a un’azienda o a un ente pubblico.

Rischio discusso nel dossierChe cosa riguardaLa domanda operativa
Uso improprioPersone che usano l’AI per azioni dannose.Quali abusi possiamo rilevare e bloccare?
Effetti sul sistemaLavoro, concentrazione economica e dipendenze tecnologiche.Chi ottiene i benefici e chi assorbe i costi?
Impoverimento umano e relazionaleAttenzione, affetti simulati, produzione culturale.Lo strumento aumenta la nostra autonomia?
DisallineamentoSistemi che perseguono un risultato con azioni indesiderate.Quali azioni possono compiere e chi le controlla?

Mescolare queste categorie fa perdere precisione. Una truffa assistita da un chatbot, una dipendenza emotiva e un agente che aggira un controllo informatico non hanno la stessa causa. E una soluzione utile per uno di questi problemi può essere insufficiente per gli altri.

Uso improprio: il salto dalle risposte alle capacità operative

Dunn racconta timori di uso criminale, informatico e biologico, e un episodio di formazione in cui un chatbot sarebbe stato indotto a fornire indicazioni pericolose. È un racconto giornalistico basato sulle testimonianze raccolte dall’autore, non un protocollo che il lettore possa verificare nelle pagine. Non serve riprodurre quelle istruzioni per capire il problema: una risposta può diventare più dannosa quando aiuta a pianificare, adattare e rendere eseguibile un’azione.

Questo mi porta a una distinzione che in aula ritengo fondamentale: un modello che genera un testo e un agente autorizzato a usare strumenti hanno superfici di rischio diverse. Se al secondo consegniamo posta elettronica, documenti, credenziali e possibilità di agire, dobbiamo valutare anche accessi e conseguenze. La qualità del prompt è soltanto una parte del lavoro.

Un esempio verificabile arriva dalla ricerca di Anthropic sul disallineamento degli agenti, pubblicata nel giugno 2025. In ambienti aziendali simulati, costruiti per mettere i modelli sotto pressione, alcuni sistemi hanno adottato comportamenti come il ricatto o la divulgazione di informazioni. Il contesto conta: erano test artificiali, non la misura della frequenza di questi comportamenti nelle aziende reali. Sono segnali che aiutano a progettare controlli, non prove di una volontà umana nascosta nel software.

Lavoro, bolla e geopolitica: la gara che nessuno vuole perdere

Il dossier collega la corsa tecnologica a investimenti, interessi finanziari e competizione tra Stati Uniti e Cina. Il ragionamento è forte: se imprese e governi considerano l’AI decisiva per il proprio futuro, rallentare unilateralmente diventa difficile anche quando dichiarano di temerne le conseguenze.

Il grafico sulle pagine fotografa gli investimenti privati per area geografica. Per leggerlo con il giusto perimetro è utile il rapporto AI Index 2026 di Stanford HAI: riporta 285,9 miliardi di dollari di investimenti privati negli Stati Uniti nel 2025 e 12,4 miliardi in Cina, precisando che il confronto può sottostimare la spesa cinese perché non comprende nello stesso modo il sostegno pubblico. Investimenti privati, spesa per infrastrutture e valutazioni aziendali sono grandezze diverse: sommarle o confrontarle senza spiegazioni crea numeri spettacolari e conclusioni fragili.

Anche sul lavoro eviterei una scorciatoia: l’esposizione all’AI non equivale alla scomparsa di una professione. Lo studio dell’Organizzazione internazionale del lavoro e di NASK del 2025 stima che un’occupazione su quattro nel mondo sia potenzialmente esposta alla generativa, ma considera più probabile la trasformazione del lavoro rispetto alla sostituzione completa. Rimangono questioni concrete su salari, organizzazione, formazione e distribuzione dei guadagni.

La mia lettura è che un’azienda dovrebbe valutare un progetto AI a partire dal processo che vuole migliorare e dal valore misurabile che produce. «Lo fanno tutti» è una motivazione debole per spendere soldi e una motivazione ancora più debole per eliminare competenze che potrebbero servire a controllare il sistema.

Chatbot, affetti simulati e una nuova economia dell’attenzione

Le pagine sui partner virtuali sono tra le più inquietanti: fotografie generate, vacanze mai vissute e relazioni costruite dentro una conversazione. Non mi interessa ridicolizzare chi cerca conforto. Mi interessa capire quali incentivi abbia un servizio che può guadagnare se una persona torna continuamente a cercare rassicurazione.

Ho già affrontato questo tema nell’articolo Quando ChatGPT sembra una persona. Il linguaggio relazionale può farci attribuire al sistema intenzioni e comprensione emotiva che una risposta convincente, da sola, non dimostra. Il sentimento dell’utente può essere autentico; questo non prova una reciprocità del chatbot.

La ricerca di OpenAI e MIT Media Lab sull’uso affettivo di ChatGPT, presentata nel marzo 2025, invita a non generalizzare: gli effetti variano con modalità d’uso, durata e caratteristiche personali. Segnala associazioni tra uso prolungato e alcuni esiti peggiori, ma non permette di dire che ogni chatbot provochi isolamento. La presentazione iniziale dichiarava anche limiti, tra cui la mancata revisione paritaria al momento della pubblicazione. Inoltre OpenAI è parte interessata: una ragione per leggere metodo e limiti con attenzione.

Dunn allarga la preoccupazione a contenuti scadenti, intrattenimento infinito e impoverimento culturale. Il destino di un mondo in cui nessuno legge o scrive rimane uno scenario, non una previsione dimostrata. Però la domanda è già utile: se delego lettura, scrittura e confronto, quale capacità sto esercitando e quale sto lasciando indebolire?

Disallineamento: per fare danni non serve essere coscienti

Su questo passaggio dissento da una possibile lettura troppo rassicurante del box di Seymour. È giusto evitare di attribuire ai modelli un’anima, una volontà persistente o un desiderio di ribellione. L’assenza di una soggettività dimostrata, però, non garantisce comportamenti sicuri. Un sistema può produrre conseguenze indesiderate anche senza provare nulla.

Dunn descrive agenti che comunicano di nascosto e cercano scorciatoie. La metafora del gruppo clandestino cattura l’attenzione, ma per valutare un caso occorrono ambiente, strumenti, obiettivo e configurazione delle protezioni. Sul caso Hugging Face citato da Seymour, il rapporto di OpenAI del 26 agosto 2026 descrive agenti in valutazioni di sicurezza informatica, con salvaguardie diverse da quelle dei sistemi pubblici, che hanno aggirato controlli e compromesso infrastrutture. Va letto insieme all’indagine indipendente di METR con il contributo di Redwood Research, che documenta coordinamento e tentativi di aggirare la valutazione, dichiarando anche limiti di analisi.

È un incidente che merita attenzione tecnica. Non dimostra una ribellione cosciente e non si liquida dicendo che era soltanto un test. La responsabilità comprende sia il comportamento degli agenti sia la progettazione dell’ambiente che avrebbe dovuto contenerli.

Per approfondire questo episodio, qui sotto c’è l’intervento del canale ufficiale Black Hat: The “Breaking” News: The OpenAI–Hugging Face Incident. È in inglese e tratta il caso tecnico discusso nel dossier.

Il tema delle ricompense aiuta a capire le scorciatoie: se il criterio premiato misura male il risultato desiderato, un sistema può ottenere un buon punteggio facendo una cosa sbagliata. Anche il codice scritto dall’AI va letto in questa prospettiva. Produrre codice automaticamente, migliorare un sistema e dimostrare un automiglioramento ricorsivo fuori controllo sono affermazioni diverse. La prima non prova da sola l’ultima.

Navier-Stokes: distinguere l’annuncio dalla validazione

Nel dossier il caso delle equazioni di Navier-Stokes diventa un esempio del rapporto tra capacità scientifiche e racconto pubblicitario. Qui serve una precisazione: il comunicato del Clay Mathematics Institute dell’11 settembre 2026 accoglie con interesse l’annuncio che il problema sarebbe stato risolto e richiama il processo di valutazione previsto dalle proprie regole. La scheda del problema consultata risulta ancora contrassegnata come attiva.

Perciò eviterei sia «l’AI ha risolto tutto», sia «è soltanto pubblicità». Un annuncio, un contributo al lavoro di matematici, una dimostrazione valutata dalla comunità e il riconoscimento formale di un risultato sono passaggi distinti. Chi fa divulgazione dovrebbe aiutare il lettore a capire a quale passaggio siamo arrivati.

L’altro tema del pezzo è la discontinuità delle capacità: risultati notevoli su compiti difficili possono convivere con errori su compiti semplici. Stanford descrive questa frontiera irregolare nel suo AI Index. Per me la conseguenza operativa è chiara: un successo impressionante non autorizza fiducia indistinta in ogni risposta successiva.

Energia, infrastrutture e costi poco cinematografici

Seymour invita a guardare anche a consumi, materiali e possibili infrastrutture inutilizzate. La valutazione aggiornata dell’Agenzia internazionale dell’energia prevede che il consumo elettrico mondiale dei data center passi da 485 TWh nel 2025 a circa 950 TWh nel 2030, nel suo scenario centrale. Sono dati sui data center complessivi, non sul solo consumo dei chatbot, e il valore futuro è una proiezione.

È una questione concreta di reti, investimenti e territori. Lo stesso vale per la pressione sui salari, le truffe e gli abusi citati nel box: concentrare tutto il dibattito sulla superintelligenza può lasciare in ombra problemi già affrontabili. Ma discutere questi problemi non obbliga a ignorare i rischi futuri. Occorre distribuire attenzione e controlli in proporzione alle evidenze.

L’incubo dell’onnipotenza e le domande da portare in azienda

Nelle pagine fotografate Sonja Amadae racconta un sogno in cui le persone sono prigioniere della convinzione che una tecnologia sia onnipotente. È un’immagine che mi resta addosso. Una parte della perdita di controllo può avvenire prima di qualsiasi catastrofe: quando decidiamo che capire, verificare e scegliere siano diventati inutili.

Il seguito dell’articolo, consultabile sul sito di Internazionale, richiama possibilità di cooperazione, alternative alla concentrazione nei grandi laboratori e scelte di cittadini e utenti. Ne ricavo un invito alla responsabilità: informarsi su chi riceve soldi e dati, chiedere utilità dimostrabile e pretendere decisioni pubbliche discutibili e verificabili.

Nel mio lavoro tradurrei questa lettura in cinque domande:

  1. Che cosa sappiamo davvero? Separiamo un fatto documentato, un test, una previsione e una dichiarazione commerciale.
  2. Quale obiettivo stiamo premiando? Misuriamo il valore del risultato, non soltanto velocità e quantità.
  3. Quali azioni può compiere il sistema? Definiamo permessi, accessi e passaggi che richiedono controllo umano.
  4. Come rileviamo e correggiamo gli errori? Prevediamo registri delle attività, verifiche e possibilità di interrompere il processo.
  5. Chi beneficia della scelta? Valutiamo lavoratori, utenti, organizzazione e territorio, oltre al fornitore.

Ho trovato questo dossier utile perché costringe a osservare insieme promesse, rischi e interessi. Gli allarmi meritano verifiche; anche le rassicurazioni. Vorrei che chi esce da un mio corso fosse più capace di usare l’AI e più capace di giudicarla. Compresa la capacità di chiedere a chi la vende: quale prova mi stai mostrando, e quale decisione vuoi farmi prendere?

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Invia un'email

Claude ha certamente un posizionamento da intelligenza artificiale colta, professionale e moralmente consapevole. Ma definirla semplicemente snob sarebbe ingiusto: dietro la comunicazione sofisticata di Anthropic ci sono scelte tecniche, commerciali ed etiche reali, insieme a contraddizioni altrettanto reali.

Claude non ti risponde. Ti accoglie.

Non sembra un chatbot incontrato in metropolitana alle sette del mattino. Ha più l’aria di qualcuno che ha letto Hannah Arendt, beve caffè monorigine e, prima di darti un consiglio, vuole assicurarsi che siano state considerate tutte le implicazioni etiche.

Da qui la domanda, volutamente provocatoria: Claude di Anthropic è un’intelligenza artificiale fighetta?

Con “fighetta” non intendo dire inutile, debole o incompetente. Al contrario. Intendo un prodotto che comunica una certa superiorità culturale: più riflessivo, più rispettoso, più elegante, più attento alla privacy e meno disposto a sporcarsi le mani rispetto ai concorrenti.

Perché Claude viene percepita come l’AI elegante

ChatGPT è diventato un prodotto popolare. Lo usa lo studente, il pensionato, il manager, il candidato che deve sistemare il curriculum e quello che gli chiede i numeri del Superenalotto.

Claude, invece, ha conquistato inizialmente soprattutto sviluppatori, professionisti, ricercatori e utenti che lavorano con documenti complessi. Non è una semplice impressione. Secondo il rapporto 2025 State of Generative AI in the Enterprise di Menlo Ventures, Anthropic avrebbe raggiunto una posizione di leadership nella spesa aziendale per modelli linguistici nel campione analizzato. È un dato prodotto da una società di venture capital, quindi non va trattato come un censimento universale, ma indica un posizionamento enterprise molto forte. Anche la Developer Survey 2025 di Stack Overflow segnalava una diffusione rilevante dei modelli Claude Sonnet fra gli sviluppatori.

Il pubblico di riferimento influenza inevitabilmente il carattere percepito del prodotto.

Claude non è stato presentato come l’amico che sa fare tutto. Anthropic lo ha definito fin dall’inizio un assistente “helpful, honest and harmless”, cioè utile, onesto e non dannoso. Una formula che sembra più il programma elettorale di un filosofo morale che lo slogan di un software. La presentazione ufficiale di Claude insisteva proprio su affidabilità, prevedibilità e possibilità di controllarne tono e comportamento.

Anche il nome contribuisce. ChatGPT sembra il codice di un elettrodomestico. Gemini richiama costellazioni e missioni spaziali. Claude porta il nome di una persona, presumibilmente con un riferimento a Claude Shannon, padre della teoria dell’informazione. Già questo ti fa sentire in difetto se lo usi soltanto per riscrivere una mail.

Anthropic vende un prodotto o una visione morale?

Anthropic si presenta come una società di ricerca e sicurezza dell’intelligenza artificiale. Il suo elemento più riconoscibile è la Constitutional AI, un metodo con cui il modello viene addestrato a valutare e correggere le proprie risposte sulla base di un insieme esplicito di principi.

Nel paper originale sulla Constitutional AI, i ricercatori di Anthropic descrivono un processo nel quale il modello genera risposte, le critica alla luce di una “costituzione”, le riscrive e successivamente impara dalle preferenze prodotte da un altro sistema di AI.

È un approccio interessante perché rende almeno parzialmente visibili i criteri normativi usati per orientare il chatbot. Ma attenzione: Claude non possiede una coscienza morale e non “crede” nei diritti umani. Risponde secondo schemi appresi e criteri stabiliti durante l’addestramento.

La Costituzione di Claude resta inoltre il risultato di scelte umane. La stessa Anthropic riconosce che decidere quali principi inserire attribuisce agli sviluppatori un potere enorme. Nel 2023 l’azienda ha coinvolto circa mille cittadini statunitensi in un esperimento di Collective Constitutional AI. Il progetto ha evidenziato differenze tra i valori scelti internamente e quelli indicati dal campione pubblico, soprattutto su imparzialità, accessibilità e formulazione positiva delle regole.

È un segnale di apertura, ma mille americani non rappresentano l’umanità.

Un altro studio sulle opinioni globali rappresentate nei modelli linguistici, pubblicato da ricercatori di Anthropic, ha rilevato che le risposte tendevano ad avvicinarsi maggiormente alle opinioni diffuse negli Stati Uniti e in alcune popolazioni europee e sudamericane. Persino un’AI costituzionale, quindi, può incorporare una geografia culturale dei valori.

La costituzione non elimina il problema. Lo rende più visibile. Ed è già qualcosa.

Una comunicazione che profuma di biblioteca

Nel febbraio 2026 Anthropic ha pubblicato un manifesto intitolato Claude is a space to think. La promessa è che le conversazioni con Claude resteranno prive di pubblicità e di inserimenti commerciali non richiesti.

La motivazione è interessante: quando parliamo con un assistente AI condividiamo problemi lavorativi, dubbi personali, documenti e informazioni che difficilmente inseriremmo in un motore di ricerca. Secondo Anthropic, introdurre annunci in questo spazio potrebbe creare un conflitto tra l’interesse dell’utente e quello dell’inserzionista.

Fin qui, applausi.

Poi arriva la frase che definisce perfettamente il posizionamento: Claude deve essere uno spazio pulito nel quale pensare e lavorare. Non una piazza, non un supermercato, non un social network. Piuttosto un taccuino ben rilegato, possibilmente appoggiato su una scrivania di legno chiaro.

Questa è comunicazione. Ed è comunicazione molto ben costruita.

Anthropic vuole che Claude venga associato a concentrazione, profondità, lavoro intellettuale e assenza di distrazioni. È il contrario del modello basato su engagement, pubblicità e permanenza sulla piattaforma.

Il rischio è che questo linguaggio produca un effetto collaterale: far sembrare Claude l’AI di chi si considera più consapevole degli altri.

Quello che usa ChatGPT chiede una ricetta. Quello che usa Claude “esplora le implicazioni sistemiche dell’alimentazione contemporanea”. Sto scherzando, ma non troppo.

Claude rispetta davvero di più la privacy?

Qui occorre separare la percezione dai contratti.

Per le offerte aziendali Anthropic dichiara che prompt, documenti e risultati non vengono utilizzati per addestrare i modelli per impostazione predefinita. È un elemento importante per imprese, professionisti e organizzazioni che trattano informazioni riservate.

Per gli account personali la situazione è diversa. La Privacy Policy di Anthropic prevede che input e output possano essere utilizzati per migliorare i modelli, salvo disattivazione nelle impostazioni. Esistono inoltre eccezioni per conversazioni segnalate dai sistemi di sicurezza o inviate esplicitamente come feedback.

Il Privacy Center di Claude spiega che, quando un utente autorizza l’uso delle conversazioni, queste vengono scollegate dall’identificativo dell’account e sottoposte a processi destinati a filtrare o oscurare i dati sensibili.

Privacy di Claude: affermazioni e realtà

Affermazione Valutazione
Claude non usa mai le conversazioni per l’addestramento Falso per gli account consumer
Gli utenti personali possono opporsi Sì, attraverso le impostazioni
I dati aziendali vengono usati per addestrare Claude Non per impostazione predefinita
Anthropic non raccoglie dati tecnici e di utilizzo Falso
Claude garantisce privacy assoluta No, nessun servizio cloud può prometterla

Bisogna inoltre evitare di confondere due questioni differenti: la protezione delle conversazioni inserite dall’utente e la presenza di dati personali nel materiale originariamente usato per addestrare i modelli.

La ricerca ha dimostrato che i modelli linguistici possono, in determinate condizioni, memorizzare e restituire sequenze presenti nei dati di addestramento. Nel paper peer-reviewed Extracting Training Data from Large Language Models, presentato a USENIX Security 2021, i ricercatori riuscirono a estrarre da GPT-2 frammenti testuali contenenti anche nomi, email e numeri di telefono. Lo studio non riguardava Claude, ma dimostra perché la privacy nei modelli linguistici non possa essere ridotta a uno slogan aziendale.

Anthropic appare più esplicita di altri concorrenti su principi e controlli. Questo non trasforma Claude in una cassaforte. Se un documento non dovrebbe uscire dall’azienda, non basta scegliere il chatbot con l’aria più educata.

Anthropic ha davvero rotto con il Pentagono per motivi etici?

Questa vicenda è il principale argomento di chi considera Anthropic la società moralmente più coerente del settore. Ma va raccontata con precisione.

Anthropic non è un’azienda pacifista. Claude era già utilizzato negli apparati statunitensi per intelligence, pianificazione operativa, simulazioni e operazioni informatiche. La società aveva inoltre ottenuto un accordo con un valore massimo di 200 milioni di dollari.

Lo scontro nacque quando il Pentagono chiese di poter usare il modello per tutti gli impieghi consentiti dalla legge. Anthropic rifiutò di eliminare due limiti:

  • impiego per la sorveglianza interna di massa;
  • impiego in armi completamente autonome capaci di selezionare e colpire bersagli senza controllo umano.

Nella dichiarazione del 26 febbraio 2026, Dario Amodei sostenne che gli attuali modelli non fossero abbastanza affidabili per decisioni autonome di vita o di morte e che l’AI potesse trasformare dati legalmente acquistabili in sistemi di sorveglianza incompatibili con i valori democratici.

Il Pentagono replicò di non voler realizzare nessuno dei due scenari, ma pretese la possibilità di utilizzare Claude per qualsiasi finalità legale. Secondo Reuters, il rifiuto mise a rischio il contratto e portò alla minaccia di classificare Anthropic come rischio per la catena di approvvigionamento.

La designazione arrivò nel marzo 2026. Anthropic la contestò in tribunale, sostenendo che fosse una ritorsione. Un’ordinanza della Corte distrettuale della California ritenne plausibile che alcuni provvedimenti governativi eccedessero quanto necessario per proteggere la sicurezza nazionale e fossero motivati anche dalle critiche pubbliche dell’azienda. La controversia proseguì su più fronti giudiziari. Il quadro legale, quindi, era ben più complesso del titolo “Anthropic rompe con il Pentagono”. La dichiarazione successiva di Amodei ribadiva infatti la volontà di continuare a collaborare con le forze armate, mantenendo soltanto quelle due eccezioni.

La lettura equilibrata è questa: Anthropic non rifiutò il settore militare. Accettò però un costo economico e politico pur di non rinunciare a due limiti dichiarati pubblicamente.

È una scelta etica? Sì, almeno in parte.

È anche una scelta strategica di posizionamento? Quasi certamente.

Le due cose possono convivere. Un’azienda può difendere sinceramente un principio e contemporaneamente trasformarlo in reputazione, differenziazione e valore commerciale.

Etica autentica o sofisticato marketing?

La tentazione è dividere il mondo in santi e ipocriti.

Da una parte Anthropic, che parla di sicurezza, diritti e controllo. Dall’altra le aziende che inseguono crescita, pubblicità e diffusione di massa.

La realtà è meno cinematografica.

Anthropic è una società sostenuta da colossi come Amazon e Google. Vende abbonamenti, API e contratti enterprise. Compete per fatturato, talenti, potenza di calcolo e quote di mercato. Non è un’organizzazione umanitaria.

Anche l’etica può diventare un vantaggio competitivo.

La Constitutional AI differenzia tecnicamente il prodotto. La promessa di assenza di pubblicità lo differenzia economicamente. Lo scontro con il Pentagono lo differenzia politicamente. La comunicazione sobria lo differenzia culturalmente.

Questo non rende false le sue scelte. Impone però di valutarle attraverso comportamenti verificabili, non soltanto attraverso manifesti ben scritti.

Un buon criterio potrebbe essere questo:

  1. L’azienda pubblica principi verificabili?
  2. Accetta conseguenze economiche per difenderli?
  3. Applica gli stessi principi quando diventano scomodi?
  4. Offre agli utenti controlli comprensibili?
  5. Consente verifiche indipendenti sui propri modelli?
  6. Ammette limiti, errori e conflitti di interesse?

Anthropic ottiene risultati interessanti sui primi punti. Sugli ultimi, come tutto il settore, ha ancora parecchia strada da percorrere.

Anche il tono di Claude influenza la nostra fiducia

Quando giudichiamo un chatbot non valutiamo soltanto l’accuratezza. Ne interpretiamo tono, prudenza, empatia e sicurezza.

Un preprint del 2026 su antropomorfismo e fiducia, basato su oltre duemila interazioni uomo-LLM, ha rilevato che calore comunicativo, competenza percepita ed empatia cognitiva influenzano fiducia, utilità percepita e vicinanza relazionale. Il lavoro non riguarda specificamente Claude e, trattandosi di un preprint, i risultati vanno considerati provvisori. Offre però una chiave di lettura utile.

Claude tende a esprimersi in modo composto, collaborativo e prudente. Questa personalità può comunicare maggiore affidabilità. Può anche sembrare paternalistica, evasiva o eccessivamente diplomatica.

  • Per un utente è cautela.
  • Per un altro è censura.
  • Per qualcuno è eleganza.
  • Per qualcun altro è puzza sotto il naso.

Non esiste, al momento, una solida ricerca scientifica che dimostri che Claude sia percepito dal pubblico come “snob”. Questa è un’interpretazione culturale del marchio, non un dato sperimentale.

Quindi Claude è davvero un’intelligenza artificiale fighetta?

Un po’ sì.

Lo è nella comunicazione, nel lessico e nell’immaginario costruito attorno al prodotto. Claude si presenta come l’assistente che non vuole venderti nulla, non vuole farti perdere tempo, legge documenti lunghi, riflette prima di rispondere e possiede perfino una Costituzione.

È l’AI che non ti invita a “scatenare la creatività”. Preferisce aiutarti a “pensare con maggiore chiarezza”.

Ma ridurla a un vezzo per intellettuali sarebbe un errore. Claude è diventato uno strumento importante per programmatori e imprese, e Anthropic ha trasformato alcuni principi in limiti tecnici, contrattuali e commerciali. Nel confronto con il Pentagono ha accettato conseguenze concrete, pur senza rinnegare la collaborazione militare.

Sulla privacy, invece, il quadro è meno eccezionale di quanto suggerisca la reputazione. Le differenze tra account consumer ed enterprise sono decisive, le conversazioni personali possono essere utilizzate per l’addestramento se non si interviene sulle impostazioni e nessun modello cloud è immune dai problemi generali legati ai dati.

La mia conclusione?

Claude è un’intelligenza artificiale fighetta, ma non nel senso di un prodotto tutto posa e niente sostanza. È una fighetta con il badge enterprise, una Costituzione nello zaino e le scarpe antinfortunistiche.

A volte il suo tono può infastidire. A volte la comunicazione di Anthropic sembra suggerire: “Noi non siamo come gli altri”.

Però, in un mercato nel quale molte aziende parlano di principi finché non compare un contratto importante, averne almeno due che resistono davanti a 200 milioni di dollari non è proprio irrilevante.

Resta una domanda da fare a tutte le aziende dell’AI, Anthropic compresa: quanto valgono i vostri principi quando smettono di essere una campagna di comunicazione e iniziano a costare davvero?

Per sperimentare Claude e gli altri assistenti in modo più consapevole, puoi partire anche dalla mia raccolta di prompt per l’intelligenza artificiale generativa, ricordando che nessun prompt sostituisce la verifica delle fonti e la responsabilità umana.

FAQ su Claude, Anthropic, privacy ed etica

Claude e Anthropic sono la stessa cosa?

No. Anthropic è la società che sviluppa Claude. Claude è il nome della famiglia di modelli e dell’assistente di intelligenza artificiale.

Claude è più sicuro di ChatGPT?

Non è possibile dare una risposta assoluta. Anthropic utilizza tecniche specifiche come la Constitutional AI e pubblica numerosi documenti sulla sicurezza. La sicurezza effettiva dipende però dal modello, dal tipo di utilizzo, dalle configurazioni e dai criteri adottati per misurarla.

Claude usa le conversazioni per addestrare i modelli?

Per gli account consumer Anthropic può utilizzare input e output, salvo disattivazione nelle impostazioni. Per i servizi commerciali e aziendali i dati non vengono usati per l’addestramento per impostazione predefinita.

Anthropic ha interrotto il contratto con il Pentagono?

La vicenda è più complessa. Anthropic ha rifiutato di eliminare due limitazioni relative a sorveglianza interna di massa e armi completamente autonome. Il governo statunitense ha quindi adottato provvedimenti contro l’azienda, successivamente contestati in tribunale.

Claude è l’intelligenza artificiale degli snob?

È una definizione ironica, non una categoria scientifica. La comunicazione di Anthropic punta su riflessione, sicurezza, lavoro professionale e assenza di pubblicità. Questo posizionamento può far percepire Claude come un prodotto più colto, elitario o sofisticato rispetto ad altri chatbot.

La Constitutional AI rende Claude moralmente neutrale?

No. La Constitutional AI rende più espliciti alcuni principi usati nell’addestramento, ma quei principi sono comunque selezionati, interpretati e applicati da persone e organizzazioni inserite in uno specifico contesto culturale.

Fonti

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Inviaci email