Meta non sa letteralmente tutto di noi, ma può dedurre interessi, caratteristiche personali e importanza delle relazioni osservando la struttura della rete e i comportamenti digitali. Alcuni studi mostrano che Facebook può perfino riconoscere con buona accuratezza il partner romantico. Non esiste invece una ricerca che dimostri che sappia identificare con certezza un amante segreto.
Immagina di non aver mai dichiarato apertamente chi sia la persona più importante della tua vita.
Nessun post romantico. Nessuna fotografia insieme. Nessun cuoricino sotto una dichiarazione pubblica. Eppure un algoritmo potrebbe comunque riuscire a individuarla osservando soltanto la struttura della tua rete sociale.
Da qui nasce una frase che circola da anni: Facebook sa chi sono i tuoi amici più cari, il tuo partner e perfino la tua amante.
La prima parte ha basi scientifiche. L’ultima, quella dell’amante, è una provocazione efficace ma non è stata dimostrata da uno studio specifico. Eppure la questione resta inquietante: Meta non deve necessariamente leggere un contenuto esplicito per ricostruire una relazione. Può inferirla dai segnali che lasciamo.
Chi cerchiamo. Con chi interagiamo. Quali profili visitiamo. Chi compare in più cerchie della nostra vita. A quali contenuti reagiamo e quali ignoriamo.
Meta non deve leggere nella nostra mente. Le basta formulare previsioni sufficientemente accurate.
Come Meta usa i dati per costruire modelli su di noi
Quando pensiamo ai dati personali immaginiamo nome, età, indirizzo, fotografia, posizione e numero di telefono. È una visione ormai antiquata.
Il vero valore non si trova soltanto nei dati che dichiariamo, ma nelle informazioni che possono essere dedotte dai nostri comportamenti.
Esiste una differenza fondamentale tra ciò che comunichiamo esplicitamente, ciò che facciamo e ciò che un sistema può inferire mettendo insieme migliaia di segnali.
Meta stessa, spiegando come funziona il sistema di ranking del Feed di Facebook, parla di migliaia di segnali elaborati per prevedere quali contenuti troveremo più rilevanti e con quali avremo maggiori probabilità di interagire. Non si tratta di un unico algoritmo, ma di diversi modelli di machine learning che assegnano punteggi e probabilità ai contenuti.
Facebook non deve chiedermi: «Quanto è importante per te questa persona?».
Può osservare quanto spesso interagisco con lei, quali contenuti guardo, se rispondo ai suoi commenti, quali amici abbiamo in comune e in quali ambienti della mia vita compare.
In un mio precedente approfondimento sull’ingegnerizzazione e misurazione delle relazioni nei social network avevo già evidenziato questo meccanismo: misurare i legami permette alla piattaforma di decidere a chi mostrare un contenuto e quali conversazioni stimolare.
Il social network, quindi, non si limita a rappresentare le relazioni. Le trasforma in variabili.
Lo studio che permise a Facebook di riconoscere il partner
Nel 2013 Lars Backstrom, allora ingegnere di Facebook, e Jon Kleinberg della Cornell University pubblicarono lo studio Romantic Partnerships and the Dispersion of Social Ties, successivamente presentato alla conferenza ACM CSCW del 2014.
I ricercatori analizzarono un campione di circa 1,3 milioni di utenti Facebook che avevano dichiarato sul profilo una relazione sentimentale. L’obiettivo era capire se fosse possibile riconoscere il partner osservando soltanto la struttura della rete di amicizie.
Si potrebbe pensare che la persona più importante sia semplicemente quella con cui condividiamo più amici. Non è così.
I ricercatori introdussero un indicatore chiamato dispersione. Una relazione assume un valore strutturalmente particolare quando collega parti diverse della nostra vita.
Il collega conosce soprattutto altri colleghi. Il compagno di calcetto conosce gli amici della squadra. Il partner, invece, può essere collegato contemporaneamente ai familiari, agli amici d’infanzia, ai colleghi e ai vicini di casa.
Queste persone non si conoscono necessariamente tra loro, ma conoscono tutte il partner. È questa particolare distribuzione dei legami a renderlo riconoscibile.
Secondo i risultati riportati, l’algoritmo riusciva a identificare il coniuge nel 60% circa dei casi e un partner non sposato in quasi il 50% dei casi. Non era infallibile, ma era enormemente più efficace di una scelta casuale.
Facebook può scoprire un amante?
Qui serve una precisazione fondamentale: lo studio prendeva in esame utenti che avevano dichiarato la relazione. Non dimostrava che Facebook potesse scoprire un amante segreto.
Dire che «Facebook conosce la tua amante» è quindi un’estrapolazione, non un risultato scientifico. La ricerca dimostra qualcosa di più preciso: la geometria delle nostre relazioni può rivelare legami importanti anche senza analizzare il contenuto dei messaggi.
I tuoi Mi piace possono raccontare ciò che non hai dichiarato
Nel 2013 Michal Kosinski, David Stillwell e Thore Graepel pubblicarono su PNAS lo studio Private traits and attributes are predictable from digital records of human behavior.
Analizzando i Mi piace di oltre 58.000 volontari, i ricercatori mostrarono che le tracce digitali potevano essere utilizzate per stimare caratteristiche sensibili quali orientamento politico, religione, personalità, età, genere e orientamento sessuale.
L’aspetto più interessante non era la capacità di interpretare un like esplicito. Non serve un algoritmo sofisticato per dedurre le idee politiche di chi segue la pagina di un partito.
Le previsioni potevano basarsi anche su combinazioni di comportamenti apparentemente innocui e privi di un collegamento evidente con la caratteristica da individuare.
La privacy non riguarda soltanto ciò che pubblichiamo, ma anche ciò che può essere dedotto da quello che pubblichiamo.
Due anni dopo, un altro studio pubblicato su PNAS, condotto su 86.220 volontari, confrontò i giudizi sulla personalità elaborati dai computer con quelli espressi da colleghi, amici, familiari e partner.
Secondo i risultati, con circa 100 Mi piace il modello poteva superare il giudizio della persona media. Con 300 poteva risultare più accurato del coniuge nel descrivere alcuni tratti della personalità.
Sono dati provenienti da una fase precedente della storia di Facebook e non vanno trasferiti automaticamente agli algoritmi odierni. Il principio, però, rimane valido: una grande quantità di piccoli segnali può produrre inferenze che il singolo segnale non consentirebbe.
Dalla misurazione delle relazioni all’influenza sociale
Misurare un legame non serve soltanto a capire chi conosciamo. Serve anche a prevedere chi può influenzarci.
Nel 2012 uno studio pubblicato su Nature descrisse un esperimento realizzato durante le elezioni statunitensi del 2010, coinvolgendo circa 61 milioni di utenti Facebook.
I messaggi mostrati dalla piattaforma influenzarono, con effetti individuali piccoli ma misurabili, l’espressione politica, la ricerca di informazioni e il comportamento elettorale. Soprattutto, la trasmissione sociale avvenne prevalentemente attraverso gli amici più stretti.
Questo spiega perché la misurazione delle relazioni abbia un valore enorme.
Un messaggio pubblicitario può essere ignorato. Lo stesso messaggio, associato al comportamento di una persona di cui ci fidiamo, può diventare molto più persuasivo.
L’algoritmo non deve soltanto stabilire quale contenuto mostrarci. Deve capire anche quale relazione può renderlo più credibile.
L’esperimento di Facebook sul contagio emotivo
Nel 2014 Facebook fu coinvolta in uno degli studi più controversi della storia dei social media: Experimental evidence of massive-scale emotional contagion through social networks.
I ricercatori modificarono per una settimana il numero di contenuti positivi o negativi mostrati nel Feed di 689.003 utenti. Successivamente osservarono un piccolo ma statisticamente misurabile cambiamento nel tono dei post pubblicati dagli stessi utenti.
L’effetto rilevato era modesto. Sarebbe quindi scorretto dire che Facebook possa accendere o spegnere a piacimento le emozioni delle persone.
Lo studio dimostrò comunque un fatto rilevante: modificare la composizione del flusso informativo può produrre effetti osservabili sul comportamento di una popolazione enorme.
Non esiste un pulsante segreto chiamato «rendi triste Gianluigi». Variazioni minuscole, applicate a milioni o miliardi di persone, possono però avere conseguenze collettive significative.
La persuasione diventa personalizzata
Nel 2017 un ulteriore studio pubblicato su PNAS sulla persuasione psicologica analizzò tre esperimenti pubblicitari che raggiunsero oltre 3,5 milioni di persone.
Quando il messaggio veniva adattato a caratteristiche psicologiche come estroversione o apertura mentale, i ricercatori registrarono fino al 40% di clic in più e fino al 50% di acquisti in più rispetto ai messaggi non corrispondenti al profilo. Gli autori avvertivano anche del rischio di sfruttare le vulnerabilità psicologiche delle persone.
La sequenza diventa chiara:
- la piattaforma osserva il comportamento;
- ricostruisce interessi e caratteristiche probabili;
- misura la forza delle relazioni;
- seleziona il messaggio;
- decide quando e in quale contesto mostrarlo;
- misura la reazione e aggiorna il modello.
È un ciclo continuo di osservazione, previsione, intervento e verifica.
Nel mio articolo sul film Brexit: The Uncivil War e il microtargeting di Facebook raccontavo proprio questa trasformazione: non parlare a tutti, ma individuare gruppi specifici e mostrare a ciascuno ciò che ha maggiori probabilità di funzionare.
Un video per capire perché ogni dato può diventare sensibile
Nel TED Talk ufficiale What will a future without secrets look like?, Alessandro Acquisti, professore alla Carnegie Mellon University, mostra come informazioni pubbliche, riconoscimento facciale e modelli statistici possano essere combinati per ricostruire dati che una persona non aveva deciso di comunicare.
Facebook, Instagram e WhatsApp sanno tutti le stesse cose?
Occorre evitare un’altra semplificazione.
Facebook, Instagram, Messenger, Threads e WhatsApp appartengono allo stesso gruppo, ma questo non significa che tutti i contenuti confluiscano automaticamente in un unico calderone accessibile senza limiti.
Su WhatsApp, per esempio, i messaggi e le chiamate personali sono protetti dalla crittografia end-to-end. Secondo la documentazione ufficiale, nemmeno WhatsApp e Meta possono leggerne o ascoltarne il contenuto.
Questo non significa che WhatsApp sia privo di dati. Contenuto e metadati non sono la stessa cosa. Informazioni tecniche, dati dell’account e determinati segnali di utilizzo possono comunque avere valore operativo e relazionale, secondo le informative applicabili.
Per essere rigorosi, quindi, non bisogna dire che Meta legge tutte le nostre conversazioni WhatsApp. Non è ciò che dimostrano le fonti.
Ogni servizio digitale può però generare segnali e ogni segnale, combinato con altri, può contribuire a un modello probabilistico.
Questa è ingegneria sociale?
Nel campo della sicurezza informatica, l’espressione «ingegneria sociale» indica solitamente la manipolazione delle persone per ottenere informazioni, accessi o comportamenti.
Nel caso di Meta parlerei più precisamente di ingegnerizzazione dell’ambiente sociale.
Le piattaforme trasformano le relazioni in dati, attribuiscono un peso ai legami, prevedono quali contenuti genereranno una reazione, ordinano il nostro ambiente informativo e misurano gli effetti delle proprie scelte.
Non è necessario immaginare una stanza segreta piena di persone che decidono che cosa dobbiamo pensare. La forma più potente di influenza è automatizzata, statistica e impersonale.
Nessuno deve conoscere davvero Gianluigi Bonanomi. È sufficiente che il sistema sappia che utenti con un comportamento simile al suo tendono a fermarsi davanti a un certo contenuto, fidarsi di determinate persone o reagire a una specifica formulazione.
Profilazione non significa conoscenza
Gli algoritmi non costruiscono necessariamente un ritratto vero di noi. Costruiscono un ritratto utile ai loro obiettivi.
Una previsione può essere sbagliata sul singolo individuo e rimanere economicamente efficace su milioni di persone. La conoscenza cerca di capire chi sei. La profilazione cerca di prevedere che cosa farai.
Anche le autorità hanno contestato nel tempo alcune pratiche legate alla gestione e all’utilizzo dei dati. Nel 2019 la Federal Trade Commission statunitense impose a Facebook una sanzione da 5 miliardi di dollari e nuovi vincoli in materia di privacy. Nel 2023 lo European Data Protection Board intervenne sul trattamento dei dati personali di Meta per la pubblicità comportamentale nello Spazio economico europeo.
Sono vicende diverse, che non dimostrano l’esistenza di un’unica macchinazione. Dimostrano però che il modello basato sulla profilazione produce problemi concreti di trasparenza, consenso e controllo.
Non proteggere soltanto i dati: proteggi le inferenze
Possiamo evitare completamente la profilazione? Probabilmente no, a meno di rinunciare a molti servizi digitali.
Possiamo però ridurre la quantità e la qualità dei segnali disponibili:
- controllare periodicamente le preferenze pubblicitarie;
- limitare la sincronizzazione dei contatti quando non è necessaria;
- verificare quali applicazioni sono collegate agli account;
- eliminare autorizzazioni obsolete;
- evitare di usare l’account Facebook o Instagram come chiave universale per altri servizi;
- limitare posizione, microfono, fotocamera e accesso alla rubrica;
- ricordare che anche un comportamento passivo, come soffermarsi su un contenuto, può diventare un segnale.
Non basta chiedersi: «Quali dati ho consegnato?».
Bisogna aggiungere una domanda più scomoda: «Che cosa può essere dedotto mettendo insieme questi dati?».
Forse Facebook non conosce davvero la tua amante. Potrebbe però accorgersi che una certa persona occupa, nella tua rete e nelle tue abitudini, una posizione molto diversa da tutte le altre.
E potrebbe farlo prima che tu abbia deciso di raccontarlo.
Domande frequenti
Meta può leggere i messaggi di WhatsApp?
I messaggi e le chiamate personali sono protetti dalla crittografia end-to-end. Secondo WhatsApp, né WhatsApp né Meta possono accedere al loro contenuto. Questo non equivale all’assenza completa di dati tecnici e di utilizzo.
Facebook può capire chi sono i miei amici più stretti?
Può stimarlo attraverso frequenza delle interazioni, struttura della rete, amici comuni, attività e altri segnali. Una stima algoritmica non coincide però con una conoscenza certa della relazione.
Facebook può scoprire una relazione sentimentale segreta?
Lo studio di Backstrom e Kleinberg dimostrò che la struttura della rete poteva identificare con buona accuratezza un partner dichiarato. Non dimostrò la capacità di individuare amanti o relazioni segrete.
Qual è la differenza tra dati raccolti e dati inferiti?
I dati raccolti derivano da azioni, contenuti e informazioni registrate. I dati inferiti sono previsioni prodotte combinando quei segnali, per esempio interessi, personalità probabile o importanza di una relazione.
Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa
Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.
