FRIA: cos’è la valutazione d’impatto sui diritti fondamentali per un Comune

Gianluigi Bonanomi spiega la FRIA e la valutazione dei diritti fondamentali per i Comuni

Un Comune decide di usare un sistema di intelligenza artificiale per aiutare a valutare le domande di accesso a un servizio. La promessa è allettante: meno arretrati, risposte più rapide, uffici più efficienti. Ma prima di mettere il sistema al lavoro c’è una domanda che non si può liquidare con un “ci penserà il fornitore”: quali effetti può avere sulle persone?

È qui che entra in gioco la FRIA, acronimo di Fundamental Rights Impact Assessment, cioè valutazione d’impatto sui diritti fondamentali. L’articolo 27 dell’AI Act la prevede per determinati soggetti che impiegano specifici sistemi di IA ad alto rischio. Per un ente pubblico, dunque, non è un’etichetta da aggiungere alla documentazione: è un’analisi preventiva del contesto concreto in cui l’IA verrà usata.

Che cos’è la FRIA, in parole semplici

La FRIA serve a individuare, prima dell’impiego di un sistema di IA, chi potrebbe essere coinvolto, quali diritti potrebbero subire un impatto e quali misure adottare per prevenire o ridurre i rischi. Non si limita a chiedere se il software funziona. Chiede anche se il suo uso è appropriato in quel servizio, per quelle persone e con quelle conseguenze.

Nel caso di un Comune, questo significa guardare oltre la scheda tecnica del prodotto. Un medesimo sistema può avere effetti diversi a seconda che venga usato per smistare richieste interne oppure per contribuire a decisioni che incidono sull’accesso a servizi, benefici o opportunità.

La FRIA è obbligatoria per ogni IA usata dal Comune?

No. L’articolo 27 non impone una FRIA per ogni chatbot, assistente di scrittura o strumento di trascrizione. L’obbligo riguarda i deployer che sono enti di diritto pubblico, o soggetti privati che forniscono servizi pubblici, quando intendono utilizzare i sistemi ad alto rischio contemplati dall’articolo 6, paragrafo 2, con le eccezioni indicate dalla norma. L’articolo include inoltre alcuni sistemi specifici previsti nell’allegato III, punto 5, lettere b e c.

Perciò il primo passaggio è capire che cosa fa davvero il sistema, in quale ambito viene impiegato e se rientra nelle categorie previste dall’AI Act. La parola “IA” da sola non basta a determinare l’obbligo. E la classificazione non dovrebbe essere delegata senza verifica al fornitore del software.

Quali domande dovrebbe porsi un Comune?

La norma richiede che la valutazione descriva il processo d’uso, la durata e la frequenza previste, le categorie di persone e gruppi che possono essere coinvolti, i rischi specifici di danno e le misure di supervisione umana. Chiede inoltre di considerare le misure da adottare se i rischi si materializzano, le responsabilità interne, i meccanismi di reclamo e le procedure per coinvolgere le autorità competenti.

Tradotto nella pratica quotidiana di un ente, le domande possono essere molto concrete:

  • Quale decisione o attività amministrativa riceve supporto dal sistema?
  • Quali cittadini possono essere coinvolti e ci sono gruppi più esposti a errori o svantaggi?
  • Il sistema influenza una decisione oppure svolge solo un compito tecnico accessorio?
  • Quale dipendente controlla il risultato e ha competenza e tempo per contestarlo?
  • Come si corregge un errore e come può una persona chiedere spiegazioni o presentare un reclamo?
  • Quali dati vengono utilizzati, chi li può consultare e per quanto tempo sono conservati?
  • Che cosa succede se il sistema sbaglia, è indisponibile o produce risultati sistematicamente distorti?

Un esempio: l’accesso a un servizio comunale

Immaginiamo un sistema che aiuta a ordinare o valutare le richieste per un servizio rivolto ai cittadini. La FRIA dovrebbe partire dal processo reale: il sistema propone una graduatoria? Segnala pratiche da approfondire? Riassume documenti? L’operatore può ignorare la raccomandazione? Quali informazioni riceve la persona interessata?

Occorre poi verificare i possibili effetti: una domanda potrebbe essere classificata male? Un dato incompleto potrebbe penalizzare chi ha una situazione particolare? Il linguaggio o il formato dei documenti potrebbe creare ostacoli per alcune persone? Le misure di mitigazione possono includere controlli umani effettivi, istruzioni per gestire le eccezioni, verifiche periodiche degli esiti, canali di contestazione accessibili e formazione del personale.

Questo esempio non significa che ogni strumento usato per gestire un servizio ricada automaticamente nell’obbligo di FRIA. Significa che la valutazione giuridica deve partire dalla funzione e dal contesto d’uso, non dal nome commerciale del prodotto.

FRIA e valutazione d’impatto privacy: non sono la stessa cosa

La FRIA riguarda l’impatto sui diritti fondamentali nel quadro dell’AI Act. La valutazione d’impatto sulla protezione dei dati, o DPIA, deriva invece dal GDPR e si concentra sui rischi per i diritti e le libertà delle persone legati al trattamento dei dati personali. I due percorsi possono sovrapporsi in parte, ma hanno oggetto e basi normative distinti.

L’articolo 27 consente di riutilizzare o richiamare parti pertinenti di una DPIA quando alcuni obblighi sono già stati assolti attraverso quella valutazione. Non dice che la DPIA sostituisca automaticamente la FRIA: l’ente deve verificare quali aspetti siano effettivamente coperti e integrare quelli mancanti.

Come organizzare il lavoro in un ente

Una FRIA credibile non si scrive a valle, quando la scelta è già stata fatta e il sistema è pronto per essere attivato. Conviene coinvolgere fin dall’inizio l’ufficio titolare del servizio, il responsabile del progetto, il DPO quando sono trattati dati personali, il responsabile per la transizione digitale e le competenze legali e tecniche necessarie.

È utile documentare almeno:

  • la finalità pubblica e il processo nel quale l’IA sarà inserita;
  • la classificazione del sistema e le ragioni della decisione;
  • le persone potenzialmente interessate e i rischi specifici;
  • le modalità di supervisione umana e di intervento in caso di errore;
  • le misure di mitigazione, i responsabili e le verifiche nel tempo;
  • le modalità con cui gli interessati possono ottenere informazioni e presentare reclami.

Il fornitore può fornire documentazione e informazioni utili, ma la valutazione dell’impatto nel contesto d’uso spetta al deployer, cioè al soggetto che mette il sistema in servizio. Per gli enti pubblici, l’articolo 27 prevede inoltre la notifica dei risultati all’autorità di vigilanza del mercato e all’autorità nazionale per i diritti fondamentali, utilizzando il modello predisposto dalla Commissione.

La domanda utile prima dell’acquisto

Quando un Comune valuta un progetto di IA, la domanda non dovrebbe fermarsi a “quanto tempo ci fa risparmiare?”. Va affiancata da un’altra: “se il sistema sbaglia, chi se ne accorge, chi può rimediare e come può farlo il cittadino?”.

La FRIA aiuta a portare questa domanda dentro il progetto, prima che diventi un problema. Non è burocrazia da spuntare: è un modo per verificare che l’innovazione amministrativa resti compatibile con i diritti delle persone a cui il Comune deve rendere conto.

Fonti e approfondimenti

Vuoi capire come applicare l’IA nella Pubblica amministrazione?

Progetto percorsi di formazione e accompagnamento sull’intelligenza artificiale per enti, uffici e organizzazioni. Possiamo partire dai processi concreti del tuo Comune: attività ripetitive, analisi documentale, comunicazione con i cittadini, gestione delle conoscenze e valutazione dei rischi.

Contattami per parlarne.

Iscriviti alla mia newsletter

Novità, strumenti e riflessioni su intelligenza artificiale e digitale, direttamente nella tua casella.

Iscriviti gratis alla newsletter

0 commenti

Lascia un Commento

Vuoi partecipare alla discussione?
Sentitevi liberi di contribuire!

Lascia un commento