Graziana Urbano

Sommario: 1. Le interazioni tra “intelligenza artificiale” e “Città intelligente”, sotto il prisma del principio di partecipazione – 2. Gli elementi costitutivi della Città intelligente, sotto il prisma della Costituzione: il contesto urbano – 2.1. (segue): la nuova dimensione della partecipazione “intelligente”, in chiave sussidiaria – 3. La partecipazione “intelligente” al servizio della sicurezza urbana – 4. Riflessioni a margine della sicurezza urbana che si avvale della intelligenza artificiale

1. Le interazioni tra “intelligenza artificiale” e “Città intelligente”, sotto il prisma del principio di partecipazione

I nuovi sistemi tecnologici e digitali di intelligenza artificiale volti alla sicurezza urbana nell’ambito della dimensione locale dei Comuni pongono all’attenzione del giurista una serie di interrogativi che abbracciano profili più tradizionali, relativi sia alla dimensione che assurge il principio di partecipazione del cittadino alla gestione dell’attività amministrativa volta alla sicurezza urbana in un contesto territoriale locale sia alla portata giuridica che assume il concetto di Smart cities– o, nella traduzione italiana, sebbene non letterale, di Città intelligenti- che sembra ad oggi rimodularsi, grazie proprio all’apporto concreto dell’intelligenza artificiale.

La riflessione intende, in sostanza, indagare l’incidenza degli strumenti di intelligenza artificiale volti alla sicurezza urbana nell’ambito delle Smart Cities, cd. Città intelligenti, scegliendo come campo di indagine privilegiato il tenore assunto dal principio di partecipazione dei cittadini fortemente ridimensionato dall’uso proprio degli strumenti di intelligenza artificiale.

            L’indagine così condotta offre, infatti, la stura per riflettere su una nuova dimensione anche del concetto di Città intelligente e della sua stretta relazione con gli strumenti di intelligenza artificiale, di cui si avvale soprattutto ai fini della sicurezza urbana, e consente di approfondire soprattutto la nuova dimensione che intessa il rapporto tra cittadino e pubblica autorità e, di riflesso, il principio di partecipazione degli amministrati, coinvolti in attività adottate dalle autorità pubbliche volte alla sicurezza urbana.

La mappa concettuale della riflessione intende muoversi essenzialmente su tre direttrici di indagine strettamente collegate: 1. l’intelligenza artificiale che serve alla partecipazione; 2.che serve alla sicurezza urbana; 3. nel contesto urbano di riferimento che è quello della Città intelligente.

            Partendo da quest’ultima, il concetto di Città intelligente, nella declinazione italiana del termine, ad oggi acquisisce più consapevolezza e dignità, soprattutto per le evidenti connessioni con il concetto di intelligenza artificiale: infatti, ad oggi, quando si parla di Smart city o Città intelligente non si può non tener conto dell’apporto dell’intelligenza artificiale o, in generale, dei più innovativi e avanzati strumenti digitali e tecnologi che fanno capo proprio all’intelligenza artificiale, come mezzo per migliorare le condizioni e la qualità della vita dei cittadini[1].

L’introduzione nell’ordinamento nazionale delle Smart cities in Italia, infatti, si è basata essenzialmente nella diffusione della cultura del digitale negli assetti organizzativi e negli impianti procedimentali amministrativi, ossia nella promozione capillare dei sistemi informatici e di digitalizzazione all’interno delle pubbliche amministrazioni, soprattutto, nelle sue interazioni con i cittadini/utenti.

Ad oggi questa cultura, per come maturata, non può non tener conto dell’applicazione dei sistemi di intelligenza artificiale.

E tanto emerge anche chiaramente dal dettato della recente legge in materia di intelligenza artificiale, la legge n. 132 del 23 settembre 2025, quando, all’art. 14, dedicato all’uso della intelligenza artificiale nella pubblica amministrazione, precisa lo scopo a cui tende l’utilizzo della intelligenza artificiale da parte delle pubbliche amministrazioni, ossia, tra gli altri, ad aumentare la qualità e la quantità dei servizi erogati ai cittadini e alle imprese.

D’altro canto, l’aggettivo “intelligente” accostato alla Città nella definizione nazionale, in comune con quello di “intelligenza” artificiale, sta proprio a confermare lo stretto legale che c’è tra i due termini della questione.

Sul punto, però, nonostante manchi una definizione di Città intelligente nel panorama normativo nazionale[2] e una disciplina giuridica che possa reggerne le ricadute sul piano applicativo, è condivisa l’idea che uno dei profili – se non il principale – a connotarne le caratteristiche sia il legame – basato essenzialmente su un rapporto proporzionale – tra l’esercizio del potere da parte dell’amministrazione pubblica che si avvalga e utilizzi  i sistemi telematici, digitali, di intelligenza artificiale e la partecipazione attiva dei suoi cittadini come incidente sulla qualità della vita dei cittadini, rispetto a un contesto urbano che coincide per lo più con quello dell’ente comunale, come più avanti si chiarirà.

D’altra parte, una esplicazione (sebbene proveniente da una fonte non giuridica, ma di natura per lo più tecnica) della Città intelligente la descrive proprio come «quel luogo e/o contesto territoriale ove l’utilizzo pianificato e sapiente delle risorse umane e naturali, opportunamente gestite e integrate mediante le numerose tecnologie Ict già disponibili, consente la creazione di un ecosistema capace di utilizzare al meglio le risorse e di fornire servizi integrati e sempre più intelligenti»[3].

In sostanza, il termine Smart city mette in relazione il contesto urbano, ossia le strutture amministrative e le infrastrutture materiali delle Città, in un ambito territoriale ben definito e delineato (per lo più coincidente con quello dell’ente comunale), con il capitale umano, intellettuale e sociale di chi le abita: relazione che si avvale degli strumenti telematici, informatici e digitali, e, quindi, dell’intelligenza artificiale, volti a migliorare la qualità di vita dei cittadini.

Nella Smart city, infatti, la connettività digitale e/o telematica è considerata una fonte di crescita e di sviluppo urbano, tesa essenzialmente a promuovere l’idea di Città inclusiva, di Città partecipata, si potrebbe aggiungere in questa sede di Città sicura, dal momento che consente nuove forme di partecipazione attiva e di coesione sociale tra i cittadini, in uno spazio territoriale ben individuato.

Ed è questo profilo che si intende sottolineare e sul quale ci si vuole soffermare, ossia il legame direttamente proporzionale che c’è tra gli strumenti digitali e telematici – più propriamente quella che ad oggi prendono il nome di intelligenza artificiale – rispetto alla qualità della vita dei cittadini in termini di sicurezza, in cui, essenzialmente l’intelligenza artificiale diviene strumento migliorativo della qualità delle condizioni di vita dei cittadini; diviene, in altri termini, strumentale alla partecipazione attiva dei cittadini, in un contesto urbano in cui lo spazio pubblico della Città viene interpretato con particolari forme di coesione, condivisione e inclusione sociale anche ai fini securitari.

Proprio la stretta connessione con la partecipazione dei cittadini consente, quindi, di iniziare a inquadrare giuridicamente la “Città intelligente”: l’intelligenza artificiale diviene un mezzo, uno strumento, di cui la Città si avvale, per migliorate la partecipazione dei cittadini della comunità di riferimento che necessita, però, di essere collocata in una dimensione materiale e territoriale precisa. Pertanto, diviene rilevante ricostruire l’ambito territoriale di riferimento delle Città intelligenti.

Il secondo passaggio della riflessione verte sull’applicazione del principio di partecipazione nell’ambito dell’esercizio dell’azione pubblica volta al raggiungimento del fine pubblico della sicurezza urbana nel contesto delle Città intelligenti, secondo quel connubio, suggerito da parte della dottrina, che lega la Città intelligente alla Città sicura[4] e che passa anch’esso dal coinvolgimento dei cittadini nell’azione dei pubblici poteri, ai fini securitari.

2. Gli elementi costitutivi della Città intelligente, sotto il prisma della Costituzione: il contesto urbano

Come anticipato, occorre, in primo luogo, individuare il contesto territoriale e fisico in cui le Città intelligenti agiscono e, in secondo luogo, delineare meglio l’essenza della partecipazione a cui si è già fatto cenno.

Senza dubbio, nel gergo comune, il termine “Città” rimanda immediatamente a quello, giuridico, di “Comune”, tanto che i due termini vengono spesso utilizzati indistintamente.

In realtà, al netto dell’assonanza semantica, i due concetti, pur distinti, si intrecciano tra loro[5].

«La Città non è tanto un concetto di analisi quanto piuttosto una categoria della pratica sociale»[6]. La Città, infatti, viene definita come «centro abitato di dimensioni demografiche non correttamente definibili a priori, comunque non troppo modeste, sede di attività economiche in assoluta prevalenza extra-agricole e soprattutto terziarie, e pertanto in grado di fornire servizi alla propria popolazione e a quella di un ambito più o meno vasto che ne costituisce il bacino d’utenza (o area d’influenza)[7].

Il Comune, invece, è definito dal legislatore come l’ente locale che rappresenta la propria comunità, ne cura gli interessi e ne promuove lo sviluppo. Esso ha una propria autonomia statutaria, normativa, organizzativa e amministrativa, nonché una autonomia impositiva e finanziaria nell’ambito dei suoi statuti e regolamenti[8].

 Tra i due concetti emerge, pertanto, un’assonanza rintracciabile sia nella rilevanza attribuita, in entrambe le definizioni, al concetto di “comunità” sia nella presenza dei tre elementi che tradizionalmente costituiscono il Comune. Nella definizione di Città proposta, infatti, si fa riferimento a un ambito territoriale[9], alla popolazione ivi collocata e ai profili strettamente organizzativi e finanziari che, come noto, rappresentano tradizionalmente gli elementi costitutivi del Comune.

Il fondamento giuridico da cui partire rimane, però, la Costituzione italiana, in particolare gli articoli dedicati alle autonomie locali: in sostanza, l’impianto costituzionale sulle autonomie locali rappresenta il punto di partenza del processo di collocazione della Città intelligente nei binari del diritto pubblico, al fine di individuarne il contesto urbano fisico di riferimento.

Il riferimento è agli articoli 114 e 118 della Costituzione che assolvono, in realtà, un duplice ruolo in questa sede: non solo sono notoriamente la base normativa del principio di partecipazione che è elemento caratterizzante le Città intelligenti, come si è in parte anticipato, ma meglio di affronterà, ma soprattutto consentono di tracciare l’ambito spaziale, il contesto territoriale in cui le Città intelligenti agiscono.

In forza del dettato costituzionale di cui all’art. 114 della Costituzione, il territorio va a connotare – sebbene non definisca – anche la Città intelligente, al pari di quello che avviene, come noto, per il Comune. In sostanza, tramite una lettura costituzionalmente orientata, l’ambito territoriale delle Città intelligenti va a coincidere con quello dei Comuni; ma non di tutti i Comuni, dal momento un Comune può qualificarsi come Città intelligente in forza dell’uso che fa e sempre che lo faccia dell’intelligenza artificiale o, in generale, degli strumenti informatici e digitali nel contesto urbano di riferimento.

Pertanto, non tutti i Comuni sono Città intelligenti e viceversa: detto altrimenti, l’ambito territoriale delle Città intelligenti coincide con i Comuni, ma non tutti i Comuni sono Città intelligenti, dal momento che diviene dirimente l’utilizzo che ne fanno (e se lo fanno) degli strumenti di intelligenza artificiale.

In sostanza, l’elemento territoriale che, tradizionalmente, costituisce l’ente comunale come elemento essenziale, diviene eventuale nel caso delle Città intelligente, non fosse altro perché gli strumenti di intelligenza artificiale come elemento essenziale che rendono un Comune una Città intelligente attengono più strettamente l’esercizio delle attività amministrative, non già l’mabito spaziale; tuttavia, nel caso in cui ciò avvenga, ossia che la compagine amministrativa locale si avvalga di sistemi di intelligenza artificiale nell’esercizio delle sue funzioni, questo ha ricadute concrete nel contesto territoriale di riferimento come elemento (eventuale) di una Città intelligente.

In sostanza, l’intelligenza artificiale è elemento essenziale delle Città intelligenti, non già del Comune, laddove quest’ultimo la utilizzi a fini migliorativi della qualità di vita della collettività di riferimento: questo consente di cogliere l’elemento territoriale di riferimento, il contesto spaziale in cui agisce la Città intelligente, riconoscendole dignità giuridica.

La Città intelligente non è altro, quindi, che un Comune che utilizzi strumenti di intelligenza artificiale al servizio dei cittadini nel contesto territoriale di riferimento.

• (segue): la nuova dimensione della partecipazione “intelligente”, in chiave sussidiaria

Circa il principio di partecipazione che è il secondo profilo che in questa sede assume particolare importanza: il riferimento costituzionale non può che rintracciarsi nuovamente nel tenore dell’art. 118 della Costituzione, soprattutto in relazione al principio di sussidiarietà orizzontale, posto a presidio di ogni forma di partecipazione e collaborazione tra autorità pubbliche e cittadini.

La partecipazione assume rilievo in quanto rappresenta, in sostanza, la chiave di lettura delle Città intelligenti, dal momento che i cittadini sono elemento essenziale, destinatari e vero motore del loro funzionamento[10].

Ma il punto nodale è rappresentato dalle modalità attraverso cui si manifesta la loro partecipazione nelle Città intelligenti: la risposta non può che rintracciarsi proprio e ancora una volta nell’intelligenza artificiale, o meglio nel supporto e ausilio che l’intelligenza artificiale assume nelle dinamiche partecipative in cui sono coinvolti i cittadini, ad esempio, tramite la condivisione dei dati da parte dei singoli cittadini o il coinvolgimento attivo degli stessi o semplicemente mediante il loro consenso all’utilizzo di sistemi informatici o digitali da parte dell’amministrazione locale (con riferimento al tema della sicurezza che tra poco si vedrà nel dettaglio, il consenso dei cittadini ad essere, ad esempio, ripresi o tracciati o controllati dai sistemi di videosorveglianza).

Il cerchio, quindi, inizia a chiudersi: in estrema sintesi, l’intelligenza artificiale si pone al servizio della partecipazione in un contesto urbano di riferimento che è quello delle Città intelligenti che tendenzialmente coincide con quello comunale.

Quanto affermato trova, inoltre, fondamento normativo anche nel comma 4 dell’art. 1 della legge sull’intelligenza artificiale di recente introduzione, quando, richiamando il principio di autonomia e sussidiarietà, precisa che l’utilizzo di sistemi di intelligenza artificiale non deve pregiudicare l’esercizio delle competenze e delle funzioni delle istituzioni territoriali sulla base dei principi di autonomia e sussidiarietà.

A questo punto, nella ricerca di un inquadramento giuridico della Città intelligenti che si sta pian piano delineando, non può non richiamarsi anche il principio di sussidiarietà, consacrato proprio nell’art. 118 della Costituzione.

Anzi, non può che individuarsi una nuova declinazione anche del principio di sussidiarietà nella sua dimensione orizzontale, come fondamento della partecipazione che sia avvale degli strumenti di intelligenza artificiale in un contesto urbano di riferimento che è quello delle Città intelligenti: queste ultime, infatti, sono quelle più idonee a misurare e modulare la loro attività sulla base delle esperienze sociali e delle situazioni di fatto imposte dalla comunità di appartenenza e suggerite dai suoi cittadini per il tramite di strumenti partecipativi, coadiuvati e implementati ad oggi dall’intelligenza artificiale.

È in definitiva, in questo senso, che va interpretato l’accostamento dell’aggettivo “intelligente” alla città come la dimensione (governativa, urbana o territoriale) più attenta e incentrata sulle reali esigenze di vita manifestate dai cittadini e dalle comunità di riferimento, grazie al supporto dell’intelligenza artificiale che consente e realizza forme di condivisione, di collaborazione e di partecipazione attiva molto più efficaci, efficienti ed immediate: in sostanza, la partecipazione come componente essenziale e caratterizzante del principio di sussidiarietà orizzontale va, altresì, a riempire di contenuto giuridico anche il concetto di intelligenza accostato alle città intelligenti.

Quindi, non può che attribuirsi una veste giuridica all’aggettivo intelligente, innanzi richiamato, che accomuna la Città intelligente e l’intelligenza artificiale; infatti, può concludersi che l’intelligenza che connota la Città intelligente altro non significhi che partecipazione (in chiave sussidiaria) che si avvalga dell’intelligenza artificiale. Tutto è, pertanto, volto al coinvolgimento – diretto o meno che sia dei cittadini – a che l’amministrazione possa recuperare quante più informazioni, dati, elementi possibili, tramite il supporto dell’intelligenza artificiale, al fine di garantire loro condizioni di vita, come d’altra parte emerso nelle intenzioni del legislatore quando ha introdotto di recente la legge delega sull’intelligenza artificiale, che all’art. 14 sui principi in materia di pubblica amministrazione, innanzi richiamato, riconosce all’intelligenza artificiale una funzione strumentale e di supporto all’attività provvedimentale (soprattutto nell’ambito delle fasi istruttorie) dei procedimenti amministrativi.

A questo punto, non appaia fuori luogo qualificare anche la partecipazione come partecipazione intelligente: la Città intelligente, infatti, non si concentra tanto (e solo) sulla promozione dell’utilizzo di nuove tecnologie di intelligenza artificiale come mezzo per migliorare la qualità di vita dei cittadini e il benessere di una comunità, ma si costruisce per lo più sulla promozione degli istituti di partecipazione – mediante l’ausilio dell’intelligenza artificiale- anche come fine per avvicinare e coinvolgere i cittadini e, soprattutto, consentire loro di interagire e comunicare direttamente all’amministrazione (a questo punto, soprattutto quella locale) le reali necessità ed esigenze come elementi indispensabili dei suoi processi decisionali.

L’uso degli strumenti tecnologici maturati ad oggi nella intelligenza artificiale diviene il mezzo per semplificare il dialogo tra amministrazione e cittadini[11], rispetto a un fine che altro non è che la partecipazione o la condivisione a cui gli stessi devono tendere a realizzare per costruire una città inclusiva, partecipata, intelligente, sicura.

In questo senso, devono interpretarsi le politiche di innovazione incentrate sulla digitalizzazione dei processi decisionali delle amministrazioni, in cui l’utilizzo del digitale e dell’intelligenza artificiale viene interpretato come una forma di investimento pubblico per una riforma strutturale delle amministrazioni. In altri termini, gli strumenti tecnologici e, in particolare, quelli digitali divengono strumento per la trasformazione economica e sociale che ha come scopo e fine quello di porre al centro delle azioni i cittadini e le imprese, per migliorare la loro qualità di vita sotto molteplici fini, tra cui, come si sottolineerà, anche quello della sicurezza urbana.

Si riconosce, dunque, una forza centripeta alla intelligenza artificiale che tende a convergere verso un unico e più solido scopo rappresentato dalla partecipazione dei singoli alle decisioni amministrative, per fini superiori, come quello che si vedrà della sicurezza urbana.

3. La partecipazione “intelligente” al servizio della sicurezza urbana

Esaminata, per grandi linee, la relazione che intreccia le Città intelligenti e l’intelligenza artificiale e che trova il suo punto di convergenza nella partecipazione dei cittadini resa più efficiente ed efficace mediante l’utilizzo dei strumenti di intelligenza artificiale rispetto al contesto urbano di appartenenza, si intende esaminarla dal punto di vista della sicurezza urbana, come fine pubblico che la Città intelligente intende perseguire.

La sicurezza urbana, infatti, rappresenta l’interesse pubblico a cui l’amministrazione locale tende, rispetto al quale, più che in altri ambiti, si manifestano maggiormente ipotesi di utilizzo concreto di strumenti di intelligenza artificiale volti a realizzarlo.

In sostanza, nel contesto urbano rappresentato dalle Città intelligenti, una prospettiva particolare da cui esaminare quella che si è definita come una partecipazione intelligente come suo connotato essenziale, anche per le forti ricadute applicative e pratiche, è rappresentata dalle modalità in cui la Città intende realizzare il fine pubblico securitario; queste dinamiche confermano l’apporto della intelligenza artificiale alle forme partecipative che sostanzia, come accennato, i tratti essenziali delle Città intelligenti.

In primo luogo, però, è opportuno anche qui intendersi sul termine “sicurezza urbana”[12], rispetto a un quadro normativo offerto dal legislatore che appare abbastanza lineare, ma è in realtà, per alcuni versi, poco chiaro.

La sicurezza urbana rientra, senza dubbio, nella competenza dei Comuni e, riprendendo quanto detto, cioè che il territorio connota, sebbene non definisca né identifichi le Città intelligenti – connotandosi come un elemento eventuale – riguarda anche, per l’appunto, queste ultime.

Il testo normativo di riferimento è, a tal proposito, il cd. Decreto Minniti, decreto legge n. 14 del 20.02.2017 convertito in legge 18 aprile 2017, n. 48 proprio sulla sicurezza urbana[13].

È importante il richiamo al D.L. “Minniti” in quanto ha definito in una norma di rango primario, all’art. 4, il concetto di sicurezza urbana, stabilendo che «si intende per sicurezza urbana il bene pubblico che afferisce alla vivibilità e al decoro delle città, da perseguire anche attraverso interventi di riqualificazione, anche urbanistica, sociale e culturale, e recupero delle aree o dei siti degradati, l’eliminazione dei fattori di marginalità e di esclusione sociale, la prevenzione della criminalità, in particolare di tipo predatorio, la promozione della cultura del rispetto della legalità e l’affermazione di più elevati livelli di coesione sociale e convivenza civile, cui concorrono prioritariamente, anche con interventi integrati, lo Stato, le Regioni e Province autonome di Trento e di Bolzano e gli enti locali, nel rispetto delle rispettive competenze e funzioni».

Parafrasando la definizione, in un cerchio che si chiude, si rintracciano i riferimenti e le connessioni, a cui si è già fatto cenno, tra la partecipazione, la coesione sociale, e il principio di sussidiarietà, dal momento che concorrono prioritariamente ad essi, tra gli altri, gli enti locali, come i Comuni o, nella declinazione che in questa sede si suggerisce, quei Comuni che, avvalendosi dell’intelligenza artificiale, assumono la veste di Città intelligenti.

La giurisprudenza della Corte Costituzionale (si pensi alla sentenza n. 47 del 25.03.2024) e la dottrina[14] hanno puntato l’attenzione su una sicurezza urbana che la stessa legge definisce, all’art. 1, “integrata”[15], ossia basata essenzialmente sulla collaborazione interistituzionale, in cui assume rilievo il riparto di competenze e funzioni tra i vari livelli di governo, in forza del principio di sussidiarietà consacrato in Costituzione.

Tali scopi sono perseguiti sia mediante accordi tra Stato, Regioni e Province autonome, sia attraverso il potenziamento dei poteri dei Sindaci (nella loro doppia veste di rappresentanti della comunità locale e rappresentanti del Governo), sia tramite l’apporto di altri due attori istituzionali tradizionalmente preposti alla sicurezza sul territorio che sono il Questore e il Prefetto. Soprattutto a quest’ultimo la legge consente di predisporre Patti con il Sindaco per obiettivi più specifici di carattere locale.

In quest’ottica, il decreto Minniti ha correttamente optato per prediligere la prevenzione in luogo della repressione, dal momento che rappresenta il modus operandi più idoneo al raggiungimento di forme e obiettivi di controllo sociale, anche a fini securitari, allineandosi a una ratio seguita dal legislatore negli ultimi anni, inaugurata, come noto, dalla legge cd. anticorruzione del 2002, volta a prevenire, anziché reprimere (come avveniva tradizionalmente) eventuali fenomeni dissuasivi o intralcianti il regolare flusso dell’agere amministrativo.

In particolare, l’art. 8 del decreto è andato a modificare gli artt. 50 e 54 del Testo Unico delle leggi sull’ordinamento degli enti locali circa le modalità di esercizio del potere di ordinanza attribuito al Sindaco[16].

La disposizione attribuisce al Sindaco ulteriori poteri finalizzati a garantire per l’appunto la sicurezza urbana, volta a migliorare le condizioni e qualità della vita dei cittadini nell’ambito territoriale di competenza, realizzabile, pertanto, anche e soprattutto ad oggi mediante strumenti di intelligenza artificiale. O, detto altrimenti e seguendo le suggestioni innanzi esposte, nello spazio territoriale di riferimento che, in questo caso altro non è che quello di una Città intelligente, il Sindaco persegue fini di sicurezza urbana avvalendosi anche dell’apporto della intelligenza artificiale.

Il dialogo e la collaborazione tra livelli di governo deve muoversi anche nell’ottica del coinvolgimento dei privati.

Infatti, dalla lettura del testo normativo, si evince che la sicurezza urbana si ottiene tramite una maggiore attenzione al territorio da parte delle istituzioni pubbliche, delle forze dell’ordine e dei privati, che tutti insieme devono condividere – in pieno spirito partecipativo e collaborativo – e contribuire a risolvere eventuali situazioni di degrado del territorio o di disagio per la collettività.

Anzi, da questa prospettiva, la legge 18 aprile 2017, n. 48 è stata introdotta dal legislatore proprio e volutamente con l’obiettivo di coordinare e favorire la collaborazione tra le forze di polizia, la polizia locale e i cittadini soprattutto mediante l’utilizzo di tecnologie e sistemi di sicurezza sempre più interconnessi e in grado di semplificare la gestione dei dati e lo scambio delle informazioni.

La normativa, infatti, allo scopo di migliorare la qualità della vita e del territorio, realizzabile mediante forme di inclusione sociale e di riqualificazione socioculturale delle aree interessate, favorisce l’utilizzo di strumenti di collaborazione come le reti territoriali di volontari o avvalendosi anche dei sistemi di videosorveglianza: in sostanza, promuove quelli che vengono definiti, per l’appunto, patti per la sicurezza urbana (regolati dall’art. 5 del decreto n. 14 del 2017) per prevenire e contrastare i fenomeni di criminalità diffusa e predatoria anche con il coinvolgimento, mediante specifici accordi, di reti territoriali di volontari nella tutela dell’arredo urbano, delle aree verdi e dei parchi cittadini e favorire l’impiego delle forze di polizia per far fronte ad esigenze straordinarie di controllo del territorio anche mediante l’installazione di sistemi di videosorveglianza.

Pertanto, è vero che la sicurezza urbana si realizza mediante il controllo dei cittadini, nella misura in cui l’uso degli strumenti informatici e digitali (come l’esempio dei sistemi di videosorveglianza) consente un monitoraggio capillare ed efficace delle aree e delle situazioni che siano a rischio[17], ma è altrettanto vero che è soprattutto il coinvolgimento e la partecipazione (si aggiunge, consapevole) dei cittadini a diventare un fattore essenziale per addivenire ad un modello di città sicura.

In questo senso, le Città intelligenti devono, secondo le prescrizioni di legge, dotarsi di sistemi informatici e di piattaforme on-line accessibili h24, che permettano ai cittadini di comunicare qualsiasi problema riscontrato sul territorio, con la possibilità di inviare in tempo reale dati e informazioni utili per l’operatività del sistema di gestione e controllo.

Il testo legislativo, quindi, conferma l’intento del legislatore che promuove l’utilizzo dell’intelligenza artificiale (ad esempio mediante i sistemi di videosorveglianza) come strumento di partecipazione finalizzato, nel caso di specie, alla sicurezza urbana.

L’utilizzo dell’intelligenza artificiale, infatti, tramite i sistemi di videosorveglianza dei cittadini consente alle amministrazioni, da una parte, di raccogliere quante più informazioni e dati possibili al fine di migliorare la qualità della vita dei cittadini e la gestione del territorio nelle città, dall’altra, di “sfruttare” e ottimizzare le informazioni incamerate al fine del monitoraggio urbano o, meglio del controllo delle persone, “mappando” il territorio: tutto ciò ai fini della sicurezza urbana.

Quindi, in sostanza, l’intelligenza artificiale nelle Città intelligenti applicata ai sistemi di sicurezza urbana, come sono i sistemi di videosorveglianza, ha lo scopo di migliorare la gestione delle città: migliorare nel senso di aumentare la qualità di vita dei cittadini, rendendo le città più vivibili, più sicure, più controllate, riducendo le situazioni di disagio sociale o prevedendo le situazioni di degrado urbano o di pericolo, allineandosi così, tra l’altro, a quanto previsto dal PNRR[18].

4. I nodi ancora irrisolti: il controllo dei luoghi e delle persone al fine della sicurezza urbana rispetto al diritto alla riservatezza dei cittadini

4. Riflessioni a margine della sicurezza urbana che si avvale della intelligenza artificiale

Le riflessioni innanzi esposte aprono la strada a una serie di suggestioni e di problemi che inevitabilmente si stagliano e che necessitano di essere collocati nei binari giuridici.

Tra questi, un profilo che suscita senza dubbio qualche perplessità è quello legato al controllo di luoghi e, soprattutto, dei cittadini e il monitoraggio dei medesimi, possibile, ad esempio, attraverso i sistemi di videosorveglianza o, in generale, di altri strumenti di intelligenza artificiale, volti a realizzare un contesto urbano più sicuro.

Senza dubbio, la presenza di forme di controllo da parte della amministrazione pubblica farebbe intendere l’assenza di alcuna forma di coinvolgimento, di apporto partecipativo, da parte dei cittadini “attenzionati” dai sistemi di intelligenza artificiale in uso alle amministrazioni pubbliche o, come nel caso di specie, da parte dei cittadini considerati, pertanto, soggetti “passivi” degli impianti, ad esempio, di videosorveglianza che risultano essere, pertanto, controllati e monitorati dalle amministrazioni pubbliche per fini più generali, dettati dalla sicurezza urbana.

Tutto ciò, infatti, sembrerebbe stridere con quanto finora sostenuto di una intelligenza artificiale che, invece, serve alla partecipazione.

Questa preoccupazione, invero, sembra che non abbia ragion di esistere, anzi!

Nella maggior parte dei casi, infatti, soprattutto nella ipotesi dell’utilizzo degli strumenti di videosorveglianza, non può prescindersi da una considerazione importante: il singolo cittadino partecipa ed è coinvolto dall’amministrazione che si avvale della intelligenza artificiale, manifestando il suo consenso; il cittadino è, infatti, informato e consapevole e, soprattutto, accetta, prestando il suo consenso, di fornire informazioni e dati sulla sua persona all’amministrazione che utilizzi strumenti di videosorveglianza finalizzati alla sicurezza urbana.

È in questo senso, quindi, in un cerchio che si chiude, che si realizza a pieno quella partecipazione intelligente in chiave sussidiaria che connota le Città intelligenti, come modello organizzativo che si avvale dell’intelligenza artificiale per consentire la partecipazione, tramite la condivisione, il coinvolgimento dei cittadini per un bene pubblico superiore che, in questo caso, è rappresentato dalla sicurezza urbana.

La partecipazione, come carattere genetico della funzione amministrativa, si manifesta in sostanza, nel caso di specie, con il consenso dei cittadini ad essere controllati ed è funzionale ad un bene pubblico superiore che è quello del perseguimento della sicurezza urbana. Il cittadino, infatti, è disposto a “sacrificare”, in maniera consenziente e consapevole, anche la sua libertà, la sua privacy, i suoi diritti, dal momento che alla opzione postagli dinanzi se preferire una città più sicura o preservare la sua sfera personale, la sua riservatezza, la sua scelta ricadrebbe quasi certamente sulla prima.

Tuttavia, per consentire la piena partecipazione, per consentire la piena consapevolezza da parte dei cittadini delle modalità attraverso cui la amministrazione agisce, anche con strumenti di intelligenza artificiale, per finalità generali di sicurezza urbana, le istituzioni devono assolvere a un preciso dovere di informazione e comunicazione ai cittadini, devono compensare quella assimetria informativa circa le modalità, anche mediante l’uso di strumenti di intelligenza artificiale, attraverso cui intendono realizzare città più sicure; solo così questi ultimi, una volta informati, accettando, condividono queste modalità e partecipano attivamente alla realizzazione di quel fine.

I cittadini devono acquisire maggiore consapevolezza delle logiche utilizzate dalle amministrazioni che si servono di sistemi di intelligenza artificiale e devono farli proprio così da poter partecipare attivamente agli iter decisionali pubblici. In sostanza, gli strumenti di intelligenza artificiale assolvono un duplice scopo che si attanaglia, poi, al principio di trasparenza: consentono, sicuramente, più partecipazione ai cittadini nelle decisioni pubbliche, ma al contempo e a “monte”, necessitano di essere compresi nel loro utilizzo da parte dei cittadini che andranno a servirsene per partecipare alle decisioni pubbliche.

In altri termini, il principio di trasparenza innerva tutte le dinamiche dell’azione pubblica in questo caso anche delle Città intelligenti, dal momento che diviene dirimente rendere comprensibili ai cittadini gli ambiti di impiego delle nuove tecnologie da parte delle amministrazioni pubbliche e consentire loro una conoscenza diffusa e approfondita del loro utilizzo perché possano effettivamente dialogare con le amministrazioni[19].

E in questo senso, si sta muovendo il legislatore, quando, ad esempio, nella disciplina dei contratti pubblici, all’art. 30, commi 2, lettera a) e 5, sull’uso di procedure automatizzate nel ciclo di vita dei contratti pubblici, richiama concetti di conoscibilità e comprensibilità (tradizionalmente corollari del principio di trasparenza) degli strumenti di intelligenza artificiale per consentire la piena partecipazione dei privati alle procedure di affidamento delle commesse pubbliche.

Come anche, più di recente, la legge delega sull’intelligenza artificiale, quando, dal combinato disposto degli artt.14 (relativo all’uso della intelligenza artificiale nella pubblica amministrazione) e 3 (sui principi generali) punta l’attenzione sul principio di trasparenza nella applicazione e utilizzo di sistemi e modelli di intelligenza artificiale, pur sempre assicurando la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo.

Insomma, anche da questa prospettiva, persiste, ancora, la funzione riconosciuta all’intelligenza artificiale strumentale e di supporto all’attività provvedimentale delle pubbliche amministrazioni o, meglio, di supporto nell’ambito delle istruttorie dei procedimenti amministrativi[20].

Altro profilo critico attiene alla portata giuridica della sicurezza urbana come interesse pubblico da perseguire, rispetto al concetto di sicurezza pubblica, sicuramente già noto al nostro ordinamento: il confine tra i due appare, ad oggi, ancora troppo labile e di difficile individuazione non fosse altro perché entrambi le due tipologie di sicurezza si muovono essenzialmente in un’ottica preventiva.

Parte della giurisprudenza costituzionale[21] ritiene che la sicurezza urbana integrata, già accennata, ossia basata sul dialogo e sulla collaborazione interistituzionale, abbia un ambito di applicazione differente rispetto alla sicurezza pubblica che attiene più specificatamente ai poteri attribuiti alle autorità volti al mantenimento dell’ordine pubblico, alla sicurezza e alla incolumità dei cittadini, alla tutela della proprietà, al controllo e all’osservanza delle leggi e dei regolamenti.

Questo approdo del giudice delle leggi, infatti, distingue tra sicurezza primaria (o in senso stretto) che affonda le sue ragioni nella logica securitaria e nella sussistenza di un «nucleo duro della sicurezza di esclusiva competenza statale», in cui sono riservate solo allo Stato funzioni primariamente dirette a tutelare beni fondamentali, quali l’integrità fisica o psichica delle persone, la sicurezza dei possessi ed ogni altro bene che assume primaria importanza per l’esistenza stessa dell’ordinamento»: la sicurezza pubblica rientra non in «qualsiasi interesse pubblico alla cui cura siano preposte le pubbliche amministrazioni, dunque, ma soltanto quegli interessi essenziali al mantenimento di una ordinata convivenza civile». E sicurezza cd. secondaria, quella urbana, che assume «una possibile declinazione pluralista, coerente con la valorizzazione del principio autonomistico di cui all’art. 5 della Costituzione…una sicurezza «in senso lato» (o sicurezza secondaria), capace di ricomprendere un fascio di funzioni intrecciate, corrispondenti a plurime e diversificate competenze di spettanza anche regionale»[22].

Ma altro orientamento del giudice delle leggi[23] considera la sicurezza urbana strettamente collegata alla tutela della sicurezza pubblica, intesa come attività di prevenzione e repressione dei reati: quest’ultimo, a questo punto, sembra essere il loro tratto in comune e fa rientrare la sicurezza urbana nelle più tradizionali funzioni di ordine pubblico volte a migliorare il contesto sociale e territoriale di riferimento[24].

D’altro canto, il tema della sicurezza non è nuovo nel panorama giuridico nazionale, anzi.

Quello della sicurezza e dell’ordine pubblico hanno da sempre rappresentato gli interessi pubblici al cui raggiungimento era finalizzato il potere pubblico: infatti, il modello accentrato di Stato del periodo liberale[25] era tradizionalmente teso a soddisfare un interesse pubblico di tal guisa e l’azione del potere pubblico era essenzialmente caratterizzata dalla concezione autoritaria del rapporto cittadino – amministrazione, nel quale la sicurezza degli individui rappresentava un problema di sicurezza pubblica e, quindi, di ordine pubblico[26].

In sostanza, in coerenza con l’ideologia liberale, le funzioni amministrative dello Stato erano contenute in quelle indispensabili alla conservazione e allo sviluppo della collettività, cioè funzioni di pubblico ordine e di generale conservazione[27].

A tanto, d’altra parte, si allinea la previsione dell’art. 117, comma 1, della Costituzione che attribuisce la potestà legislativa esclusiva in materia di ordine pubblico e sicurezza allo Stato.

Ma questa previsione va ad oggi ridimensionata non solo dal dettato di cui all’art. 118 della Costituzione che, al comma 3, affida sempre alla legislazione statale forme di coordinamento tra Stato e Regioni nella medesima materia e, al comma 4, coinvolge i singoli, in ossequio al principio di sussidiarietà orizzontale, ma anche, nel caso di specie, dal dettato normativo di cui al decreto n. 14 del 2017, innanzi trattato, che quando definisce la sicurezza urbana punta al coinvolgimento di tutti i livelli di governo, anche e soprattutto locali, e dei cittadini, per realizzare il fine comune securitario.

Tuttavia, a definire meglio i contorni delle due tipologie di sicurezza, che rappresentano comunque un «obbligo che incombe allo Stato nella sua funzione amministrativa», appare ancora attuale la riflessione di Alessi[28], che nei Principi di diritto amministrativo, approfondiva la cd. attività amministrativa di polizia intesa nella duplice accezione di “polizia di sicurezza”, ossia con la finalità specifica della tutela dell’ordine pubblico, e “polizia amministrativa”, ossia nella finalità generica della tutela di interessi di altra natura riferiti a specifici rami dell’amministrazione. L’aspetto in comune delle suddette accezioni attiene alla «tutela del tutto sociale o delle sue parti, mediante un’attività volta a volta di osservazione, di prevenzione e di repressione, contro i danni che ad essi potrebbero derivare dall’attività degli individui»[29].

Questa posizione di ontologica e strutturale supremazia e superiorità[30] rispetto ai soggetti privati giustificata dal raggiungimento di interessi pubblici come (ora come allora) quello della sicurezza va senza dubbio contestualizzata rispetto alle più recenti dimensioni che assume ad oggi il tema della sicurezza: il concetto di sicurezza, da una parte, è fortemente innervato dalle attuali dinamiche relazionali tra amministrazioni (su tutti i livelli di governo) e privati, dall’altro, consente di stemperare il carattere fortemente autoritativo, grazie a una maggiore partecipazione di questi ultimi.

In altri termini, il tema della sicurezza urbana rappresenta ad oggi il punto di convergenza tra le tradizionali funzioni statali in materia di ordine e sicurezza e le funzioni locali di promozione della qualità di vita dei cittadini, partecipi anch’essi in questo processo migliorativo delle condizioni di sicurezza delle città.

In sostanza, per alcuni versi, si assiste a un ritorno al passato in cui l’azione pubblica diviene funzionale alla realizzazione di interesse pubblico di sicurezza[31], che, però a differenza del passato interessa l’amministrazione, a tutti livelli, soprattutto quello locale, che non si astiene dal coinvolgere il singolo, ma anzi, si premura di renderlo partecipe dal momento che il suo apporto diviene determinante al raggiungimento del fine pubblico securitario.

Il concorso di e tra tutti i livelli di governo e della partecipazione dei cittadini configurano ad oggi  la sicurezza urbana come un «bene plurale, un bene pubblico che deve essere realizzato in maniera integrata e condivisa»[32]: la promozione della sicurezza urbana, infatti, passa dai patti di sicurezza, dai poteri sindacali di ordinanza, dalle associazioni dei cittadini di volontariato e dagli strumenti di videosorveglianza ad oggi perfezionati dall’intelligenza artificiale, come esposto, che rappresentano tutti esempi tangibili di partecipazione del privato su tutti i livelli di governo.

Ad oggi, sul tema della sicurezza –a questo punto, sia quella urbana che pubblica – è maturata la consapevolezza e la convinzione della necessità di modelli partecipativi condivisi tra privato e pubblico su tutti i livelli di governo, ad oggi ammantati dall’intelligenza artificiale: in questo senso è condividibile l’attribuzione di un carattere relazionale alla nozione di sicurezza che necessita per essere soddisfatta del coordinamento e dall’integrazione di attività di soggetti istituzionalmente diversi[33].

Questi modelli consentono di limare il concetto stesso di sicurezza nel senso di ricondurla nei binari della Costituzione e dei principi generali della attività amministrativa (di partecipazione, di sussidiarietà, di trasparenza) come in questa sede si è tentato di dimostrare.

Si suggerisce, in sostanza, una lettura costituzionalmente orientata della sicurezza (nella duplice formula e una riaffermazione dei principi generali dell’azione amministrativa, quali in particolare quello di partecipazione tra attori pubblici (statali e locali) e cittadini, che consentono di affrontare a pieno il problema securitario nelle città, anche intelligenti, non solo nell’ottica della prevenzione dei reati, ma anche e soprattutto nella promozione e garanzia di migliori condizioni di vivibilità.

Al di là degli scenari che questa suggestione apre, rimane, tuttavia, la convinzione che l’intelligenza artificiale, come strumento in uso alle amministrazioni, possa coinvolgere, senza dubbio, i soggetti privati, rafforzando il concetto di Città intelligente, di cui nelle premesse si sono descritti i tratti essenziali, in collaborazione interistituzionale tra tutti i livelli di governo.

 Tutto ciò si allinea, d’altro canto, a quanto previsto dalla legge sull’intelligenza artificiale, secondo cui la strategia nazionale per l’intelligenza artificiale favorisce la collaborazione tra amministrazioni pubbliche e tra queste e i soggetti privati (i cittadini) relativamente allo sviluppo e adozione di sistemi di intelligenza artificiale.

L’uso della intelligenza artificiale nelle Città intelligenti serve, in sostanza, a migliorare la qualità della vita dei cittadini di riferimento, anche e soprattutto in termini di sicurezza urbana: l’importante è che venga integrata e adottata in modo etico, responsabile, trasparente e partecipativo, come è nelle intenzioni del legislatore nazionale, secondo il dettato della recente legge sull’intelligenza artificiale.

[1] Aa. Vv., Intelligenza artificiale: criticità emergenti e sfide per il giurista, in BioLaw Journal – Riv. BioDiritto, 3, 2019, 205 e ss.; Aa. Vv., Il diritto dell’amministrazione pubblica digitale, R. Cavallo Perin e D.U. Galetta (a cura di), Torino, 2020, 119-158; Aa. Vv., Intelligenza artificiale – Il diritto, i diritti, l’etica, U. RUFFOLO (a cura di), Milano, 2020, 571 e ss.; Aa. Vv., Intelligenza artificiale e diritto: una rivoluzione, A. Pajno, F. Donati, A. Perrucci (a cura di), Bologna, 2022, 88-92; P. CLARIZIA, La digitalizzazione, in Giorn. dir. amm., 3, 2023, 302 e ss.; B. Boschetti, La transizione della pubblica amministrazione verso il modello Government as a platform, in L’amministrazione pubblica nell’era digitale, A. Lalli (a cura di, Torino), 2022, 1 e ss.; F. Cardarelli, Uso della telematica, in Codice dell’azione amministrativa, M.A. Sandulli (a cura di), Milano, 2010, 427 ss.; M. Ippolito, Alcune prospettive di disintermediazione dei processi nella pubblica amministrazione: l’impatto della tecnologia Blockchain, in Rivista Giuridica AmbienteDiritto.it, 2, 2021.; E. Picozza, Politica, diritto amministrativo and artificial intelligence, in Giur. it., 7, 2019, 1657 ss.; L. Torchia, Lo Stato digitale, Bologna, 2023; G. Finocchiaro, La regolazione dell’intelligenza artificiale, in Riv. trim. dir. pubbl., 4, 2022, 1090 e ss.; V. Neri, Diritto amministrativo e intelligenza artificiale: un amore possibile, in Urb. e app., 2021, 5, 581 e ss.

[2] Urbano

[3]Architettura per le comunità intelligenti: visione concettuale e raccomandazioni alla pubblica amministrazione, in www.agid.it, 3 ottobre 2012.

[4] Cfr., da ultimo, G. Bergonzini, Sicurezza della città, tecnologie digitali e intelligenza artificiale: tra regole europee, garanzie costituzionali e autonomia locale, in Federalismi.it, 23 ottobre 2024.

[5]Cfr., F. Cortese, Dentro il nuovo diritto delle città, in Munus, 2016, 2, VII, il quale ritiene che il diverso modo di essere città può superare, sia pur in casi e con strumenti tassativamente stabiliti, il confine della tradizionale cornice giuridico – amministrativa comunale. E lo può fare ufficialmente, istituzionalmente.

[6]M. Roncayolo, La Città. Storie e problemi della dimensione urbana, Torino, 1978, 8.

[7]Dizionario Treccani online, Città (voce).

[8]Art. 3 del T.U. Enti Locali.

[9]Cfr. F. Di Lascio, La regolazione amministrativa degli spazi urbani, in Munus, 2016, 2, 317 e ss., il quale indaga la relazione tra il diritto amministrativo e la città attraverso tre direttrici, tra cui l’ultima attiene al rapporto proprio tra il diritto e la fisicità degli spazi cittadini in cui la componente del territorio assume un rilievo peculiare. Il territorio, infatti, permette il riconoscimento delle città come oggetti giuridici particolari.

[10]M. Caporale, L’intelligenza si ripartisce o si condivide?, A proposito di smartness, livelli di governo e una certa idea di città, in Istituzioni del federalismo, 2015, 4, 857 e ss.., 860.

[11]Cfr. E. Ferrero, Le smart cities nell’ordinamento giuridico, in Foro amm., 2015, 4, 1267 e ss., il quale afferma che la tecnologia può essere intesa come  strumento efficace di eliminazione delle forme di intermediazione del potere amministrativo.

[12] Cfr. sulle molteplici accezioni di sicurezza, D. Coduti, La libertà di riunione in discussione. L’art. 17 della Costituzione e la sfida della sicurezza, Bari, 2022 e R. Ursi, La sicurezza pubblica, Bologna, 222. Cfr. sul tema della sicurezza urbana, G. Tropea, Periferie e sicurezza urbana, Periferie e diritti fondamentali, Napoli, 2020.

[13] Cfr. F. Morganti, La sicurezza urbana nel c.d. “decreto Minniti”, in Democrazia e Sicurezza, 2017, 3.

[14] T.F. Giupponi, Sicurezza integrata e welfare di comunità, Bologna, 2022.

[15] Art.1, comma 2, definisce sicurezza integrata come «l’insieme degli interventi assicurati dallo Stato, dalle Regioni, dalle Province autonome di Trento e Bolzano e dagli enti locali, nonché da altri soggetti istituzionali, al fine di concorrere, ciascuno nell’ambito delle proprie competenze e responsabilità, alla promozione e all’attuazione di un sistema unitario e integrato di sicurezza per il benessere delle comunità territoriali».

[16] In riferimento al Sindaco quale rappresentante del territorio, il T.u.e.l. già disponeva all’art. 50, c. 5, che «in caso di emergenze sanitarie o di igiene pubblica a carattere esclusivamente locale le ordinanze contingibili e urgenti sono adottate dal sindaco, quale rappresentante della comunità locale». Si è così aggiunto, dopo tale periodo: «Le medesime ordinanze sono adottate dal sindaco, quale rappresentante della comunità locale, in relazione all’urgente necessità di interventi volti a superare situazioni di grave incuria o degrado del territorio, dell’ambiente e del patrimonio culturale o di pregiudizio del decoro e della vivibilità urbana, con particolare riferimento alle esigenze di tutela della tranquillità e del riposo dei residenti, anche intervenendo in materia di orari di vendita, anche per asporto, e di somministrazione di bevande alcoliche e superalcoliche».

[17] A. Barone, Amministrazione del rischio e intelligenza artificiale, in European Review of Digital Administration & Law – Erdal, vol. I, Issue, 1- 2, 2020, 63-67.; G. Finocchiaro, La proposta di regolamento sull’intelligenza artificiale: il modello europeo basato sulla gestione del rischio, in Diritto dell’informazione e dell’informatica, 2, 2022, 303 e ss.

[18] D.U. Galetta, Transizione digitale e driitto ad una buona amministrazione: fra prospettive aperte per le pubbliche amministrazioni dal Piano Nazionale di Ripresa e Resilienza e problemi ancora da affrontare, in www.federalismi.it, 7, 2022, 103-125.; I. Macrì., Il PNRR italiano per la digitalizzazione e l’innovazione della pubblica amministrazione, in Azienditalia, 1, 2022, 38 e ss.

[19] Cfr. A. Corrado, I nuovi contratti pubblici, intelligenza artificiale e blockchain: le sfide del prossimo futuro, in Federalismi.it, 2023, 19.

[20] G. Gardini, L’uso preparatorio dell’AI come limite agli eccessi regolativi. Per una valutazione “in concreto” dell’intelligenza artificiale applicata all’agire pubblico, in Le Istituzioni del federalismo, aprile/giugno 2025, 261.

[21] Corte Cost. n. 47 del 2024.

[22] Cfr. Corte Cost., 23 dicembre 2019, n. 285 che richiama anche la sentenza del giudice delle leggi n. 290 del 2001.

[23] Corte Cost. n. 196 del 2009, 226 e 274 del 2010, 115 del 2011.

[24] Precisa la Corte nella sentenza n. 285 del 2019, punto 2.5. che «In tal senso, il menzionato decreto-legge ha disciplinato in senso ampio e trasversale le «forme di coordinamento» previste dall’art. 118, terzo comma, Cost., coinvolgendo gli enti regionali non solo quali terminali delle scelte compiute dallo Stato in materia di ordine pubblico e sicurezza, ma anche come portatori di interessi che, ancorché non direttamente afferenti alla materia di cui all’art. 117, secondo comma, lettera h), Cost., sono teleologicamente connessi alla competenza esclusiva statale. Nel disegno del legislatore statale, infatti, l’intervento regionale dovrebbe assicurare le precondizioni per un più efficace esercizio delle classiche funzioni di ordine pubblico, per migliorare il contesto sociale e territoriale di riferimento, postulando l’intervento dello Stato in relazione a situazioni non altrimenti correggibili se non tramite l’esercizio dei tradizionali poteri coercitivi».

[25] Cfr., V. OTTAVIANO, Cittadino e amministrazione nella concezione liberale, in Studi in onore di G. Auletta, Milano, 1988, vol. III, 481 e ss. e in Scritti giuridici, Milano, vol. I, 1992, 49 il quale si sofferma sul tipo di organizzazione fortemente accentrata del periodo liberale, ossia «scarsamente aperta ad influenze dirette da parte della società, e che, almeno secondo il modello ideale a cui avrebbe dovuto corrispondere, operava obiettivamente e quindi in grado di sottrarsi ad indebite inframmettenze politiche».

[26] Sull’evoluzione dei poteri dell’amministrazione, cfr. V. OTTAVIANO, Poteri dell’amministrazione e principî costituzionali, in Riv. trim. dir. pubblico, 1964, 912 e ss. e in Scritti giuridici, Milano, vol. I, 1992, 13 e ss. Cfr. anche A. BARONE, Il diritto del rischio, Milano, 2006, 8 e ss. constata che l’azione del potere pubblico era caratterizzata nello Stato monoclasse dalla concezione autoritaria del rapporto cittadino – amministrazione, nel quale la sicurezza degli individui è un problema di sicurezza pubblica e, quindi, di ordine pubblico.

[27] Cfr., V. OTTAVIANO, Cittadino e amministrazione, op. cit., 40 afferma che «L’azione diretta a facilitare il soddisfacimento dei bisogni fisici ed economici dell’individuo, a diffondere l’educazione e la cultura, etc., veniva vista così in funzione di tutela preventiva dell’ordine sociale e quindi come ausilio dell’attività di polizia vera e propria. Contribuiva al rafforzamento di tale tendenza la convinzione che lo Stato dovesse limitare il più possibile i suoi interventi in campi diversi da quelli della garanzia dell’ordine pubblico».

[28] R. ALESSI, Principi di diritto amministrativo, Milano, 1978, Tomo II, 589 e ss.

[29] Cfr., E. BOSCOLO – M. CAFAGNO, Lo “Stato dispensatore”: le prestazioni di servizio pubblico tra universalismo e selettività, in Diritto amministrativo e Corte Costituzionale, a cura di G. DELLA CANANENA – M. DUGATO, Napoli, 2006, 87 e ss. e sulla nozione di polizia amministrativa nell’evoluzione storico-legislativa, G. MANFREEDI, La nozione di polizia amministrativa nel diritto italiano, 2011.

[30] Ex mulits, V. E. ORLANDO, Principii di diritto amministrativo, Firenze, II ed., 1892, 229 e ss. si sofferma sul ruolo dello Stato, che “nell’agire, comanda” e afferma che «Dal punto di vista del diritto amministrativo, importa stabilire questa prima e generale verità, cioè che lo Stato, per il raggiungimento dei suoi fini, dichiara la sua volontà, e questa volontà, discendendo dal diritto d’impero, deve essere ubbidita”, tanto da considerare le persone a cui il comando dello Stato (che serve per attuare i fini dell’amministrazione pubblica) è diretto, dei sudditi. La manifestazione dell’attività amministrativa era considerata come espressione di atti unilaterali di “imperio”, tra i quali il più tipico è il provvedimento amministrativo che si caratterizza per l’attributo dell’autorietà, consistente nella “ possibilità di produrre unilateralmente nella sfera giuridica di altri soggetti le modificazioni giuridiche previste dalle proprie statuizioni».

Cfr. anche A.M. SANDULLI, Manuale di diritto amministrativo, Napoli, 1984, 593 e ss. La posizione dell’amministrazione statale assume così un ruolo che, giustamente, può dirsi di primazia, che comporta, sul piano dell’attività amministrativa, la possibilità di fruire di amplissimi poteri discrezionali di fatto incontrollati. Infatti, i controlli giurisdizionali sulle amministrazioni pubbliche, nel pieno rispetto del principio della separazione dei poteri, sono, quasi per l’intero secolo, pochi e poco penetranti: in Italia le prime sentenze nelle quali si usi l’eccesso di potere come strumento di lettura dell’attività amministrativa sono degli anni ’90 del XIX secolo, dopo l’istituzione della IV sezione del Consiglio di Stato nel 1889.

[31] Cfr., V. OTTAVIANO, Cittadino e amministrazione, op. cit., 38 sottolinea il ruolo ricoperto dalla beneficenza concepita «non come una prestazione da rendere a chi si trovava in stato di bisogno, ma come un modo per attenuare le tensioni sociali, eliminando in via preventiva alcune delle cause che potevano turbare l’ordine pubblico». L’A. aggiunge che «le prestazioni assistenziali potevano giustificarsi solo a favore di coloro che non erano in grado di provvedere a se stessi, quali i minori, gli orfani, i vecchi. Da ciò la necessità di distinguere fra bisognosi meritevoli di assistenza e coloro che invece non lo erano. L’assistenza in definitiva mirava nelle sue varie forme al controllo delle classi povere».

[32] V. Antonelli, La sicurezza delle città tra luci e ombre, in Labsus e, in maniera più approfondita, Id., Sicurezza delle città tra diritti ed amministrazione, Padova, 2018.

[33] A. Pajno, La “sicurezza urbana” tra poteri impliciti e inflazione normativa, in La sicurezza urbana, a cura di A. Pajno, Collana Astrid.

L'articolo L’intelligenza artificiale al servizio della sicurezza urbana nelle Città intelligenti: una nuova dimensione del rapporto con il cittadino proviene da Giustamm.

Sebastiano Napolitano*

Abstract:

L’inserimento negli atti difensivi di citazioni giurisprudenziali inesistenti (cd. allucinazioni), generate dall’Intelligenza Artificiale (IA), viola i doveri di lealtà e probità da parte del Difensore. La nota analizza il principio di centralità del controllo umano (human in the loop), alla luce del quadro normativo (AI Act, L.132/2025, CEPEJ), sulle risposte generate (output) dall’IA alle richieste (prompts) di ricerca giurisprudenziale.

Abstract:

The inclusion in the defence documents of non-existent jurisprudential citations (so-called hallucinations), generated by Artificial Intelligence (AI), violates the duties of loyalty and probity on the part of the Defender. The note analyzes the principle of centrality of human control (human in the loop), in the light of the regulatory framework (AI Act, L.132/2025, CEPEJ), on the responses generated (output) by AI to the requests (prompts) of jurisprudential research.

SOMMARIO :

-1. Premessa -2. La Giustizia Predittiva -3. La prevedibilità delle decisioni -4. Il ruolo dei precedenti – 5. Limiti all’uso dell’IA nella giustizia -6. Allucinazioni -7. Il fatto -8. Le argomentazioni del Collegio -9. Inquadramento normativo della vicenda -10. La soluzione adottata dal TAR -11. Conclusioni

1. PREMESSA

L’automazione generata dalle nuove tecnologie è in grado di cambiare le dinamiche lavorative[1].

L’uso dell’intelligenza artificiale (d’ora innanzi, “IA”), ormai dovunque diffuso e pressoché generalizzato, non rappresenta solo una nuova tecnologia, ma una vera e propria rivoluzione industriale (presente e non futura), un’opportunità da cogliere e governare, perché in grado di garantire un indubbio miglioramento nella disponibilità e nel controllo delle informazioni necessarie per giungere, attraverso una migliore, più rapida e completa individuazione di precedenti giurisprudenziali, alla previsione del probabile esito di una controversia (cd. giustizia predittiva).

2. LA GIUSTIZIA PREDITTIVA

Come argutamente osservato dalla Dottrina[2], poiché l’espressione “giustizia predittiva” viene utilizzata in diverse accezioni, è opportuno chiarire che la “giustizia predittiva in senso lato”[3], che “mira all’individuazione, attraverso strumenti di data research analysis, dei precedenti giudiziari in grado di (o, forse meglio, utili a) pre-dicere l’esito di una controversia non ancora avviata o comunque non decisa”, va tenuta distinta dalla “giustizia predittiva in senso stretto”, che, “collocandosi all’interno del procedimento decisionale[4], ha a che vedere in realtà più con lo jus dicere (cd. algoritmo decisore), che con il jus pre-dicere” (cd. algoritmo predittore)[5].

Grazie alla rapidissima evoluzione tecnologica, abbiamo, ora, a disposizione “sistemi che non si limitano più a basarsi su sistemi esperti che fondandosi su regole predefinite seguono programmi specifici o sistemi di apprendimento automatico o che apprendono dai dati di addestramento e inferiscono regole per prevedere risultati specifici, ma sistemi che combinano questi vantaggi, aggiungendo la capacità di rispondere al contesto e fornire spiegazioni sul processo decisionale. Sistemi che “apprendono” man mano che analizzano i dati, distinguendosi dall’apprendimento umano, e che hanno bisogno di moltissimi dati, dati che devono essere affidabili e di qualità”[6].

3. LA PREVEDIBILITÀ DELLE DECISIONI

Alla meta della calcolabilità[7] delle decisioni giudiziarie[8], quale corollario della certezza del diritto⁹, si può, dunque, giungere, a questo punto dell’avanzamento tecnologico, attraverso il supporto di una sempre più evoluta tecnologia e, in particolare, mediante l’impiego dell’IA[9], in cui le metodiche di selezione del materiale archiviato in banche dati trascendono l’argomento per sfociare «nella regola del caso concreto».

Tutto quello che può rendere prevedibile – e, quindi, conseguentemente “certa” – la giustizia, deve essere incoraggiato, perché idoneo a favorire scambi commerciali, libertà di stabilimento e ridurre i costi per le imprese[10]; tuttavia l’intuibile pericolo di uno scivolamento verso sistemi del  common law, per l’inevitabile rafforzamento della “vincolatività” del precedente[11], quale conseguenza della maggiore trasparenza e diffusione di precedenti specifici, può essere bilanciato, dalla sinergia dei formanti giurisprudenziali e dottrinali, nonché dall’apporto professionale degli operatori del diritto, operanti nel processo, che grazie alla puntuale e ragionata estrazione della giurisprudenza di merito e legittimità, a fronte del mutare di istanze provenienti dalla realtà sociale, ben potrà e saprà compiere scelte (interpretative), anche coraggiose ed innovative, senza per ciò stesso rendere meno valido il perseguimento della “certezza del diritto” e conseguente prevedibilità della decisione.

4. IL RUOLO DEI PRECEDENTI

L’IA utilizza il precedente per individuare regole e orientamenti, favorendo uniformità e prevedibilità delle decisioni; tuttavia, è centrale l’apporto umano sia sotto il fondamentale profilo del controllo di quanto generato dall’IA, sia per la indubbia e sempre garantita possibilità da parte del formante dottrinario, come già accennato, di concorrere al mutamento d’indirizzo.

Il valore della prevedibilità delle decisioni, invero, non significa postulare un immobilismo giuridico mediante l’imposizione di un vincolo di automatica conformazione[12], ma significa assicurare uniformità, laddove manchino valide argomentazioni a sostegno del dissenso tali da determinare la costruzione condivisa di un opposto, nuovo o più autorevole indirizzo[13]; riferendosi la prevedibilità delle decisioni non tanto all’astratta previsione legale, bensì alla norma vivente risultante dall’applicazione e dall’interpretazione dei giudici, in stretto raccordo con le fonti costituzionali e sovranazionali[14].

5. LIMITI ALL’USO DELL’IA NELLA GIUSTIZIA

La Giustizia rientra nella Fascia ad «alto rischio» nell’uso di IA, con obbligo di valutazione di conformità, trasparenza, sorveglianza umana e monitoraggio post-commercializzazione .

È necessario, dunque, chiedersi come e in che limiti l’IA possa essere utilizzata dagli operatori del diritto.

L’uso dell’IA (a supporto, redazione, analisi etc) – vale subito anticipare prima di richiamare il caso esaminato nella decisione del TAR in commento – è consentito purché con stretta supervisione e controllo umano (cd.human in the loop)  .

6. ALLUCINAZIONI

Un’allucinazione è una risposta generata dall’IA che appare plausibile ma è inventata, priva di fondamento nei dati reali o nelle fonti affidabili. È una delle principali sfide dei modelli generativi.

7. IL FATTO

Nel caso all’esame il Collegio verificato che nel ricorso tutte le sentenze citate a sostegno dell’affermazione dell’illegittimità dei provvedimenti impugnati richiamavano estremi di pronunce non pertinenti e le massime indicate in molti casi erano riferibili ad orientamenti giurisprudenziali non noti, ai sensi dell’art. 88 cod. proc. civ., applicabile al processo amministrativo in forza del rinvio contenuto nell’art. 39 cod. proc. amm., disponeva l’invio di copia della sentenza al Consiglio dell’Ordine degli Avvocati di Milano stigmatizzando la violazione da parte del Difensore (che in sede di trattazione orale, alla richiesta di chiarimenti sul punto, aveva candidamente ammesso di aver citato, nel ricorso, della giurisprudenza reperita mediante l’uso di strumenti di ricerca basati sull’intelligenza artificiale che avevano evidentemente generato risultati errati)  del dovere di   comportarsi in giudizio con lealtà e probità, avendo omesso la doverosa attività di controllo della giurisprudenza citata (rectius: generata dall’IA) e dei principi dalla stessa apparentemente affermati.

8. LE ARGOMENTAZIONI DEL COLLEGIO

La condotta posta in essere dal Difensore che riporta, negli atti difensivi citazioni giurisprudenziali – per avvalorare la propria tesi – inesistenti (…“non pertinenti e massime … riferibili ad orientamenti giurisprudenziali non noti”), perché frutto delle cd. allucinazioni dell’IA, pone in essere una condotta che viola il “dovere del difensore di comportarsi in giudizio con lealtà e probità, in quanto introduce elementi potenzialmente idonei ad influenzare il contraddittorio processuale e la fase decisoria verso un percorso non corretto, e perché rende inutilmente gravosa, da parte del giudice e delle controparti, l’attività di controllo della giurisprudenza citata e dei principi dalla stessa apparentemente affermati”. Nessuna valenza esimente può, poi, riconoscersi alla dichiarazione del Difensore di essersi avvalso nella ricerca dell’Intelligenza Artificiale, “in quanto la sottoscrizione degli atti processuali ha la funzione di attribuire la responsabilità degli esiti degli scritti difensivi al sottoscrittore indipendentemente dalla circostanza che questi li abbia redatti personalmente o avvalendosi dell’attività di propri collaboratori o di strumenti di intelligenza artificiale.”

9. INQUADRAMENTO NORMATIVO DELLA VICENDA

In punto di regolamentazione, il primo  presidio, in materia, è arrivato dalla Cepej (Commissione europea per l’efficienza della giustizia), che ha enucleato, nel 2018, una serie di principi[15], contenuti nella Carta etica europea sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari e negli ambiti connessi, adottata dalla CEPEJ nel corso della sua Riunione plenaria (Strasburgo, 3-4 dicembre 2018).

La direzione impressa dalla Commissione, non è quella di una cd. “Giustizia algoritmica” [16], id est, l’impiego di “macchine intelligenti”[17] in grado (di jus-dicere) di sviluppare un ragionamento artificiale,[18] da utilizzare per motivare sentenze  scritte con “foglie” di algoritmi, sospinte dal vento all’esterno di una “banca dati”, quale ”Antro della Sibilla”[19] ante litteram, come scampoli motivazionali – accostati casualmente e logicamente validi, ma, non giuridicamente prevedibili e trasparenti (tanto che ad ogni interrogazione delle dette “Justice Machines”, per diverso accostamento, le soluzioni proposte inevitabilmente si presentano diverse e finanche opposte)-  perché  i Difensori possano trarre “vaticinio” [20]; ma ferma, la centralità della persona del Giudice, secondo le indicazioni provenienti dalle fonti europee che promuovono un’IA affidabile e antropocentrica[21], è necessario individuare e far ricorso ad un algoritmo che sia strumento ancillare, ma, al contempo, pregnante nell’attività giudiziaria (il riferimento è appunto agli strumenti di data research analysis, quali quelli di cui è già dotata la Banca dati merito), in grado di trasformare gli obiettivi  di rapidità e prevedibilità delle decisioni, in azioni concrete e realizzabili[22].

Più di recente, il 13 giugno 2024,  è stato approvato dal Parlamento Europeo e dal Consiglio il Regolamento (UE) 2024/1689, noto anche come AI Act[23].

Questo regolamento stabilisce regole armonizzate per lo sviluppo, l’immissione sul mercato e l’uso dei sistemi di IA nell’Unione Europea.

Al centro della legislazione si rimarca la preservazione dell’autonomia umana, si sottolinea che l’IA deve servire come strumento per amplificare, e non sostituire, il potere decisionale umano[24].

L’intento è chiaro: l’IA deve essere un’alleata dell’umanità, non una forza che ne mina l’autodeterminazione.

In sede nazionale,  il Consiglio dei Ministri ha iniziato a confrontarsi sul tema dell’avvento della IA nella giustizia[25] con il Disegno di legge n. 1146.[26]

Il Presidente del Consiglio dei Ministri e il Ministro della giustizia, hanno, invero, presentato un disegno di legge approvato dal Senato – n.S.1146- in data 20 marzo 2024, comunicato alla Presidenza in 20 maggio 2024, recante Disposizioni e delega al Governo in materia di intelligenza artificiale, con l’intento di dettare una normativa nazionale che “senza sovrapporsi al regolamento UE predisponga un sistema di principi, governance e misure specifiche adatte al contesto italiano per cogliere tutte le opportunità dell’intelligenza artificiale”.

Tra gli obiettivi espressi, vi è quello di garantire ai cittadini italiani l’uso affidabile e responsabile dell’IA, assicurando la supervisione umana in ogni fase di sviluppo e di utilizzo dei sistemi IA per la tutela dei diritti fondamentali.

L’approccio della normazione nazionale è, dunque, duplice:

 – da una parte, la promozione di un utilizzo corretto, trasparente e responsabile dell’intelligenza artificiale, in una dimensione antropocentrica, per coglierne pienamente le enormi opportunità (art. 1, comma 1, secondo periodo);

– dall’altra, la necessaria vigilanza sui potenziali rischi economici e sociali e sull’impatto sui diritti fondamentali, con gli strumenti propri dell’ordinamento nazionale (art. 1, comma 1, terzo periodo).

Il testo approvato con modificazioni alla Camera, C.2316, in data 25 giugno 2025 è stato approvato definitivamente al Senato, S.1146-B, in data 17 novembre 2025 ed è ora una Legge dello Stato, la n.132 del 23 settembre 2025, recante “Disposizioni e deleghe[27] al Governo in materia di intelligenza artificiale (25G00143)”, pubblicata nella GU n.223 del 25.09.2025 ed entrata in vigore il 10.10.2025.

Questa legge affianca il nascente quadro UE (AI Act) fissando principi antropocentrici e limiti all’IA, in modo che serva da supporto e non sostituisca mai l’uomo.

La legge nazionale abilita l’uso dell’IA in ambito legale e giudiziario per sfruttarne i benefici di efficienza, ma pone paletti stringenti a tutela dei principi fondamentali: il giudice è insostituibile nel processo decisionale, l’avvocato mantiene il controllo sulla consulenza al cliente; la trasparenza e la responsabilità fanno da cornice all’uso dell’IA (si pensi all’obbligo da parte del Difensore di informare il cliente sull’uso di IA, e alla responsabilità personale degli output generati dall’IA copiati negli atti).

10. LA SOLUZIONE ADOTTATA DAL TAR

Ne risulta, che le argomentazioni sviluppate dal Collegio, che tra l’altro richiama “La carta dei principi per un uso consapevole dei sistemi di intelligenza artificiale in ambito forense” redatta dall’Ordine degli Avvocati di Milano nel 2024, si pone in linea con il contesto normativo eurounitario, oltre che con la novella legislativa nazionale, che affermato il principio antropocentrico nell’uso delle nuove tecnologie che – utilizzabili per “coadiuvare”, ma mai “sostituire” l’operatore del diritto –  impone un preciso dovere in capo all’operatore del diritto di verifica e controllo dell’esito delle ricerche – attraverso il grounding (l’ancoraggio dell’output generato dall’IA a fonti documentali reali) – effettuate con i sistemi di intelligenza artificiale, la cui inosservanza è fonte di responsabilità per violazione del dovere del difensore di comportarsi in giudizio con lealtà, correttezza e probità.

11. CONCLUSIONI

Chi usa l’IA in ambito forense deve verificare gli output e risponde personalmente delle citazioni false o non pertinenti; l’omissione integra violazione deontologica e può dar luogo a segnalazione all’Ordine, oltre alle ordinarie conseguenze processuali.

25 ottobre 2025

Sebastiano Napolitano

* Sebastiano Napolitano, Magistrato. Segretario Generale della Corte di Appello di Napoli. Consigliere della Corte di Appello di Napoli, sezione Lavoro. Giudice della Corte di Giustizia Tributaria di Secondo Grado Campania

[1] S. Napolitano, Un algoritmo per pre-dicere, ma non dall’“antro della Sibilla” in Focus sulla giustizia predittiva “La transazione digitale la nuova dimensione del lavoro (parte 1^) n.1/2025 12.3.2025 in Lavoro Diritti Europa _LDE

[2]  M. Biasi, Intelligenza artificiale e processo: verso un robot-giudice per le controversie lavoristiche?, in Id. (a cura di), Diritto del lavoro e intelligenza artificiale, Giuffrè, 2024, n. 739.

[3] M. Sciacca, Algoritmo e Giustizia alla ricerca di una mite predittività, in Persona e Mercato 2023/1- Commenti, il saggio esamina le opportunità e i rischi dell’intelligenza artificiale applicata alla giustizia, con particolare attenzione ai progetti nazionali e internazionali di “giustizia predittiva”. L’autore riconosce il valore ausiliario dell’IA per giudici e operatori, ma sottolinea la necessità di limiti costituzionali e di un controllo umano effettivo, per evitare automatismi decisionali e garantire trasparenza, comprensibilità e tutela dei diritti fondamentali. Viene proposta una “predittività mite”, in cui l’IA supporta ma non sostituisce il giudizio umano, e si auspica una regolazione attenta e un approccio cooperativo tra istituzioni, tecnologia e cultura

[4] “Giudizio è un vocabolo polivalente. Replicando la notissima distinzione di Giovanni Tarello” G. Tarello, Orientamenti analitico-linguistici e teoria dell’interpretazione giuridica, in U. Scarpelli, a cura di, Diritto e analisi del linguaggio, Milano 1976 “tra interpretazione attività  e interpretazione prodotto, possiamo distinguere tra giudizio attività (come processo mentale di discernimento, di scelta e di decisione) e giudizio prodotto (come esito di tale attività giudicatrice). E similmente si potrebbe distinguere tra decisione come atto del decidere e decisione come contenuto di quell’atto”. In questi termini G. Zaccaria, Figure del giudicare: calcolabilità, precedenti, decisione robotica, in Rivista di diritto civile 2020, 2 n. 278.

[5] In argomento sulla distinzione L. Viola, Giustizia predittiva, in Treccani Online, 2018 (www.treccani.it, v., amplius, Id., L’interpretazione della legge secondo modelli matematici, Roma, 2018 A. Santosuosso, G. Sartor, La giustizia predittiva: una visione realistica, in E. GABRIELLI, M. Dell’Utri (a cura di), La giustizia predittiva, in Giur. It., 2022, 7, n.1771; G. Zaccaria, Mutazioni del diritto: innovazione tecnologica e applicazioni predittive, in Ars Interpretandi, 2021, 1, n. 40; Id. Figure del giudicare: calcolabilità, precedenti, decisione robotica, in Riv.dir.Civ, 2020, 2, n. 277 ; U. Ruffolo, Giustizia predittiva, decisione algoritmica e ruolo ancillare della machina come ausiliare necessario del giudice umano, in A. Pajno, F. Donati, A. Perrucci (a cura di), Intelligenza artificiale e diritto: una rivoluzione?, vol. II, Amministrazione, responsabilità, giurisdizione, Bologna, 2022, n. 453 ss.; nella letteratura internazionale, v. T. Sourdin, Judge v Robot? Artificial Intelligence and Judicial Decision-Making, in UNSW Law Journal, 2018, 41(4), n. 1114 ss., che si riferisce a replacing e a supporting technologies.

[6] C. Castelli, L’irruzione dell’intelligenza artificiale nella giustizia è inevitabile, dobbiamo conoscerla, utilizzarla e governarla per non subirla, cit.

[7] Avverte G. Zaccaria, in Figure del giudicare: calcolabilità, precedenti, decisione robotica, cit., n. 279-280) “Calcolabilità è qualcosa di diverso da prevedibilità. Che la prevedibilità sia un aspetto strutturale del diritto è fuori di dubbio: poter riporre aspettative sui comportamenti altrui, poter fare affidamento su future decisioni giudiziali costituiscono elementi essenziali del fenomeno giuridico, della sua natura di impresa cooperativa che tutela e stabilizza pratiche sociali di interazione dotate di regolarità. La prevedibilità è al cuore della coordinazione tra azioni individuali e istituzioni sociali e si connette inscindibilmente alla certezza, di cui rappresenta anzi il necessario presupposto. Mentre la certezza si riferisce ad un aspetto enunciativo, la prevedibilità si protende in una dimensione applicativa, quella dei risultati preannunziabili. Connettendosi al rispetto delle regole da parte dell’organo decidente (regole sulle fonti, sull’interpretazione, sulla procedura, sull’argomentazione), la prevedibilità consente anche di valutare le decisioni come corrette o come scorrette…la prevedibilità delle decisioni si traduce nella loro controllabilità…Ma la calcolabilità esprime qualcosa di più della prevedibilità, essendo la possibilità di calcolare più precisa e determinata di quella di prevedere. Il calcolo introduce infatti una dimensione matematizzante ed un approccio geometrico, un’idea del diritto come macchina che di per sé mal si attagliano alla specificità del fenomeno giuridico, e ancor più alle sue caratteristiche contemporanee di pluralismo, complessità, porosità. La logica del probabile, da cui è contraddistinto il sapere pratico, e dunque anche il giudizio giuridico, non è identificabile con una dimensione statistico-matematica, ma piuttosto con le plurime possibilità con cui un modello cogente di carattere generale può essere applicato alle specificità del caso concreto”… “In ogni caso, se si parla di calcolabilità del diritto con riguardo al diritto giurisprudenziale non si può che farlo in modo articolato. Se si considera infatti il tema dal punto di vista del rapporto tra legislazione e giurisdizione è legittimo sostenere che il diritto giurisprudenziale può rendere meglio calcolabile, ossia più chiara e certa, l’insuperabile vaghezza del testo legislativo; se invece lo si considera unicamente dall’ottica dello stesso diritto giurisprudenziale, esso non può che registrare oscillazioni e differenze e talora moltiplicazione dei contrasti che rendono quest’ultimo “poco” calcolabile”. “Ciò che deve in ogni caso rimanere non è la calcolabilità come fatto, ma la calcolabilità, meglio ancora la prevedibilità, come valore, come valore anzi specifico e connaturato al diritto, da continuare a promuovere e difendere. La prevedibilità del diritto contiene in sé una promessa di giustizia”. P. Grossi, Sulla odierna ‘incertezza’ del diritto, in Giust. civ., 2014, n. 921-955; Id., Ritorno al diritto, Roma-Bari 2015, n. 51 ss. G. Alpa, La certezza del diritto nell’età dell’incertezza, Napoli 2006, n. 74 ss. L’“incertezza “del diritto, ne costituisce allora un limite invalicabile: si tratta solo di limitarne il più possibile il grado, evitando che essa comprometta l’intero sistema giuridico. Per dirla con uno slogan, il diritto è chiamato a ridurre l’incertezza più che a garantire la certezza.

[8] Calcolabilità giuridica, a cura di A. Carleo, Bologna 2017; Il vincolo giudiziale del passato. I precedenti, a cura di A. Carleo, Bologna 2018; Decisione robotica, a cura di A. Carleo, Bologna 2019; N. Irti, Per un dialogo sulla calcolabilità giuridica, in Calcolabilità giuridica, cit., p. 21-22.

[9] M. Biasi, op. cit., n. 738.

[10] “La prevedibilità delle decisioni costituisce un valore da preservare; l’operatore economico vedrebbe aggiungersi al rischio di impresa insito nella natura dell’attività esercitata un’alea ulteriore alla quale non è culturalmente preparato e che la propria capacità organizzativa non può affrontare: ossia fronteggiare decisioni giudiziali del tutto imponderabili e incontrollabili perché slegate da criteri interpretativi certi, necessari al corretto funzionamento dell’economia di mercato e dei meccanismi di creazione e redistribuzione della ricchezza ad essa correlati”, cfr. G. Ariolli, Nomofilachia, giustizia predittiva e intelligenza artificiale, un Diritto e Innovazione, 3.11.2023, cit.; “La certezza del diritto e la prevedibilità delle decisioni sono, infatti, una componente fondamentale del corretto funzionamento dell’economia di mercato e delle leggi ad essa connesse, dei rapporti tra le imprese e tra i cittadini o tra questi e lo Stato” M. Luciani, La decisione giudiziaria robotica, in Associazione Italiana Costituzionalisti (Rivista), 3/2018, n. 872 ss.

[11] G. Taruffo, Precedente e giurisprudenza, Napoli 2007; E. Calzolaio, Mutamento giurisprudenziale e overruling, in R. trim. d. proc. civ., 2013, 3, n. 899-917; F. Follieri, Correttezza (Richtigkeit) e legittimazione del diritto giurisprudenziale al tempo della vincolatività del precedente, in D. Amm., 2014, 1-2, p. 265-354; N. Irti, Sulla relazione logica di conformità (precedente e susseguente), in Il vincolo giudiziale del passato, cit., n. 17, 23; A. Gambaro, Note in tema di uso forense dei precedenti giudiziari, in A. Carleo, a cura di, Il vincolo giudiziale del passato, cit., n. 182.

[12]“ Il precedente non fossilizza il diritto, ma lo rinnova.”… “La distinzione tradizionale tra precedente vincolante (negli ordinamenti di common law) e precedente meramente persuasivo (negli ordinamenti di civil law) si mostra ormai come largamente inattendibile e incapace di descrivere l’efficacia del precedente negli ordinamenti contemporanei. L’intensità con cui il precedente è in grado di influire sulle decisioni successive, la sua forza, può certo essere differenziata, formale ed esplicita in alcuni casi, informale in altri, ma deve comunque fare i conti con la struttura dell’argomentazione giuridica con riferimento all’interpretazione della regola giuridica e alla sua giustificazione. La persuasività e la ragionevolezza della regola di attenersi al precedente ma anche la sua vincolatività ammettono comunque eccezioni che le limitano. Anche quando sia vincolante, l’obbligo di stare decisis non è mai assoluto o insuperabile: e ciò contribuisce a spiegare il motivo per cui la parola “precedente” non ha un referente preciso”, così G. Zaccaria, Figure del giudicare: calcolabilità, precedenti, decisione robotica, cit., n. 287.

[13] G. Ariolli, Nomofilachia, giustizia predittiva e intelligenza artificiale, in Diritto e Innovazione, 3.11.2023.

[14] Come chiaramente evidenziato in Dottrina (M. Biasi, op. cit. n. 737), è centrale per le strategie di investimento degli operatori economici il binomio certezza (delle regole) – prevedibilità (della decisione) ed ivi, in nota 3, il richiamo al passo di M. Weber, Economia e società (1922), trad. it., Torino, 1999, 472: “ciò che occorre al capitalismo è un diritto che possa venir calcolato al pari di una macchina”

[15] In particolare la Carta etica prevede la formulazione di cinque principi: 1) il rispetto dei diritti fondamentali; 2) principio di non discriminazione; 3) principio di qualità e sicurezza; 4) principio di trasparenza, imparzialità e correttezza; 5) principio di garanzia dell’intervento e del controllo umano.

[16] N. Irti “Un diritto incalcolabile”, in Riv. dir. civ., 2016, n. 11 ss

[17] “La tentazione del robot che ragiona e decide, l’esaltazione dell’infallibilità della macchina a fronte della fallibilità dell’uomo, l’idea della costruzione di un mondo nuovo basata sulla delega alle macchine, ritornano a serpeggiare nel mondo contemporaneo, nel quale si diffonde la credenza collettiva per cui la delega alle macchine avrebbe un carattere di necessità. L’ordine dato dall’uomo sarebbe sostituito dall’ordine delle macchine. È interessante notare come quest’illusione si sviluppi anche nell’ambito giuridico nonostante l’indubitabile sconfitta teorica, almeno in sede di teoria generale del diritto, dell’idea di un giudice spersonalizzato, mero applicatore di norme precostituite e rigidamente definite. E nonostante il fatto che le pur notevoli performances del digitale non sempre autorizzino questa straordinaria attrazione nei suoi confronti”… G. Zaccaria, Figure del giudicare: calcolabilità, precedenti, decisione robotica, cit., n. 289.

[18] R. Messinetti, Brevi note sulla certezza del diritto nella società algoritmica, in Contratto e Impresa, 2/2024, n. 283 ss. Restituisce in modo sorprendente questo legame un vecchio, quasi sconosciuto un racconto di fantascienza giudiziaria (in nota 4 Charpentier, Justice 65, Paris, 1954, trad. it., Justice Machines. Racconto di fantascienza giudiziaria, Macerata, 2015)”, in cui  “…protagonista è un avvocato che, svegliatosi da un sonno decennale, non riconosce il mondo. A Parigi la facoltà di legge è chiusa; i giudici sono scomparsi, sostituiti da Justice Machines: artefatti cibernetici che estraggono le sentenze a sorte. Anche gli avvocati sono trasformati: meri traduttori delle domande delle parti nel linguaggio delle macchine. In poche parole: i francesi avevano preso sul serio la vecchia burla di cui Rabelais si era servito per canzonare i giudici del suo tempo. All’incertezza del diritto generata dai giudici umani avevano preferito quella di un’alea assoluta e per questo imparziale ed equanime. Ed erano contenti della lotteria della giustizia. Ma solo per poco perché, alla fine, nessuno chiedeva più quella giustizia.

[19]  S. Napolitano, Un algoritmo per pre-dicere, ma non dall’“antro della Sibilla” cit. n.7 e ss.

[20] Allo stato non è ipotizzabile un impiego di algoritmi nel contesto decisionale del giudice in Italia: lo impedisce l’articolo 8 del Decreto Legislativo 51 del 2018, di recepimento della Direttiva UE 16/680; cfr. E. Nagni, Artificial intelligence, l’innovativo rapporto di (in)compatibilità fra machina sapiens e processo penale, in Sistema Penale 7/2021, n. 16

[21] M. Biasi, Problema e sistema nella regolazione lavoristica dell’intelligenza artificiale: note preliminari, in federalismi, n.30/2024, n. 168.

[22] Va tenuta distinta, in altri termini, come avverte M. Biasi, op. cit.,  la “giustizia predittiva in senso lato”, che mira all’individuazione, attraverso strumenti di data research analysis, dei precedenti giudiziari in grado di (o, forse meglio, utili a) pre-dicere l’esito di una controversia non ancora avviata o comunque non decisa , dalla “giustizia predittiva in senso stretto”, che, collocandosi all’interno del procedimento decisionale, ha a che vedere in realtà più con lo jus dicere che con il jus pre-dicere.

[23] Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale e modifica i regolamenti (CE) n. 300/2008, (UE) n. 167/2013, (UE) n. 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144 e le direttive 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828 (regolamento sull’intelligenza artificiale), pubblicato sulla GUUE del 12 luglio 2024.

Il 13 marzo 2024 il Parlamento europeo ha approvato il regolamento sull’intelligenza artificiale (AI ACT), frutto dell’accordo raggiunto con gli Stati membri nel dicembre 2023. Il regolamento stabilisce obblighi per l’IA sulla base dei possibili rischi e del livello d’impatto. Ciò in quanto, il provvedimento è impostato su un’architettura di rischi connessi all’uso della IA, suddivisi in quattro categorie: inaccettabili, alti, limitati e minimi. Maggiore è il rischio, maggiori le responsabilità e i divieti per chi sviluppa o adopera sistemi di intelligenza artificiale. Per un commento alla versione dell’AI Act approvata dal Parlamento europeo nella seduta del 13 marzo 2024 e ratificata dal Consiglio il 21 maggio 2024, M. Peruzzi, Intelligenza artificiale e lavoro: l’impatto dell’AI Act nella ricostruzione del sistema regolativo Ue di tutela, in M. Biasi (a cura di), Diritto del lavoro e intelligenza artificiale, Giuffrè, 2024, n. 115 ss.; in generale, sul rapporto tra lavoro e IA, si veda, senza ambizione di completezza, S. Scagliarini, I. Senatori (a cura di), Lavoro, Impresa, e Nuove Tecnologie dopo l’AI Act, Fondazione Marco Biagi, 2024; M. Biasi (a cura di), op. cit.; M. Peruzzi, Intelligenza artificiale e lavoro. Uno studio su poteri datoriali e tecniche di tutela, Giappichelli, 2023.

[24]  Il messaggio chiave dell’AI Act è che la tecnologia debba fungere da mezzo a servizio dell’uomo (e non il contrario), donde il reiterato richiamo, all’interno del testo, all’idea di un’IA antropocentrica (cfr. M. Biasi, Il lavoro nel disegno di legge governativo in materia di intelligenza artificiale: principi, regole, parole, silenzi, in Diritto delle Relazioni Industriali Giuffrè, 2024, n. 3, n. 646).

[25] M. Biasi, Il lavoro nel disegno di legge governativo in materia di intelligenza artificiale, cit., n .659.

[26] D.d.l. S 1146, recante Disposizioni e delega al Governo in materia di intelligenza artificiale, presentato dal Presidente del Consiglio dei Ministri e dal Ministro della giustizia e comunicato alla Presidenza il 20 maggio 2024, il testo è stato approvato con modificazioni  alla Camera, C.2316, in data 25 giugno 2025, approvato in via definitiva al Senato, S.1146-B, in data 17 novembre 2025, oggi è Legge della Stato n.132 del 23 settembre 2025 “Disposizioni e deleghe al Governo in materia di intelligenza artificiale (25G00143) entrata in vigore il 10.10.2025, pubblicata nella GU n.223 del 25.09.2025

[27] In particolare l’art.16 rubricato “Delega al Governo in materia di dati, algoritmi e metodi matematici per l’addestramento di sistemi di intelligenza artificiale” prevede che “1. Il Governo è delegato ad adottare, entro dodici mesi dalla data di entrata in vigore della presente legge, uno o più decreti legislativi per definire una disciplina organica relativa all’utilizzo di dati, algoritmi e metodi matematici per l’addestramento di sistemi di intelligenza artificiale senza obblighi ulteriori, negli ambiti soggetti al regolamento (UE) 2024/1689, rispetto a quanto già ivi stabilito. 2. Gli schemi dei decreti legislativi di cui al comma 1 sono adottati su proposta del Presidente del Consiglio dei ministri e del Ministro della giustizia e sono successivamente trasmessi alle Camere per l’espressione del parere delle Commissioni parlamentari competenti. Decorsi sessanta giorni dalla data della trasmissione, i decreti possono essere emanati anche in mancanza dei pareri. Qualora detto termine venga a scadere nei trenta giorni antecedenti alla scadenza del termine previsto per l’esercizio della delega o successivamente, quest’ultimo è prorogato di sessanta giorni. 3. Nell’esercizio della delega di cui al comma 1, il Governo si attiene ai seguenti princìpi e criteri direttivi: a) individuare ipotesi per le quali appare necessario dettare il regime giuridico dell’utilizzo di dati, algoritmi e metodi matematici per l’addestramento di sistemi di intelligenza artificiale, nonché i diritti e gli obblighi gravanti sulla parte che intenda procedere al suddetto utilizzo; b) prevedere strumenti di tutela, di carattere risarcitorio o inibitorio, e individuare un apparato sanzionatorio per il caso di violazione delle disposizioni introdotte ai sensi della lettera a); c) attribuire alle sezioni specializzate in materia di impresa le controversie relative alla disciplina introdotta ai sensi delle lettere a) e b). A tal  riguardo la Settima Commissione del CSM nella delibera n.118/VV/2024, cit. n. 544, ha auspicato che “mentre sono in corso le sperimentazioni dell’IA applicata alla giurisdizione in tutti i maggiori ordinamenti giuridici europei – il Ministero della Giustizia italiano eserciti le prerogative previste dall’art.110 della Costituzione Il ruolo attribuito per legge al Ministero per tutti i sistemi di IA, anche relativo ad attività amministrative ed accessorie, prevede che il Ministero autorizzi e monitori a livello sperimentale le applicazioni studiate e in uso (vedi i progetti PON Governance, il sistema di certificazione dell’impiego di IA, ecc.) che assicurino in modo rigoroso due requisiti ovvero la sicurezza della rete giustizia e la tutela dei dati sensibili e della privacy. Da questo punto di vista sarebbe utile che il Ministero – dopo aver messo a disposizione degli uffici giudiziari i risultati delle sperimentazioni in corso con la rete dei RID e dei MAGRIF sotto la supervisione della STO (diretta articolazione consiliare) – valuti la possibilità di commissionare la realizzazione di un sistema di IA interno al sistema giustizia auspicabilmente pronto prima di agosto 2026 per essere fruito da tutti i magistrati ordinari.”

L'articolo Allucinazioni da IA e controllo umano negli atti difensivi. Nota a Tar Lombardia, Sez. V, 21 ottobre 2025, n. 3348 proviene da Giustamm.

Giada Maria De Stephanis

La trasparenza dell’Amministrazione: decisioni algoritmiche e accesso al codice sorgente.

Nota a Consiglio di Stato, Sez. IV, sentenza 4 giugno 2025, n. 4857.

ABSTRACT: La sentenza del Consiglio di Stato, Sez. IV del 4 giugno 2025 n. 4857 si inserisce nel dibattito sempre più attuale e complesso relativo all’utilizzo degli algoritmi nei procedimenti amministrativi. Essa assume rilievo sistematico per avere delineato con chiarezza e rigore argomentativo i criteri distintivi tra l’uso di strumenti informatici a supporto dell’attività amministrativa e le decisioni amministrative automatizzate tout court, affrontando nondimeno la questione della conoscibilità del software utilizzato con la richiesta al codice sorgente. Sebbene l’evoluzione normativa e giurisprudenziale stia prontamente rispondendo ad alcuni dei problemi applicativi posti delle nuove tecnologie, permangono criticità rispetto all’effettiva portata degli strumenti utilizzati e i loro riflessi sul procedimento amministrativo.

Sommario: 1. Il caso di specie. – 2. Distinzione tra supporto e automatizzazione decisionale.  – 3. Accesso difensivo al codice sorgente. – 4. Alcune considerazioni a margine in materia di procedimento amministrativo algoritmo e trasparenza delle decisioni.

1. Il caso di specie

La controversia trae origine da una procedura aperta in modalità telematica per l’affidamento dell’appalto del servizio di lavorazione rifiuti presso le piattaforme di valorizzazione indetta dalla Srt s.p.a. Esclusa dalla procedura di gara per «mancato rispetto delle Regole per la presentazione dell’offerta ovvero mancata corrispondenza dell’impronta digitale dei documenti di offerta trasmessi con quella assegnata dal sistema in fase di conferma di partecipazione», la Teknoservice s.r.l. ha richiesto l’accesso agli atti, tra cui la copia del codice sorgente della piattaforma di e-procurement Acquisti Telematici adoperata per la conduzione delle operazioni di gara, programma certificato da Agid, Anac e Acn. Avverso il provvedimento di diniego – unitamente al provvedimento di esclusione e gli atti di gara – la Teknoservice s.r.l. ha proposto dinanzi al T.a.r. Piemonte istanza ai sensi dell’art. 116, 2° comma, c.p.a., chiedendo di «accertare e dichiarare il diritto d’accesso della ricorrente agli atti e documenti domandati in ostensione, condannando le parti intimate a concedere copia di quanto richiesto in sede di accesso». Il T.a.r. ha respinto l’istanza e la Teknoservice s.r.l. ha, dunque, proposto appello, deducendo la violazione e falsa applicazione dell’art. 97 cost., degli artt. 22 s.s. della l.n. 241/1990 e dell’art. 30 del d.lgs. n. 36/2023. Il Consiglio di Stato ha respinto l’appello, precisando che, con riferimento agli algoritmi aventi funzione meramente strumentale, il diritto di accesso prevale sul diritto alla riservatezza aziendale «solo quando sia indispensabile e strettamente strumentale alla difesa in giudizio del richiedente, nell’ambito della procedura di affidamento del contratto.In altri termini, con l’art. 35, commi 4 e 5, D.Lgs. n. 36 del 2023, il legislatore ha previsto, a tutela dei diritti di privativa intellettuale relativi alle piattaforme digitali utilizzate nelle procedure di gara (qual è quella, nel caso di specie, utilizzata da D.), un divieto di accesso e di ogni forma di divulgazione della stessa, incluso, quindi il suo codice sorgente; tale divieto può essere superato, nel bilanciamento dei contrapposti interessi, solamente se il concorrente che chiede l’accesso ne dimostri l’indispensabilità ai fini della difesa in giudizio».

La sentenza del Consiglio di Stato in commento offre una preziosa occasione per riflettere su una distinzione centrale e ormai ineludibile nella disciplina dell’azione amministrativa digitalizzata: quella tra decisione algoritmica e algoritmo di mero supporto. Tale discrimine, lungi dall’essere meramente concettuale, ha conseguenze giuridiche rilevanti, soprattutto avuto riguardo all’applicabilità delle garanzie difensive, tra cui spicca, per importanza, il diritto di accesso agli atti, il quale si estende anche al codice sorgente del software utilizzato. È bene procedere con ordine.

2. Distinzione tra supporto e automatizzazione decisionale

L’utilizzo di strumenti tecnologici, ivi inclusi quelli basati sull’Intelligenza Artificiale, per la semplificazione del procedimento amministrativo non integra di per sé una decisione algoritmica. Questa la conclusione cui giunge il Consiglio di Stato, distinguendo limpidamente le c.d decisioni algoritmiche dagli algoritmi di mero supporto all’attività amministrativa, ritenendo che solo ai primi si applichi l’art. 30, 2° comma, lett. a) del D. Lgs. n. 36/2023, ai sensi e per gli effetti del quale «nell’acquisto o nello sviluppo delle soluzioni di cui al comma 1° le stazioni appaltanti e gli enti concedenti: a) assicurano la disponibilità del codice sorgente, della relativa documentazione, nonché di ogni altro elemento utile a comprenderne le logiche di funzionamento».

In particolare, il sopracitato art. 30, 2° comma, lett. a) del Codice dei Contratti Pubblici mostra un deciso favor per gli algoritmi open source rispetto a quelli proprietari e, in ogni caso, assicura «la disponibilità del codice sorgente, prevedendo inoltre che, nei casi di decisione algoritmica, la motivazione del provvedimento finale deve richiamare il codice sorgente e il modello matematico impiegati, salva la possibilità per l’interessato di esercitare il diritto di accesso documentale a “documenti” ed anche al data set».

Tanto premesso, secondo il Consiglio di Stato deve escludersi l’applicabilità, nel caso di specie, dell’art. 30, 2° comma, lett. a) del Codice dei Contratti Pubblici, disposizione che, rammenta, recepisce i principi elaborati dalla giurisprudenza in materia di decisioni algoritmiche – segnatamente, i principi di trasparenza, non esclusività della decisione algoritmica e non discriminazione – e che, invece, trova piena applicazione nell’ipotesi di provvedimenti amministrativi adottati mediante utilizzo di sistemi decisionali automatizzati in assenza di un intervento umano significativo (cfr. Cons. Stato, Sez. VI 8 aprile 2019, n. 2270).

Il Collegio ritiene che, nel caso di specie, non si configuri una decisione amministrativa algoritmica in senso proprio, bensì l’impiego di uno strumento algoritmico con funzione meramente strumentale e ausiliaria rispetto al processo decisionale, il quale rimane pertanto integralmente riservato al fattore umano. Si è, in altri termini, in presenza di un sistema informatico di supporto all’attività istruttoria, che non sostituisce, né tantomeno condiziona in modo vincolante, il contenuto dell’atto amministrativo finale, iscrivendosi piuttosto nel solco delle classiche modalità operative dell’azione amministrativa.

A conferma di ciò, il Collegio osserva che il software in questione si limita a effettuare una comparazione tecnica tra parametri informatici, consistenti nelle impronte digitali dei documenti trasmessi, determinati: in una prima fase, mediante la registrazione da parte della piattaforma delle impronte digitali generate al momento della conferma di partecipazione da parte degli operatori economici; in una seconda fase, tramite il confronto tra tali impronte e quelle corrispondenti a file effettivamente caricati in sede di presentazione delle offerte tecniche ed economiche. Il sistema informatico, dunque, restituisce un esito binario, consistente nella rilevzione di conformità o difformità tra le impronte digitali, fornendo tale risultato alla Stazione appaltante e, in particolare, alla Commissione giudicatrice, che resta pienamente titolare del potere decisionale. Sulla base di tali considerazioni, è stata confutata la tesi dell’appellante secondo cui nel caso in esame il software avrebbe compiuto decisioni automatizzate in luogo della commissione di gara, provvedendo all’automatica esclusione dell’operatore economico.

Ebbene, la natura meramente ausiliaria dell’algoritmo in esame ha consentito di differenziare nettamente la presente fattispecie da quelle richiamate dalla parte appellante, ove, ad esempio, la giurisprudenza ha riconosciuto il diritto di accesso al codice sorgente di software decisionali che determinavano in modo automatico l’assegnazione di sedi nel contesto della mobilità del personale docente, in assenza di motivazione, con compressione delle preferenze espresse e in difetto dei più elementari requisiti di trasparenza (cfr. Cons. Stato, Sez. VI 2 gennaio 2020, n. 30). In tali casi, si è correttamente ritenuto che l’impiego di strumenti automatizzati non possa costituire un pretesto per eludere i principi fondamentali che regolano l’azione amministrativa in uno Stato di diritto.

Tirando le somme, secondo l’insegnamento del Consiglio di Stato, deve ritenersi che si è in presenza di una decisione algoritmica automatizzata ogni qualvolta l’algoritmo assuma un ruolo sostitutivo rispetto all’ordinaria sequenza procedimentale, finendo per assumere la natura di elemento funzionalmente determinante il contenuto dell’atto amministrativo. Detto in altri termini, è corretto parlare di decisioni algoritmiche quando il sistema informatico sostituisce integralmente l’attività valutativa della P.A, costituenedo di fatto l’unica fonte del contenuto dell’atto. Ritiene il Collegio che si ha invece un algoritmo di mero supporto quando esso fornisce un ausilio tecnico che lascia impregiudicata la valutazione finale dell’organo competente. Nel primo caso, l’intervento umano è assente o puramente formale, rendendo necessario un elevato livello di trasparenza dell’intero processo automatizzato, con conseguente applicazione delle specifiche garanzie previste dall’art. 30, 2° comma, lett. a), D. Lgs. n. 36/2023; mentre nel secondo caso, invece, permane un controllo umano significativo, incidendo sulla disciplina applicabile.

3. Accesso difensivo al codice sorgente

Il codice sorgente rappresenta, in breve, «la versione di un algoritmo scritta in un linguaggio di programmazione ad alto livello (ossia più vicino al linguaggio umano, tipicamente in pseudo inglese), le cui istruzioni sono poi eseguite dalla macchina mediante appositi programmi» (Treccani, Enciclopedia della Scienza e della Tecnica, 2008). In via esemplificativa, esso è funzionale all’esecuzione di operazioni stabilite attraverso il linguaggio di programmazione selezionato, utilizzando un insieme definito e limitato di istruzioni.

La giurisprudenza amministrativa si è dimostrata tendenzialmente favorevole al riconoscimento del diritto di accesso ai codici sorgente impiegati nei procedimenti amministrativi automatizzati.

In tal senso, è pacificamente riconosciuta la natura giuridica del codice sorgente quale documento amministrativo ex art. 22, 1° comma, lett. d), della Legge n. 241 del 1990 (cfr. T.a.r. Lazio, Sez III bis, sentt. nn. 3769/2016; n. 374/2017; 7769/2021), il quale definisce come tale ogni rappresentazione grafica, fotocinematografica, elettromagnetica o di qualunque altra specie del contenuto di atti, anche interni o non relativi ad uno specifico procedimento, detenuti da una P.A. e concernenti attività di pubblico interesse, indipendentemente dalla natura pubblicistica o privatistica della loro disciplina sostanziale. Ebbene, in materia di accesso agli atti della P.A. la qualificazione del codice sorgente quale opera dell’ingegno non costituisce di per sé motivo ostativo alla sua ostensibilità. Tuttavia, l’accesso è subordinato alla verifica della stretta indispensabilità delle informazioni richieste rispetto alla posizione giuridica da tutelare.

È opportuno ricordare che il legislatore ha inteso circoscrivere l’oggetto della situazione legittimante l’accesso difensivo rispetto all’accesso “ordinario”, esigendo che la stessa, oltre a corrispondere al contenuto dell’astratto paradigma legale, sia anche collegata al documento al quale è chiesto l’accesso (art. 24, 7° comma, della Legge n. 241 del 1990). A tal riguardo, il Collegio richiama quanto stabilito dall’Adunanza Plenaria 18 marzo 2021, n. 4, e in particolare «la necessità (o la stretta indispensabilità) della conoscenza del documento determina il nesso di strumentalità tra il diritto all’accesso e la situazione giuridica ‘finale’, nel senso che l’ostensione del documento amministrativo deve essere valutata, sulla base di un giudizio prognostico ex ante, come il tramite – in questo senso strumentale – per acquisire gli elementi di prova in ordine ai fatti (principali e secondari) integranti la fattispecie costitutiva della situazione giuridica ‘finale’ controversa e delle correlative pretese astrattamente azionabili in giudizio». Come meglio chiarito, questa esigenza è soddisfatta dal successivo art. 25, 2° comma, della Legge n. 241 del 1990, ai sensi del quale la richiesta di accesso ai documenti deve essere motivata. In questa prospettiva, il Supremo Consesso ha escluso che possa ritenersi sufficiente un generico riferimento a non meglio precisate esigenze probatorie o difensive, poiché l’ostensione del documento passa attraverso un rigorso vaglio circa il nesso di strumentalità necessaria fra la documentazione richiesta e la situazione finale controversa.

Da quanto detto, emerge come la valutazione di stretta indispensabilità costituisca il criterio che regola il rapporto tra accesso difensivo e tutela della segretezza industriale e commerciale già sul piano della normativa generale.

Ma vi è di più; il Giudice ricorda infatti che in materia di accesso difensivo, è il legislatore stesso a prevedere un’esclusione basata su un giudizio valutativo di tipo comparativo di composizione degli interessi confliggenti facenti capo al richiedente e, rispettivamente, al controinteressato, modulato in ragione del loro grado di intensità. In particolare, l’art. 24 della Legge 7 agosto n. 241 del 1990 declina il rapporto tra accesso difensivo e riservatezza entro due regole di valutazione: con riferimento ai dati sensibili e giudiziari, l’accesso è consentito nei limiti in cui sia strettamente indispensabile; in caso di dati idonei a rilevare lo stato di salute e la vita sessuale, se la situazione giuridicamente rilevante che si intende tutelare con la richiesta di accesso sia di rango almeno pari ai diritti dell’interessato, ovvero consista in un diritto della personalità o in un altro diritto o libertà fondamentale

Ebbene, per quanto riguarda i software impiegati dalle stazioni appaltanti e dagli enti concedenti, l’art. 35, 4° e 5° comma, del D. Lgs. n. 36/2023 ne ammette l’accesso, sebbene coperti da diritti di privativa intellettuale, purché esso sia indispensabile ai fini della difesa in giudizio. In altri termini, il legislatore, nel bilanciamento di contrapposti interessi – in caso di conflitti – sembra ritenere che la conoscenza del codice sorgente, ancorché coperto da brevetto, sia essenziale per garantire la tracciabilità e verificabilità degli algoritmi impiegati nelle procedure automatizzate, in linea con il minimo dovere esplicativo richiesto dalle raccomandazioni europee in materia di Intelligenza Artificiale.

In termini generali, la nozione di “indispensabilità”, cui il codice appalti subordina l’accesso in presenza di informazioni riservate, deve essere interpretata nel senso di insussistenza di altri mezzi di prova idonei a dimostrare i fatti oggetto di contesa tra le parti, sicché la mera volontà di verificare e sondare – come è nel caso di specie – integra un accesso “meramente esplorativo”, privo della dimostrazione di una specifica e concreta necessità delle informazioni ai fini dell’esercizio del diritto di difesa, indispensabile per giustificare il sacrificio dei diritti di privativa industriale e intellettuale.

In estrema sintesi, la sentenza del Consiglio di Stato ribadisce che l’utilizzo di strumenti informatici non implica automaticamente l’adozione di decisioni algoritmiche in senso stretto, e che solo in quest’ultimo caso si applicano le rigorose prescrizioni di trasparenza previste dall’art. 30 del Codice dei Contratti Pubblici. Al contrario, in presenza di un supporto tecnico non vincolante, l’intervento umano resta determinante e la disciplina dell’accesso si fonda sulla prova della stretta indispensabilità, secondo quanto stabilito dall’art. 35.

4. Alcune considerazioni a margine in materia di procedimento amministrativo algoritmico e trasparenza delle decisioni

Come ormai noto, l’uso delle nuove tecnologie nell’organizzazione e nell’azione amministrativa costituisce un fondamentale principio del nuovo diritto amministrativo, conformemente ai principi di efficienza ed economicità, e, in tale direzione, deve essere letto l’art. 3 bis della Legge n. 241 del 1990, inserito a seguito della novella del 2005.

Nondimeno, l’introduzione massiccia di strumenti digitali nei procedimenti amministrativi ha sollevato – rectius, continua a sollevare – plurimi interrogativi di rilievo sistemico, in particolare quando i sistemi informatici non si limitano a mere infrastrutture tecniche, ma si innestano nel circuito valutativo e discrezionale dell’amministrazione. In tale contesto, la distinzione tra automatizzazione e mero supporto all’attività assume un significato dirimente, elevandosi a parametro essenziale per delimitare il campo di applicazione delle garanzie difensive previste dall’ordinamento a tutela dei cittadini nei procedimenti amministrativi che li riguardano.

Nel caso in esame, il Consiglio di Stato ha ribadito che, in assenza di un intervento decisionale dell’algoritmo, non si configura una decisione automatizzata, bensì una procedura informatica con funzione ausiliaria. L’algoritmo in questione infatti si limita a constatare un fatto, lasciando inalterato il potere valutativo dell’amministrazione. Questa impostazione conduce, rispettivamente, a una diversa configurazione del diritto di accesso: mentre nel caso del mero supporto non si applica l’art. 30, 2° comma, lett. a), del D. Lgs. n. 36/2023, nelle decisioni algoritmiche in senso stretto l’accesso al codice sorgente prevale sulle esigenze di riservatezza e proprietà intellettuale, anche laddove siano utilizzati dei software proprietari.

Si è già ampiamente osservato come il legislatore nella più recente evoluzione normativa abbia espresso un chiara preferenza per i c.d. open data, rispetto ai sotware proprietari, nell’ambito di una più ampia politica del libero accesso. Nel c.d. Codice dell’amministrazione digitale (Decreto Legislativo 7 marzo 2005 , n. 82), i dati di tipo aperto sono caratterizzati, anzitutto, dalla disponibilità secondo i termini di una licenza o di una previsione normativa; in secondo luogo, dalla accessibilità attraverso tecnologie dell’informazione e della comunicazione; infine, dalla disponibilità gratuita o a costi marginali sostenuti per la riproduzione e divulgazione. Ebbene, la differenza principale tra open data e software proprietari sta nella sostanziale indisponibilità al pubblico dei secondi; mentre gli open data si traducono in accesso e trasparenza dei dati della pubblica amministrazione.

In questa cornice, il principale profilo problematico è proprio quello legato al principio di trasparenza amministrativa, tradizionalmente ancorato alla conoscibilità dell’iter logico e giuridico della decisione, il quale si confronta ora con la necessità di una nuova forma di trasparenza algoritmica, ideona a rendere intelligibile non solo l’esito, ma altresì la struttura, le logiche decisionali e i dati di input del sistema informatico utilizzato.

A tal riguardo, è utile evidenziare che quanto maggiormente l’algoritmo utilizzato risulta opaco, difficilmente comprensibile o inaccessibile, tanto più l’asimmetria informativa tra amministrazione e cittadini si acuisce. Ne deriva che, al di là delle mere enunciazioni di principio, la concreta ed effettiva possibilità per il privato di comprendere e contestare le decisioni amministrative può risultare gravemente compromessa.

Cionondimeno, la mera conoscibilità dell’esistenza di un algoritmo non produce effetto alcuno se non accompaganata dalla effettiva capacità di decifrarne la logica, come è  stato anche largamente rappresentato dal Consiglio di Stato in commento. Per tale ragione, il principio di conoscibilità deve essere integrato necessariamente con quello di comprensibilità, il quale può essere tradotto nient’altro che nel diritto di ricevere informazioni significative sulla logica dell’algoritmo.

Orbene, un diritto del genere presuppone, in ogni caso, che gli algoritmi abbiano una logica deterministica-matematica, con connessioni verificabili tra principi generali e applicazioni basate sul principio di causalità. A ben vedere, molti degli algoritmi di nuova generazione si basano su relazioni statistiche e non causali e producono criteri di inferenza spesso incomprensibili e difficilmente tracciabili, rendendo particolarmente complessa – se non impossibile – la ricostruzione dell’iter seguito dall’algoritmo per raggiungere il risultato finale. In particolare, l’utilizzo di algoritmi basati sul machine learning non supervisionato comporta una sfida significativa, risultando estremamente difficile ricostruire a posteriori i dati su cui tali sistemi hanno operato. Tutto ciò comporta una sostanziale mancanza di trasparenza nelle inferenze generate, con il concreto pericolo che esse non possano essere adeguatamente giustificate o spiegate.

Ci troviamo di fronte a sistemi opachi per definizione, in cui la pretesa di trasparenza rischia di ridursi a mera facciata formale, rischiando l’algoritmo di presentarsi come il nuovo oracolo di Delfi del diritto.

In via conclusiva, la sentenza in commento pone una pietra miliare nel consolidamento del principio per cui l’intervento umano effettivo è ciò che distingue un algoritmo di supporto da uno decisionale, ma lascia aperti non irrilevanti scenari per il futuro. Essa, infatti, rischia di non prendere sufficientemente in considerazione i pericoli insiti nell’adottare decisioni sulla base di algoritmi, sia pure di mero supporto, che si assumono essere imparziali e che potrebbero, invero, presentare malfuzionamenti o non essere del tutto imparziali. Senza alcuna pretesa di esaustività, è probabile che in un futuro prossimo il diritto amministrativo sarà chiamato a riconoscere l’influenza sostanziale dell’algoritmo anche in assenza di un suo ruolo formalmente “decisivo”.

Il rischio, altrimenti, sarà quello di una nuova forma di automatismo mascherato basato solo su una presunta neutralità tecnica, in cui la discrezionalità umana sopravvive come paravento, e i diritti del cittadino – a cominciare dalla possibilità di comprendere e contestare le decisioni dell’autorità – vengono sacrificati sull’altare dell’efficienza tecnologica.

L'articolo La trasparenza dell’Amministrazione: decisioni algoritmiche e accesso al codice sorgente. proviene da Giustamm.

(Commento all’Opinion n. 8 del 2024 dell’European Data Protection Board)

di Francesco Midiri

Sommario: 1. L’Opinion n. 8 del 2024 dell’European Data Protection Board; 2. Le regole introdotte dall’Opinion: il presupposto di applicazione della data protection come trattamento di dati non anonimizzati; 3. Le regole imposte dall’utilizzo della base giuridica di trattamento del legittimo interesse; 4. Alcune considerazioni finali.

1. L’Opinion n. 8 del 2024 dell’European Data Protection Board

Con l’“Opinion n. 8/2024 on certain data protection aspects related to the processing of personal data in the context of AI models” (adottata il 17 dicembre 2024) l’EDPB ha introdotto una serie di nuove regole di protezione dei dati personali per il funzionamento di “sistemi” che utilizzano modelli di IA[1], regole che, sostanzialmente, si aggiungono al recente regolamento europeo relativo a quest’ultima materia (Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024).[2]

Il provvedimento è stato adottato sulla base dell’art. 64, par. 2, del GDPR (Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio del 27 aprile 2016) – che consente all’EDPB (se richiesto da un’Autorità di protezione dei dati personali nazionale) di emettere pareri sostanzialmente vincolanti su questioni di applicazione generale o che producono effetti in più di uno Stato membro – e scaturisce da quattro quesiti dell’Autorità irlandese per la privacy, relativi a questioni di applicazione delle regole della protezione dei dati personali a “modelli” di IA[3]. Più precisamente, è stato chiesto all’EDPB se un modello di IA utilizzi realmente dati personali e, quindi, se debba essere sottoposto alla relativa normativa. In caso di risposta affermativa, l’Autorità europea è stata chiamata a considerare se il c. d. “legittimo interesse” possa costituire una base giuridica adeguata (escludendo, così il consenso dell’interessato) e quali caratteristiche debba avere.

Rispondendo a queste domande, come anticipato, l’Autorità europea ha introdotto nuove regole che, imposte dal trattamento delle informazioni personali (che ne costituisce presupposto di applicazione), si aggiungono alle regole europee che disciplinano il funzionamento dei sistemi di IA e ne condizionano l’applicazione. In questo senso, l’EDPB non pare avere esteso o caratterizzato le regole generali di data protection nella dimensione della IA, ma pare averne creato di nuove, concepite ad hoc per questo nuovo ambito tecnologico. Così, sono state introdotte regole di protezione dei dati che configurano una sorta di disciplina fondamentale, non solo europea[4], dell’attività dei sistemi di IA.

A latere di tutto ciò, si consideri che l’Autorità ha dettato queste regole indirizzandole esplicitamente al trattamento dei dati personali realizzato da modelli di IA nei quali la macchina, svolgendo sequenze di funzioni matematiche riferite ai dati introdotti, elabora più o meno autonomamente, attraverso una fase c. d. di training, lo stesso modello che la dovrà fare funzionare (essenzialmente si tratta delle reti neurali in grado di autodeterminare le regole del proprio apprendere e del proprio fornire soluzioni operative definite anche modelli di deep learning o di machine learning, definizioni con le quali si  allude al fatto che la macchina impara da sola ad elaborare soluzioni attraverso passaggi di calcolo nascosti all’utente e spesso irrecuperabili)^[5]. Parrebbero esclusi, invece, i modelli introdotti dal programmatore nella macchina la quale, poi, si “limita”, seguendo le istruzioni impartite e utilizzando big data, a dedurre logicamente le soluzioni operative^[6]. L’EDBP, peraltro, chiarisce che l’avere fatto riferimento esclusivamente a modelli di machine learning deriva dal quesito proposto dalla Autorità irlandese e che, quindi, le nuove regole elaborate sono applicabili ad ogni “modello” di IA che tratta dati personali (praticamente tutti) e, correlativamente, anche ai “sistemi” di IA[7]. Infatti, nonostante le sue descrizioni e classificazioni, si afferma che “in line with the Request, the scope of this Opinion only covers the subset of AI models that are the result of a training of such models with personal data”.

2. Le regole introdotte dall’Opinion: il presupposto di applicazione della data protection come trattamento di dati non anonimizzati.

Venendo alle regole introdotte dall’Opinion, l’Autorità ha determinato innanzitutto in quali casi un sistema di IA realizza un trattamento di dati personali e, per questo, deve essere sottoposto all’applicazione della data protection. A tale fine, con un argomentazione a contrario, ha chiarito in quali casi lo sfruttamento delle informazioni è effettuato anonimizzando completamente i dati personali che sfrutta e, quindi, in quali circostanze è possibile disattendere gli obblighi e le prescrizioni di data protection. Nella ricostruzione dell’Autorità l’anonimizzazione, infatti, è l’unica via di uscita dal sistema normativo di protezione dei dati personali perché è l’unico strumento che rende il trattamento automatizzato inoffensivo sul piano dei diritti della persona^[8]. 

Dal punto di vista tecnico dell’EDPB, i modelli di IA, soprattutto quelli di deep learning e di machine learning, conservano traccia dei dati personali utilizzati nel processo di training (quelli degli utenti dei sistemi ma anche quelli di soggetti terzi). Per potere affermare la piena anonimizzazione, allora, è necessario dimostrare che le informazioni personali sfruttate non siano in alcun modo recuperabili, neanche attraverso nuovi processi di analisi dei modelli. Allo stesso modo, le indicazioni di output fornite dalla macchina non debbono essere in alcun modo riferite a persone i cui dati sono stati sfruttati nel training.

Naturalmente, fedele alla filosofia dell’accountability^[9], l’Autorità ha obbligato gli sviluppatori dei sistemi (considerati titolari di trattamento) a dimostrare l’avvenuta anonimizzazione ma ha fornito, a questo proposito, alcune importanti indicazioni operative. E’ necessario, innanzitutto, realizzare una valutazione del rischio che i dati personali possano essere estratti o derivati da una analisi del funzionamento e dalle operazioni svolte dai modelli; la valutazione deve considerare la migliore tecnologia disponibile; si deve tenere conto del rischio di accesso ai dati anche ad opera di terzi estranei. In sostanza, può essere affermata l’avvenuta anonimizzazione solo quando sia insignificante la probabilità di accedere alle informazioni personali analizzando (anche attraverso accessi esterni non autorizzati) i processi di training del modello di IA^[10].

Per concludere sul punto, l’EDPB ha riaffermato nella dimensione della IA la regola generale secondo la quale l’effetto naturale dell’utilizzo di informazioni personali è l’applicazione degli obblighi e delle garanzie del GDPR, a meno che non si dimostri la sostanziale impossibilità di recuperare le informazioni e ricollegarle a persone fisiche determinate. Nel medesimo tempo, sul piano normativo, ha imposto una serie di modalità tecniche specifiche per affermare l’avvenuta anonimizzazione, modalità che costituiscono l’unica exit strategy per sottrarsi all’applicazione del GDPR.

3. Le regole imposte dall’utilizzo della base giuridica di trattamento del legittimo interesse.

Il documento ha considerato, poi, se la realizzazione di un c. d. “legittimo interesse”, di cui all’art. 6, comma 1, lett. f), GDPR, possa rappresentare una base giuridica adeguata per potere effettuare lecitamente il trattamento dei dati personali, nello sviluppo o nell’utilizzo di un modello di IA. In altri termini, ci si è chiesto se sia possibile sfruttare informazioni personali anche prescindendo dalla volontà della persona a cui esse si riferiscono (come accade quando l’interessato presta il proprio consenso al trattamento dei dati o richiede la conclusione o l’esecuzione di un rapporto giuridico che rende necessario il loro utilizzo).^[11]

Per l’Autorità, anche in materia di modelli di IA, il perseguimento di un legittimo interesse,   può rappresentare la base giuridica adeguata per il trattamento lecito dei dati. Tuttavia, secondo il principio di accountability, il titolare deve dimostrare, da un lato, che il legittimo interesse ha specifiche caratteristiche, essenzialmente quella di prevalere sulle posizioni soggettive degli interessari senza rappresentarne una sostanziale violazione, e, dall’altro, che lo sfruttamento dei dati avviene secondo modalità determinate dalla data protection che, pur in assenza del consenso dell’interessato, lo rendono tollerabile.^[12] Tutti questi elementi divengono, nella ricostruzione della Opinion, le nuove coordinate di legittimità del trattamento dei dati personali attraverso modelli e sistemi di IA.

Più nello specifico, il documento ha chiarito che si deve sempre considerare se la realizzazione di un determinato legittimo interesse imponga effettivamente un determinato trattamento di dati personali, il quale, in altri termini, deve risultare sempre assolutamente necessario e proporzionato, senza che vi siano modalità di sfruttamento delle informazioni meno intrusive della sfera personale degli interessati: “This is particularly relevant for the development of AI models. When assessing whether the condition of necessity is met, SAs should pay particular attention to the amount of personal data processed and whether it is proportionate to pursue the legitimate interest at stake, also in light of the data minimisation principle”.^[13] Così, utilizzare quanti più dati possibile, elemento caratterizzante dei modelli di IA (soprattutto per insegnare agli stessi modelli a “fare tutto”, cioè per impiegarli per un ventaglio non definito a priori di finalità), non è più lecito per definizione, a meno che non se ne dimostri l’assoluta necessità per realizzare gli obiettivi operativi primari dei sistemi.^[14]

Ma una volta che il titolare di trattamento abbia dimostrato l’esistenza di un interesse collegato inscindibilmente al trattamento dei dati, l’autorità gli impone comunque di valutare ed affermare anche la sua prevalenza rispetto ai diritti degli interessati, per verificare se essi possano essere lecitamente ridimensionati o compressi (il c. d. balancing test). A questo proposito, l’Opinion ha chiarito che, in via generale, un utilizzo scorretto dei modelli di IA (peraltro non solo sul piano della data protection che qui interessa) per essere il legittimo interesse non prevalente rispetto alle posizioni soggettive degli interessari, può pregiudicare i loro diritti fondamentali consolidatesi nel diritto europeo (quali ad esempio la pretesa al controllo dei propri dati, la salvaguardia della propria condizione economica, l’accesso a servizi e posti di lavoro, l’accesso alla sanità ed all’istruzione). Così, l’utilizzo massivo e indiscriminato di dati personali può generare, nelle persone, un senso di sorveglianza o meccanismi di autocensura (in violazione della libertà di espressione dell’art. 11 della Carta dei diritti dei cittadini europei); la possibilità di trarre dati personali dai modelli, anche attraverso attacchi esterni, conduce a furti di identità, frodi, od al disvelamento di appartenenza a strutture associative (in violazione degli art. 7 e 8 della Carta); la presentazione di contenuti inappropriati a soggetti fragili può mettere in pericolo la loro serenità mentale (in violazione dell’art. 3 della Carta); l’utilizzo di modelli discriminatori può pregiudicare la vita lavorativa o sociale (in violazione degli artt. 15 e 21)^[15].

In questa parte, l’EDPB ha chiarito, così, che un utilizzo illecito di modelli di IA, perché non sostenuto da un’adeguata base giuridica di legittimo interesse, non può essere considerato una mera irregolarità formale priva di lesività ma, al contrario produce un impatto reale sulle libertà fondamentali. 

In via consequenziale, l’Opinion ha elaborato regole per garantire che il trattamento dei dati, – pur necessario e proporzionato per realizzare un interesse giuridicamente prevalente in astratto – non risulti eccessivamente impattante in concreto, anche considerando il contesto in cui esso viene realizzato. A questo proposito, il fatto che l’interessato, in relazione a vari fattori (le modalità di acquisizione dei dati, il carattere pubblico dei dati, il fatto che siano forniti dall’interessato o tratti dal web, la natura del servizio fornito, la relazione dell’interessato con il titolare, la sede in cui sono conservati i dati, la plausibilità di un utilizzo ulteriore delle informazioni rispetto alle finalità originarie, l’utilizzo dei dati anche per fornire servizi a terzi o per implementare il modello ecc… ) non si attende ragionevolmente che i suoi dati personali vengano impiegati, lo pone in una situazione di debolezza che rende l’eventuale trattamento eccessivamente impattante per definizione.^[16] Così, per ricostituire l’equilibrio tra i soggetti coinvolti il titolare di trattamento è obbligato a chiarire all’interessato che tipo di sfruttamento delle informazioni debba aspettarsi. Tuttavia, “while the omission of information can contribute to the data subjects not expecting a certain processing, the mere fulfilment of the transparency requirements set out in the GDPR is not sufficient in itself to consider that the data subjects can reasonably expect a certain processing. Further, simply because information relating to the development phase of an AI model is included in the controller’s privacy policy, it does not necessarily mean that the data subjects can reasonably expect it to happen; rather, this should be analysed by SAs on the specific circumstances of the case and considering all of the relevant factors”.^[17]

La complessità dell’utilizzo delle informazioni personali, in altri termini, impone allo sviluppatore ed all’utilizzatore di un modello obblighi informativi a “geometria variabile”, commisurati all’aspettativa dell’interessato ed alle potenzialità di impiego del sistema di IA. In questo senso, l’EDPB ha implementato ed arricchito il contenuto delle regole di trasparenza già previste in via generale dal GDPR.^[18] Peraltro, sempre in ossequio al principio dell’accountability, ha rimesso in concreto al titolare di trattamento la determinazione e l’applicazione dei nuovi obblighi.

Nel caso in cui, peraltro, nonostante l’applicazione di tutte queste regole di trattamento, il legittimo interesse per il quale vengono utilizzate le informazioni non sembri prevalere chiaramente sui diritti delle persone coinvolte, i modelli di IA, secondo le indicazioni della Autoritò, possono essere utilizzati solo applicando una serie di “Mitigating measures” coniate dall’EDPB, ovvero  “safeguards that should be tailored to the circumstances of the case and depend on different factors, including on the intended use of the AI model”.^[19] In questo modo, sono stati introdotti obblighi nuovi rispetto a quelli previsti dal GDPR.

Più specificamente, attraverso le misure di mitigazione è stato previsto che intercorra un ragionevole periodo di tempo tra la raccolta dei dati personali ed il loro utilizzo per il training dei modelli, in modo da consentire agli interessati di esercitare i propri diritti di data protection già in questa fase, cioè prima che il trattamento possa recare un pregiudizio effettivo. Inoltre, sono stati attribuiti nuovi contenuti a questi stessi diritti. Infatti, è stato riconosciuto agli interessati il diritto incondizionato di opporsi all’utilizzo dei loro dati dopo la raccolta (“an unconditional ‘opt-out’”), mentre il GDPR ammette l’opposizione solo nel caso in cui i diritti dell’interessato prevalgano sul legittimo interesse del titolare^[20]. Ancora, è stato affermato dall’Autorità il diritto alla cancellazione dei dati anche fuori dai presupposti del diritto all’oblio del regolamento europeo di data protection.^[21] Infine, sono state imposte dallo stesso documento, forme di reclamo adeguate per ogni caso di “data regurgitation or memorisation”.^[22]

A tutto ciò si aggiunge che l’Opinion, con riguardo al trattamento di dati tramite IA per realizzare un legittimo interesse, ha moltiplicato gli obblighi di informazione originariamente previsti dal GDPR. Le indicazioni dell’Autorità “may help overcoming the information asymmetry and allow data subjects to get a better understanding of the processing involved in the development phase”.^[23] A questo proposito, si è imposto che  vengano rese pubbliche informative con contenuti ulteriori rispetto a quelli previsti dagli art. 13 e 14 del GDPR “for instance by providing additional details about the collection criteria and all datasets used, taking into account special protection for children and vulnerable persons”. Inoltre, sono state previste forme di pubblicità ulteriori quali “media campaigns with different media outlets to inform data subjects, information campaign by e-mail, use of graphic visualisation, frequently asked questions, transparency labels and model cards the systematisation of which could structure the presentation of information on AI models, and annual transparency reports on a voluntary basis”.^[24]

Anche con riguardo alla pratica del web scraping diretto a perseguire un legittimo interesse, sono state introdotte regole importanti. Sul piano tecnico, innanzitutto, si debbono prevedere meccanismi che escludano l’utilizzo di informazioni che – per essere tratte da pubblicazioni particolari – possano porre a rischio determinate persone; debbono essere esclusi siti da cui possono essere tratti dati particolarmente sensibili; debbono essere ignorati siti che si oppongono allo scraping; debbono essere previsti dei criteri di limite alla raccolta basati sul tempo. Ulteriore soluzione ragionevole, per l’EDPB, è quella di imporre liste di opt out che consentano agli interessati, senza condizioni, di opporsi allo sfruttamento dei loro dati tratti da determinati siti o piattaforme.

L’autorità, infine,  si è raccomandata di “to prevent the storage, regurgitation or generation of personal data, especially in the context of generative AI models (such as output filters), and/or to mitigate the risk of unlawful reuse by general purpose AI models (e.g. digital watermarking of AI-generated outputs)”. Soprattutto però, in termini generali, ha imposto  di riconoscere agli interessati diritti di cancellazione dei dati dall’output del modello e dalla deduplicazione, nonchè di introdurre tecniche di rimozione e cancellazione dei dati personali anche “beyond what is required by law”.^[25]

4. Alcune considerazioni finali

Sulla base dei contenuti dell’Opinion è possibile trarre alcune considerazioni finali.

In prima battuta, l’autorità europea ha affermato che l’impiego di modelli di IA ha come effetto naturale il trattamento dei dati personali e l’applicazione del GDPR, a meno che non si provi, secondo la migliore tecnologia disponibile, l’anonimizzazione o l’assoluta irrecuperabilità delle informazioni.

Si ha un’inversione dell’onere della prova: non è la dimostrazione dell’avvenuto trattamento di dati in un modello di IA ad importare l’applicazione delle regole di protezione ma il non essere in grado di escluderlo in assoluto (neppure attraverso la riacquisizione od il riutilizzo). In sostanza, gli utilizzatori dei modelli di IA sono stati assogettati agli obblighi di protezione europei a meno che non siano in grado di produrre una prova negativa – l’assenza di trattamento per effetto di un’anonimizzazione e di una cancellazione definitiva delle informazioni – che, date le potenzialità delle soluzioni tecnologiche di IA, appare quantomeno difficoltosa.  

Come si vede, la volontà normativa dell’Autorità è quella di tagliare il nodo gordiano della valutazione della sussistenza del trattamento di dati, imponendo di default le garanzie del GDPR, salva l’exit strategy non agevole della loro anonimizzazione o irrecuperabilità. Il tutto a spostare il baricentro della protezione a vantaggio dei diritti fondamentali degli interessati.

Successivamente, attraverso considerazioni relative ai meccanismi di bilanciamento del legittimo interesse con le posizioni soggettive degli interessati, l’EDPB, sembra avere sfruttato l’occasione per introdurre una serie di nuove regole di protezione che hanno due caratteristiche fondamentali: sono innovative rispetto a quelle previste dalle fonti della data protection ed hanno un contenuto specifico rimesso alla responsabiità ed alla competenza tecnica degli utilizzatori dei modelli di IA.  

In questo quadro, in via generale e preliminare, l’Autorità ha chiarito che non è lecito per definizione acquisire ed utilizzare quante più informazioni possibile dalla rete, anche se questo amplifica le funzionalità dei modelli di IA. Deve rimanere fermo, invece, un rigido canone di necessità e di proporzionalità nello sfruttamento delle informazioni e, quindi, nell’invasione della sfera personale. Il tutto con una rigida predeterminazione delle finalità di trattamento.

Quindi, sulla scorta della posizione di debolezza dell’interessato a cui non è richiesto il  consenso per lo sfruttamento delle informazioni, il principio di trasparenza è stato valorizzato a tal punto da imporre all’utilizzatore di un modello di IA ogni obbligo necessario ad evitare ogni “effetto sopresa” sull’interessato a proposito dello sfruttamento dei suoi dati personali od ogni forma di sudditanza psicologica che induca quest’ultimo a limitare la propria partecipazione sociale digitale. A questo proposito, l’Opinion ha chiarito che non è necessario applicare solo gli obblighi informativi del GDPR ma anche elaborare strumenti nuovi che paiono sconfinare nel campo dell’educazione digitale, con un’azione che sembra essere pedagogica più che di correttezza di rapporto.

In questa prospettiva l’Autorità si è spinta ad introdurre nuove norme, le c. d. misure di mitigazione, che sono estranee alla dimensione della trasparenza ma che proteggono le libertà fondamentali degli interessati, arricchendo i contenuti del diritto alla protezione dei dati personali del GDPR. Ecco allora i termini tra l’acquisizione ed l’utilizzo dei dati, i nuovi diritti di opposizione e cancellazione e le nuove forme di reclamo. Anche in questo caso, poi, è stata rimessa all’autoresponsabilità dei titolari l’introduzione di ulteriori forme di protezione, più efficaci in relazione allo sviluppo tecnologico.

Sono stati inoltre anche previsti rigidi limiti al web scraping (limitandone i tempi e le sedi) per delineare specifiche condizioni di legittimità rispetto alla “pesca a strascico” delle informazioni in internet che non può rappresentare una zona france di trattamento. Nel medesimo tempo, soprattutto con riguardo alla IA generativa, sono state imposte come necessarie forme di limitazione alla riemersione di dati dai modelli ed al loro riutilizzo.

Tutto ciò considerato, l’azione regolatoria dell’autorità europea ha fatto emergere alcuni principi fondamentali in materia di disciplina ma anche di politica del diritto con riferimento ai modelli (ed ai sistemi) di IA.

Sul pressupposto della necessaria applicazione della data protection (dalla quale non si può sfuggire se non attraverso una probatio quasi diabolica), l’IA può essere realizzata ed utilizzata per perseguire gli interessi leciti degli sviluppatori, senza quindi essere assoggettata alle condizioni di legittimità più gravose della normativa europea – come il consenso al trattamento dei dati da parte dell’interessato o l’inquadramento all’interno di rapporti contrattuali che richiedono la rigida determinazione dei presupposti e delle finalità di utilizzo delle informazioni – a patto che tutto ciò avvenga all’interno di una fitta “rete di contenimento” formata da prescrizioni di protezione delineate dalla regolazione ma rimesse, nella determinazione del loro contenuto specifico, alla responsabilità dei tecnici.

Si tratta di un sistema normativo articolato ed aperto che, all’interno di coordinate fondamentali dettate dall’amministrazione indipendente europea (e dai principi generali della normativa), consente di essere continuamente adeguato ed implementato in ragione degli sviluppi tecnologici ma anche delle mutate condizioni di rischio di violazione delle libertà fondamentali. Pare emergere la volontà, che forse avrebbe dovuto essere espressa in maniera esplicita da un intervento normativo del legislatore europeo anche in materia di data protection, di non rallentare lo slancio di uno sviluppo digitale ed operativo ormai irrefrenabile ma, allo stesso tempo, di non ridimensionare il patrimonio continentale dei diritti inviolabili.

Il quadro normativo tracciato sembra essere il migliore compromesso possibile tra la garanzia del progresso tecnologico e quello della tradizione giuridica di protezione della persona e della società. La scelta sembra essere credibile, anche se dovrà necessariamente superare la prova del tempo e delle conseguenze degli sviluppi tecnologici.

[1] Ma in materia l’EDPB aveva già prodotto EDPB, Report of the work undertaken by the ChatGPT Taskforce, adopted 23 May 2024.

[2] Sul Regolamento, escludendo l’amplissima letteratura sul progetto, sulla quale basti C. Marenghi,

La proposta di regolamento ue sull’intelligenza artificiale e la regolazione privata: spunti critici in tema di norme tecniche armonizzate, in Diritto comunitario e degli scambi internazionali, 2021, 563, cfr. G. Finocchiaro, Diritto dell’intelligenza artificiale, Bologna, 2024; R. Petruso – G. Smorto, Il Regolamento europeo sull’intelligenza artificiale: una prima lettura, in Nuova giurisprudenza civile commentata, 2024, 989. Per un commento sistematico C. N. Pehlivan, N. Forgó, P. Valcke, The EU Artificial Intelligence (AI) Act: a commentary, Deventer, 2025. Sui rapporti tra normativa sulla IA e sulla data protection cfr. P. Falletta, A. Marsano, Intelligenza artificiale e protezione dei dati personali: il rapporto tra Regolamento europeo sull’intelligenza artificiale e GDPR, in Rivista italiana di informatica e diritto, 2024, 119; M, Cappai, Intelligenza artificiale e protezione dei dati personali nel d.d.l. n. 1146: quale governance nazionale?, in federalismi.it, 2024, 30, 186; G. Finocchiaro, Diritto dell’intelligenza artificiale, op. cit. su cui già Id., Intelligenza Artificiale e protezione dei dati personali, in Giurisprudenza Italiana, 2019, 1670.

[3] L’Autorità irlandese ha chiesto: a) se, in qualche caso, un modello di IA, pur addestrato con informazioni personali, possa essere sottratto dall’applicazione del Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio del 27 aprile 2016 (di seguito GDPR), nella misura in cui le stesse informazioni possono ritenersi non riconducibili alla figura di dato personale della stessa normativa (ad esempio perché le informazioni sono anonimizzate); b) se il “legittimo interesse” possa essere considerato una condizione di liceità per potere sfruttare dati personali al fine di sviluppare un modello di IA; c) quali caratteri debba avere il “legittimo interesse” per essere condizione sufficiente di liceità di trattamento nel caso di sfruttamento di dati personali nel training di un modello di IA; d) se, quando un modello di IA è stato creato o sviluppato violando le regole di protezione dei dati personali, risulti illecito anche il suo successivo sviluppo o utilizzo.

[4] Si ricordi il c. d. Brussels effect, cioè la naturale tendenza espansiva della normativa europea a condizionare anche fenomeni tecnologici di origine extraeuropea cfr. A. Bradford, The Brussels Effect. How the European Union Rules the World, Oxford, Oxford University Press, 2020.

[5] Non è questa la sede per illustrare la classificazione tecnica dei vari modelli di IA, ma per riferimenti essenziali P. Traverso, Breve introduzione tecnica all’Intelligenza Artificiale, in DPCE online, 2022, 155, e S. B. Grenci, Le applicazioni di Intelligenza artificiale a supporto dell’automazione del procedimento amministrativo, in Rivista italiana di informatica e diritto, 2024, 218, che illustra anche il fenomeno delle black box ovvero dell’impossibilità di recuperare le regole od i meccanismi che governano la macchina (il modello di funzionamento) che la macchina stessa si è data attraverso il training che ha compiuto utilizzando una quantità amplissima di dati. In tema i riferimenti di G. Lo Sapio, La black box: l’esplicabilità delle scelte algoritmiche quale garanzia di buona amministrazione, in Federaismi.it, 2021, 114.

[6] Su questi diversi modelli di IA cfr. sempre P. Traverso, Breve introduzione tecnica all’Intelligenza Artificiale, op. cit.. L’Autore illustra le forme di Model based AI ove un progettista definisce e costruisce un modello di un fenomeno che “deve avere la caratteristica di poter essere inserito in un computer in modo da essere utilizzato dal computer stesso per calcolare, dare risposte, fare analisi, o operare e agire nel mondo. Un modello formale può essere ad esempio una ontologia, ovvero uno schema concettuale che, ad esempio, classifica diversi concetti” (pag. 158-159). Si tratta di modelli di Logic, knowledge-based o simbolic AI. Poi, l’Autore definisce i differenti modelli di machine learning o di apprendimento automatico nei quali “il modello di un fenomeno viene ottenuto dai dati, ad esempio dai dati disponibili su web, dai numerosi sensori nelle nostre città, dai sensori indossabili (si pensi ai dati raccolti sulla nostra salute dai sensori presenti in un semplice smart watch)” (pag. 160).

[7] Infatti, nonostante le sue descrizioni e classificazioni, afferma che “in line with the Request, the scope of this Opinion only covers the subset of AI models that are the result of a training of such models with personal data” Opinion, pag. 12.

In via generale mentre i modelli possono essere definiti come quelle istruzioni essenziali che guidano i sistemi, i quali, però, per funzionare, richiedono la presenza di componenti informatici aggiuntivi, come un’interfaccia per l’utente i sistemi possono essere definiti come quelle infrastruttue informatiche capaci di inferire un output sulla base di un imput  ricevuto. Vedi infra la definizione dell’IA act.

L’art. 3 dell’IA act definisce un «sistema di IA» come: “un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali. La definizione è ampia, flessibile, neutra da un punto di vista tecnologico ed in grado di comprendere tecniche in continua evoluzione. Essa riprende quella già elaborate dall’OCSE nelle sue varie Raccomandazioni (del novembre 2023 e del maggio 2024 con l’Explanatory memorandum del marzo 2024) che è in grado di comprendere sistemi basati sia sul machine learning che sul knowledge-based e sul logic-based cfr. Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449, 2024. Come afferma il considerando n. 12 del Regolamento “la definizione dovrebbe essere basata sulle principali caratteristiche dei sistemi di IA, che la distinguono dai tradizionali sistemi software o dagli approcci di programmazione più semplici, e non dovrebbe riguardare i sistemi basati sulle regole definite unicamente da persone fisiche per eseguire operazioni in modo automatico”.  Inoltre “Le tecniche che consentono l’inferenza nella costruzione di un sistema di IA comprendono approcci di apprendimento automatico che imparano dai dati come conseguire determinati obiettivi e approcci basati sulla logica e sulla conoscenza che traggono inferenze dalla conoscenza codificata o dalla rappresentazione simbolica del compito da risolvere”. Sulle definizioni che si sono succedute nei vari documenti europei fino all’IA act C. Trincado Castán, The legal concept of artificial intelligence: the debate surrounding the definition of AI System in the AI Act, in BioLaw Journal – Rivista di BioDiritto, n. 1/2024, 305.

[8] Per un’illustrazione delle figure dell’anonimizzazione, della pseudonimizzazione e delle ragioni tecniche per le quali esse conducono alla non applicazione della data protection cfr. G. D’Acquisto – M. Naldi, Big data e privacy by design, Torino, 2017, pagg. 33 e segg., per le tecniche di anonimizzazione pag. 41 e segg…

[9] Come afferma la dottrina il principio non è da intendersi “in senso meramente formale come documentazione delle misure protettive adottate, bensì in senso sostanziale come uno sforzo imposto al titolare di assumersi l’onere della piena conformità con il Regolamento”, F. Galli, Il principio di accountability, in L. Califano, V. Fiorillo, F. Galli (a cura di), La protezione dei dati personali: natura, garanzie e bilanciamento di un diritto fondamentale, Torino, 2023. Sul principio già G. Finocchiaro, Il principio di accountability, in Giur. it., 2019, 2778.

[10] l’EDPB fornisce anche alcune misure esemplificative per rendere effettiva l’anonimizzazione quali la selezione e la minimizzazione delle fonti, l’adozione di metodi di riservatezza, la verifica e la documentaizone di tecniche contro gli attacchi esterni (cfr. pagg. 16 – 18 dell’Opinion).

[11] L’Opinion richiama Corte di Giustizia UE, sent. 4 luglio 2023, C-252/21, Meta v. Bundeskartellamt e Id. sent. 11 dicembre 2019, C-708/18, Asociaţia de Proprietari bloc M5A-ScaraA. Ma si consideri anche Corte giust. UE, sent. 4 maggio 2017, C-75/16, Menini e Rampanelli. L’Opinion richiama anche le recenti Linee Guida, EDPB Guidelines 1/2024 on processing of personal data based on Article 6(1)(f) GDPR, Versione 1.0, 8 ottobre 2024. Si tenga conto che recentemente la Corte di Giustizia ha interpretato in senso molto restrittivo la base giuridica della necessità del trattamento per eseguire un contratto, escludendola di fatto per l’incrocio di dati sfruttati nel contesto di un social network Corte di Giustizia UE, Grande camera, sent. 4 luglio 2023, C-252/21, Meta Platforms Inc. et al. v. Bundeskartellamt.

[12] Come è noto, per verificare l’idoneità del legittimo interesse a fungere da base legale è necessario verificare e dimostrare (ad opera del titolare): a) la legittimità dell’interesse perseguito, c. d. purposse test; b) la necessarietà del trattamento, c. d. necessity test; c) la non prevalenza dell’interese del titolare sulle libertà e sui diritti degli interessati c. d. balancing test. Cfr. V Fiorillo, Le condizioni di liceità del trattamento, in  L. Califano, V. Fiorillo, F. Galli (a cura di), La protezione dei dati personali: natura, garanzie e bilanciamento di un diritto fondamentale, op. cit. Sui caratteri di questa base giuridica nel quadro di una più complessa elaborazione delle garanzie da fornire all’interessato cfr. G. Proietti, Algoritmi e interesse del titolare del trattamento nella circolazione dei dati personali, in Contratto e impresa, 2022, 880.

[13] Opinion, pag. 23

[14] Pare in questo senso superata l’idea dell’incompatibilità tra sistemi di IA e principio di proporzionalità considerata da parte della dottrina T. Zarsky, Incompatible: the GDPR in the age of big data, in Seton Hall Law Review, Vol. 47, No. 4(2), 2017, 995 e M. Ebers, Regulating ai and robotics: ethical and legal challenges, in M. Ebers – S. Navas Navarro (eds.), Algorithms and Law, Cambridge, Cambridge University Press, 2019. In quest’ottica, l’Opinion pare recuperare con riguardo ai sistemi di IA i principi di proporzionalità e minimizzazione recentemente riaffermati per il trattamento di dati fondato sul legittimo interesse nei casi di aggregazione delle informazioni da un social network, Corte giustizia UE, sez. IV, sent. 4 ottobre 2024, n. 446, C-446/21, Ma. Sc. Contro Meta Platforms Ireland Ltd;  nei casi di trattamento di dati acquistati a titolo oneroso per la realizzazione di interessi commerciali Corte giustizia UE, sez. IX, sent. 4 ottobre 2024, n. 621, C-621/22, Koninklijke Nederlandse Lawn Tennisbond contro Autoriteit Persoonsgegevens; nei casi di trattamento di dati dei membri di un fondo di investimento Corte giustizia UE sez. IV, sent. 12 settembre 2024, n. 17 C-17/22 e C-18/22, HTB Neunte Immobilien Portfolio geschlossene Investment UG & Co. KG.

[15] Nella ricostruzione dell’EDPB queste lesioni sono da evitare anche perché l’utilizzo legittimo di modelli di IA può agevolare l’esercizio dei diritti fondamentali: “may also positively impact certain fundamental rights, e.g. the model may support the right to mental integrity of the person (Article 3 of the Charter), for instance when an AI model is used to identify harmful content online; or the model may facilitate the access to certain essential services or facilitate the exercise of fundamental rights, such as access to information (Article 11 EU Charter) or access to education (Article 14 EU Charter)” (pag. 25).

[16] In questo senso l’Opinion riecheggia indicazioni già contenute in Gruppo di lavoro articolo 29 per la protezione dei dati, Parere 6/2014 sul concetto di interesse legittimo del responsabile del trattamento ai sensi dell’articolo 7 della direttiva 95/46/CE, 9 aprile 2014.

[17] Opinion, pag. 27.

[18] Con riguardo ai quali cfr. Gruppo di lavoro articolo 29, Linee guida sulla trasparenza ai sensi del regolamento 2016/679, adottate il 29 novembre 2017. Sul principio in generale F. Pizzetti, Privacy e il diritto europeo alla protezione dei dati personali, Torino, 2016, pag. 270; A. Ricci, I diritti dell’interessato, in G. Finocchiaro, La protezione dei dati personali in Italia, Bologna, 2019; F. Galli, I diritti degli interessati, in L. Califano, V. Fiorillo, F. Galli (a cura di), La protezione dei dati personali: natura, garanzie e bilanciamento di un diritto fondamentale, op. cit. Per un adeguamento/adattamento delle regole di trasparenza in relazione agli sviluppi dei sistemi algoritmici cfr. C. Colapietro, Gli algoritmi tra trasparenza e protezione dei dati personali, in Federalismi.it, 2023, 151.

[19] Opinion, pag. 28.

[20] Cfr. art. 21 e pag. 29 dell’Opinion.

[21] Cfr. art. 17 dell’Opinion.

[22] Cfr. pag. 29 dell’Opinion.

[23] Cfr. pag. 29.

[24] Cfr. pag. 29.

[25] Opinion, pag. 30. A questo propostio l’EDPB pare uscire dalla logica che condiziona l’esercizio del diritto alla rettifica ed alla cancellazione alla sussistenza di determinati presupposti (che testimoniano la prevalenza degli interessi dell’interessato). Su questi temi M. A. Livi, Commento all’art. 16, Commento all’art. 17, in A. Barba – S. Pagliantini, Commentario del codice civile (diretto da E. Gabrielli), vol. II, Delle persone. Anche la giurisprudenza europea presuppone questo giudizio di prevalenza nell’affermare il diritto alla cancellazione che viene condizionato all’assenza di “motivi legittimi prevalenti che possano giustificare, in via eccezionale, il trattamento” Corte Giustizia Ue, sez. I, sent. 7 dicembre 2023, C26/22 e C64/22 riunite SCHUFA Holding, sulla quale V. Pietrella – S. Racioppi,  Il “credit scoring” e la protezione dei dati personali: commento alle sentenze della corte di giustizia dell’unione europea del 7 dicembre 2023, in Rivista italiana di informatica e diritto, 2024, 175. Per un quadro generale in materia di diritto alla cancellazione cfr. F. Marina,
Diritto alla cancellazione dei dati personali e comunicazioni elettroniche
(nota a sentenza Corte di Giustizia dell’Unione europea sezione IV 27 ottobre 2022 (causa C-129/21, Proximus NV vs Gegevensbeschermingsautoriteit), in La nuova giurisprudenza civile commentata, 2023, 560.

L'articolo PRIME TUTELE DI DATA PROTECTION NEI CONFRONTI DELL’INTELLIGENZA ARTIFICIALE proviene da Giustamm.