Possiamo perdonare un bambino quando ha paura del buio.

La vera tragedia della vita è quando un uomo ha paura della luce.
(Platone) 

SOMMARIO: 1. Premessa: la paura del buio – 2. La vicenda giudiziaria: quando l’umano desiderio della luce è eccessivo? – 3. Dentro la casa di vetro… un lampadario di ossidiana – 4. La trasparenza algoritmica: il diritto di conoscere ciò che si trova all’interno del buio – 5. Dall’ossidiana al cristallo: gli strumenti della trasparenza algoritmica – 5.1. La comunicazione di avvio del procedimento quale strumento che mette in guardia dall’oscurità – 5.2. La motivazione del provvedimento automatizzato: la luce postuma – 5.3. Diritto di accesso: è davvero necessario smontare il lampadario di ossidiana? – 6. La soluzione del T.A.R.: da un eccesso di oscurità a un eccesso di luce. Conclusioni. 

1. Premessa: la paura del buio 

Ogni parola evoca nella nostra mente un’immagine chiara e definita: non per forza una rappresentazione concreta del suo significato, ma una qualunque raffigurazione frutto dei nostri ricordi, delle nostre emozioni, del nostro vissuto.

Sarebbe interessante chiedere a un variegato gruppo di uomini quale immagine evoca in loro il termine “algoritmo”[1]. Difficilmente rappresentabile come realtà fisica, i più avvezzi alla tematica lo assoceranno a un computer, a una formula a tratti incomprensibile, finanche a un robot. Certo è che l’algoritmo porta con sé un bagaglio di timori, alcuni dei quali fondati, altri meno.

In vero, nella società odierna queste paure vengono quasi totalmente oscurate dalla pervasività di tali sistemi nella vita quotidiana e dai vantaggi derivanti dal loro utilizzo[2].

Sicuramente, l’avversione verso l’algoritmo risulta di gran lunga inferiore quando lo stesso è applicato in ambiti propriamente scientifici. Nel mondo elitario della scienza, unitariamente intesa, esso finisce per essere uno dei tanti temi di cui l’uomo comune può tranquillamente fare a meno, salve sue personali curiosità. Non desta attenzione, perché lo si vede lontano da sé, del tutto innocuo, o, in ogni caso, lo si accetta come qualcosa di dato, come una legge di natura o un teorema matematico.

Succede, poi, che l’algoritmo si avvicina pericolosamente a noi, nei motori di ricerca, nei social network: suggerisce piccole azioni, consiglia acquisti on-line, che film vedere, che libri leggere, che strada percorrere, organizza la nostra giornata. Anche qui, l’uomo non è particolarmente sconvolto, anzi si sente rassicurato dal “grillo parlante”: è certo di mantenere il controllo, la sua libertà, non accorgendosi delle “spinte gentili” che questi softwares realizzano a mano a mano, scavando nei pensieri e modellandoli secondo il gradimento dei loro programmatori[3].

Quando, infine, l’oscuro meccanismo s’inserisce in un’attività decisionale regolamentata, quale potrebbe essere il procedimento amministrativo[4] o, ancor peggio, il processo giudiziario tout court[5], ecco che le ansie e le preoccupazioni si centuplicano e inizia a manifestarsi un acceso dibattito pubblico.

Il cittadino si sente sperduto, nudo, avvolto nell’oscurità di un meccanismo che non capisce e che non è in grado di controllare. Quando ha di fronte un essere umano, egli sa di avere a che fare con qualcosa che è simile a lui, che può empatizzare con lui[6]; la macchina si rivela, invece, fredda, ignota[7]. Innanzi alla sua ingombrante presenza, egli sembra un bambino spaventato dal buio della propria stanza.

Anche l’operatore del diritto si trova dinanzi a una sfida. Il compito del diritto è dare certezze, ma spesso – sappiamo – è il giurista che deve garantire un qualche “chiarore” di fronte a un dettato normativo oscuro, non di immediata comprensione[8].

L’algoritmo alza il livello di difficoltà: se il compito del giurista è svelare il meccanismo che si cela dietro qualunque attività giuridica, come tale frutto dell’applicazione diretta di una o più norme, qui la sequenza computerizzata s’interpone quale velo ulteriore, che nasconde la logica sottostante con un codice diverso, comprensibile solo a una macchina. Il disvelamento è possibile solo attraverso la comprensione di quel codice: rectius, del “modello normativo”, risultato da una prima attività interpretativa delle disposizioni giuridiche in linguaggio naturale, che in un secondo momento viene tradotto in un’arcana sequenza fruibile solo alla macchina.

2. La vicenda giudiziaria: quando l’umano desiderio della luce è eccessivo? 

L’attività amministrativa è, al giorno d’oggi, interessata da un progressivo processo di automatizzazione. La sentenza annotata si colloca all’interno di questo percorso, in particolare incentrandosi su uno degli aspetti più controversi: la trasparenza algoritmica.

Nel caso di specie, il T.A.R. Lazio ha dovuto pronunciarsi in ordine alla richiesta di annullamento di un diniego formatosi per silenzio rispetto a un’istanza di accesso.

Entrando nel merito della vicenda, En.Fo 36 S.r.l., in quanto titolare di un impianto fotovoltaico, era ammessa agli incentivi di cui al D.M. 5 luglio 2012, sotto forma di Tariffa Fissa Omnicomprensiva (TFO), sulla base di una convenzione sottoscritta con G.S.E. (Gestore dei Servizi Energetici) S.p.a.

Successivamente, quest’ultima comunicava al titolare dell’impianto l’«avvio di un procedimento per l’adeguamento dell’algoritmo di applicazione della TFO, nonché per la rideterminazione del conguaglio 2021 e delle successive erogazioni, con riserva di eventuale recupero degli importi non dovuti», evidenziando le ragioni della rimodulazione[9].

A fronte della modifica, la società presentava istanza di accesso «a qualsivoglia documento, atto o provvedimento amministrativo formato, ricevuto o comunque detenuto dal GSE in relazione sia all’originario algoritmo […], sia al nuovo algoritmo, che a quella data peraltro risultava ancora in corso di definizione».

Il Gestore, senza dar riscontro all’istanza, le notificava la conclusione del procedimento di rideterminazione della TFO, comunicandole, finanche, la formula del nuovo algoritmo.

La società proponeva, dunque, ricorso per l’annullamento del silenzio-diniego e per l’accertamento, ex art. 116 c.p.a., del diritto «ad accedere a qualsivoglia documento, atto o provvedimento amministrativo formato, ricevuto o comunque detenuto dal GSE. S.p.A. in relazione sia all’originario algoritmo, sia al “nuovo” algoritmo, alla stregua dei quali il GSE S.p.A. ha provveduto alla determinazione della nuova e minore Tariffa Fissa Onnicomprensiva».

Con la sentenza annotata, il T.A.R. respingeva il ricorso per le ragioni che evidenzieremo al termine di questa breve trattazione.

Preme, qui, però, evidenziare il cuore del problema: pur negando l’accesso, il Gestore aveva fornito, al momento della conclusione del procedimento, la modificata formula algoritmica, con tanto di legenda per la sua decifrazione, e aveva specificato, già nella nota di avvio, le ragioni che avevano spinto alla sua rimodulazione.

Il diritto di accesso può, dunque, in questo caso essere visto come un eccessivo “desiderio di luce”, di trasparenza, da parte della società ricorrente? In altri termini, cosa determina la giusta intensità della “luce” relativamente alla formula algoritmica adoperata nell’attività amministrativa automatizzata?

3. Dentro la casa di vetro… un lampadario di ossidiana

 Nel 1908, Filippo Turati affermava alla Camera dei Deputati che, «dove un superiore pubblico interesse non imponga un momentaneo segreto, la casa dell’amministrazione dovrebbe essere di vetro»[10]. Questo grande “mito della trasparenza amministrativa”[11]  rimane oggi quantomai attuale, sia pur messo a dura prova dall’evoluzione tecnologica che ha sconvolto negli ultimi tempi il nostro mondo[12].

Se intendiamo l’amministrazione come una “casa di vetro”, è altrettanto vero che, per poter vedere all’interno, vi è bisogno della luce. Il rivestimento trasparente delle pareti della metaforica abitazione è il presupposto imprescindibile per poter guardare dentro il meccanismo-amministrazione, costituendo l’astratta predisposizione del pubblico ufficio a far vedere ciò che accade al suo interno: tutte le stanze della “casa” rappresentano gruppi di attività amministrative, secondo la loro funzione e finalità.

La visione del funzionamento interno (rectius, la trasparenza) necessita di appositi strumenti, la “luce all’interno della casa”. Sarà quest’ultima oggetto della presente indagine, pur non dubitandosi della sussistenza anche di una “luce dall’esterno”[13], della quale non si tratterà in questa sede.

Perché l’algoritmo pone un problema in termini di trasparenza? Per capire, dobbiamo immaginare che la luce che irradia la casa di vetro venga filtrata da un grande lampadario di ossidiana, più o meno trasparente, che ne limita o blocca totalmente il passaggio. È esattamente quello che accade ogniqualvolta un’attività amministrativa viene automatizzata mediante l’uso di uno o più algoritmi. Uno dei caratteri certamente più problematici dell’utilizzo dei softwares di ultima generazione, operanti mediante una sequenza preordinata che da dati di inputs raggiunge un certo output, risiede nella sua opacità.

Si badi che questa proprietà tipica degli algoritmi non si manifesta sempre con i medesimi caratteri: abbiamo già detto che la lampada di ossidiana può essere più o meno trasparente. Il termine “algoritmo” è, infatti, troppo generico perché diverse sono le famiglie all’interno di questa “popolazione” così apparentemente estranea a noi e che, nel pensiero collettivo, rischia di prendere il nostro posto: un algoritmo tradizionale, che segue la logica dell’if…then, non può essere opaco quanto un algoritmo di machine-learning, il cui funzionamento appare di difficile comprensione finanche al suo programmatore[14].

È, dunque, evidente che i meccanismi di recupero della trasparenza amministrativa nelle decisioni automatizzate si diversificano in ragione del differente grado di opacità dell’algoritmo in uso[15].

Com’è logico attendere, infatti, tutti gli algoritmi sono caratterizzati da un’opacità linguistica o tecnica, in quanto il codice, anche quando materialmente reso visibile, è espresso in linguaggio matematico, non sempre a tutti comprensibile.

Vi è, poi, un livello successivo di opacità, definita giuridica o intenzionale, appositamente configurato dal programmatore per mantenere il segreto industriale sulla programmazione del software.

Infine, per la ristretta e temuta categoria di algoritmi di machine learning e deep learning, sussiste un ultimo sostrato di opacità, intrinseca o strutturale, derivante, cioè, dalla stessa natura di queste sequenze e che viene, icasticamente, rappresentato con l’immagine di una “black box” (rectius, secondo la raffigurazione che si è qui proposta partendo dalla casa di vetro, un “pitch-black chandelier”, un lampadario totalmente nero)[16].

4. La trasparenza algoritmica: il diritto di conoscere ciò che si trova immerso nel buio

La giurisprudenza amministrativa, che per prima ha dovuto affrontare il tema dell’algoritmo in applicazione a un’attività amministrativa automatizzata, sin dall’inizio si è posta il problema della trasparenza di questi sistemi[17]. Non è un caso che uno dei tre principi di legalità algoritmica sia proprio quello di conoscibilità[18] e che lo stesso venga ripreso, da ultimo, anche all’interno del nuovo Codice dei contratti pubblici, all’art. 30[19]. Si tratta di una «declinazione rafforzata del principio di trasparenza», consistente nella «piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico. Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti.  Ciò al fine di poter verificare che i criteri, i presupposti e gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato»[20].

La conoscibilità dell’algoritmo, strettamente connessa al tema della trasparenza, ha, com’è ovvio, un risvolto particolarmente garantista nei confronti del privato che s’interfaccia con la pubblica amministrazione nel procedimento. Essa si traduce nel dovere, per le amministrazioni, «di fornire non solo tutte le istruzioni relative al funzionamento dell’algoritmo, assicurando la comprensibilità del funzionamento del software anche al cittadino comune, ma anche il linguaggio informatico sorgente (c.d. codice sorgente) del sistema algoritmico»^[21].

Seguendo questo filone, in una prima approssimazione, la conoscibilità viene riassunta nel diritto di accesso all’algoritmo^[22].

Nella realtà dei fatti, una simile prospettazione ha quale sua premessa il riconoscimento all’algoritmo della natura di atto amministrativo informatico^[23].

La trasparenza, però, non si esaurisce solo in questo. È certamente essenziale che la decisione algoritmica sia conoscibile al cittadino, nonché suscettibile di essere sottoposta alla cognizione del giudice amministrativo, ma ciò non è sempre sufficiente. La trasparenza è, infatti, cuore pulsante del giusto procedimento algoritmico, sicché, «quando la Pubblica Amministrazione intende adottare una decisione che può avere effetti avversi su di una persona, essa […] ha l’obbligo di ‘dare le ragioni della propria decisione’»^[24]. L’“astratta conoscibilità” dei dati e delle informazioni detenuti dalla pubblica amministrazione potrebbe costituire un formidabile strumento di tutela solo quando è noto l’iter logico-giuridico con il quale si è provveduto all’elaborazione dei dati e alla determinazione decisoria: un processo normalmente racchiuso nella motivazione del provvedimento amministrativo.

Se, però, quest’iter è “recuperabile” abbastanza facilmente per tutti gli algoritmi fondati sul paradigma condizionale del “se…allora”, per gli algoritmi di IA (specie, di deep-learning) la logica interna è ignota per definizione. A prescindere, poi, dalla famiglia di riferimento, si è detto che ogni algoritmo è caratterizzato da un’opacità linguistica, da cui discende un duplice rischio[25]:

1. la sua incomprensibilità;
2. la mancata corrispondenza tra la previsione della regola giuridica nel pre-software e la sua trasposizione nel linguaggio della macchina, operazione delicatissima, qualificata come «un salto distruttivo e creativo»[26].

Da qui la necessità, giustamente sentita dal Consiglio di Stato, di ricorrere a una trasparenza rinforzata^[27], non più associata alla sola accessibilità a documenti, dati e informazioni connessi al funzionamento dell’algoritmo, ma che integri un principio di comprensibilità, volta a porre il cittadino nelle condizioni di avere chiaro il “senso” della decisione e, quindi, la logica sottesa all’algoritmo^[28]. In pratica, al cittadino deve essere assicurata «la comprensione della regola che guida la decisione, anche quando espressa “in un linguaggio differente da quello giuridico” e ne deve essere assicurata la ripercorribilità»^[29].

Il principio di conoscibilità/comprensibilità viene, allora, caricato di una valenza sostanziale, non surrogabile dalla «rigida e meccanica applicazione di tutte le minute regole procedimentali della legge n. 241 del 1990»^[30].

L’eventuale difetto determinerebbe una violazione dell’obbligo di motivazione perché l’incomprensibilità dell’algoritmo impedirebbe al destinatario di ricostruire l’iter logico sulla base del quale quel provvedimento è stato adottato. Perciò, la totale impossibilità di comprendere le modalità di funzionamento dell’algoritmo «costituisce di per sé un vizio tale da inficiare la procedura»^[31].

Tra l’altro, secondo la giurisprudenza, «non può assumere rilievo l’invocata riservatezza delle imprese produttrici dei meccanismi informatici utilizzati i quali, ponendo al servizio del potere autoritativo tali strumenti, all’evidenza ne accettano le relative conseguenze in termini di necessaria trasparenza»^[32]. Si tratta di un chiaro vantaggio per il privato, ma che pesa fortemente sui rapporti negoziali tra le imprese produttrici di softwares e la pubblica amministrazione^[33].

Questo passaggio dall’astratta conoscibilità alla comprensibilità trova conferma nelle disposizioni di cui agli artt. 13, co. 2, lett. f) e 14, co. 2, lett. g) del GDPR (che, in effetti, il giudice mostra di prendere a modello, estrapolando un principio generale per tutti i procedimenti amministrativi robotizzati[34]), i quali individuano il dovere del titolare di trattamento di fornire indicazioni circa «l’esistenza di un processo decisionale automatizzato», nonché di procurare «informazioni significative sulla logica utilizzata»^[35]. Proprio il riferimento alla “logica” richiama l’idea di una conoscibilità in termini di piena comprensibilità dell’algoritmo e non di mera accessibilità dei dati[36].

5. Dall’ossidiana al cristallo: gli strumenti della trasparenza algoritmica

•  La comunicazione di avvio del procedimento quale strumento che mette in guardia dall’oscurità

Normalmente, quando l’amministrazione decide di usufruire di un programma informatico per l’attivazione e la conclusione di un procedimento amministrativo, deve in primo luogo rendere note le istruzioni in base alle quali il software dovrà operare. Questo per un’evidente ragione: la costruzione della macchina non è ordinariamente affidata a un funzionario pubblico o, in ogni caso, a un esperto di diritto, ma a un perito tecnico avente competenze in materia di programmazione. È, dunque, esiziale che l’amministrazione renda chiare le istruzioni giuridiche, in linguaggio naturale, per la buona riuscita del procedimento amministrativo e vigili anche, nei limiti del possibile, sulla corretta trasposizione delle stesse all’interno del programma. L’atto nel quale sono contenute queste istruzioni prende il nome di pre-software.

In un’ottica di trasparenza, perciò, stante l’incomprensibilità linguistica dell’algoritmo informatico, il primo atto di cui il cittadino necessita di venire a conoscenza nel momento in cui è sottoposto a un procedimento automatizzato è proprio il pre-software.

Per pubblicizzare quest’ultimo, uno spunto di riflessione può pervenire alla nostra attenzione dall’ordinamento francese[37]. Seguendo la regola del notice and comment[38], infatti, la dottrina francese ha assimilato il documento contenente le scelte e i criteri elaborati dall’amministrazione ad un atto di soft-law, a delle linee-guida, favorendone la pubblicazione preventiva e, dunque, la conoscibilità da parte dei cittadini.

Orbene, nel nostro ordinamento, la pubblicità dell’atto con il quale l’amministrazione procede alla selezione dei dati affinché possano essere esportati in apposito programma informatico ben potrebbe essere garantita mediante l’istituto della comunicazione di avvio del procedimento di cui all’art. 7 della legge n. 241 del 1990[39].

Nello specifico, tra i contenuti della comunicazione, a seguito delle modifiche operate dal Decreto Semplificazioni^[40], si rinviene l’indicazione delle «modalità con le quali, attraverso il punto di accesso telematico di cui all’articolo 64-bis del decreto legislativo 7 marzo 2005, n. 82 o con altre modalità telematiche, è possibile prendere visione degli atti, accedere al fascicolo informatico di cui all’articolo 41 dello stesso decreto legislativo n. 82 del 2005 ed esercitare in via telematica i diritti previsti dalla presente legge».

La disposizione va collegata agli obblighi di pubblicazione gravanti sulla pubblica amministrazione a norma del d.lgs. 14 marzo 2013, n. 13, modificato dal d.lgs. 25 maggio 2016, n. 97. Nel dettaglio, un riferimento utile potrebbe essere contenuto nell’art. 35 del suddetto decreto, in ossequio al quale «le pubbliche amministrazioni pubblicano i dati relativi alle tipologie di procedimento di propria competenza». Tra le informazioni da rendere note, vi è «una breve descrizione del procedimento», per cui, considerato che nei casi in esame lo stesso si traduce in un algoritmo, ciò che tendenzialmente l’amministrazione dovrà pubblicare sarà una sintesi dei criteri e delle modalità adoperate per la realizzazione del programma.

Tra l’altro, l’art. 13, che pone una serie di limiti all’applicazione delle norme sulla partecipazione, non sembrerebbe costituire un ostacolo insormontabile. A parere di chi scrive, il programma non riveste la forma di atto amministrativo in senso proprio^[41], diversamente dal pre-software. Concentrando su di esso l’attenzione e tenendo a mente la ratio dell’art. 13, si può giungere all’affermazione piena delle regole partecipative anche nei procedimenti algoritmici. Posto che quell’atto della pubblica amministrazione (e non il software) costituisce un atto amministrativo generale, dottrina e giurisprudenza hanno sempre inteso l’art. 13 come una disposizione che, più che precludere in via assoluta la partecipazione procedimentale, esenta dall’applicazione del modello partecipativo della l. n. 241/1990 tutti quegli atti per i quali è prevista una disciplina ad hoc. Lo scopo ultimo sarebbe, perciò, evitare un’inutile duplicazione delle forme di partecipazione procedimentale senza eliminarle totalmente^[42]. Ciò significa che la disciplina della l. n. 241/1990 costituisce uno standard minimo di tutela da rispettare in ogni caso. A fortiori, laddove manchi una disciplina specifica per l’adozione di un dato atto, fosse anche tra le categorie di cui all’art. 13, dovrebbe trovare applicazione quanto previsto dalla l. n. 241/1990^[43], come nel caso di specie.

A sostegno di tale tesi è possibile, altresì, richiamare l’art. 29, co. 2, della l. n. 241/1990, a norma del quale le disposizioni concernenti la partecipazione dell’interessato al procedimento «attengono ai livelli essenziali delle prestazioni di cui all’articolo 117, secondo comma, lett. m), della Costituzione». Non si vede, allora, perché escludere questo standard minimo di tutela laddove il procedimento segua la sequenza di un algoritmo preimpostato^[44].

Non sembra, oltretutto, che vi siano dubbi in ordine all’applicabilità della medesima ratio nei procedimenti ad istanza di parte, per i quali, com’è noto, la giurisprudenza continua a ritenere superflua la comunicazione di avvio, tutt’al più riconoscendo l’obbligo solo nei confronti dei soggetti diversi da colui che ha presentato l’istanza. In realtà, considerando che, in tali casi, il procedimento viene avviato automaticamente al momento della presentazione della richiesta, difficilmente potrebbe giustificarsi la comunicazione al solo fine di far sapere al privato che il procedimento è stato effettivamente iniziato dall’amministrazione, scardinando qualunque ragione in ordine alla suddetta esenzione dall’obbligo^[45].

Se, infatti, si individua nella comunicazione il canale privilegiato per ottenere la conoscenza delle modalità e dei criteri di definizione del programma, al fine di garantire l’interlocuzione al momento della progettazione dello stesso, essa si ammanta di una funzione istruttoria non indifferente, contenendo informazioni di rilievo che non possono essere taciute all’istante[46].

• La motivazione del provvedimento automatizzato: la luce postuma

L’obbligo di motivazione del provvedimento amministrativo costituisce una delle principali guarentigie previste dalla l. n. 241/1990^[47]. L’istituto, come evidenziato dalla dottrina ben prima dell’avvento della legge, ha una molteplicità di funzioni: non solo consente l’esercizio del sindacato giurisdizionale da parte del destinatario del provvedimento, ma è un vero e proprio strumento di trasparenza, volto a consentire il sindacato dell’opinione pubblica^[48].

L’obbligo ha ad oggi una portata generale, per cui non si ravvisano difficoltà nel ritenerlo applicabile anche alle decisioni amministrative automatizzate. Le uniche eccezioni, contenute nel comma 2 dell’art. 3, sono rappresentate dagli atti normativi e dagli atti a contenuto generale.

I softwares di automazione normalmente forniscono outputs, ma non motivazioni. È questa la ragione di un necessario intervento umano per esplicare la logica adottata dalla macchina nell’assunzione di una decisione. In mancanza, si potrebbe palesare una «frustrazione» delle «garanzie processuali» di azione e di difesa, in quanto non si consentirebbe «inizialmente all’interessato e successivamente, su impulso di questi, al Giudice di percepire l’iter logico-giuridico seguito dall’amministrazione per giungere ad un determinato approdo provvedimentale»^[49].

Il provvedimento amministrativo automatizzato necessita di essere motivato, piuttosto, in misura finanche maggiore rispetto al provvedimento tradizionale, in virtù di quell’incessante esigenza di trasparenza, richiesta in conseguenza dell’opacità di ogni algoritmo, specie quando si ha a che fare con una black box (dunque, con un algoritmo di IA)^[50].

Questo è ancora più vero se, come si sostiene, l’algoritmo (o, meglio, il software) non costituisce di per sé un atto amministrativo informatico, ma la mera espressione dei criteri valutativi e di giudizio da parte dell’amministrazione. A quel punto, infatti, a garanzia dei destinatari del provvedimento, non potendosi ottenere l’accesso al codice sorgente, si dovrebbe compensare con una motivazione esaustiva e completa del provvedimento automatizzato che ricomprenda quello stesso codice sorgente, altrimenti non consultabile.

Ma basta il riferimento al codice sorgente? Una parte della dottrina esclude che la motivazione debba esprimersi obbligatoriamente in forma discorsiva^[51]. Ciò deriverebbe dalla circostanza che nelle procedure automatizzate la fase istruttoria viene anticipata al momento della progettazione, sicché quella che viene ordinariamente qualificata come fase istruttoria nel procedimento tradizionale si traduce nella semplice applicazione della sequenza algoritmica^[52]. Il contenuto della decisione non può che derivare dall’applicazione di quelle istruzioni e dei criteri definiti dall’amministrazione al momento della programmazione del software.

Per questa parte della dottrina, l’obbligo di indicare «i presupposti di fatto e le ragioni giuridiche che hanno determinato la decisione dell’amministrazione, in relazione alle risultanze dell’istruttoria» può, allora, ritenersi assolto pur in mancanza di un’indicazione discorsiva di tali presupposti e ragioni^[53].

Questa dottrina è, tuttavia, criticabile alla luce degli ultimi orientamenti del Consiglio di Stato. Uno dei principi cardine della legalità algoritmica individuato da tale giurisprudenza è, come si è visto, quello di conoscibilità, nei termini di piena comprensibilità. A tal proposito, è stata la stessa giurisprudenza a precisare che l’uso di formule algoritmiche all’interno dell’iter decisionale non esime le pubbliche amministrazioni dalla «necessità che la “formula tecnica” […] sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice»^[54].

Evidentemente, allora, conoscere in anticipo i parametri e i criteri di giudizio con cui è stato progettato l’algoritmo non risolve i problemi di intellegibilità della decisione automatizzata, perché la traslazione delle istruzioni impartite dall’amministrazione in linguaggio informatico, nel codice-macchina, non è operazione neutra ed ha un forte impatto sull’esito del procedimento[55].

Per chiarire la questione, in realtà, sarebbe più opportuno partire da una distinzione tra i procedimenti ad automazione semplice (che non richiedono algoritmi di machine-learning) e quelli ad automazione complessa (che, invece, si sviluppano attorno agli algoritmi di machine-learning o di deep-learning).

Secondo una parte della dottrina, con riferimento ai primi, l’obbligo di motivazione potrebbe essere adempiuto in una fase anteriore all’adozione del provvedimento amministrativo. Difatti, riconosciuta la natura di atto amministrativo informatico all’algoritmo, la dottrina e la giurisprudenza ne hanno ricavato una declinazione rafforzata del diritto di accesso, perfettamente aderente ai principi di conoscibilità e comprensibilità. In particolare, verrebbe garantito l’accesso al codice sorgente, alle diverse fasi di programmazione, fino alle specifiche modalità di funzionamento del programma. In questi termini, allora, si potrebbe concludere che il diritto di accesso svolge la funzione che tradizionalmente viene attribuita alla motivazione del provvedimento^[56].

Se si esclude, invece, che l’algoritmo sia un atto amministrativo informatico (come, ormai, la stessa giurisprudenza riconosce[57]), si rende necessaria una motivazione, che, però, ben potrà essere numerica[58], essendo in tal caso del tutto rispettato il principio di spiegabilità dell’algoritmo sulla base dei criteri adoperati per la sua progettazione e l’ostensione del codice sorgente (che dovrà essere sempre allegato al provvedimento automatizzato).

Nelle forme di automazione più complesse, in cui si ricorre (almeno) al machine-learning, non è possibile ragionare nei suddetti termini. Né il riferimento al diritto di accesso né, tantomeno, la motivazione numerica possono fornire elementi utili al pieno soddisfacimento del principio di comprensibilità, sicché occorre riaffermare la necessità di una motivazione discorsiva ed esaustiva.

Si potrebbe, tutt’al più, elaborare un’ulteriore distinzione a seconda che l’algoritmo di apprendimento sia o meno supervisionato.

Nel primo caso, la motivazione potrebbe essere racchiusa nell’indicazione della fattispecie, acquisita all’interno del dataset della macchina, presa in considerazione per formulare la decisione concreta: si avrebbe una sorta di motivazione in forma semplificata^[59].

Laddove, invece, si adoperino algoritmi di apprendimento non supervisionato, la motivazione dovrà contenere tutto l’iter logico-giuridico seguito dalla macchina^[60].

Preme sottolineare, in chiusura, che la motivazione non può certo esaurirsi, in nessuno dei casi sopra citati, nella spiegazione delle inferenze operate dall’algoritmo. Pur trattandosi di un contenuto fondamentale, in ossequio all’esplicabilità piena delle risultanze operate dall’istruttoria algoritmica, esso deve accompagnarsi a un’altra valutazione: la ponderazione di interessi che ha condotto a una certa decisione piuttosto che ad un’altra[61]. Si tratta di una questione alquanto delicata, ma che conferma un certo orientamento dottrinale che vorrebbe la decisione automatizzata come un provvedimento preliminare, cui deve necessariamente seguire un atto di volontà umano, che ben potrebbe discostarsi dalla risultanza dell’algoritmo, dandone opportuna motivazione sulla base di un diverso contemperamento di interessi in gioco per la fattispecie concreta sottoposta a procedimento.

Così facendo, si potrebbero leggere i principi di legalità algoritmica (in particolare, trasparenza e non esclusività) come un tutt’uno, sicché ciascuno potrebbe essere soddisfatto solo a condizione che lo siano anche gli altri. D’altronde, senza esagerare, il primo presidio della trasparenza algoritmica è, e non può che essere, l’essere umano; più nello specifico, il responsabile del procedimento[62].

• Diritto di accesso: è davvero necessario smontare il lampadario di ossidiana?

Si è visto come, dinanzi ai problemi di conoscibilità e di comprensibilità dei processi decisionali algoritmici, la trasparenza costituisca un baluardo a garanzia di coloro che rischiano altrimenti di trovarsi in balìa dell’“oceano” algoritmico.

Dopo aver discusso dell’obbligo di motivazione, pertanto, è opportuno analizzare adesso un altro ben noto istituto che si pone a presidio della trasparenza: il diritto di accesso ai documenti amministrativi.

Com’è noto, il nostro ordinamento conosce tre diversi tipi di accesso: l’accesso difensivo di cui agli artt. 22 ss. della l. n. 241/1990, l’accesso civico e l’accesso civico c.d. generalizzato. In questa sede, non è possibile procedere ad un’attenta analisi teorica delle tre tipologie^[63].

La dottrina sembra alquanto contraria ad un’applicazione dell’accesso civico generalizzato e ad una nozione di trasparenza come «accessibilità totale dei dati e dei documenti detenuti dalle pubbliche amministrazioni» (art. 1 del d.lgs. n. 33/2013)^[64], ritenendo che un accesso del tutto libero, che non tenga conto dell’effettivo interesse sotteso alla relativa richiesta, pregiudicherebbe la proprietà intellettuale e il diritto di autore sul programma (più in generale, qualunque interesse economico e commerciale del programmatore)^[65].

Rispetto all’accesso “difensivo” il discorso ha assunto, invece, una piega del tutto diversa.

Alcuni anni fa, infatti, il T.A.R. Lazio ha posto le basi per il riconoscimento del diritto di accesso all’algoritmo e la trasmissione del codice sorgente^[66]. Esso si è occupato in prima battuta di ricondurre il software alla nozione di documento amministrativo: in particolare, secondo il T.A.R., il programma sarebbe un atto amministrativo informatico, in un’accezione ampia che ricomprende anche gli atti di provenienza privata, ma funzionali all’interesse pubblico, nonché gli atti endoprocedimentali e quelli interni^[67]. Per il giudice amministrativo, in effetti, il programma di elaborazione informatica costituisce una «rappresentazione di attività di pubblico interesse»^[68].

Con riferimento, invece, al rapporto tra accesso al codice sorgente e tutela della proprietà intellettuale e del diritto d’autore, i giudici romani assicurano che il mero accesso non pregiudica tali diritti, perché non lede il diritto all’uso economico esclusivo dell’opera, che costituisce il nucleo sotteso ai medesimi. Non la semplice riproduzione, quindi, ma «solo la riproduzione cui consegua lo sfruttamento economico dell’opera stessa da parte di un soggetto diverso dall’autore» sarebbe lesiva della proprietà intellettuale del programma^[69].

Conclude, quindi, il T.A.R. che il codice sorgente ben potrà essere oggetto di una richiesta di accesso difensivo, purché delle informazioni ottenute venga fatto «un uso appropriato, ossia esclusivamente un uso funzionale all’interesse fatto valere con l’istanza di accesso».

Più di recente, il Consiglio di Stato si è trovato dinnanzi l’apertura di un nuovo scenario, improntato sulla configurabilità del ruolo di controinteressato in capo all’ideatore dell’algoritmo utilizzato nella gestione di procedimenti amministrativi (normalmente, una software house), e per la prima volta ha individuato «la necessità di qualificare l’ideatore di un algoritmo oggetto di istanza di accesso come parte controinteressata all’ostensione, potendo questi, in caso di esibizione, vedere compromesso il diritto a mantenere segreta la regola tecnica in cui si sostanzia la propria creazione»^[70].

Nonostante il meritevole intento di garantire l’accesso al codice sorgente, la decisione del T.A.R. non è esente da critiche, soprattutto per alcuni passaggi poco chiari, in particolare rispetto all’accertamento della lesione e alla riconducibilità della stessa ad errori del software o di digitazione. In effetti, come rilevato da un certo filone dottrinale^[71], garantendo al cittadino la possibilità di ottenere l’accesso al codice sorgente a fini meramente esplorativi, cioè in assenza di una vera e propria lesione accertata, si vieterebbe alla pubblica amministrazione di ricorrere a closed source softwares (ovvero quei programmi il cui codice sorgente è “chiuso”, dunque accessibile al solo proprietario), divieto che però non sussiste nell’ordinamento italiano.

Non si vede, oltretutto, come l’accesso al codice sorgente costituisca di per sé un presidio di trasparenza, atteso che, una volta ottenutolo, il privato cittadino avrebbe comunque bisogno dell’aiuto di esperti per ottenere un’interpretazione tecnica, ma in qualche misura sempre soggettiva, del programma^[72].

Perdipiù, il processo di implementazione del software si compone di una serie di interventi, anche esterni, non facilmente scansionabili e distinguibili. Spesso e volentieri, il procedimento amministrativo discende da una concatenazione di diversi softwares, sicché «la semplice pubblicazione del codice sorgente non riesce a garantire la reale comprensione del fenomeno, sia da parte del cittadino sia eventualmente da parte del giudice»^[73].

Si tenga, infine, presente che l’accesso avrebbe, probabilmente, maggiore utilità rispetto non tanto al software quanto ai criteri di progettazione dello stesso, mentre un’analisi più accurata del programma potrebbe avere un significato solo laddove la lesione dell’interesse di colui che chiede l’accesso vada imputata unicamente all’algoritmo (il che presuppone che le direttive dell’amministrazione al programmatore, contenute nel pre-software, siano state chiare, precise e corrette)^[74].

Qualora, poi, si dovesse ritenere che il programma non sia un atto amministrativo informatico, il diritto di accesso, soprattutto nella sua accezione difensiva, non potrebbe trovare applicazione. Ciò potrebbe teoricamente comportare un deficit di trasparenza, ma, in considerazione di quanto chiarito nei precedenti paragrafi, la questione merita riconsiderazione. Il presidio di trasparenza, infatti, non sarebbe da individuare tanto nell’ostensione del codice sorgente, quanto nella sua intellegibilità mediante una motivazione rinforzata^[75].

A sostegno di quanto finora esposto, si sottolinea che, da ultimo all’interno della Proposta di Regolamento sull’approccio europeo all’intelligenza artificiale, approvata dal Parlamento il 14 giugno 2023, è stata recepita un’accezione di trasparenza come smart disclosure (art. 13), quindi di comprensibilità della logica dietro i meccanismi di funzionamento dell’algoritmo, senza alcun riferimento all’accessibilità del codice sorgente[76].

6. La soluzione del T.A.R.: da un eccesso di oscurità a un eccesso di luce. Conclusioni 

Tornando alla vicenda oggetto di contenzioso, il T.A.R. Lazio ha – condivisibilmente – rigettato il ricorso, ritenendo che il Gestore dei Servizi Energetici avesse chiaramente riportato il meccanismo informatico di decisione impiegato (c.d. conoscibilità), spiegandone il funzionamento in termini comprensibili anche per l’utente non dotato di competenze tecniche (c.d. comprensibilità)[77].

Nello specifico, secondo il giudice amministrativo, G.S.E. S.p.a. avrebbe ottemperato ai suoi obblighi, nel rispetto dei suddetti principi, in quanto, nella nota relativa all’avvio di un procedimento per l’adeguamento dell’algoritmo di applicazione della TFO, aveva ben chiarito le ragioni della rimodulazione della cifra; non solo, nel provvedimento conclusivo aveva fornito la formula del nuovo algoritmo con relativa legenda.

Insomma, il T.A.R. pone un monito che è esattamente contrario a quello che normalmente la giurisprudenza è stata chiamata a esplicitare con l’applicazione delle ICTs di automazione in ambito amministrativo: attenzione all’“intensità della luce” (ossia, della trasparenza).

È certamente vero che l’inserimento di una formula algoritmica si accompagna a una maggiore accortezza da parte dei pubblici funzionari nel garantire di penetrare al suo interno, nel rendere di “cristallo” il “lampadario di ossidiana”. Ma quest’esigenza di trasparenza non deve compromettere il buon andamento dell’azione amministrativa.

La sentenza annotata ha ad oggetto l’applicazione di un algoritmo a un’attività di rideterminazione di una tariffa. Siamo dinanzi a un algoritmo deterministico, totalmente impostato dall’uomo e sotto il suo dominio[78]. Lo denota il fatto che, per la configurazione dello stesso, è stato necessario un intervento umano, un nuovo procedimento. Conseguentemente, alla luce delle precedenti considerazioni sugli strumenti della trasparenza amministrativa, la motivazione numerica risulta di per sé sufficiente per soddisfare il diritto alla conoscibilità e alla comprensibilità del funzionamento dell’algoritmo. Dovendo, in questi casi, ricorrere a una semplice decodifica della trasformazione linguistica, si può dire che, per gli algoritmi deterministici, la trasparenza si traduca semplicemente in una legibility[79], ossia «nell’obbligo di garantire al destinatario la capacità di comprendere autonomamente, senza il ricorso ad esperti esterni dotati di competenza informatica, il funzionamento, l’impatto, i dati utilizzati allo scopo, i criteri di elaborazione dei dati, in sintesi la “ratio” del processo decisionale»[80].

Garantire anche il diritto di accesso rappresenterebbe implicitamente, sulla base della decisione del T.A.R. Lazio, un eccesso di trasparenza, un eccesso di luce, un immotivato aggravamento del procedimento, vietato dall’art. 1, co. 2, della legge sul procedimento.

In presenza di un’adeguata motivazione del provvedimento conclusivo (prerogativa che deve certamente rimanere in mano al funzionario essere umano), il diritto di accesso, anche a scopo difensivo, produrrebbe un effetto meramente dilatorio dell’intera procedura, contrastando con i principi di economicità, efficacia ed efficienza dell’azione amministrativa, corollari del buon andamento, e, in virtù delle recenti trasformazioni del diritto amministrativo, con il principio del risultato[81]. Non vi è dubbio che il modello di amministrazione che attualmente il nostro ordinamento persegue è fondato sul risultato, da leggere non in una chiave meramente “efficientista”, ma sempre preservandone la qualità. È per questa ragione che il principio viene a sua volta retto, in ambito procedimentale, da tutti gli altri principi di cui all’art. 1 della l. n. 241/1990, in primis la trasparenza.

Essa, fondamentalmente, non ha il compito di aggravare il raggiungimento del fine, del risultato, quanto di preservare la sua qualità, rendendo edotti i cittadini dell’azione amministrativa anche laddove essa venga connotata da meccanismi di automazione: il rischio è, altrimenti, non solo che il lampadario di cristallo si rompa, ma che tutta la casa di vetro crolli per lo shock termico susseguente a una luce troppo intensa.

DANIELE DIACO

[1] Si veda, per una chiara illustrazione del tema, R. LEVI, Algoritmi, in www.treccani.it, 2005.

[2] B. ROMANO, Algoritmi al potere. Calcolo giudizio pensiero, Giappichelli, Torino, 2018, p. 11: gli algoritmi presentano «una pervasività senza confini»; F. VARANINI, Le cinque leggi bronzee dell’era digitale. E perché conviene trasgredirle, Guerini e Associati, Milano, 2022, mette in guardia dal rischio di arrendersi a un codice estraneo: «[c]onosciamo la nostra abitazione, il nostro ambiente di lavoro. Lì possiamo sentirci protetti e ‘a casa propria’. Ci si vuol far credere che è così anche in ambienti virtuali» (p. 56); e ancora: «[i] cittadini sono costretti a subire un insistente allenamento alla dipendenza – che si riverbera nella sfera politica, e che finisce per minare la fiducia in noi stessi, e per spingerci sottilmente verso la rinuncia agli spazi di libertà personale, ai diritti civili» (p. 59).

[3] Per approfondire, J. VAES, D. RUZZANTE, Le tecnologie persuasive: il nudge è lontano dal morire, in Giorn. it. psicol, n. 2/2020, passim; E. CAMPO, A. MARTELLA, L. CICCARESE, Gli algoritmi come costruzione sociale. Neutralità, potere e opacità, in The Lab’s Quarterly, n. 4/2018, pp. 14 ss.

[4] Sul tema, la letteratura è ogni giorno più vasta: per tutti, G. AVANZINI, Decisioni amministrative e algoritmi informatici, Editoriale Scientifica, Napoli, 2019.

[5] Ex multis, L. TORCHIA, La giustizia amministrativa digitale, in M. RAMAJOLI (a cura di), Una giustizia amministrativa digitale?, Il Mulino, Bologna, 2023, pp. 39 ss.

[6] Il tema è ampiamente affrontato in T. GRECO, La legge della fiducia. Alle radici del diritto, Laterza, Roma-Bari, 2021, passim, il quale individua un nesso imprescindibile tra il diritto e la concezione dell’uomo, individuando l’importante ruolo che la fiducia nel prossimo gioca all’interno del diritto.

[7] L’algoritmo può, in virtù dei suoi rischi intrinseci, provocare una reazione contrapposta a quella che ordinariamente si verifica nella società: acquisire maggiore fiducia nell’essere umano.

[8] Sul tema, amplius, S. MARGIOTTA, Certezza del diritto e diritto positivo, in Nomos, n. 1/2021, pp. 7-8: se è vero che il diritto nasce per dare certezze, «[c]iò evidentemente non significa che per svolgere la sua funzione primaria sopra descritta l’ordinamento giuridico debba essere “statico”, nonostante che un certo grado di staticità (o meglio “stabilità”) possa essere considerata condizione di “certezza”.

Da un lato la vita propone spesso situazioni nuove, imprevedibili e sempre mutevoli, almeno nelle circostanze e nelle condizioni che di volta in volta le caratterizzano, così che anche la migliore tecnica normativa e il legislatore più tempestivo ad adeguare le norme alle novità del tempo non escludono la necessità dell’attività d’interpretazione, i cui esiti difficilmente possono essere sempre prevedibili. Inoltre la produzione normativa, anche quando fa uso della migliore tecnica, dovrà scegliere tra gli estremi di una normazione per principi, norme e clausole generali (la determinazione dei cui effetti, rimandando evidentemente alla capacità e sensibilità del soggetto, giudice o altro operatore del diritto, chiamato a farne applicazione nel caso concreto, darà esiti spesso incerti, specie in assenza di meccanismi del genere dello stare decisis) e una normazione dettagliata che pretenda di prendere in considerazione le varie fattispecie che il legislatore ritiene possano verificarsi e che per ciascuna fissi una definizione e detti una disciplina».

[9] Si legge nella sentenza che, «[n]ella nota, in particolare, il GSE evidenziava come la TFO fosse stata rimodulata per effetto della normativa cd. Spalma-incentivi a decorrere dal 1° gennaio 2015 e che l’algoritmo conseguentemente sviluppato dal Gestore e definito prendendo a riferimento le normali condizioni di mercato avrebbe tuttavia determinato, a seguito dell’anomalo ed imprevedibile aumento dei prezzi dell’energia registrato negli anni 2021 e 2022, l’attribuzione – per la maggior parte degli operatori che percepiscono la TFO – di importi superiori della tariffa onnicomprensiva spettante; da qui, la necessità di procedere all’adeguamento del menzionato algoritmo alle mutate condizioni di mercato dell’energia elettrica ed al recupero, in ipotesi, degli importi eventualmente non dovuti a valle di siffatto adeguamento».

[10] Atti del Parlamento italiano, Camera dei deputati, sessione 1904-1908, 17 giugno 1908, p. 22962.

[11] Cfr, J. CHEVALLIER, Le Mithe de la Transparence Administrative, in Information et transparence administrative, PUF, Parigi, 1988, passim. Sul tema, diffusamente, anche E. CARLONI, Il paradigma trasparenza, Il Mulino, Bologna, 2022.

[12] Per una ricostruzione del concetto di trasparenza e dei suoi strumenti nell’era digitale, cfr. S. ROSSA, Trasparenza e accesso all’epoca dell’amministrazione digitale, in R. CAVALLO PERIN, D.U. GALETTA (a cura di), Il diritto dell’amministrazione pubblica digitale, Giappichelli, Torino, 2020, pp. 247 ss.

[13] Basti solo pensare all’attività dell’Autorità Nazionale dell’Anticorruzione (A.N.AC.) in tema di trasparenza e prevenzione della corruzione.

[14] Per una chiarissima diversificazione di queste due grandi branche di algoritmi, v. M. CORRADINO, Intelligenza artificiale e pubblica amministrazione: sfide concrete e prospettive future (Intervento al Corso di formazione per i magistrati organizzato dall’Ufficio studi, massimario e formazione della Giustizia amministrativa), in www.giustizia-amministrativa.it, 10 settembre 2021.

[15] E. CARLONI, Le intelligenze artificiali nella pubblica amministrazione e la sfida della trasparenza, in A. LALLI (a cura di), L’amministrazione pubblica nell’era digitale, Giappichelli, Torino, 2022, p. 54: «[i]l percorso della trasparenza algoritmica non è […] quello di un principio che va riconosciuto ed affermato, cosicché possa pienamente illuminare ambiti diversi; ma piuttosto quello di un principio che va calato nel contesto, adattato alle diverse sfide», sicché «quello che si propone è un quadro sfaccettato, un prisma che proprio attraverso questa pluralità di “facce” può, se non esporre alla luce del sole, almeno togliere dall’area in cui l’ombra è più spessa i percorsi decisionali e le scelte dell’amministrazione algoritmica».

[16] In questi termini, amplius, G. LO SAPIO, La trasparenza sul banco di prova dei modelli algoritmici, in Federalismi.it, n. 11/2021, pp. 243-244: «partendo dal presupposto che i sistemi di intelligenza artificiale si pongono in rapporto di specie a genere rispetto ai sistemi algoritmici può dirsi che: a) tutti gli algoritmi sono certamente caratterizzati dalla “opacità linguistica”, dovuta alla circostanza che le istruzioni sono comunicate dal programmatore alla macchina in un linguaggio informatico, e non nel linguaggio naturale con cui sono espresse anche le regole giuridiche; b) molti di essi presentano un ulteriore livello di opacità, che può definirsi “giuridica”, poiché l’innovazione tecnologica fondata su algoritmi, specie se acquistata dall’amministrazione sul mercato, può essere oggetto di diritti di proprietà intellettuale o industriale riconosciuti in capo ai suoi “ideatori”, connessi alle dinamiche di sfruttamento commerciale sulla segretezza dei codici sorgenti (con la conseguente necessaria esigenza di bilanciamento tra l’interesse conoscitivo e la tutela di tali diritti); c) per una specifica categoria di algoritmi, rientranti in una specifica sotto area dell’intelligenza artificiale e, in particolare, per quelli di cd. “apprendimento automatico” e di cd. “apprendimento profondo” (machine learning e deep learning), viene in rilievo una forma di opacità “strutturale” che deriva dallo stesso meccanismo di funzionamento del sistema, rimanendo oscuro ed impenetrabile anche per gli stessi programmatori comprendere come la macchina, partendo dai dati forniti, sia giunta ad un determinato risultato (è il fenomeno noto come “black box”)»; cfr. anche A. MASCOLO, Gli algoritmi amministrativi: la sfida della comprensibilità, in Giorn. dir. amm., n. 3/2020, pp. 371-372.

[17] Si veda T.A.R. Lazio-Roma, Sez. III-bis, 22 marzo 2017, n. 3769, che finanche riconosce la natura attizia del software per garantire l’accesso al c.d. codice sorgente.

[18] Cons. St., Sez. VI, 8 aprile 2019, n. 2270, e 13 dicembre 2019, n. 8472.

[19] Per un approfondimento critico, si consenta il rinvio a D. DIACO, Fidarsi è bene, non fidarsi è…? L’Intelligenza Artificiale entra nel nuovo Codice dei contratti pubblici, in Federalismi.it, n. 17/2023, pp. 133 ss.

[20] Cons. St., Sez. VI, n. 8472/2019, cit.

[21] S. SASSI, Gli algoritmi nelle decisioni pubbliche tra trasparenza e responsabilità, in Anal. giur. econ., n. 1/2019, p. 119.

[22] E. CARLONI, I principi della legalità algoritmica. Le decisioni automatizzate di fronte al giudice amministrativo, in Dir. amm., n. 2/2020, p. 289.

[23] Per una critica, si consenta di rinviare a D. DIACO, Brevi riflessioni sulla natura giuridica del software (a partire da T.A.R. Lazio, Sez. III-bis, n. 8384/2023), in www.giustiziainsieme.it, 2023 (in corso di pubblicazione).

[24] Cons. St., Sez. VI, n. 8472/2019, cit.; sul punto, E. CARLONI, op. ult. cit., p. 289; G. ORSONI, E. D’ORLANDO, Nuove prospettive dell’amministrazione digitale: Open Data e algoritmi, in Ist. fed., n. 3/2019, pp. 593 ss.

[25] G. LO SAPIO, op. cit., p. 247.

[26] Così C. ACCOTO, Il mondo dato. Cinque brevi lezioni di filosofia digitale, EGEA, Milano, 2017, p. 21.

[27] Il tutto in un’ottica di accountability: sul punto, G. FASANO, L’intelligenza artificiale nella cura dell’interesse generale, in Giorn. dir. amm., n. 6/2020, pp. 721 ss.

[28] E. CARLONI, op. ult. cit., p. 290; in termini, anche A. MASCOLO, op. cit., p. 372, secondo cui, «[p]erché possa parlarsi di trasparenza, quindi, occorre che dai meri dati informativi si passi alla comprensione dei fenomeni stessi, con la necessaria mediazione consistente in una costruzione di senso»; cfr., altresì, B. PONTI, La mediazione informativa nel regime giuridico della trasparenza: spunti ricostruttivi, in Dir. inf., n. 2/2019, pp. 383 ss.

[29] E. CARLONI, ibidem.

[30] Cons. St., Sez. VI, n. 8472/2019, cit.

[31] Cons. St., Sez. VI, n. 2270/2019, cit.

[32] Cons. St., Sez. VI, n. 2270/2019, cit.

[33] G. PESCE, Funzione amministrativa, intelligenza artificiale e blockchain, Editoriale Scientifica, Napoli, 2021, p. 146, che al riguardo segnala la proposta di Regolamento europeo sull’IA, il quale stabilisce che, per far fronte all’opacità dei sistemi di IA, è opportuno sì imporre un certo grado di trasparenza ai softwares intelligenti, ma solo a quelli “ad alto rischio”.

[34] Non è certo un caso che il giudice faccia riferimento alla disciplina del GDPR, trattandosi di una normativa estremamente d’avanguardia con riferimento ai trattamenti interamente automatizzati.

[35] Sul diritto di spiegabilità nel GDPR, amplius, G. MALGIERI, G. COMANDÉ, Why a Right to legibility of Automated Decision-Making Exists in the General Data Protection Regulation, in International Data Privacy Law, n. 4/2017, i quali suggeriscono di partire dalla versione in lingua inglese del termine «significativo», meaningful, per accorpare tanto la nozione di comprensibilità quanto quella di rilevanza. Sul fronte opposto, cfr. S. WATCHER, B. MITTELSTADT, L. FLORIDI, Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, ivi, n. 2/2017, secondo cui il GDPR avrebbe individuato un diritto alla spiegazione limitato alla sola conoscenza della logica funzionale generalizzata del sistema automatizzato.

In effetti, il diritto alla spiegazione che si trae dagli articoli del GDPR sembra superare il rispettivo portato, che, al più, dovrebbe essere letto in combinazione con il Considerando n. 71 del Regolamento: stando, infatti, a un’interpretazione letterale, «non vi è una perfetta sovrapposizione tra le “misure appropriate” che il titolare del trattamento deve assumere per tutelare i diritti e le libertà e gli interessi legittimi dell’interessato ai sensi dell’art. 22, par. 3, e le “garanzie adeguate” indicate nel 71° Considerando, secondo cui tali misure “dovrebbero comprendere la specifica informazione all’interessato e il diritto di ottenere l’intervento umano, di esprimere la propria opinione, di ottenere una spiegazione della decisione conseguita dopo tale valutazione e di contestare la decisione”»: così, G. LO SAPIO, op. cit., p. 247; v., anche, S. FOÀ, , Intelligenza artificiale e cultura della trasparenza amministrativa (Relazione al Convegno “Intelligenza artificiale e diritto amministrativo” – Torino, 9 maggio 2023), in media.unito.it.

Sulla spiegabilità, si veda, altresì, COMMISSIONE EUROPEA, Orientamenti etici per un’IA affidabile, in op.europa.eu: in particolare, i quattro imperativi etici del rispetto dell’autonomia umana, della prevenzione dei danni, dell’equità e, infine, proprio dell’esplicabilità (parr. 47-48).

[36] Si tenga presente che, secondo la dottrina, se è vero che «l’amministrazione è tenuta a (comprendere essa stessa e quindi) porre il cittadino nelle condizioni di avere ragionevolmente chiaro il senso della decisione che lo interessa e quindi la logica sottesa all’algoritmo», questo non esclude il diritto di accedere all’algoritmo, ma semplicemente contiene il rischio che, «pur disponendo delle informazioni relative alle azioni svolte dal sistema di AI, l’analisi ex post possa non essere sufficiente a ricostruire il rapporto tra gli input e gli output ottenuti in termini comprensibili per gli individui»: E. CARLONI, Le intelligenze artificiali, cit., p. 59.

[37] G. AVANZINI, op. cit., pp. 138-139.

[38] Per approfondire, G.P. MANZELLA, Brevi cenni sulla “Regulatory Negotiation”, in Riv. trim. dir. pubbl., 1994, pp. 273 ss.

[39] Sulla stessa linea d’onda, cfr. L. TORCHIA, Lo Stato digitale, Il Mulino, Bologna, 2023, pp. 128-129, che, al riguardo, richiama una differenza, tipica degli studi americani, tra fishbowl transparency e reasoned transparency: la trasparenza ex ante, in presenza di un algoritmo, non può che essere del secondo tipo, perché di per sé l’accesso al codice sorgente non è comunque sufficiente, spesso, a far comprendere al destinatario come lo stesso funziona. Su tale distinzione, C. COGLIANESE, D. LEHR, Transparency and Algorithmic Governance, in Administrative Law Review, n. 1/2019, pp. 1 ss.

[40] Ci si riferisce all’art. 12, comma 1, lett. d), n. 2), del d.l n. 76/2020, conv. dalla l. n.  120/2020.

[41] Diversamente da quanto sostenuto, ad es., da G. AVANZINI, op. cit., p. 138.

[42] Sul punto si veda F. SAITTA, La partecipazione al procedimento amministrativo, in AA.VV., Istituzioni di diritto amministrativo, Giappichelli, Torino, 2017, p. 173. In giurisprudenza, Cons. St., Sez. IV, 24 maggio 2011, n. 3120; T.A.R. Abruzzo-L’Aquila, Sez. I, 3 aprile 2006, n. 205.

[43] In questi termini, Cass. civ., Sez. V, 11 giugno 2010, n. 14104; nello stesso senso, con riferimento ai procedimenti espropriativi, Cons. St., Ad. plen., 15 settembre 1999, n. 14; T.A.R. Puglia-Bari, Sez. I, 14 settembre 2010, n. 3464.

[44] Sui problemi che derivano dall’art. 13, comma 1, della l. n. 241/1990, per il caso di estensione della partecipazione non prevista da singole norme di legge v., tuttavia, A. ZITO, G. TINELLI, L’ambito di applicazione delle norme sulla partecipazione, in M.A. SANDULLI (a cura di), Codice dell’azione amministrativa, II ed., Giuffrè, Milano, 2017, pp. 691 ss.

[45] S. CIVITARESE MATTEUCCI, La comunicazione di avvio del procedimento dopo la l. n. 15/2005. Potenziata nel procedimento, dequotata nel processo, in www.amministrazioneincammino.luiss.it, 15 luglio 2005, p. 6, mette, però, in chiaro che «non tutte le informazioni obbligatorie da fornire agli interessati ai sensi dell’art. 8 della L. 241 sono assorbite dal fatto che l’interessato abbia presentato ad un’amministrazione x un’istanza y (amministrazione competente e oggetto del procedimento sono i contenuti informativi di cui rispettivamente alle lettere a) e b) dell’art. 8.2). Ne rimangono fuori le informazioni concernenti l’ufficio e la persona responsabile del procedimento (lett. c) e l’ufficio in cui si può prendere visione degli atti (lett. d)». Da qui la conclusione che il tipo di iniziativa non incide sulla questione della sussistenza dell’obbligo; in tal senso, anche D.U. GALETTA, Notazioni critiche sul nuovo art. 21 octies della legge n. 241/90, in GiustAmm.it, n. 2/2005, § 4, nonché D. DE CAROLIS, La “forma” e la “sostanza” della comunicazione dell’avvio del procedimento, in S. CIVITARESE MATTEUCCI, G. GARDINI (a cura di), Dal procedimento amministrativo all’azione amministrativa, Bononia University Press, Bologna, 2004, p. 107.

[46] Cfr. L. TORCHIA, op. ult. cit., p. 127, con riferimento alle esenzioni individuate dalla giurisprudenza circa l’obbligo di comunicazione di avvio del procedimento, sostiene che «[i]l ricorso a strumenti algoritmici potrebbe consentire di riveder[l]e, e probabilmente eliminar[l]e», anche in considerazione del fatto che esse «costituiscono comunque un vulnus sia al principio di pubblicità, sia al principio di partecipazione».

[47] Art. 3, comma 1: «[o]gni provvedimento amministrativo, compresi quelli concernenti l’organizzazione amministrativa, lo svolgimento dei pubblici concorsi ed il personale, deve essere motivato, salvo che nelle ipotesi previste dal comma 2».

Per un’esaustiva disamina dell’obbligo, v. M.S. BONOMI, La motivazione dell’atto amministrativo: dalla disciplina generale alle regole speciali, Roma Tre Press, Roma, 2020.

[48] Così A. ROMANO TASSONE, Motivazione dei provvedimenti amministrativi e sindacato di legittimità, Giuffré, Milano, 1987, pp. 52 ss.

[49] T.A.R. Lazio-Roma, Sez. III-bis, 10 settembre 2018, n. 9224.

[50] A. MASUCCI, L’atto amministrativo informatico. Primi lineamenti di una ricostruzione, Jovene, Napoli, 1993, p. 100.

[51] Si vedano, al riguardo, L. VIOLA, L’intelligenza artificiale nel procedimento e nel processo amministrativo: lo stato dell’arte, in Federalismi.it, n. 21/2018, p. 16; D. MARONGIU, L’attività amministrativa automatizzata. Profili giuridici, Maggioli, Santarcangelo di Romagna, 2005, pp. 125 ss.; A. CASSATELLA, Il dovere di motivazione nell’attività amministrativa, Cedam, Padova, 2013, pp. 346-347.

[52] Sembrerebbe qui richiamarsi quella giurisprudenza che riconosce un obbligo di motivazione puntuale ed estesa dei soli provvedimenti amministrativi discrezionali, nei quali bisogna dar conto della ponderazione di interessi effettuata: cfr. Cons. St., Sez. IV, 7 maggio 2007, n. 1971. Diversamente, nei provvedimenti vincolati, sarebbe sufficiente individuare con chiarezza le ragioni assunte a fondamento della decisione, anche solo richiamando le disposizioni di legge delle quali viene fatta applicazione: Cons. St., Sez. IV, 16 giugno 2008, n. 2977.

[53] La dottrina sembra qui richiamare tutta una serie di argomentazioni che in passato hanno riguardato la motivazione numerica, rispetto alla quale la stessa giurisprudenza, nell’ambito delle procedure ad evidenza pubblica e concorsuali, pare favorevole laddove siano stati prestabiliti in maniera chiara i criteri di attribuzione del punteggio finale: cfr., ex multis, Cons. St., Sez. III, 14 aprile 2022, n. 2819.

[54] Cons. St., Sez. VI, nn. 2270/2019 e 8472/2019, citt.

[55] Sul punto, A. MASCOLO, op. cit., p. 370.

[56] A sostegno di tale tesi, v. G. AVANZINI, op. cit., p. 150; M.C. CAVALLARO, G. SMORTO, Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, in Federalismi.it, n. 16/2019, pp. 17 ss.

[57] Cons. St., Sez. VI, n. 8472/2019, cit., parla di algoritmo non più come atto amministrativo ad elaborazione elettronica, bensì come modulo organizzativo.

[58] Sulla motivazione numerica, F. MANGANARO, Cenni sulla motivazione del provvedimento amministrativo, in particolare sulla c.d. motivazione numerica, in Scritti in onore di Franco Gaetano Scoca, Editoriale Scientifica, Napoli, 2020, I, pp. 3319 ss.

[59] Se ne parla all’interno del già esaminato art. 2, co. 1, della l. n. 241/1990. Sulla c.d. motivazione in forma semplificata, cfr. M. RAMAJOLI, Il declino della decisione motivata, in Dir. proc. amm., n. 3/2017, pp. 901 ss., la quale sottolinea che l’istituto in questione, che trae ispirazione dall’analogo istituto processuale della sentenza in forma semplificata di cui all’art. 60 c.p.a., risponde all’esigenza di fornire al privato una motivazione espressa anche nel caso in cui le ragioni del rifiuto della domanda di parte siano manifeste.

[60] In termini analoghi, cfr. G. AVANZINI, op. cit., p. 150, la quale evidenzia che gli algoritmi più complessi, legati all’utilizzo dei cc.dd. big data, operano spesso attraverso correlazioni che non seguono una logica lineare e predeterminabile, sicché in questi casi può essere difficile identificare le variabili e i dati che partecipano alla decisione finale resa dal software; D.U. GALETTA, J.G. CORVALAN, Intelligenza Artificiale per una Pubblica Amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in Federalismi.it, n. 3/2019, p. 16, i quali ribadiscono la necessità di fornire un’adeguata spiegazione delle decisioni amministrative adottate tramite algoritmi di machine-learning, per quanto riguarda non solo il contenuto dell’atto finale, ma anche il procedimento che ha condotto alla sua adozione; A. SIMONCINI, Profili costituzionali della amministrazione algoritmica, in Riv. trim. dir. pubbl., n. 4/2019, pp. 1183 ss., il quale sottolinea che, per poter ottenere la motivazione di un atto amministrativo automatizzato, è necessario che l’algoritmo che ne è alla base sia “esplicabile”, ossia descrivibile nella sua strutturazione causale, sebbene questa qualità non sia oggi un carattere che accomuna tutti i sistemi di decisione automatizzata.

[61] In questi termini, L. TORCHIA, op. ult. cit., pp. 131-132.

[62] Si può dire che questi sia il garante della trasparenza in ogni procedimento amministrativo, anche automatizzato.

[63] Per la definizione dei tre diversi tipi di accesso e le differenze tra i medesimi, si rinvia a E. CASETTA, Manuale di diritto amministrativo, a cura di F. Fracchia, Giuffrè, Milano, 2021, pp. 400 ss.

[64] Sull’accesso civico generalizzato si vedano: E. CARLONI, Il nuovo diritto di accesso generalizzato e la persistente centralità degli obblighi di pubblicazione, in Dir. amm., n. 4/2016, pp. 579 ss.; D.U. GALETTA, Accesso civico e trasparenza delle pubbliche amministrazioni alla luce delle previste modifiche del D.Lgs. 33/2013, in Federalismi.it, n. 5/2016.

[65] G. AVANZINI, op. cit., p. 142.

[66] Sez. III-bis, n. 3769/2017, cit., relativa al c.d. «algoritmo di mobilità» del personale docente. Presentata una richiesta di accesso al MIUR, quest’ultimo si era limitato a predisporre un memorandum con alcuni riferimenti normativi e una sommaria descrizione dell’algoritmo nei suoi passaggi fondamentali, negando de facto l’accesso al codice sorgente.

[67] Per un’attenta ricostruzione del punto si veda L. TORCHIA, op. ult. cit., pp. 148-150.

[68] Così come previsto dall’art. 22, lett. d), della l. n. 241/1990. Diversi sono i riferimenti normativi a sostegno di tale interpretazione. Una prima disposizione rilevante in materia è l’art. 52 del d.P.R. n. 445/2000, secondo cui il «sistema di gestione informatica dei documenti […] deve consentire, in condizioni di sicurezza, l’accesso alle informazioni del sistema da parte dei soggetti interessati, nel rispetto delle disposizioni in materia di tutela delle persone e di altri soggetti rispetto al trattamento dei dati personali». Tale previsione prevede l’applicazione del diritto di accesso a tutta l’attività informatizzata della pubblica amministrazione, con un chiaro fine garantistico. Un’altra disposizione è l’art. 59 del medesimo decreto, che in favore della tutela del diritto di accesso prevede la possibilità di utilizzare «tutte le informazioni del sistema di gestione informatica dei documenti anche mediante l’impiego di procedure applicative operanti al di fuori del sistema e strumenti che consentono l’acquisizione diretta delle informazioni da parte dell’interessato». Viene così configurato un accesso esterno al sistema, ai fini dell’esercizio di tale fondamentale diritto.

[69] Sul punto, G. AVANZINI, op. cit., p. 144.

[70] Cons. St., Sez. VI, 2 gennaio 2020, n. 30. La controversia riguardava il mancato superamento della prova scritta di un concorso pubblico. I candidati, ritenendo che l’esito negativo fosse dipeso dal malfunzionamento del software di gestione della prova, avevano presentato richiesta di accesso all’algoritmo e ai codici sorgente del software, ritenendo che essi fossero qualificabili in termini di documento amministrativo, come tali accessibili ai sensi sia dell’art. 22 della l. n. 241/1990 che dell’art. 5-bis del d.lgs n. 33/2013 e s.m.i. A seguito del rifiuto di accesso, avevano presentato ricorso al T.A.R. Lazio, da cui avevano ricevuto risposta positiva. L’Amministrazione si era rivolta così al Consiglio di Stato, deducendo l’omessa notificazione del ricorso di primo grado al titolare del codice sorgente. I giudici di Palazzo Spada hanno ritenuto che la software house dovesse essere considerata controinteressata in quanto l’accesso al codice sorgente determinava un grave pregiudizio sia alle esigenze di riservatezza della procedura concorsuale sia al diritto di riservatezza riconoscibile al titolare dell’algoritmo stesso, rendendo note tutte le parti di ideazione e strutturazione del software ed esponendole a pericolo di contraffazione. Alla base di tale decisione, dunque, stanno due esigenze contrapposte: da un lato, regolare la materia dell’accesso ai documenti amministrativi; dall’altro, tutelare quei soggetti direttamente incisi dall’azione amministrativa, titolari di situazioni giuridiche soggettive attive, come il diritto alla riservatezza, correlate allo specifico documento oggetto di accesso.

[71] E. PROSPERETTI, Accesso al software e al relativo algoritmo nei procedimenti amministrativi e giudiziali. Un’analisi a partire da due pronunce del TAR Lazio, in Dir. inform., nn. 4-5/2019, p. 983.

[72] G. AVANZINI, op.  cit., p. 145.

[73] G. AVANZINI, op.  cit., p. 146.

[74] Sul punto, ancora E. PROSPERETTI, op. cit., p. 983.

[75] V. supra, par. 5.2.

[76] La Proposta è consultabile su https://eur-lex.europa.eu.

[77] La decisione s’inserisce lungo la scia di una consolidata giurisprudenza circa la parametrazione della conoscibilità e della comprensibilità: cfr., da ultimo, T.A.R. Campania-Napoli, Sez. III, 14 novembre 2022, n. 7003, che mette in chiaro alcuni dei principali orientamenti consolidatisi nel tempo nella giurisprudenza amministrativa: «[i]l ricorso all’algoritmo, in funzione integrativa e servente della decisione umana, ovvero anche in funzione parzialmente decisionale nei procedimenti a basso tasso di discrezionalità, non può mai comportare un abbassamento del livello delle tutele garantite dalla legge sul procedimento amministrativo, ed in particolare di quelle sulla individuazione del responsabile del procedimento, sull’obbligo di motivazione, sulle garanzie partecipative, e sulla cd. non esclusività della decisione algoritmica»; si riconosce, tra le garanzie da rispettare, la primazia della trasparenza, che immediatamente si ricollega all’obbligo di motivazione degli atti amministrativi ex art. 3 della l. n. 241/1990 (e, si badi, non al diritto di accesso).

[78] Discorso decisamente più complesso, che qui non si affronterà, concerne gli algoritmi di IA. Probabilmente, per questi ultimi, la prospettiva va rovesciata, collocando «la regola della necessaria comprensibilità già alla fase anticipata della progettazione dei sistemi algoritmici», secondo il modello della c.d. privacy by design, di cui all’art. 25 GDPR: in questi termini, A. SANTOSUOSSO, Intelligenza artificiale e diritto. Perché le tecnologie di IA sono una grande opportunità per il diritto, Mondadori, Milano, 2020, p. 189; G. LO SAPIO, op. cit., pp. 248 ss., secondo cui, oltretutto, laddove non sia possibile l’esplicabilità nei suddetti termini, in virtù dell’intrinseca black box degli algoritmi “intelligenti”, «[l]a natura assoluta del principio di trasparenza, tale da prevalere anche su quelli di efficienza, economicità, semplificazione che governano il procedimento amministrativo ex art. 1 legge 241/90, costituisce, ad oggi, un vero e proprio filtro di ammissibilità del singolo modello».

[79] Cfr. E. PELLECCHIA, Profilazione e decisioni automatizzate al tempo della black box society: qualità dei dati e leggibilità dell’algoritmo nella cornice della responsible research and innovation, in Nuove leggi civ. comm., n. 5/2018, p. 1209.

[80] Così G. LO SAPIO, op. cit., p. 247, che, al riguardo, declina la trasparenza nel solo obbligo di motivazione (e non anche nel diritto di accesso).

[81] Da ultimo, il PNRR pone nel risultato amministrativo un punto cruciale; infatti, esso «è stato redatto proprio secondo la logica dell’enunciazione di azioni amministrative ed obiettivi spesso puntuali»: così, F. CINTIOLI, Risultato amministrativo, discrezionalità e PNRR: una proposta per il giudice, in LaMagistratura, n. 2/2022, p. 88. Significativo è, oltretutto, il richiamo all’art. 1 del nuovo Codice dei contratti pubblici, su cui v. D. DIACO, Fidarsi è bene, cit., pp. 125-130; A.M. CHIARIELLO, Una nuova cornice di principi per i contratti pubblici, in Dir. econ., 2023, pp. 148 ss; A. CIOFFI, Prima lettura del nuovo Codice dei contratti e dei suoi tre principi fondamentali, in ApertaContrada.it, n. 1/2023, pp. 2 ss.; F. SAITTA, I principi generali del nuovo Codice dei contratti pubblici, in www.giustiziainsieme.it, 8 giugno 2023.

L'articolo L’algoritmo di cristallo: alcune considerazioni in tema di trasparenza algoritmica (nota a T.A.R. Lazio, Sez. III-ter, n. 10688/2023) proviene da Giustamm.