1. La “rivoluzione 4.0”
Con la sentenza n. 8472/2019, il Consiglio di Stato torna ad occuparsi del tema della digitalizzazione della pubblica amministrazione e, in particolare, circoscrive i limiti entro cui può considerarsi legittimo l’utilizzo di un algoritmo informatico nell’espletamento di un’attività amministrativa, anche alla luce delle indicazioni ricavabili dal diritto dell’UE e delle implicazioni, in materia, del più recente regolamento Regolamento europeo n. 2016/679 (c.d. GDPR).
La sentenza segue, a livello fattuale, le polemiche che hanno interessato il trasferimento di molti docenti per l’anno scolastico 2016/2017 (c.d. “Buona scuola”) e il fatto che l’intera procedura di assegnazione dei posti del MIUR sia stata gestita da un sistema informatico per mezzo di un algoritmo. Si tratta di un tema quanto mai contemporaneo: in un mondo in cui l’algoritmo affianca o sostituisce la decisione umana, il catalogo dei diritti dell’uomo (privacy, informazione, libertà personale, ecc.) entra in contatto con un sistema decisionale non umano, ma di cui un umano deve pur sempre ritenersi padre[1].
Ebbene, lungo il solco tracciato già dalla sentenza n. 2270/2019, i giudici di Palazzo Spada ribadiscono l’importanza che anche la pubblica amministrazione sfrutti le potenzialità della rivoluzione digitale, per migliorare la qualità dei servizi resi ai cittadini e agli utenti. 
“Rivoluzione 4.0” è il diktat: è un termine coniato in ambito industriale[2]per descrivere le dirette conseguenze della digitalizzazione nel campo produttivo, ossia che nel volgere dei prossimi anni la produzione industriale sarà completamente automatizzata: l’utilizzo dei dati, gli analytics, la manifattura additiva, la stampa 3D, la robotica, le interazioni machine-to-machine e le nuove tecnologie consentiranno di razionalizzare i costi ed ottimizzare le prestazioni, consentendo di creare nuovi modelli di business e di aumentare la produttività e la qualità produttiva degli impianti.
Riferita alla pubblica amministrazione e alla sua attività autoritativa (discrezionale o vincolata), la “rivoluzione 4.0” descrive la possibilità che il procedimento di formazione della decisione amministrativa sia affidato a un software, nel quale vengono immessi una serie di dati così da giungere – attraverso l’automazione della procedura – alla decisione finale 
Tale possibilità non va stigmatizzata, ma anzi va incoraggiata: specie rispetto a procedure standardizzate o seriali che implicano l’elaborazione di ingenti quantità di istanze e che sono pure caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili, oltreché dall’assenza di ogni apprezzamento discrezionale.
Tale modalità operativa di gestione dell’interesse pubblico deve infatti considerarsi pienamente ammissibile, in quanto risponde ai canoni di efficienza ed economicità dell’azione amministrativa (art. 1, l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale. 
Ciononostante, l’osservanza dei princìpi che conformano il nostro ordinamento e che regolano lo svolgimento dell’attività amministrativa non può essere sacrificata sull’altare dei benefici che comporta la decisione automatizzata (in termini di maggior imparzialità, di riduzione della tempistica del procedimento, nonché di esclusione di interferenze dovute a negligenza o dolo del funzionario). Infatti, come suggerisce il Consiglio di Stato, il ricorso all’algoritmo va correttamente inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio. Come tale rimane soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta pur sempre il modus operandidell’attività autoritativa svolta nel perseguimento del pubblico interesse.
 
2.Il principio di conoscibilità dell’algoritmo
In primo luogo, la piena conoscibilità dell’algoritmo deve considerarsi un corollario del principio di trasparenza dell’azione amministrativa. E va garantita in tutti i suoi aspetti: dagli autori dell’algoritmo al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che i criteri, i presupposti e gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato
La decisione automatizzata, in quanto atto amministrativo informatico, deve essere conoscibile. Al contempo, la piena conoscibilità è elemento necessario ma non sufficiente ad integrare la trasparenza: occorre che si accompagni alla comprensibilità. Dunque, l’interessato da una decisione presa sulla base di un algoritmo deve ricevere quelle “informazioni significative” che gli consentano di decifrarne la logica utilizzata. Operazione non semplice, tenuto conto che gli algoritmi sono scritti in linguaggi «da iniziati» che non possono essere certo letti e capiti da comuni cittadini[3].
Ad ogni modo, come già affermato nella sentenza n. 2270/2019, il principio di trasparenza è destinato a prevalere nel bilanciamento con il principio di riservatezza, che non può pertanto essere invocato dalle imprese fornitrici dei software: gli algoritmi non sono (o non dovrebbero essere) scatole nere coperte da copyright[4]. 
Dunque, Palazzo Spada ribadisce un orientamento in netta controtendenza rispetto a quanto avvenuto, negli Stati Uniti, nel c.d. “caso Loomis”. 
In Wisconsin, un cittadino afroamericano, Eric Loomis, è stato condannato a 6 anni di reclusione sul fondamento di un algoritmo Compas che, sulla base di una serie di dati forniti al sistema, lo classificava come imputato ad alto rischio di recidiva. La Corte Suprema del Wisconsin ha rigettato il ricorso di Loomis, il quale aveva contestato la lesione del suo diritto ad un equo processo dovuta alla mancata conoscenza del funzionamento dell’algoritmo, e riconosciuto invece la legittimità della procedura: gli algoritmi sono segreti industriali che non possono essere divulgati neppure agli imputati a cui si applicano, per cui secondo il giudice statunitense il principio di riservatezza è destinato a prevalere, nel bilanciamento, sul principio di trasparenza. Nel 2017, poi, la Corte Suprema degli Stati Uniti ha confermato la decisione, declinando la propria competenza.
Soluzione opposte allo stesso problema di conoscibilità degli algoritmi: il che suggerisce, peraltro, l’esigenza di individuare una regolazione quanto più possibile uniforme del diritto degli algoritmi[5]. 
 
3.Principio di non esclusività e di non discriminazione
In secondo luogo, nella sentenza n. 8472/2019 il Consiglio di Stato individua accanto al principio di trasparenza, tra i criteri che devono guidare l’esame e l’utilizzo degli strumenti informatici, quello di non esclusività della decisione algoritmica. Ossia, nel caso in cui una decisione automatizzata produca effetti giuridici che riguardano o che incidano significativamente su una persona, questa ha diritto a che tale decisione non sia basata unicamente su tale processo automatizzato. In proposito, deve comunque esistere nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatica.
Ciò risponde, in fondo, ad una primaria esigenza di legalità e giustizia: garantire comunque l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo.
Il terzo ed ultimo principio-chiave individuato dal Consiglio di Stato è il principio di non discriminazione algoritmica, secondo cui è opportuno che il titolare del trattamento utilizzi procedure matematiche o statistiche appropriate per la profilazione dell’utente. In particolare, il titolare del trattamento dovrà porre in essere misure tecniche e organizzative idonee a garantire che siano rettificati i fattori che comportano inesattezze dei dati e che sia minimizzato il rischio di errori. Anche al fine di garantire la sicurezza dei dati personali, tenuto conto dei diritti degli interessati e dei potenziali rischi per essi esistenti, e di impedire effetti discriminatori nei confronti di persone fisiche sulla base della razza o dell’origine etnica, delle opinioni politiche, della religione o delle convinzioni personali, dell’appartenenza sindacale.
 
 
4Principio di non esclusività e di non discriminazione
Il nervo scoperto dell’intelligenza artificiale e della sua applicazione nell’ambito dell’attività amministrativa risiede, senza dubbio, nella circostanza che il processo decisionale di un algoritmo è squisitamente statistico: la macchina è capace di selezionare una scelta solo in base ai dati che l’essere umano le ha fornito[6]. Donde la selezione a monte dei dati da inserire nella “banca”, cui l’algoritmo attinge per l’assunzione della decisione finale, rischia perciò di pregiudicare l’equità e la giustizia della decisione robotizzata. Non è un caso che, in alcune inchieste giornalistiche d’oltreoceano, Compas sia stata tacciata di discriminazione razziale nei confronti degli afroamericani, proprio per il metodo con cui l’algoritmo era stato caricato. 
Il focus si sposta allora sull’individuazione delle regole con cui programmare gli algoritmi e con cui orientare le forme di intelligenza artificiale. Altrimenti resta inevaso il dubbio che affligge le decisioni giudiziarie prese dal sistema Compas negli USA, ossia che si decida in base ad un algoritmo discriminatorio e ingiusto[7].
Il fine ultimo è quello di fare sì che la macchina, priva di coscienza, sia sempre al servizio dell’uomo che, invece, di coscienza è dotato[8].
Oggi, la sfida dell’implementazione del digitale nell’azione amministrativa richiede di creare un’intelligenza artificiale “human-centered“, cioè centrata sull’uomo, affinché siano sviluppate macchine che non siano semplicemente in grado di rispondere sì o no, ma che siano integrate con l’uomo e con l’uomo cerchino la soluzione migliore[9]. Solo in questo modo il progresso (tecnologico) è sinonimo di sviluppo (del benessere sociale ed individuale).
Il mediumin grado di far combaciare progresso e sviluppo è la «algoretica»[10], o etica degli algoritmi. Così come l’etica racchiude in sé principi, valutazioni e norme, così occorre individuare tramite colui che dell’evoluzione sociale è interprete – ossia il giurista – i paradigmi con cui scrivere gli algoritmi, in un difficile bilanciamento tra tecnica, etica e diritto[11]. Regole che possano tradursi in un linguaggio “algoretico”, ossia in un’etica comprensibile e leggibile anche dalla macchina. Affinché in ultima analisi la macchina si interfacci, per validare le sue decisioni, con colui che dell’etica è portatore, cioè l’uomo. 
Ci siamo improvvisamente accorti, infatti, che gli algoritmi possono essere applicati anche alle persone. Criticità e vantaggi sono entrambe a portata di mano: quando un algoritmo di profilazione viene applicato ai nostri comportamenti e alle nostre scelte, è in grado di influenzare le nostre future decisioni.
Il che può farci risparmiare tempo e produrre benefici, come quando inseriamo sul navigatore del nostro smartphone una destinazione e ci viene suggerita la strada con minor traffico. Oppure può far cadere un velo di ignoranza sugli utenti dei social network, a colpi fake news; o, peggio, influenzare le nostre scelte elettorali, come dimostrato dallo scandalo che ha colpito Cambridge Analytica.
Siamo all’alba di una rivoluzione: in un mondo in cui la «persona algoritmica», come suggerisce Benanti, si sta sostituendo progressivamente quale attore sociale alla persona fisica e/o giuridica, dobbiamo regolamentare il quomododel funzionamento degli algoritmi. In modo tale che il bene, che è un valore etico, diventi pure valore numerico che la macchina può computare.
Altrimenti, si scade nel dominio asettico della “algocrazia” e si rischia che tutto, ma davvero tutto, sia governato dall’utilizzo degli algoritmi. Non solo l’esito di un procedimento amministrativo, ma anche le nostre più basilari scelte di vita e allora non sarà più possibile discernere l’io digitale dall’io reale.