IA e sindacato giurisdizionale sulla discrezionalità tecnica

Le possibili ricadute processuali di una massiccia estensione dell’intelligenza artificiale alle attività amministrative connotate da discrezionalità tecnica

di Michele Di Salvo

Negli ultimi anni stiamo assistendo a progressive spinte verso l’introduzione dell’intelligenza artificiale nella P.A. In questo caso non parliamo di IA generativa ma di un insieme di processi compiuti da un sistema algoritmico, in grado andare oltre il lavoro di un algoritmo “tradizionale”.

Quello basato sull’I.A. si fonda su un sistema di apprendimento automatico (c.d. machine learning), che gli consente di analizzare dati, maturare scelte e prendere decisioni in piena autonomia, anche senza l’intervento umano.

Nel corso degli anni, il Consiglio di Stato ha ampliato il novero delle ipotesi in cui la P.A. può avvalersi di procedure decisionali automatizzate; infatti, mentre in un primo momento si riteneva che il ricorso all’algoritmo fosse consentito solo in presenza di attività vincolate, col passare del tempo i giudici hanno assunto un atteggiamento più “aperto” arrivando a statuire che : «se il ricorso agli strumenti informatici può apparire di più semplice utilizzo in relazione alla cosiddetta attività vincolata, nulla vieta che i [fini stabiliti dalla legge], perseguiti con il ricorso all’algoritmo informatico, possano perseguirsi anche in relazione ad attività connotata da ambiti di discrezionalità. Piuttosto, se nel caso dell’attività vincolata ben più rilevante, sia in termini quantitativi che qualitativi, potrà essere il ricorso a strumenti di automazione della raccolta e valutazione dei dati, anche l’esercizio di attività discrezionale, in specie tecnica, può in astratto beneficiare delle efficienze e, più in generale, dei vantaggi offerti dagli strumenti stessi» (Consiglio di Stato, Sez. VI, 13 dicembre 2019, n. 84723) e che: «non vi sono ragioni di principio, ovvero concrete, per limitare l’utilizzo all’attività amministrativa vincolata piuttosto che discrezionale, entrambe espressione di attività autoritativa svolta nel perseguimento del pubblico interesse» (Consiglio di Stato, Sez. VI, 4 febbraio 2020, n. 881).

È stato rilevato che l’estensione della decisione amministrativa automatizzata alle attività discrezionali impone al giudice di valutare la correttezza e la trasparenza del procedimento in tutte le sue componenti, rendendo sbiadita la distinzione tra legittimità – sindacabile – e merito – insindacabile – dell’azione amministrativa; in questo modo, la decisione automatizzata determina il ribaltamento dei rapporti tra amministrazione e giudice – a tutto vantaggio di quest’ultimo – nella valutazione della correttezza delle relazioni intersoggettive tra cittadino e potere pubblico.

Tuttavia, il Consiglio di Stato ha chiarito che, per essere legittimo, l’utilizzo dell’algoritmo da parte della P.A. deve avvenire nel rispetto di tre importanti principi:

1. principio di conoscibilità – declinazione rafforzata del principio di trasparenza -, in forza del quale per evitare che i cittadini vengano esclusi da decisioni che li riguardano, occorre che la P.A. predisponga strumenti in grado di illustrare in maniera chiara il funzionamento e l’incidenza dell’algoritmo sul suo processo decisionale; se così non fosse, infatti, la correttezza della decisione sarebbe conoscibile solo da quei pochi soggetti estremamente qualificati, e, di conseguenza, la democrazia cederebbe il passo alla tecnocrazia;

2. principio di non discriminazione algoritmica, in forza del quale è necessario che il funzionario amministrativo chiamato ad istruire la macchina effettui un controllo sui dati di ingresso (c.d. input) volto ad impedire che i dati di uscita (c.d. output) risultino discriminatori. È innegabile, infatti, che l’I.A., grazie alla sua capacità di elaborare grandi volumi di dati, di automatizzare processi complessi e ripetitivi – riducendo, in questo modo, i tempi di attesa per i cittadini – e di fornire analisi predittive capaci di soddisfare anticipatamente le esigenze dei cittadini, sia in grado di migliorare l’efficienza delle modalità di gestione ed erogazione dei servizi pubblici, rendendoli sempre più interattivi e personalizzati; tuttavia, a questi benefici fanno da contraltare molteplici insidie, dal momento che l’utilizzo dell’I.A. proietta la decisione in una sorta di black box, una dimensione inestricabile e indecifrabile in cui l’uomo fa fatica ad orientarsi;

3. principio di non esclusività della decisione algoritmica: è sempre necessario, cioè, a monte, un ruolo di mediazione e composizione di interessi svolto dal funzionario amministrativo, essendo l’algoritmo uno strumento procedimentale ed istruttorio, che, in quanto tale, non sfugge alle verifiche tipiche di ogni procedimento amministrativo. Pertanto, lungi dal diventare uno strumento sostitutivo dell’imprescindibile attività umana e di deresponsabilizzazione dei funzionari amministrativi, l’algoritmo deve limitarsi a fungere da mero modus operandi; in altre parole, è l’algoritmo che deve collocarsi in una posizione servente rispetto all’uomo, e non il contrario.

Negli ultimi anni la dottrina ha affrontato la spinosa problematica relativa all’imputabilità della decisione algoritmica nelle ipotesi in cui la macchina generi degli output non riconducibili né alla volontà della P.A. né a quella del programmatore; in particolare, ad una prima tesi secondo la quale l’utilizzo di procedure automatizzate non influirebbe sul regime di responsabilità – con conseguente imputabilità della decisione al titolare della carica pubblica – fa da contraltare una seconda che, scindendo il momento preliminare alla compilazione del software – in cui si fissano le regole per la programmazione – dal vero e proprio programma informatico di emanazione dell’atto, propone un’impostazione dualistica secondo la quale al funzionario sarebbero imputabili gli errori del pre-software e al programmatore i danni prodotti dal software.

Partendo dal presupposto che, ad oggi, si ritiene che il ricorso all’I.A. sia precluso in presenza di criteri valutativi fortemente opinabili o non standardizzabili, e, pertanto, in tutte le ipotesi in cui occorra la valutazione concreta da parte del funzionario, appare estremamente interessante immaginare le possibili conseguenze processuali che scaturirebbero da una massiccia estensione dell’utilizzo dell’I.A. alle attività amministrative connotate da discrezionalità tecnica; si pensi, ad esempio, alla predisposizione di quesiti concorsuali e all’individuazione delle risposte corrette, che, come più volte chiarito dalla giurisprudenza, sono espressione di discrezionalità tecnica e sfuggono al sindacato giurisdizionale, nel senso che il giudice non può contestare l’esattezza delle risposte ritenute corrette dalla commissione di esperti ma deve limitarsi a rilevare vizi di legittimità in presenza di veri e propri errori (TAR Lazio, sez. Quarta Ter, Ordinanza 27 luglio 2023, n. 4567).

Il vero nodo è proprio la sindacabilità della decisione, dovendosi prevedere più livelli: una sindacabilità della decisione, una della “motivazione”, e soprattutto una dell’algoritmo.

Ciò implicherebbe il riconoscimento di un sindacato giurisdizionale sostitutivo in tutti in casi in cui la valutazione tecnica effettuata dall’I.A. risultasse inadeguata/inattendibile o applicata in maniera scorretta: il giudice – avvalendosi della consulenza tecnica – potrebbe in tali ipotesi (e soltanto in tali ipotesi, onde evitare gravi distorsioni del quadro costituzionale) sostituire la valutazione tecnica compiuta dall’I.A. con quella propria.

Questa strada parrebbe quella più razionale e coerente con il sistema; infatti, in mancanza di un controllo ex ante da parte dell’autorità amministrativa, si renderebbe assolutamente necessario un intenso controllo ex post da parte dell’autorità giurisdizionale che possa, eventualmente, correggere l’apprezzamento tecnico effettuato dall’ I.A.

Tale riflessione mette in crisi quelle ricostruzioni teoriche dottrinali secondo le quali l’attività di valutazione tecnica sarebbe riservata alla P.A. (fermo restando che la loro attendibilità sarebbe già indirettamente smentita dal riconoscimento del potere di valutazione tecnica in capo all’I.A.), tra le quali spicca quella che ricava l’esistenza di una riserva di valutazione tecnica in capo alla P.A. dal principio di buon andamento sancito dall’art. 97 della Costituzione.

Stabilire che la P.A. debba soddisfare in maniera efficiente i bisogni della collettività non equivale ad escludere che vi siano altri soggetti in grado di compiere valutazioni tecniche in maniera più efficiente. Al contrario, appare verosimile che il Costituente avesse deciso di introdurre tale norma proprio in virtù del fatto che, spesso e volentieri, la P.A. faceva – come, d’altronde, succede ancora oggi – fatica a garantire un adeguato standard di efficienza.

Ne consegue che sarebbe assolutamente irragionevole ipotizzare l’esistenza di una riserva di amministrazione (anche) rispetto alle valutazioni non discrezionali. Anche se a conti fatti essendo il sistema di IA adottato di fatto parte stessa della P.A tale riserva sarebbe comunque – in forma diversa – garantita.

Il principio di pienezza ed effettività della tutela giurisdizionale – ricavabile dalla lettura congiunta degli artt. 24 e 113 Cost. – e quello di parità tra le parti processuali ex art. 111 comma 2 Cost., corollario del principio del giusto processo nonché specificazione del più ampio principio di uguaglianza sancito dall’art. 3, impongono che: «non possano ritenersi esclusi dalla verifica giurisdizionale tutti quei giudizi che non impingono nell’unica scelta riservata all’amministrazione, che è quella di opportunità/inopportunità».

Tale impostazione è stata confermata anche dalla Corte di Strasburgo, che ha chiarito che: «in un determinato caso in cui è contestata la piena giurisdizione, il procedimento potrebbe comunque soddisfare i requisiti dell’articolo 6 § 1 della Convenzione se il giudice che decide sulla questione esaminasse tutte le domande del ricorrente nel merito, punto per punto, senza dover mai declinare la propria giurisdizione nel rispondere alle domande o nell’accertare i fatti. Per contro, la Corte ha riscontrato violazioni dell’articolo 6 § 1 della Convenzione in altri casi in cui i tribunali nazionali si erano ritenuti vincolati dalle precedenti conclusioni degli organi amministrativi, decisive per l’esito delle cause di cui erano investiti, senza esaminare in modo indipendente le questioni rilevanti.» (Sentenza 31 luglio 2008, caso 72034/01, Družstevní záložna Pria and Others v. the Czech Republic)

Il giudice potrebbe ripetere integralmente la valutazione tecnica effettuata dall’I.A. – anche se complessa – e non sarebbe in alcun modo vincolato a questa; infatti, un controllo giurisdizionale limitato alla verifica della legittimità e della palese irragionevolezza della decisione robotizzata sarebbe contrario ai principi costituzionali ed europei, nonché alle statuizioni della Corte EDU.

Il riconoscimento del potere di valutazione tecnica in capo all’I.A. imporrebbe il superamento del tradizionale orientamento del sindacato c.d. intrinseco debole inaugurato nel 2001 dal Consiglio di Stato – secondo il quale, in sede di giurisdizione generale di legittimità, il giudice potrebbe verificare l’idoneità/adeguatezza del criterio tecnico utilizzato dalla P.A. e la correttezza del suo procedimento applicativo ma non, in applicazione del principio di separazione dei poteri, sostituirsi alla pubblica autorità a vantaggio del sindacato c.d. intrinseco forte – dunque sostitutivo – che ad oggi si ritiene comunemente esperibile solo in materia di sanzioni irrogate dall’Autorità garante della concorrenza e del mercato (Consiglio di Stato, Sez. VI, sentenza n. 4990/2019).