Intelligenza artificiale e procedure

Intelligenza artificiale e procedure: algoritmo conoscibile, imputabile alla Pa e non discriminatorio

di Guido Befani

Siamo lieti di invitarvi a leggere l’articolo qui di seguito riportato e pubblicato, altresì, sul Sole24Ore , dal nostro collaboratore Prof. Avv. Guido Befani.
Grazie alle sue avanzate competenze, ci permette di ampliare ed approfondire gli aspetti legati ai requisiti di legittimità e trasparenza che deve avere un algoritmo per poter essere conforme ai canoni di legalità del procedimento amministrativo.

Il ricorso all’algoritmo va correttamente inquadrato in termini di modulo organizzativo, di strumento procedimentale e istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta delle legislazione attributiva del potere e delle finalità dalla stessa attribuite all’organo pubblico, titolare del potere.
Nello specifico, assumono rilievo fondamentale per qualificarne la legittimità due aspetti preminenti, quali elementi di minima garanzia per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica:
a) la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati;
b) l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo. 
In tale contesto, pur dinanzi ad un algoritmo conoscibile e comprensibile, non costituente l’unica motivazione della decisione, occorre altresì che lo stesso non assuma carattere discriminatorio.
È quanto afferma la VI Sezione del Consiglio di Stato, con la sentenza 4 febbraio 2020, n. 881.

L’approfondimento 
Il Consiglio di Stato è intervenuto sui requisiti di legittimità e trasparenza che deve avere un algoritmo per poter essere conforme ai canoni di legalità del procedimento amministrativo.

La decisione       
Nel respingere l’appello del Miur avverso la sentenza del Tar Lazio n. 6607 del 2019 (con la quale era stata dichiarata l’illegittimità della procedura di assegnazione delle sedi attraverso l’algoritmo), il Collegio ha avuto modo di rilevare come, in linea di teoria generale, anche la Pubblica amministrazione debba poter sfruttare le rilevanti potenzialità della cosiddetta rivoluzione digitale. 
Per il Collegio, infatti, il ricorso ad algoritmi informatici per l’assunzione di decisioni che riguardano la sfera pubblica e privata, si fonderebbe sui paventati guadagni in termini di efficienza e neutralità, laddove già in molti campi gli algoritmi promettono di diventare lo strumento attraverso il quale correggere le storture e le imperfezioni che caratterizzano tipicamente i processi cognitivi e le scelte compiute dagli esseri umani, e laddove, in tale contesto, le decisioni prese dall’algoritmo assumono così un’aura di neutralità, frutto di asettici calcoli razionali basati su dati. 
Per il Collegio tuttavia, rispetto all’evoluzione del Codice dell’amministrazione digitale sul cosddetto atto amministrativo informatico, attraverso il ricorso all’algoritmo non si tratta solo di sperimentare forme diverse di esternazione della volontà dell’Amministrazione, ovvero di individuare nuovi metodi di comunicazione tra Amministrazione e privati, (come nel caso della partecipazione dei cittadini alle decisioni amministrative attraverso social network o piattaforme digitali), perché facendo ricorso all’algoritmo ci si trova dinanzi ad una situazione che, in sede dottrinaria, è stata efficacemente qualificata con l’espressione di “rivoluzione 4.0” la quale, riferita all’Amministrazione pubblica e alla sua attività, descrive la possibilità che il procedimento di formazione della decisione amministrativa sia affidato a un software, nel quale vengono immessi una serie di dati così da giungere, attraverso l’automazione della procedura, alla decisione finale. 
Quindi, da un lato la piena ammissibilità di tali strumenti risponde ai canoni di efficienza ed economicità dell’azione amministrativa laddove l’utilizzo di una procedura informatica che conduca direttamente alla decisione finale comporta infatti numerosi vantaggi quali, ad esempio, la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata. Dall’altro, però, l’utilizzo di procedure informatizzate non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa. 
In tale contesto, infatti, il ricorso all’algoritmo va correttamente inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta delle legislazione attributiva del potere e delle finalità dalla stessa attribuite all’organo pubblico, titolare del potere. 
In proposito, ha ribadito il Collegio che, la ‘caratterizzazione multidisciplinare’ dell’algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la ‘formula tecnica’, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella ‘regola giuridica’ ad essa sottesa e che la rendano leggibile e comprensibile. 
Pertanto, la conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che i criteri, i presupposti e gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato.

Conclusioni 
Alla luce di queste premesse, ne deriva che stante la generale ammissibilità di tali strumenti, assumono rilievo fondamentale, anche alla luce della disciplina di origine sovranazionale, due aspetti preminenti, quali elementi di minima garanzia per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica: a) la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati; b) l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo. In tale contesto, pur dinanzi ad un algoritmo conoscibile e comprensibile, non costituente l’unica motivazione della decisione, occorre altresì che lo stesso non assuma carattere discriminatorio.

P.I. 00777910159 – Copyright Il Sole 24 Ore – All rights reserved