La recente sentenza del Consiglio di Stato del 25 novembre scorso (Sezione Terza, n. 7891/2021) è degna di segnalazione poiché, per la prima volta, affronta il tema dell’intelligenza artificiale, mai portato alla cognizione del Giudice Amministrativo, con specifico riferimento ad una questione sorta nel settore delle pubbliche gare in ambito sanitario.

Trattasi, dunque, di una sentenza che potremmo definire di importanza “storica”, all’interno della quale viene individuato il concetto di “Intelligenza Artificiale” come quell’ambito nel quale “l’algoritmo contempla meccanismi di machine learning e crea un sistema che non si limita solo ad applicare le regole software e i parametri preimpostati (come fa invece l’algoritmo “tradizionale”) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico”.

Si noti, sin d’ora, che con l’intelligenza artificiale l’accento cade sul fatto che si è in presenza di un sistema che non si limita ad applicare delle regole stabilite dall’essere umano, ma che decide esso stesso, in conseguenza dell’assunzione di nuovi criteri di inferenza non previamente individuati dall’essere umano.

Se, invero, con la nozione di algoritmo semplicemente ci si riferisce ad una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato, con l’intelligenza artificiale vi è un quid pluris, che prescinde dall’intervento del soggetto umano.

Può essere utile richiamare la vicenda in questione nei suoi tratti essenziali, precisando tuttavia che il Giudice amministrativo di appello tocca il tema dell’intelligenza artificiale, a cui aveva fatto richiamo il Giudice di prime cure, al fine di affermarne l’inconferenza nella questione scrutinata, rilevando come la problematica si giochi tutta all’interno del perimetro rappresentato dal solo concetto tradizionale di algoritmo.

La questione affrontata dal Giudice di Palazzo Spada riguardava la gara per la fornitura di “Pacemaker di alta fascia DDDR”.

La lex specialis di gara prevedeva, tra i criteri di valutazione dell’offerta tecnica, il possesso della caratteristica “Algoritmo di trattamento delle tachiaritmie atriali” alla quale assegnare un punteggio Tabellare (cioè On/Off)(1).

La gara era stata aggiudicata alla ditta ALFA, e la ditta BETA, posizionatasi al secondo posto in graduatoria, aveva impugnato l’aggiudicazione dinanzi al TAR in ragione della mancanza del punteggio ricevuto per tale parametro.

In primo grado era stato censurato l’operato della Commissione di gara, che aveva ritenuto che il possesso di algoritmi per il trattamento delle tachiaritmie potesse essere soddisfatto solo nel caso di algoritmi automatici. L’algoritmo di trattamento presente nel prodotto offerto da BETA non interveniva automaticamente a trattare le aritmie, ma necessitava dell’ausilio di un operatore; pertanto esso non poteva essere qualificato come “automatico” e dunque essere meritevole di punteggio.

Il Tar, smentendo la Commissione di gara, accoglieva il ricorso di BETA in ragione del fatto che: “la legge di gara richiede[va] unicamente la presenza di un algoritmo di trattamento (senza altro specificare)” e definiva il concetto di algoritmo affermando che “con esso ci si richiama, semplicemente, a una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato (come risolvere un problema oppure eseguire un calcolo e, nel caso di specie, trattare un’aritmia)… Per comprendere meglio, rientrano in tale nozione, ad esempio, l’algoritmo di Euclide (ovverosia un procedimento algebrico per trovare il massimo comun divisore), così come la ricetta per la preparazione di una pietanza, ma anche il procedimento di compressione di dati senza perdita (Gif, Png, Jpeg)”.

Aggiungeva inoltre, al fine di meglio precisare il concetto, che: “non deve confondersi la nozione di “algoritmo” con quella di “intelligenza artificiale”, riconducibile invece allo studio di “agenti intelligenti”, vale a dire allo studio di sistemi che percepiscono ciò che li circonda e intraprendono azioni che massimizzano la probabilità di ottenere con successo gli obiettivi prefissati….. sono tali, ad esempio, quelli che interagiscono con l’ambiente circostante o con le persone, che apprendono dall’esperienza (machine learning), che elaborano il linguaggio naturale oppure che riconoscono volti e movimenti”.

In sintesi il primo Giudice formulava il proprio percorso argomentativo in questi termini: l’algoritmo di trattamento dell’aritmia non è altro che l’insieme di passaggi (di stimoli creati dal pacemaker secondo istruzioni predefinite) necessari al trattamento del singolo tipo di aritmia. Questo concetto non richiede necessariamente, come ritenuto dalla Commissione di gara, che il dispositivo debba essere in grado di somministrare in automatico la corretta terapia (trattamento). In altre parole, il dato testuale della lettera di invito non richiede che l’algoritmo di trattamento, al verificarsi dell’episodio aritmico, sia avviato dal dispositivo medesimo in automatico. Tale caratteristica attiene invece ad una componente ulteriore, non indicata nella legge di gara, vale a dire ad un algoritmo di intelligenza artificiale nell’avvio del trattamento. Fondatamente, pertanto, secondo il Giudice di primo grado, BETA aveva dedotto l’erroneità della valutazione della Commissione di gara.

L’appellante ALFA contestava in Consiglio di Stato tale ricostruzione, segnalando come l’evoluzione del settore abbia fatto registrare l’introduzione di algoritmi sempre più complessi (in particolare nei dispositivi di c.d. alta fascia oggetto della gara de qua), in grado di “ottimizzare” la terapia di stimolazione in base alle caratteristiche individuali, ivi inclusa la capacità di riconoscere, prevenire e/o trattare episodi aritmici, quali le aritmie atriali.

Ma al di là del grado di sofisticatezza, si tratterebbe pur sempre di algoritmi che agiscono secondo uno schema tipico (input-elaborazione-risposta) connaturato alla funzione di sorvegliare continuativamente il ritmo cardiaco, che nulla hanno in comune con i meccanismi di machine learning, di intelligenza artificiale dunque, evocati dal giudice di prime cure.

Non rientrerebbero invece nella nozione di algoritmo, funzioni di test attivabili a mezzo del collegamento del pacemaker ad una strumentazione esterna (il c.d. programmatore, ovvero un computer dedicato in ambiente ospedaliero) sotto il diretto controllo del personale medico, chiamato a decidere, in base ai risultati del test, le azioni di stimolazione da far eseguire al pacemaker in modo temporaneo e sempre sotto supervisione.

Il Consiglio di Stato ha ritenuto che l’appellante ALFA fosse nel giusto.

Infatti nel caso di specie per ottenere la fornitura di un dispositivo con elevato grado di automazione non occorreva che l’amministrazione facesse espresso riferimento a elementi di intelligenza artificiale, essendo del tutto sufficiente, anche in considerazione della peculiarità del prodotto (pacemaker dotati, per definizione, di una funzione continuativa di “sensing” del ritmo cardiaco e di regolazione dello stesso), il riferimento allo specifico concetto di algoritmo, ossia ad istruzioni capaci di fornire un efficiente grado di automazione, ulteriore rispetto a quello di base nell’area del trattamento delle tachiaritmie atriali.

I pacemakers moderni e di alta fascia sono infatti dotati di un numero sempre maggiore di parametri programmabili e di algoritmi specifici progettati per ottimizzare la terapia di stimolazione in rapporto alle caratteristiche specifiche del paziente.

Dall’esame degli atti di causa emergeva in conclusione che la funzione offerta da BETA deve qualificarsi come test elettrofisiologico attivabile solo presso ambulatori cardiologici attraverso un programmatore esterno ed utilizzato dall’operatore clinico per assumere temporaneamente il controllo del pacemaker e per impartire, sulla base della valutazione in tempo reale del ritmo cardiaco, una sequenza di stimoli da erogare a scopo terapeutico.

Tale funzione non consente di correggere automaticamente le aritmie al momento dell’insorgere della disfunzione.

A nulla vale osservare, prosegue il Consiglio di Stato, come pure ha fatto BETA che anche il test offerto funziona sulla base di un algoritmo interno; siffatto algoritmo, che sovrintende al test diagnostico, non interviene in funzione di automazione delle funzioni di trattamento delle tachiaritmie atriali come richiesto dall’amministrazione, e dunque correttamente l’amministrazione non lo ha considerato ai fini del punteggio.

Alla luce di tali considerazioni il Consiglio di Stato ha accolto il ricorso.

Richiamata tale sentenza di portata “storica” ed evidenziato che il punto centrale della questione è rappresentato dal fatto che un algoritmo di intelligenza artificiale può “assumere decisioni” imparando a partire dal mondo esterno, iniziamo a domandarci quale ruolo potrà avere l’intelligenza artificiale nel mondo degli appalti.

L’intelligenza artificiale potrà ad esempio esercitare un ruolo importante con riferimento alla cd. giustizia predittiva, espressione con la quale si intende la capacità da parte di sistemi tecnologici di formulare ipotesi di natura probabilistica sugli esiti di casi giudiziari, sulla base di una grande quantità di dati tratti da precedenti simili.

L’intelligenza artificiale può così rappresentare un salto di qualità nell’ambito delle attività di ricerca di precedenti giurisprudenziali utili ai fini di operare le scelte che abbiano maggiori probabilità di risultare vincenti.

Sulla questione è sin troppo noto che un prezioso supporto alle decisioni della stazione appaltante (si pensi a titolo esemplificativo all’adozione di un provvedimento di esclusione dalla gara) possa essere rappresentato da una conoscenza approfondita della giurisprudenza, e ciò anche se nel nostro sistema giuridico il precedente giurisprudenziale non è vincolante per le decisioni attuali del giudice. Il precedente giudiziario non ha infatti il valore dell’“ipse dixit” aristotelico e spesso sono presenti orientamenti nell’interpretazione della normativa che variano da un giudice all’altro: un dato che emerge talvolta è certamente la difformità di pronunce sulle medesime questioni. Inoltre la giurisprudenza è in continua evoluzione, per cui non ci sono mai certezze assolute su ciò che può considerarsi legittimo o illegittimo. Un’attenta e approfondita conoscenza del materiale giurisprudenziale rappresenta tuttavia un supporto prezioso per prendere con maggior serenità decisioni importanti.

Nelle sentenze dei giudici amministrativi sono stati esaminati e decisi innumerevoli casi concreti che possono essere simili, se non identici, ad un caso che deve essere affrontato oggi.

Pur in assenza di certezze, raccogliendo una gran numero di sentenze è possibile elaborare enormi quantità di dati per mezzo dei quali operare previsioni di natura probabilistica e quindi decidere tra le varie possibili opzioni. Attraverso l’intelligenza artificiale la macchina stessa può suggerire all’essere umano la decisione da prendere. È cioè la macchina che, attraverso procedimenti di elaborazione interni, giunge ad una decisione; decisione che può essere poi condivisa dall’essere umano o rifiutata.

Attualmente lo scenario non è quello sopra descritto; oggi possiamo collegarci al sito internet del Consiglio di Stato e tramite un motore di ricerca cercare e selezionare le sentenze che interessano attraverso parole chiave e operatori logici. Spetta poi soltanto all’essere umano elaborare e interpretare tali dati per pervenire a considerazioni di carattere probabilistico. Con l’intelligenza artificiale tale ultimo passaggio (al pari dei precedenti) può sostanzialmente essere automatizzato. La macchina può cioè da sola elaborare i dati in modo tale da pervenire ad un giudizio di natura probabilistica.

Nel mondo delle pubbliche gare, l’intelligenza artificiale potrebbe altresì essere utilizzata in tutte le fasi attraverso le quali si articola la procedura di scelta del contraente: ad esempio per la redazione iniziale degli atti di gara, compresi gli schemi di contratto; o anche nella fase di selezione e valutazione delle offerte, non solo per l’esame della documentazione amministrativa, ma anche per l’assegnazione dei punteggi nel caso di aggiudicazione in base al criterio dell’offerta economicamente più vantaggiosa. Tutta una serie di operazioni, anche di natura discrezionale, attraverso le quali si articola il procedimento amministrativo e che oggi richiedono l’intervento umano potrebbe cioè essere delegata (almeno in parte) alla macchina.

Trattasi di un processo ormai avviato ed inarrestabile che anche recentemente ha segnato significativi passi in avanti. Si pensi a titolo esemplificativo alla recente approvazione da parte dell’Anac della realizzazione del “Fascicolo digitale” per gli operatori economici, teso a favorire la riduzione degli oneri per gli operatori del settore, in applicazione di una delle misure di semplificazione in materia di contratti pubblici previste dal PNRR e dal D.L. n. 77/2021.

Tale fascicolo “consentirà alle stazioni appaltanti di utilizzare gli accertamenti già effettuati da un’altra stazione appaltante per ammettere l’operatore economico alla gara, velocizzando l’attività di verifica dei requisiti generali (white list)…obiettivo è quello di rendere quasi automatizzata la verifica dei requisiti, permettendo alle Stazioni appaltanti e alle imprese di concentrarsi sulla strategia di acquisto invece che sulle procedure e sugli aspetti formali” (vedasi il Comunicato del Presidente Anac del 29.11.2021).

Se ciò è possibile, si impone una riflessione su quelle che devono essere le regole del gioco che presidiano tale utilizzo.

Su ciò la giurisprudenza amministrativa ha già avuto modo di pronunciarsi e dunque alcune coordinate possono essere tracciate, quantomeno con riferimento alle cd. decisioni algoritmiche (in cui non necessariamente si ha l’impiego di strumenti di intelligenza artificiale). Si tratta invero di coordinate disegnate con riferimento ad altre materie, ma che tuttavia possono essere utili, essendo riferibili al procedimento amministrativo in generale, quindi anche a quel procedimento amministrativo particolare rappresentato da una pubblica gara.

Nella sentenza del Consiglio di Stato n. 2270 dell’8.4.2019 il caso scrutinato dal giudice concerneva dei docenti della scuola secondaria che avevano presentato domanda al Ministero della Pubblica Istruzione per l’assunzione a tempo indeterminato e che, in conseguenza della procedura, si erano ritrovati assegnati a province lontane rispetto a quella di residenza.

In particolare, la contestazione riguardava l’esito della procedura che, svolta sulla base di un algoritmo di cui non si conoscevano le concrete modalità di funzionamento, aveva disposto i trasferimenti senza tener conto delle preferenze espresse dagli interessati, pur in presenza di posti disponibili nelle province richieste.

In altro ricorso similare il Consiglio di Stato (sentenza n. 8474 del 13.12.2019) si era occupato di un caso nel quale dei docenti immessi in ruolo impugnavano la procedura nazionale di mobilità adottata dal Ministero.

Il giudice, in entrambe tali pronunce, ha innanzitutto riconosciuto gli indiscutibili vantaggi derivanti dalla automazione del processo decisionale dell’amministrazione mediante l’utilizzo di una procedura digitale ed attraverso un “algoritmo”. Specificando altresì che, se nel caso dell’attività vincolata il ricorso a strumenti di automazione della raccolta e valutazione dei dati ben può essere rilevante, anche l’esercizio di attività discrezionale, in specie tecnica, può in astratto beneficiare delle efficienze e, più in generale, dei vantaggi offerti dagli strumenti stessi.

Fatta questa premessa, ha tuttavia evidenziato che l’utilizzo di procedure “robotizzate” non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa. Difatti, la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, e come tale deve soggiacere ai principi generali dell’attività amministrativa, quali quelli di pubblicità, trasparenza, ragionevolezza, proporzionalità, ecc…; la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è comunque da rintracciarsi al momento dell’elaborazione dello strumento digitale.

La conseguenza è che il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”.

Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dal procedimento usato per la sua elaborazione al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti.

Ciò al fine di poter verificare, anche attraverso la cognizione del giudice amministrativo, che gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento, affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato; per poter insomma verificare la correttezza del processo informatico in tutte le sue componenti: dalla sua costruzione, all’inserimento dei dati, alla loro validità, alla loro gestione.

In tale contesto, non può assumere rilievo la riservatezza delle imprese produttrici dei meccanismi informatici utilizzati le quali, ponendo al servizio del potere autoritativo tali strumenti, ne accettano le relative conseguenze in termini di necessaria trasparenza.

Nei casi presi sopra in esame sussisteva la violazione dei principi di imparzialità, pubblicità e trasparenza, poiché non era dato comprendere per quale ragione le legittime aspettative di soggetti collocati in una determinata posizione in graduatoria fossero andate deluse.

L’impossibilità di comprendere le modalità con le quali, attraverso l’algoritmo utilizzato, fossero stati assegnati i posti disponibili, costituisce quindi secondo il giudice amministrativo di per sé un vizio tale da inficiare la procedura.

Il Consiglio di Stato ha inoltre evidenziato come l’impiego di strumenti di intelligenza artificiale comporti una serie di scelte e di assunzioni tutt’altro che neutre: l’adozione di modelli predittivi e di criteri in base ai quali i dati sono raccolti, selezionati, sistematizzati, ordinati e combinati, la loro interpretazione e la conseguente formulazione di giudizi sono tutte operazioni frutto di precise scelte e di valori, consapevoli o inconsapevoli; ne consegue che tali strumenti sono chiamati ad operare una serie di scelte, che dipendono in gran parte dai criteri scelti e dai dati di riferimento utilizzati. Nel caso in cui una decisione automatizzata produca effetti giuridici che riguardano una persona”, questa ha diritto a che tale decisione non sia basata unicamente su un processo automatizzato. Deve comunque esistere nel processo decisionale un intervento umano capace di controllare, validare ovvero smentire la decisione automatica (cd. Human in the loop).

Il Consiglio di Stato nella sua giurisprudenza ha accennato anche ad altre problematiche.

Dal considerando n. 71 del Regolamento 679/2016 il diritto europeo trae un ulteriore principio fondamentale, di non discriminazione algoritmica, secondo cui è opportuno che il titolare del trattamento utilizzi procedure matematiche o statistiche appropriate per la profilazione, mettendo in atto misure tecniche e organizzative adeguate al fine di garantire, in particolare, che siano rettificati i fattori che comportino inesattezze dei dati e sia minimizzato il rischio di errori, anche al fine di garantire la sicurezza dei dati personali. Con ciò ponendosi secondo il Consiglio di Stato anche un problema di gestione dei relativi dati, anche in applicazione del Regolamento europeo in materia.

Quanto precede secondo una modalità che tenga conto dei potenziali rischi esistenti per gli interessi e i diritti dell'interessato e che impedisca tra l'altro effetti discriminatori nei confronti di persone fisiche, sulla base della razza o dell'origine etnica, delle opinioni politiche, religiose o delle convinzioni personali, dell'appartenenza sindacale, dello status genetico, dello stato di salute o dell'orientamento sessuale.

Richiamando quanto scritto sopra, gli strumenti di intelligenza artificiale possono essere utilizzati non solo per predire sentenze (da parte degli operatori), ma anche per produrre le sentenze stesse (da parte del sistema giudiziario), facendosi guidare da precedenti simili. Ciò avviene abitualmente in alcuni stati degli Stati Uniti d’America, dove il metodo ha mostrato anche i suoi limiti dando luogo ad accesi dibattiti, come nel noto caso Compas.

L’algoritmo Compas (Correctional Offender Management Profiling for Alternative Sanctions) è stato utilizzato nell’ambito del processo penale per calcolare le probabilità di recidiva dell’imputato, così da determinare la pena più appropriata. In tale contesto sono state analizzate le distorsioni che i cd. “bias” (ossia pregiudizi, nel caso Compas di tipo razziale) possono provocare nel funzionamento dell’algoritmo. Tale precedente ci ricorda dunque che la cd. giustizia predittiva deve essere utilizzata con la consapevolezza dei potenziali rischi che essa può comportare.

In definitiva, dunque, l’algoritmo, secondo la prospettazione del giudice di palazzo Spada, quando utilizzato dalla pubblica amministrazione deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”, con applicazione ad esso delle tradizionali regole giuridiche che presidiano tale concetto. Regole che ben dovranno trovare applicazione quando l’intelligenza artificiale comincerà a trovare significative applicazioni nel settore delle pubbliche gare.

(1) Si è preferito semplificare il riferimento ai criteri di aggiudicazione presenti nella lex specialis di gara operando una piccola modifica per agevolare il lettore. Più precisamente infatti il capitolato tecnico indicava il parametro tabellare “Algoritmo di prevenzione+trattamento delle tachiaritmie atriali” al quale assegnare 15 punti per l’ipotesi di presenza di entrambi gli algoritmi e 7 punti nel caso di “presenza del solo algoritmo di prevenzione o del solo trattamento delle tachiaritmie atriali”.