Intelligenza ArtificialeL’utilizzo di un software nel procedimento di formazione della decisione amministrativa, nel quale vengono immessi una serie di dati per giungere, attraverso l’automazione della procedura, alla decisione finale è una procedura che non deve essere stigmatizzata, ma incoraggiata, perché comporta numerosi vantaggi quali la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario e la conseguente maggior garanzia di imparzialità della decisione automatizzata.
Tuttavia, per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica devono essere rispettati il principio di piena conoscibilità a monte del modulo utilizzato e dei criteri applicati (ovvero i suoi autori, il procedimento usato per la sua elaborazione e il meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti) e di imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo. L’articolo 22, paragrafo 1 Regolamento UE 2016/679, infatti, riconosce alla persona il diritto di non essere sottoposta a decisioni automatizzate prive di un coinvolgimento umano e che, allo stesso tempo, producano effetti giuridici o incidano in modo analogo sull’individuo, per cui occorre sempre l’individuazione di un centro di imputazione e di responsabilità, che sia in grado di verificare la legittimità e logicità della decisione dettata dall’algoritmo.
Pertanto, l’impossibilità di comprendere le modalità con le quali opera l’algoritmo costituisce di per sé un vizio tale da inficiare la procedura.
The use of software in the administrative decision making procedure, in which series of data are used to arrive, through an automation procedure, at the final decision, is a procedure that should not be stigmatised, but encouraged, because it has many advantages such as the considerable reduction in procedural time for purely repetitive and non-discretionary operations, the exclusion of interference due to negligence (or worse, malice) of the official and the consequent greater guarantee of impartiality of the automated decision.
However, for each hypothesis of use of algorithms in public decision-making, the principle of full knowledge of the form used and the criteria applied (i.e. its authors, the procedure used for its elaboration and the decision-making mechanism, including the priorities assigned in the evaluation and decision-making procedure and the data selected as relevant), as well as the principle of imputability of the decision to the body holding the power, must be respected. Therefore, the body holding the power must be able to carry out the necessary verification of the logic and legitimacy of the choice and the results entrusted to the algorithm. Article 22(1) EU Regulation 2016/679, in fact, recognizes the right of the person not to be subject to automated decisions without human involvement and which, at the same time, produce legal effects or affect in a similar way the individual, so it is always necessary to identify a centre of imputation and responsibility, which is able to verify the legitimacy and logicality of the decision dictated by the algorithm.
Therefore, the impossibility of understanding the way in which the algorithm operates is in itself a flaw that is such as to invalidate the procedure.