Non hanno idea di come funzioni

In Italia esistono diversi algoritmi che regolano in maniera più o meno automatica la vita dei cittadini e nessun registro che li cataloghi e che ne tracci l’utilizzo: l’associazione Privacy Network ha provato a crearne uno, partendo dal basso, per delineare l’uso delle intelligenze artificiali e monitorarne eventuali abusi da parte della Pubblica Amministrazione, nella speranza che prima o poi qualcuno decida di regolamentarne sviluppo e fruizione.

Con Privacy network ci siamo chiesti quanti e quali fossero i sistemi di questo tipo attivi nel nostro paese. Andiamo per tentativi, rintracciando le notizie sui giornali che ne parlano e poi facendo una richiesta di accesso agli atti (prevista dalla normativa del 2016 chiamata anche in Italia Freedom of information act, o Foia), per ottenere informazioni più specifiche da ogni ente. Spesso non riusciamo a ottenere risposta perché le persone che ci lavorano non hanno idea di come funzioni.

Io, preoccupato ma ottimista insieme, non ho nessuna remora sull’utilizzo di algoritmi di IA per supportare la PA nel carico di lavoro e nel prendere decisioni, ma sono assolutamente sfiduciato dalla mancanza di regolamentazione, di responsabilità e di controllo. Inoltre, visti i margini di errore e i bias che un software basato su modelli probabilistici potrebbe portarsi dietro, chi assicura una corretta verifica in fase di selezione dell’output?

Infine, chi ci avvisa che le cose che ci riguardano potrebbero essere decise in maniera automatica sulla base dei nostri dati?

Quel che è certo è che quando sarà, sarà oramai troppo tardi.