Responsabile del dipartimento Advocacy di Privacy Network, sostenitrice dell’etica tecnologica e dei diritti digitali, Diletta Huyskes racconta le premesse e gli obiettivi del primo Osservatorio sull’Amministrazione Automatizzata in Italia e in Europa.
Riprendendo le parole di Alondra Nelson, Frank Pasquale nel suo ultimo libro sulle “Nuove leggi della robotica” sottolinea più volte l’importanza di fare “ricerca sociale preventiva” con l’obiettivo di “dare forma al progresso tecnologico, e non solo rispondere a esso“. È lo stesso sogno, se così è possibile chiamarlo, che muove l’azione a tutto campo di Diletta Huyskes e che ha portato la responsabile del dipartimento Advocacy di Privacy Network, autrice e dottoranda in sociologia digitale all’Università di Milano, a realizzare con il suo team il primo Osservatorio Amministrazione Automatizzata in Italia e in Europa per la mappatura delle tecnologie e dei processi decisionali automatizzati adottati dalla pubblica amministrazione nel nostro Paese. “Come cittadine e cittadini – dichiara – abbiamo sentito il bisogno di farlo”.
“Ogni tecnologia applicata nell’ambito pubblico può avere conseguenze indesiderate, non solo quella basata su intelligenza artificiale”
“Il nostro obiettivo – racconta Diletta Huyskes durante la nostra conversazione telefonica – è quello di mappare ogni tipo di processo automatizzato in funzione presso la pubblica amministrazione italiana, a prescindere dalla presenza o meno di tecnologie di intelligenza artificiale. Anche le tecnologie meno sofisticate, infatti, possono costituire un fattore di rischio per le persone a cui sono rivolte, tanto più se queste sono del tutto ignare della loro presenza (come nel caso del riconoscimento facciale nelle strade pubbliche). In questo senso, con il nostro Osservatorio abbiamo voluto anticipare un bisogno di trasparenza che nei prossimi anni porterà inevitabilmente alla nascita di strumenti simili, già previsti dai regolamenti europei”.
Oltre un anno di lavoro preparatorio per la nascita del primo Osservatorio Amministrazione Automatizzata, grazie al team Advocacy di Privacy Network
L’idea dell’Osservatorio Amministrazione Automatizzata risale non a caso all’inizio del 2021, quando la responsabile di Privacy Network si è interessata a vario titolo di esempi di automazione nel processo decisionale giunti all’attenzione dell’opinione pubblica italiana ed europea. Dagli infiniti dibattiti sulle decisioni “algoritmiche” dietro al sistema a colori delle regioni italiane allo scandalo olandese sui sussidi dell’infanzia, che ha portato alle dimissioni del premier Mark Rutte, Diletta Huyskes ha individuato nella assoluta mancanza di trasparenza nell’utilizzo di tecnologie da parte delle pubbliche amministrazioni un problema cruciale per la nostra società. Da qui è nata l’idea di realizzare un vero e proprio Osservatorio nazionale, sulla falsariga dei “registri sulla trasparenza” adottati da Helsinki e Amsterdam.
Dalla cultura al fisco, dall’istruzione ai trasporti: le tecnologie di sorveglianza e decisione automatizzata riguardano tutti i settori della società
Da ShareArt adottata nei musei di Bologna per sorvegliare il comportamento dei visitatori a Respondus per la sorveglianza degli studenti durante gli esami universitari online, da Sari adottata dal Ministero dell’Interno per il riconoscimento facciale a Seamless Flow per l’identificazione biometrica negli aeroporti, il team di Advocacy di Privacy Network guidato da Diletta Huyskes ha svolto lavorato intensamente per quasi un anno con l’obiettivo di identificare alcune tra le più diffuse, invasive e scarsamente documentate tecnologie di sorveglianza adottate in uffici e luoghi pubblici. “Non ci sono documenti, non ci sono informazioni, non ci sono comunicazioni facilmente reperibili in Rete o sui media – ammette Diletta – Sembra che tanto più queste tecnologie condizionano la vita delle persone, tanto meno vengono comunicate e dibattute in pubblico”.
Tutti possono contribuire al lavoro di mappatura e di inchiesta dell’Osservatorio Amministrazione Automatizzata tramite l’invio di segnalazioni spontanee a Privacy Network
Tutti possono contribuire alla mappatura dell’Osservatorio. Tutti possono inviare una segnalazione e chiedere al team di Privacy Network di effettuare le opportune verifiche e, se necessario, ricorrere al Garante della Privacy per investigare sull’adozione di tecnologie invasive o potenzialmente dannose per la sicurezza e i diritti di qualsiasi persona. “Mi auguro che nel futuro l’Osservatorio possa contribuire a stimolare una discussione aperta e trasversale in tutti i settori della società – continua la responsabile del team di Advocacy di Privacy Network – Come abbiamo più volte sottolineato nel Manifesto legato all’Osservatorio, infatti, la mappatura dei sistemi automatizzati in uso presso la pubblica amministrazione è solo il primo passo per riflettere e mettere in discussione le procedure di adozione, i criteri con cui vengono realizzate e sperimentate queste tecnologie, le persone a cui sono rivolte e le modalità per prevenire gli abusi”.
Secondo Diletta Huyskes, è necessario sviluppare modelli di valutazione del rischio prima di adottare qualsiasi tecnologia o processo anche solo parzialmente automatizzato
Se a livello europeo è tuttora in corso il dibattito sull’introduzione di valutazioni di impatto sui sistemi di intelligenza artificiale “ad alto rischio”, a livello nazionale è necessario individuare e prevenire la diffusione di sistemi automatizzati caratterizzati da forme di rischio variabili ma non per questo meno problematiche. “Oltre alla formazione e informazione per i cittadini – commenta Diletta Huyskes – è necessario intervenire all’origine del problema, ovvero considerare le ricadute di una determinata tecnologia prima della sua adozione e in molti casi ancora prima della sua progettazione. Oggi più che mai è necessario sviluppare modelli di valutazione del rischio per qualsiasi strumento che contempli anche solo in parte il venir meno dell’intervento umano: anche perché, come dimostrano le recenti sentenze sull’adozione di sistemi di riconoscimento facciale in molti comuni italiani, spesso gli enti pubblici investono considerevoli risorse in tecnologie che poi sono costretti a dismettere solo dopo pochi mesi per ripetute violazioni del GDPR”.
Gli utenti della PA non sono consumatori, né semplici utenti: sono cittadini che devono conoscere e decidere sul destino delle tecnologie a loro destinate
Il futuro, tuttavia, non coincide per forza con un mondo senza tecnologia o con il minor livello di automazione possibile: semmai, è opinione di Diletta Huyskes che quest’ultima possa rivestire un ruolo importante nel miglioramento dei processi della PA ma a condizione di non basarsi solo su una logica di risparmio dei costi, siano essi di personale o di strumentazione. “Queste tecnologie non sono destinate a scomparire nel breve, come non lo sono le premesse che hanno portato alla loro nascita – conclude – ma per diventare davvero utili ai cittadini dovranno essere progettate sulla base di specifiche esigenze di questo o quel territorio, sulla base dei dati e delle caratteristiche di questa o quella popolazione di destinatari. Non potranno più, quindi, basarsi su economie di scala, né tantomeno su processi non trasparenti come è avvenuto finora: chi fa uso dei servizi della PA è un cittadino, ancora prima che un utente o un cliente, e ha il diritto di essere informato e che la sua opinione venga ascoltata”.
