Vai al contenuto

Verso una politica dell’automazione

“Le nuove leggi della robotica” di Frank Pasquale, professore della Brooklyn Law School e già autore del libro “Black Box Society”, contengono un invito a definire una vera e propria politica dell’automazione a partire dalla condivisione di alcune leggi universali volte a regolamentare il rapporto tra uomini e macchine.

“’Le nuove leggi della robotica’ è un progetto scaturito in modo naturale da ‘Black Box Society’. Black Box era soprattutto un lavoro critico, mentre ‘Le nuove leggi’ cerca di proporre una visione per integrare meglio la tecnologia nella società”: con questa frase si conclude “Le nuove leggi della robotica”, il libro di Frank Pasquale pubblicato in Italia a giugno 2021 da Luiss University Press e che si presenta come un ambizioso tentativo di stimolare la creazione di una nuova “politica dell’automazione” a partire da una serie di quattro leggi fondamentali che si richiamano – solo nel nome – alle celeberrime “leggi” di Isaac Asimov del 1942. Ben più concrete, le “nuove leggi” di Frank Pasquale puntano a regolamentare l’applicazione di robot, intelligenze aumentate e intelligenze artificiali (IA e AI, nell’acronimo inglese) in settori quali salute, istruzione, giustizia, moderazione di contenuti, lavoro, guerre e conflitti, in base a quattro principi fondamentali:

  1. I sistemi robotici e le AI devono essere complementari ai professionisti e non sostituirli
  2. I sistemi robotici e le AI non devono contraffare l’umanità
  3. I sistemi robotici e le AI non devono intensificare una somma agli armamenti a somma zero
  4. I sistemi robotici e le AI devono sempre indicare l’identità dei loro creatori, controllori e proprietari

Oltre la dicotomia uomo/macchina ispirata dalla fantascienza

L’approccio propositivo del libro di Frank Pasquale ritorna più volte nel corso delle oltre 300 pagine del libro, pur con le difficoltà derivanti dal tentativo di mantenere una prospettiva globale su tecnologie e usi delle tecnologie che spesso globali non sono o che difficilmente potrebbero diventarlo a breve termine (come il “social credit system” di matrice cinese). Nondimeno, viene compiuto un passo importante nell’andare oltre la dicotomia tra robot ed esseri umani, rappresentati spesso dai media come entità inconciliabili e impegnate in una fantascientifica lotta per il predominio o la sopravvivenza dell’uno o dell’altro. “Giornalisti e opinione pubblica – scrive Frank Pasquale – vedono gli algoritmi come un mostro di Frankenstein impossibile da controllare. Pertanto, YouTube può dare oggi la colpa di qualunque cosa vada storta all’inafferrabile moltitudine di creatori di contenuti” con la “studiata irresponsabilità” che è comune a tante piattaforme digitali quando si tratta di moderazione di contenuti.

Dietro ogni algoritmo ci sono uno o più “responsabili” da individuare

In questo contesto, Frank Pasquale non manca mai di sottolineare come dietro alle più oscure e imprevedibili “black box” algoritmiche vi siano in realtà una serie di figure professionali con compiti decisionali, di ricerca e sviluppo o di pura manovalanza digitale: da coloro che sono incaricati di raccogliere i dati a coloro che devono filtrarli per l’addestramento delle intelligenze artificiali, dai finanziatori delle ricerche ai ricercatori stessi che collaborano con aziende interessate a servirsi delle nuove tecnologie per scopi potenzialmente nocivi per la società nel suo insieme o determinate comunità di persone. “Il diritto non è un percorso a ostacoli da superare – scrive Pasquale – per fare in modo che gli ingegneri liberino l’umanità dai suoi mali”. Al contrario, secondo l’autore delle “Nuove leggi della robotica”, una vera politica dell’automazione dovrebbe “rendere sempre possibile risalire ai responsabili dei progetti algoritmici dietro la nostra vita quotidiana e limitare le corse agli armamenti per l’automazione a somma zero”.

“Le nuove leggi della robotica” di Frank Pasquale (Luiss University Press, 2021)

L’automazione del settore militare e quella catena di comando “invisibile”

Tra i tanti settori in corso di “automazione” analizzati nel corso del libro, quello più pericoloso per le conseguenze che l’adozione di robot e intelligenze artificiali potrebbero innescare è proprio il settore militare, a prescindere dal fatto che armi automatiche, droni e altri strumenti bellici siano guidati a distanza da un operatore umano o del tutto resi autonomi grazie all’uso dell’intelligenza artificiale. Tramontata anzitempo l’illusione di conflitti incruenti tra macchine-soldato, l’automazione di dispositivi e tattiche belliche da parte degli Stati di tutto il mondo porta con sé rischi imprevedibili sia per i soldati, aggrediti da un drone privo di qualsiasi residuo di “pietà” umana, sia per i civili inermi, che potrebbero essere identificati come potenzialmente pericolosi da un software progettato, costruito, acquistato e infine azionato da una serie di professionisti diversi, senza che sia possibile ricostruire con certezza questa nuova catena di comando invisibile e distante dai campi di battaglia. La nuova quarta legge della robotica, in questo senso, che richiede di identificare con precisione “creatori, controllori, proprietari” di robot e AI potrebbe rivelarsi determinante nei prossimi anni quando i sistemi militari, “dopo essere stati impiegati in battaglia” potrebbero essere adottati sul “fronte interno” di Paesi democratici e non per motivi di “ordine pubblico“.

I lavoratori stessi devono essere messi in condizione di poter dare l’allarme

Ogni politica dell’automazione, in questo senso, deve partire dalla consapevolezza che non esiste più un limite definito tra l’utilizzo di determinate tecnologie in ambito bellico e l’uso delle stesse tecnologie nella repressione delle manifestazioni popolari, tra l’uso di tecnologie di sorveglianza dei criminali e l’uso delle medesime tecnologie nella sorveglianza dei lavoratori all’interno di luoghi di lavoro, tra l’utilizzo di sistemi automatici nel campo dell’educazione e apprendimento dei bambini e l’uso degli stessi sistemi nella festione del flusso di informazioni automatizzato dei social media. “Le quattro nuove leggi della robotica servono a stabilire diritti applicabili al controllo, all’intervento e alla responsabilità degli esseri umani. Senza i quali rischiamo di diventare strumenti dei nostri strumenti, o meglio strumenti delle persone che nelle aziende e nei governi controllano AI e robotica”. Perché questo passaggio si compia, tuttavia, non bastano gli interventi legislativi: è necessario mettere cittadini, giornalisti e lavoratori stessi, impiegati a vario titolo e spesso in misura marginale nello sviluppo di nuovi robot e AI potenzialmente nocive, nelle condizioni di poter “dare l’allarme e ribellarsi contro un uso eccessivo della tecnologia, all’interno o all’esterno della propria azienda”, e che questo allarme possa essere raccolto prima che sia troppo tardi.

Enti normativi indipendenti e pene reali per chi infrange le regole

Solo accennato sul finire del libro, infine, è il ruolo che dovrebbero avere gli “enti normativi indipendenti e finanziati in modo adeguato in grado di far applicare le norme“, così come non vengono definite nello specifico quelle che dovrebbero essere le “pene reali per chi infrange” le nuove leggi della robotica. Il tema, tuttavia, è di importanza cruciale se non vogliamo che l’automazione e digitalizzazione della società prosegua incontrollata: sempre più spesso, infatti, negli ultimi anni abbiamo sentito parlare di processi in corso e colossali “multe” – per lo più solo minacciate – inflitte ai vari Facebook, Google, Amazon, Apple e ad altre aziende di minori dimensioni ma altrettanta rilevanza nel loro settore di attività, in seguito ad abusi e omissioni di vario tipo. Processi e multe che, tuttavia, lasciano inevasa la questione della responsabilità individuale e di gruppo nello sviluppo di tecnologie che qualcuno ha pensato, qualcun altro ha costruito e qualcun altro ancora ha finanziato e approvato nella totale impunità, sfruttando a proprio vantaggio l’illusione che lo sviluppo tecnologico sia ormai diventato incontrollabile e imprevedibile, come un “mostro” resuscitato a nuova vita e sfuggito alla sorveglianza del suo “Frankenstein“.

Frank Pasquale e Le nuove leggi della robotica: intervento in diretta streaming al Politecnico di Torino.

Puoi seguire “Umanesimo Digitale” anche sui social:

1 commento »

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...