Appunti e riflessioni su “L’Algoritmo Definitivo”, il libro di Pedro Domingos pubblicato in Italia da Bollati Boringhieri e dedicato alla storia e alle evoluzioni recenti del machine learning.

 

“Ci preoccupiamo che i computer possano diventare troppo intelligenti e si impadroniscano del mondo, ma il problema reale è che sono troppo stupidi e il mondo è già nelle loro mani”: la frase si legge solo nelle pagine finali di “L’Algoritmo Definitivo” di Pedro Domingos (traduzione italiana di “The Master Algothm”, pubblicata da Bollati Boringhieri) ed è, forse, una delle migliori chiavi di lettura degli sfasamenti tra realtà e promesse del mondo contemporaneo.

Un mondo in cui gli algoritmi descritti da Domingos sono già al lavoro senza che la maggior parte di noi si renda conto non solo del loro funzionamento, ma neppure della loro presenza, e i cui errori e approssimazioni determinano comunque, nel bene e nel male, le nostre decisioni più futili (come scegliere un film su Netflix) e quelle più importanti.

[youtube https://www.youtube.com/watch?v=B8J4uefCQMc]

Siamo ciò che i computer sanno di noi

Opera complessa e affascinante, che riassume in poco più di trecento pagine qualche decennio di storia di machine learning e delle cinque scuole di pensiero  (simbolisti, analogisti, connessionisti, bayesiani, evoluzionisti) di questa disciplina derivata dall’Intelligenza Artificiale, “L’Algoritmo Definitivo” si conclude lasciando aperte molte più domande di quelle a cui ha saputo dare una risposta.

Esseri intelligenti ma non perfetti, prevedibili ma non facilmente classificabili, noi uomini stiamo entrando in un’epoca in cui prenderemo sempre più spesso decisioni sulla base di feedback ricevuti da macchine che interpretano i nostri dati come uno specchio della nostra volontà.

Ogni nostra azione virtuale comporta delle conseguenze sulle azioni successive sulla base del modo in cui le macchine interpretano i nostri comportamenti. E se questa comprensione del nostro agire può essere più o meno lontana dalla verità, è anche vero che la nostra identità digitale solo raramente coincide appieno con quella che è la nostra identità nel mondo reale.

Il modo in cui ci atteggiamo su Facebook è diverso da quello che usiamo su Snapchat, e le ricerche che compiamo su Google dal computer di lavoro non sono per forza le stesse che facciamo dal tablet di casa: siamo la stessa persona, ma non c’è nessuna azienda in questo momento che sia in grado di ottenere tutti questi dati per ricostruire un modello di noi come consumatori (o come elettori, per le aziende che supportano le campagne elettorali dei candidati alle elezioni) che sia quanto più vicino possibile a quello che siamo realmente.

“Nel mondo odierno – scrive Domingos – anche i computer stanno iniziando ad avere delle teorie della mente. La vita è una partita tra noi e gli algoritmi di apprendimento di cui siamo circondati. Possiamo rifiutarci di giocare, e vivere una vita da XX secolo trovandoci nel XXI secolo, oppure giocare per vincere. Che modello di voi stessi volete dare al computer?”. Una domanda che solleva dubbi più che legittimi, dal momento che la maggior parte di noi è del tutto all’oscuro di come veramente funzionino gli algoritmi di apprendimento delle diverse aziende e istituzioni che trattano i nostri dati.

Efficaci, ma non perfetti: perché gli algoritmi ci somigliano

Il tema del trattamento dei dati personali e della loro concentrazione all’interno di database universali è un tema trattato solo di sfuggita da Domingos ma che, per sua stessa ammissione, è quello da cui dipende il successo o meno dei suoi algoritmi “quasi” definitivi.

Algoritmi che, come ricorda anche un articolo di slate.com dedicato al libro di Domingos, “sono raramente perfetti e performano al meglio quando la tolleranza all’errore è più elevata, come nel caso dei risultati di ricerca e delle raccomandazioni di film”.

Errori che in parte vengono spiegati dal fatto che questi algoritmi abbiano tuttora un disperato bisogno di dati per imparare. E questo non sempre è sufficiente, perché il modo in cui noi esseri umani interagiamo con le macchine connesse alla Rete rispecchia il modo in cui ci poniamo nei confronti degli altri esseri umani: siamo ambigui nelle nostre espressioni scritte, contraddittori nel modo in cui prendiamo una decisione, emotivi per come scegliamo o non scegliamo di esporci.

La dispersione dei dati e la difficoltà a convincere le persone a condividere in Rete più di quanto già esse non facciano spontaneamente se da un lato è tra le probabili cause della difficoltà di individuazione di una cura per le malattie ancora invitte (come i tumori) dall’altro è quello che ci mette al riparo da un mondo in cui “avremo tutti un entourage di bot che ci semplificherà la vita. Si faranno proposte commerciali, si negozieranno i termini dei contratti, si faranno programmi senza che voi dobbiate sollevare un dito… Vi segnaleranno i posti di lavoro e i luoghi di vacanza più interessanti, vi consiglieranno sul candidato da votare alle prossime elezioni e selezioneranno per voi le persone con cui uscire la sera”. Scenario poco rassicurante, tenendo conto dell’approssimazione inevitabile con cui la nostra volontà sarà interpretata dalle macchine.

Infine, è utile sottolineare che gli stessi algoritmi che oggi aiutano Amazon a consigliarci il prodotto migliore, a Netflix un film che potremmo apprezzare, a Facebook un contenuto su cui potremmo fare click o mettere il nostro prezioso “mi piace”, un domani potrebbero essere quelli che daranno a un drone la capacità di decidere autonomamente se uccidere o meno un bersaglio umano. E per autonomamente intendo sulla base di un processo di apprendimento ideato dall’uomo ma non più dipendente dalla volontà di un solo essere umano (il programmatore del robot, o il pilota del drone).

L’algoritmo definitivo di Pedro Domingos, in sintesi, appare più come un tentativo di costruire un alter-ego digitale dell’uomo in grado di prendere il suo posto nei lavori più standardizzati (paradossalmente solo gli studiosi di “scienze umane”, secondo Domingos, avranno sempre il lavoro garantito) e di sostituirsi a lui nella presa di decisioni complesse e che richiedono una velocità di reazione superiore alla capacità di calcolo del nostro cervello, come scegliere se sparare o meno a un presunto terrorista, o individuare la combinazione migliore  di farmaci per sconfiggere una nuova forma di tumore.

In una parola, l’algoritmo definitivo dovrebbe essere il compagno insostituibile dell’uomo del futuro nella sua inesausta lotta per la sopravvivenza e la supremazia tecnologica, biologica e culturale verso altre forme viventi. Umane, e non.

“Dall’analista finanziario all’osservatore di baseball – afferma Domingos – oggi non è in atto uno scontro tra l’uomo e la macchina, ma tra l’uomo con la macchina e l’uomo privo di macchina. I dati e l’intuito sono come il cavallo e il cavaliere: non dovete cercare di correre più veloci di un cavallo, dovete cavalcarlo”.

Malgrado simili suggerimenti e proclami trionfalistici, almeno per chi come noi vive nell’area del mondo più avanzata tecnologicamente, risulta difficile accettare la visione ottimistica e idealizzante dell’avvenire dominato da macchine “idiot savants” ma incomprensibili nel loro funzionamento alla maggior parte degli esseri umani; macchine incapaci di ribellarsi alla volontà dell’uomo (come sostengono invece alcuni eminenti scienziati e imprenditori tecnologici contemporanei) ma al tempo stesso progettate da una volontà che può avere scopi tutt’altro che eticamente accettabili. Quando non decisamente controproducenti per il progresso della società.

Se le macchine di Domingos sono ancora lontane dal palesarsi in tutta la loro “traballante” efficacia forse lo dobbiamo a quanti, tra di noi, mantengono ancora un filtro invalicabile tra la propria vita privata e quella pubblica, tra la propria identità digitale e quella disconnessa. Con buona pace di quanti vorrebbero fosse un algoritmo a scegliere per noi il film migliore da vedere in compagnia della nostra dolce, e imprevedibile, metà.

Jacopo Franchi