Presentato all’ultimo Festival della Mente di Sarzana, “Che cosa sognano gli algoritmi” del sociologo Dominque Cardon è un saggio breve ma essenziale per comprendere in che modo gli algoritmi influenzano la nostra visione del mondo e come sia possibile sfruttare le loro imperfezioni se non per controllarli, perlomeno per disinnescarli al momento giusto.
E se non fossero gli algoritmi a costringerci all’interno della “filter bubble” ma fossimo noi stessi a chiuderci all’interno di una bolla di azioni ripetute e desideri sempre uguali a se stessi? È la domanda cruciale che emerge durante la lettura, breve ma intensa, veloce ma non indolore, di “Che cosa sognano gli algoritmi”, saggio di Dominique Cardon tradotto in italiano per i tipi di Mondadori Università e presentato dall’autore nel corso dell’ultimo Festival della Mente di Sarzana, meritandosi uno degli applausi più convinti e durevoli del pubblico presente.
Dominique Cardon è sociologo, lavora al Laboratoire des usages d’Orange Labs e insegna all’Université de Marne-La-Valée, e non è né un manager entusiasta sostenitore della rivoluzione dei big data, né un critico disincantato dell’attuale evoluzione commerciale e massificata di Internet.
La sua critica degli algoritmi è volta piuttosto a inquadrare questi ultimi all’interno di una prospettiva storica – distinguendo tra algoritmi che si pongono “di fianco (i calcolatori di metriche), di sopra (i calcolatori di autorevolezza, come PageRank), all’interno (i calcolatori di reputazione, EdgeRank) e al di sotto del web (i calcolatori di comportamenti, o algoritmi predittivi)” – e a mettere in discussione la maniera in cui accettiamo acriticamente i risultati delle loro azioni.
“Gli algoritmi impongono una gerarchizzazione dei valori che va progressivamente disegnando i quadri cognitivi e culturali della nostra società”.
Se Google ha costruito le sue fortune su un algoritmo, PageRank, “ispirato al sistema dei valori della comunità scientifica” che tuttavia ha finito per riprodurre una gerarchia semi-immobile di pochi, referenziatissimi siti dotati di un’immensa popolarità sulla prima pagina di Serp, Facebook ha costruito con EdgeRank un insieme di personali “gloriometri”, in grado di trasformare ogni internauta in un potenziale stratega e calcolatore della propria reputazione.
Se il “sogno” di Google è quello di un algoritmo invisibile agli occhi degli utenti, quello di Facebook è di un algoritmo che porti gli utenti a generare continuamente i dati che gli servono per tracciare gli interessi di ognuno, in cambio di un aumento di reputazione e visibilità all’interno di una pagina di risultati mobile (il newsfeed) dove la competizione per i primi posti si rinnova ogni giorno.
Il paradosso? Lo stesso Facebook è sempre più in difficoltà a distinguere tra ciò che i suoi utenti dicono di voler fare o essere, e quello che poi fanno o sono realmente. Una volta che gli utenti capiscono da soli come fare per ottenere più interazioni (mi piace, commenti, condivisioni, tag), modificano il loro comportamento sul social per massimizzare l’efficacia dei loro contenuti e guadagnarne in popolarità, condividendo solo quegli interessi e azioni che ricevono approvazione dai loro amici, ma senza che per forza questi siano effettivamente i loro interessi principali o azioni compiute regolarmente. Con conseguenze prevedibilmente negative per gli inserzionisti che utilizzano i servizi di Facebook per proporre i propri prodotti e servizi a utenti che, per guadagnare in reputazione, hanno compiuto una serie di mosse volte a rappresentarsi in maniera migliore di quanto non fossero realmente.
“I calcolatori non sanno più se devono interpretare quanto affermano gli internauti, cosa che sanno fare malissimo, oppure accontentarsi di seguirne le tracce senza accontentarsi di interpretarle, cosa che sanno fare sempre meglio”
La soluzione? Porsi “al di sotto del web” , secondo la tecnica statistica dell’apprendimento automatico (o machine learning): gli algoritmi rinunciano a capire le intenzioni dell’utente e si limitano a tracciare i suoi comportamenti, prevedendone le intenzioni future sulla base dei suoi comportamenti passati e/o sulla base di comportamenti simili prodotti dall’attività di utenti precedenti. “Alle variabili stabili, perenni e strutturanti, che fissavano gli oggetti statistici in determinate categorie – scrive Cardon – gli algoritmi digitali preferiscono catturare gli eventi (un clic, un acquisto, un’interazione etc.) che registrano al volo, per confrontarli con altri eventi, senza procedere a una categorizzazione”.
Gli algoritmi attuali non cercano più di elaborare una visione del mondo e della società secondo le tradizionali categorie elaborate dai sociologi e dagli statistici. Chi progetta gli algoritmi ha ormai capito che gli individui stessi non accettano più di essere inquadrati in categorie predeterminate secondo il loro reddito, la loro situazione famigliare o lavorativa, e sono abbastanza consapevoli o calcolatori da produrre dati che ingannano l’algoritmo, facendogli elaborare un profilo dell’utente sovrastimato o sottostimato da quello che lui è realmente.
Gli algoritmi rinunciano a colmare lo scarto tra quello che l’utente dice di voler essere e quello che è realmente, per concentrarsi sui suoi comportamenti e prevederne i desideri sulla base dell’analisi di quelli passati.
“È vano reclamare la rivelazione del segreto degli algoritmi, è invece più utile conoscere il flusso di dati che entrano nella composizione del calcolo”
La conseguenza di tutto questo è che gli stessi autori degli algoritmi, a distanza di tempo, potrebbero non essere più in grado di prevederne il comportamento. Se gli algoritmi rispondono a logiche puramente commerciali, e il loro obiettivo ultimo è quello di massimizzare l’efficacia del servizio reso all’utente, essi sono già oggi in grado di produrre autonomamente la teoria giusta per individuare la correlazione tra dati più efficace rispetto all’obiettivo a loro assegnato.
Se il successo di un algoritmo predittivo rispetto a un altro dipende sulla disponibilità di dati e sulla realizzabilità dell’obiettivo da raggiungere, la loro straordinaria popolarità odierna si basa su una debolezza fin troppo umana. Chi progetta gli algoritmi predittivi sa che raramente gli individui sono all’altezza dei loro desideri: non è un mistero che la maggior parte delle persone preferiscano ripetere ciò che hanno già fatto, visto, sentito e detto, o almeno qualcosa che si ricolleghi al ricordo di quella particolare azione o sensazione, che non sperimentare ogni volta qualcosa di assolutamente nuovo. La “filter bubble” esiste dapprima del web e dei social network.
“Il paradosso dei nuovi sistemi di calcolo è che, rifiutando i dettati paternalistici dei media, gli individui ormai misurati tramite le loro stesse tracce hanno comportamenti regolari”
In tal senso, “gli algoritmi si definiscono predittivi solo sulla base dell’ipotesi che il nostro futuro sarà una riproduzione del nostro passato”. L’accoppiamento algoritmico tra segnali e tracce è efficace in condizioni particolari, dove il tempo tra la richiesta che l’utente fa alla macchina e la sua azione successiva è tendente allo zero: proporre libri, comprarli; classificare link, cliccarli; indicare un percorso, seguirlo. “Quando l’accoppiamento è più lungo o incerto – constata Dominique Cardon – e quando dà più spazio a una riflessione a distanza dell’utente, i calcoli predittivi ne risentono”.
È inesatto, dunque, affermare che gli algoritmi ci impongano una scelta (di acquisto, di lettura, di divertimento): al contrario, “l’immaginario dei creatori di servizi di big data – scrive Cardon – è obnubilato dalla figura dell’assistente personale. Le infrastrutture dei big data cercano di guidare senza vincolare, di indirizzare senza obbligare”.
“La sfida politica lanciata dalle nuove scatole nere del calcolo algoritmico sta nella capacità di disinnescarle e passare alla modalità manuale”
Come il GPS delle ormai prossime macchine a guida automatica, gli algoritmi ci lasciano l’assoluta libertà di scegliere la nostra destinazione, e ci propongono un percorso predeterminato sulla base delle nostre abitudini di guida e delle migliori strade già percorse da altri. Rinunciano a elaborare una visione d’insieme del luogo in cui siamo immersi, si limitano a consigliarci quella che secondo loro è la via migliore (unicamente dal punto di vista dell’efficienza) per giungere a destinazione: li seguiamo, perché abbiamo imparato a fidarci di loro e perché siamo sempre meno disposti a tollerare l’imprevisto nelle nostre vite, con la scusa di risparmiare tempo per attività che probabilmente non compieremo mai, malgrado rinnoviamo continuamente a noi stessi (e ai nostri amici di Facebook) la nostra intenzione di uscire dalla bolla.
