Negli stessi giorni in cui nelle scuole italiane viene vietato lo smartphone una nuova app per aiutare i giovani e le loro famiglie vede finalmente la luce. Se la circolare con cui il ministro Valditara ha esteso il divieto d’uso dello smartphone fino al secondo ciclo delle superiori appare come una resa delle istituzioni di fronte alla tecnologia, e all’incapacità degli adulti di convincere i più giovani a farne un uso appropriato, il progetto NetGuardian si presenta come un visionario tentativo di utilizzare la stessa tecnologia per contrastare gli abusi più gravi, come il cyberbullismo e il propagarsi incontrollato della violenza online.
Sviluppato dall’Università di Padova, in qualità di ente capofila di una proposta selezionata e finanziata da una Call for Ideas di Fondazione TIM, e sostenuto da Fondazione Carolina, in qualità di partner del progetto, NetGuardian misura l’esposizione al rischio di cyberbullismo, analizzando in tempo reale i contenuti online alla ricerca di “repertori sentinella“, ovvero specifici pattern linguistici che possono esporre uno o più adolescenti al pericolo di diventare vittime o autori di cyberbullismo.
L’obiettivo, nell’immediato, è quello di fornire uno strumento a insegnanti, educatori e genitori per rilevare situazioni di rischio e intervenire tempestivamente senza essere obbligati a spiare a posteriori i messaggi scambiati in chat tra i ragazzi, o senza attendere che si verifichino le conseguenze più gravi. È l’app stessa a ospitare e analizzare i messaggi tramite un algoritmo di machine learning, avvisando gli adulti prima che la conversazione possa “sfuggire di mano”.
NetGuardian è la dimostrazione di come sia possibile sviluppare, anche in Italia, delle tecnologie innovative in grado di fornire un servizio utile all’intera comunità. A confermarlo sono i risultati del primo anno di sperimentazione compiuta su 263 studenti di quattro istituti superiori, presentati a Milano in un evento ospitato presso la Blend Tower e durante il quale ho avuto l’opportunità di ascoltare gli interventi del professor Gian Piero Turchi, responsabile scientifico di NetGuardian, della psicologa Teresa Camellini, responsabile del progetto, Ivano Zoppi, segretario generale di Fondazione Carolina, partner dell’iniziativa, insieme a Marco Luciani, commissario capo dei nuclei informatici della Polizia di Milano, e al professor Rudy Toffanetti del liceo Zaccaria di Milano, una delle scuole che hanno aderito alla sperimentazione.
NetGuardian non funziona come un tradizionale strumento di analisi dei contenuti: non si limita a calcolare il numero di parole offensive in una chat, non prevede un numero massimo di termini espliciti oltre cui far scattare un campanello d’allarme. La sua tecnologia, come ho potuto verificare di persona durante la dimostrazione pubblica, cerca di individuare quelle “deviazioni” rispetto alla frase che ha dato origine alla conversazione e che potrebbero sfociare in episodi di cyberbullismo a danno delle persone coinvolte nella chat o di chi in quel momento viene solo menzionato dai partecipanti. Un vero e proprio cambio di paradigma rispetto a metodi puramente quantitativi, fondati sull’errata convinzione che sia possibile distinguere in maniera assoluta tra contenuti rischiosi e contenuti sicuri, tra vittime e colpevoli.
“Il cyberbullismo – ha spiegato il professor Gian Piero Turchi – riguarda centinaia di migliaia di giovani in Italia, e una percentuale cospicua di essi dichiara di essere stata sia la vittima sia l’autore di un aggressione compiuta attraverso strumenti digitali. Non è possibile, oggi, isolare con certezza coloro che sono a maggior rischio di diventare vittime o aggressori, perché questa distinzione così netta non esiste nella realtà“. Per affrontare il problema con successo occorre quindi cambiare approccio, dotandosi degli strumenti in grado di individuare quando una “normale” chat di gruppo si sta trasformando in un potenziale strumento di aggressione, anche solo verbale, ai danni di una persona fino a quel momento del tutto ignara del pericolo.
La conferma che i più giovani non siano in grado di riconoscere, da soli, i fenomeni di cyberbullismo, viene dai dati raccolti durante la sperimentazione di NetGuardian e che la psicologa e responsabile del progetto, Teresa Camellini, ha analizzato con un livello di dettaglio raro per ricerche di questo tipo. “La maggior parte degli studenti non è in grado di riconoscere un episodio di cyberbullismo che si svolge davanti ai loro occhi. La tendenza è quella di minimizzare, di considerare anche le situazioni a maggior rischio come una “bravata” fra ragazzi – ha spiegato – Quando, infine, si accorgono di essere coinvolti in un episodio di cyberbullismo, i giovani non sanno a chi rivolgersi: più del 30% vorrebbe parlarne in famiglia, il 17% con gli amici, solo l’11% con un esperto, mentre più del 30% non contatterebbe nessuno in particolare“. Il pericolo, all’ordine del giorno, è che anche a fronte dei casi più gravi i giovani non sappiano riconoscere il problema né cercare aiuto, tantomeno fra gli esperti.
“Il cyberbullismo – ha confermato Ivano Zoppi, segretario generale di Fondazione Carolina, partner del progetto – è un fenomeno ampiamente conosciuto dal punto di vista teorico, anche dagli stessi giovani. Questi ultimi non hanno, tuttavia, le competenze emotive per poterlo riconoscere e affrontare nella realtà”. NetGuardian consente, a differenza di altri strumenti, di misurare il livello del rischio e intervenire in maniera tempestiva, identificando le figure di volta in volta più adatte a supportare gli adolescenti e le loro famiglie. “NetGuardian è il primo progetto in quest’ambito – ha concluso il professor Turchi – fondato sulla solida base teorica della scienza dialogica e sull’idea che il linguaggio sia una configurazione del reale. Con questo strumento siamo, finalmente, nella condizione di poter governare la tecnologia, perché possiamo interferire con il dato e agire prima che le conseguenze peggiori si siano palesate“.
Il rischio viene classificato come medio-alto non per la presenza di specifiche parole, ma perché il senso originario della conversazione ha lasciato il posto ad altri obiettivi individuali.
Le possibilità di applicazione di una tecnologia di questo tipo, sono, come appare evidente a chiunque si interessi di questi argomenti, immense. Dall’analisi in tempo reale delle conversazioni fra studenti da parte degli insegnanti e genitori, rispettandone la privacy e intervenendo solo in caso di rischio elevato, alla possibilità di utilizzare lo strumento in modalità self-service per valutare a posteriori il livello di gravità di una chat a cui un adolescente ha preso parte, per indirizzarlo verso il supporto di volta in volta più adatto (genitori, insegnanti, o veri e propri esperti di cyberbullismo come la task force messa a disposizione da Fondazione Carolina). Non è da escludere, infine, un possibile utilizzo di NetGuardian anche da parte dei moderatori di contenuti online dei social media, per aiutare questi ultimi a riconoscere commenti e conversazioni che presentano un rischio maggiore per i minori (pur tenendo conto di tutti i limiti dell’attuale sistema di moderazione).
NetGuardian potrebbe rivelarsi, in prospettiva, anche uno strumento utile per le attività di educazione digitale, se solo si decidesse di rendere quest’ultima una materia didattica a tutti gli effetti. La versione “Demo” della app potrebbe essere utilizzata, in questo senso, per dare agli adolescenti la possibilità di esercitarsi in conversazioni online guidate dall’intelligenza artificiale, al fine di abituarli a riconoscere quelle sfumature che potrebbero portare a conseguenze al di fuori del loro controllo. Hanno visto davvero lontano, quindi, i responsabili di Fondazione Tim e Fondazione Carolina nel riconoscere il potenziale di un’idea che ha tutti i presupposti per rispondere alla domanda e al bisogno di aiuto dei più giovani: spero che anche altri possano avere la stessa lungimiranza, quando si tratterà di affrontare le questioni lasciate irrisolte dal divieto di portare gli smartphone a scuola.
