Fermare l'odio online con gli algoritmi

Fermare l'odio online con gli algoritmi

  •  
     
    «Abbiamo trovato il modo di eliminare alla radice la propagazione dell'odio su Facebook e Twitter». Elad Ratson, direttore dell'unità ricerca e sviluppo del ministero degli Esteri israeliano, lo racconta seduto in una saletta durante il Tel Aviv lnnovation Festival (Dld). Parla veloce, si accalora: «Che esista un problema lo segnaliamo a Facebook dal 2015, ben prima che scoppiasse lo scandalo Cambridge Analytica. Non erano interessati. Ora però hanno capito, perché il loro business è in pericolo». Ratson sostiene di possedere, dopo tre anni di sviluppo e un milione di euro spesi, un algoritmo capace di rintracciare e isolare gli account dai quali partono attacchi razzisti e notizie palesemente false. Proprio mentre al Congresso degli Stati Uniti il numero due di Facebook Sheryl Sandberg e Jack Dorsey, Ceo di Twitter, ammettono la loro impotenza davanti alle manipolazioni politiche che sono avvenute sui social. Qui in Israele sono convinti che la diplomazia si debba occupare anche dell'online, territorio dove l'opinione pubblica viene plasmata attraverso la radicalizzazione delle opinioni. A volte si tratta di poche centinaia di soggetti, spesso bot gestiti da una manciata di persone, che riescono a dettare l'agenda toccando le giuste corde e facendo in modo che il loro messaggio si moltiplichi. Individuati in tempo reale e chiusi gli account, l’efficacia però sparisce.

     

    Migliorare l'efficacia

    «Cento tweet con metodi adeguati, spesso illegali, possono diventare decine di migliaia dando l'illusione che ci sia un’emergenza che non è tale o che esista un sentire comune su un tema quando non c'è», dice Ratson. «Si parla di messaggi che violano le regole stesse delle piattaforme social. Quelli che Facebook, YouTube e Twitter dicono di voler combattere». Se quel che sostiene Ratson è vero, è uno strumento rivoluzionario. L'analisi di certi fenomeni di odio e polarizzazione sull'onda degli algoritmi dei social network, ha portato il governo israeliano a creare un antidoto. Parte dall'infezione e a ritroso individua la fonte o le fonti. Ha del fantascientifico considerando i pochi passi avanti fatti nell'analisi e nel controllo dei contenuti pubblicati online. Sarebbe difficile prendere sul serio le affermazioni di Ratson se non rappresentasse Israele, una nazione che in fatto di cybersecurity è ai massimi livelli. E dove in un ministero, caso unico al mondo, si son messi a maneggiare l'intelligenza artificiale. Resta da capire quanto questo software sia efficace e a quale livello di profondità arrivi.

     

    Livello di profondità

    Facebook e gli altri colossi del Web hanno sempre sostenuto che le Ai possono per ora svolgere un compito circoscritto, la maggior parte degli interventi avviene su segnalazione degli utenti. Ma anche se l'algoritmo israeliano fosse solo in grado di rintracciare in pochi minuti gli account da dove partono messaggi palesemente fuorilegge, per ora pare lo faccia in maniera affidabile soprattutto su Twitter, sarebbe comunque un passo avanti sostanziale. In prospettiva potrebbe diventare la base per lo sviluppo di strumenti capaci di isolare flussi studiati a tavolino per orientare l'elettorato seminando paure ingiustificate. «La polarizzazione nei social network ha origine nei sistemi automatici di raccomandazione di un contenuto», spiega Richard Rogers, capo del Digital Methods Initiative dell'Università di Amsterdam. «Ai like piacciono i like e più ce ne sono più il sistema mette quel messaggio, quel video o foto, in evidenza. Le raccomandazioni ti mostrano cose fra loro simili: idee vicine si uniscono e non interagiscono con quelle differenti. Le proprie convinzioni si specchiano in quelle di utenti che la pensano come noi. E più si autoconfermano più si estremizzano. Sono le echo cambers». Democrazie in pericolo che, gestite attraverso Facebook, possono annegare nella rabbia gridata online.

     

    Le origini diverse

    E pensare che Internet doveva essere il luogo della diversità di opinione ed è invece diventato quello dalla sorda omogeneità. «Proviamo però a pensare cosa accadrebbe se di una certa ondata di messaggi contro qualcosa o qualcuno, potessimo dire subito che sono nati da un certo numero di account e che parte di questi sono fasulli», conclude Ratson. «A quel punto Facebook o Twitter non avrebbe più scuse e sarebbero costrette ad intervenire, specialmente in Paesi, come gli europei, dove ci sono leggi che prevedono multe salate se non lo fanno». L'alto funzionario sa perfettamente che i 4 milioni di suoi concittadini che usano Facebook sono una fonte di guadagno troppo piccola perché in Silicon Valley l'ascoltino. E sa che una tecnologia sviluppata a Tel Aviv da molti verrà vista con sospetto. Per questo lui e il suo ministero la vogliono mettere a disposizione dell'Europa creando un'alleanza per riprendere il controllo dell'online dove gli Stati occidentali hanno sempre meno il polso della situazione. Anche questa è diplomazia. Meglio: la nuova diplomazia digitale ai tempi di algoritmi, intelligenza artificiale e social network.

     

    Di Jaime D’Alessandro

    La Repubblica, Affari & Finanza, 10 settembre 2018, p. 29

    Link: https://rep.repubblica.it/pwa/generale/2018/09/10/news/fermare_l_odio_online_con_gli_algoritmi_cosi_la_diplomazia_diventa_digitale_-206104649/​