Home Scienza e Tech Basta violenza e odio nei commenti, nasce Perspective il robot anti-troll di...

Basta violenza e odio nei commenti, nasce Perspective il robot anti-troll di Google

Il nome è piuttosto impronunciabile, si chiama infatti Perspective, e rappresenta a tutti gli effetti l’arma segreta messa in campo da Google per sconfiggere l’odio in rete.
Si tratta di un software estremamente “intelligente” capace attraverso un sofisticato sistema di algoritmo e parole chiavi di identificare i commenti offensivi che vengono mostrati sotto gli articoli o i video pubblicati in rete. Non solo, il software sfrutta una elevata intelligenza artificiale, capace di apprendere in autonomia ogni nuova possibile forma di Troll o haters.

La nuova tecnologia sviluppata da Mountain View è stata creata in collaborazione con il New York Times e Wikipedia.
Il funzionamento è piuttosto semplice quanto geniale. Perspective infatti, sfrutta il  “machine learning”, ovvero la capacità delle macchine robotiche di migliorare in autonomia la propria intelligenza artificiale. (Ad esempio se un robot trova uno ostacolo, la prima volta ci sbatte contro, la seconda volta assimila il “pericolo” e trova il modo per aggirarlo.). Nel caso specifico, Perspective analizza quasi in tempo reale i commenti di un articolo assegnando ad essi un punteggio, tale punteggio viene elaborato attraverso dei feedback negativi degli altri utenti che partecipano alla conversazione.

Il software nel corso della sperimentazione è stato “allenato” a riconoscere i commenti “tossici”, gli sono stati dati in pasto centinaia di migliaia di commenti segnalati come non adeguati da parte delle community. In questo modo Perspective è riuscito a creare un immenso database di parole chiavi inappropriate e dunque oggi è in grado di limitare la crescita degli haters e in modo particolare, di coloro che sotto forma di anonimato si divertono a diffondere odio in rete. Grazie a tale addestramento, basato sull’apprendimento e l’interazione con le informazioni degli utenti, il software è in grado di migliorare progressivamente esperienza dopo esperienza.

In versione beta Perspective è stato utilizzato sul New York Times, che riceve mediamente ogni giorno circa 11 mila commenti. Una mole enorme di interazioni, che diventa impossibile controllare, infatti il famoso quotidiano online è costretto a limitarne l’accesso. Con questo software i risultati sono stati immediati, i commenti inappropriati vengono cestinati.

In futuro, spiega Cohen sul blog, l’idea è quella di migliorare, non solo i commenti degli utenti, ma in generale il livello delle conversazioni online. Per ora Perspective funziona solo per i commenti in inglese, ma già a partire dal prossimo anno la volontà è quella di offrire modelli che funzionino in altre lingue. Non solo: anche le funzionalità del software potrebbero aumentare e migliorare. Ad esempio – spiega Cohen – il programma potrebbe essere capace di identificare commenti riconosciuti come attacchi personali distinguendoli da quelli che, semplicemente, escono dal tema trattato, pur senza offendere nessuno.

Gli sforzi per arginare il linguaggio violento in rete sono molteplici anche da parte di altre compagnie. Twitter ha da poco rafforzato la lotta a “troll” e abusi, ad esempio rendendo più difficile l’iscrizione con nuovo profilo a utenti già sospesi. Instagram ha introdotto filtri anti-bulli e provocatori online. Facebook, ultimamente incalzato sul tema dalla presidente della Camera Laura Boldrini, ha una policy di condanna alle minacce e all’incitazione all’odio: sul social tali contenuti possono essere segnalati e l’impegno è a cancellarli entro 24 ore.

PUBBLICITÀ