Così Facebook intende combattere il revenge porn

Facebook vuole contrastare il “revenge porn” - la condivisione senza autorizzazione di immagini o video intimi - sfruttando l’intelligenza artificiale. 

“Quando le immagini intime di una persona vengono condivise senza il suo permesso può essere devastante. Per proteggere le vittime, per lungo tempo la nostra politica è stata quella di rimuovere le immagini intime non consensuali quando ci vengono segnalate e negli ultimi anni abbiamo usato la tecnologia del photo-matching per evitare che vengano condivise nuovamente”, ha affermato Antigone Davis, responsabile globale della sicurezza di Facebook.

Facebook, intelligenza artificial per contrastare il revenge porn

“Per trovare questi contenuti più rapidamente – ha spiegato Davis – e supportare al meglio le vittime, annunciamo una nuova tecnologia di rilevamento e un centro di risorse online per aiutare le persone a rispondere quando subiscono questo tipo di abusi. Trovare queste immagini va oltre il rilevamento della nudità sulle nostre piattaforme. Grazie all’apprendimento automatico e all’intelligenza artificiale, ora siamo in grado di rilevare in modo proattivo immagini o video che vengono condivisi senza autorizzazione su Facebook e Instagram”.

In tal modo, Facebook potrà “trovare questi contenuti prima che qualcuno li segnali, il che è importante per due motivi: spesso le vittime hanno paura di ritorsioni, per cui sono restie a segnalare il contenuto stesso, o non sono consapevoli che il contenuto è stato condiviso. Delle persone appositamente formate del nostro team di Community Operations esamineranno i contenuti individuati dalla nostra tecnologia”. 

Cosa intende fare Facebook per tutelare le vittime di revenge porn

Se un’immagine o un video violano gli standard della community di Facebook, ha assicurato Davis, “lo rimuoveremo e nella maggior parte dei casi disabiliteremo anche gli account che condivideranno contenuti intimi senza autorizzazione. Offriamo la possibilità di fare appello se qualcuno ritiene che abbiamo commesso un errore”.

“Questa nuova tecnologia di rilevamento – ha concluso Antigone Davis - si aggiunge al nostro programma pilota gestito in collaborazione con le organizzazioni a sostegno delle vittime. Questo programma offre alle persone un’opzione di emergenza per inviare proattivamente e in modo sicuro a Facebook una foto che temono possa essere diffusa. Per impedire che la foto venga condivisa sulla nostra piattaforma, creiamo un’impronta digitale di quell’immagine. Avendo ricevuto un riscontro positivo dalle vittime e dalle organizzazioni di supporto, nei prossimi mesi amplieremo questo progetto pilota in modo che un maggior numero di persone possa beneficiare di questa opzione in caso di emergenza”.