Facebook dice que sus algoritmos reducen en 97% el lenguaje de odio

Los cambios que realizó Facebook a las páginas principales de los usuarios en el cuarto trimestre de 2020 permitieron reducir el número de visualizaciones de contenidos relacionados con discursos de odio, contenido violento y gráfico, según afirmó la empresa este jueves. De acuerdo con las cifras compartidas en su informe del cumplimiento de sus normas comunitarias del cuarto trimestre de 2020, Facebook detecta en un 97% este contenido gracias a los nuevos algoritmos, subiendo de un 94% en el trimestre pasado e incrementándose desde un 24% en 2017.

Facebook presentó por primera vez su análisis de cuántos posteos relacionados con discursos de odio encontró en la red en el tercer trimestre de 2020, y en este segundo reporte sobre el tema encontró que el número de contenidos cayó a solo "entre 7 y 8 visualizaciones de discurso de odio por cada 10,000 visualizaciones de contenido general", compartió Guy Rosen, VP de Integridad de Facebook, en un comunicado.

Los contenidos violentos y gráficos se redujeron de 0.07% a 0.05% y de 0.05-0.06% a 0.03-0.04%, respectivamente.

La plataforma también tuvo mejoras en la manera en que actúa sobre contenido que puede ser conflictivo antes de que un usuario lo reporte, en especial en temas de bullying y acoso. Según el informe de cumplimiento de sus normas comunitarias, su tasa proactiva pasó del 26% en el tercer trimestre al 49% en el cuarto trimestre en Facebook, mientras que en Instagram fue del 55% al 80%.

“Los avances en la Inteligencia Artificial en áreas donde los matices y el contexto son esenciales, como el discurso de odio, el bullying y el acoso, nos han ayudado a escalar mejor nuestros esfuerzos para poder mantener seguras a más personas. Continuamos recuperando lentamente nuestra fuerza laboral de revisión de contenido a nivel mundial, aunque anticipamos que nuestra capacidad para revisar el contenido se verá afectada por el COVID-19 hasta que una vacuna esté disponible”, informó el directivo de Facebook.

La inteligencia artificial analiza no sólo el lenguaje, sino el contexto en el que se está dando, explicó Mike Schroepfer, Chief Technology Officer, en una llamada. El directivo indicó que la empresa también liberó el código de esta para poder tener un internet más seguro sin importar si es fuera de su plataforma.