Facebook ha reportado por primera vez cifras completas sobre su vigilancia de contenido polémico, alegando que “tomó medidas” en el primer trimestre de este año contra aproximadamente 2.5 millones de publicaciones en su plataforma que incluÃan discursos de odio.
El grupo estadounidense de medios sociales dijo que esa cifra aumentó en un 56 por ciento en comparación con los 1.6 millones de publicaciones contra las que tomó medidas en el cuarto trimestre de 2017.
Sin embargo, Facebook dijo que le era más difÃcil a su inteligencia artificial detectar contenido que contuviera discurso de odio antes de que los usuarios lo vieran que identificar otros contenidos prohibidos, como la pornografÃa infantil, la propaganda terrorista y el correo no deseado.
“La tecnologÃa no lo va a resolver todo, pero vamos a progresar”, dijo Guy Rosen, jefe del equipo de la compañÃa a cargo de las medidas para controlar los estándares de la comunidad, en una entrevista al Financial Times antes de la publicación el martes de su Informe de Cumplimiento de Normas Comunitarias.
El “anuncio de transparencia” de Facebook se produjo en momentos en que la compañÃa enfrenta crecientes crÃticas en todo el mundo, especialmente en el sudeste de Asia, por su papel de guardián de los medios y árbitro del debate público.
En Myanmar, grupos de la sociedad civil criticaron el mes pasado a la compañÃa por responder con demasiada lentitud a mensajes incendiarios enviados a la mayorÃa budista y la minorÃa musulmana antes del aniversario del año pasado de los ataques del 11 de septiembre en EEUU. En respuesta, Mark Zuckerberg, director ejecutivo de Facebook, prometió que la compañÃa responderÃa a los reportes de discurso de odio en el plazo de un dÃa.
Activistas en Vietnam acusaron a Facebook de cooperar con las autoridades comunistas para eliminar contenido o cuentas que, de hecho, eran válidas. La compañÃa dijo que tenÃa “un proceso de solicitud del gobierno claro y coherente”, pero que en algunos casos eliminó contenido porque violaba las leyes de un paÃs a pesar de que no violaba los estándares de la comunidad.
El anuncio del martes se produjo tras la publicación por parte de Facebook de sus directrices para los moderadores de contenido y la introducción de un proceso de apelación, de modo que los usuarios inconformes con la eliminación de una publicación puedan someter la decisión a reconsideración.
Hasta ahora, los usuarios pueden apelar las decisiones tomadas sobre el discurso de odio, la desnudez y la violencia gráfica.
Facebook ha tenido más éxito en el uso de la tecnologÃa para acabar con publicaciones relacionadas con la pornografÃa infantil o el terrorismo, porque trabaja con otras compañÃas de tecnologÃa para crear una base de datos que coincida con el contenido problemático que ya se ha subido. No existe una base de datos semejante para el discurso de odio, y serÃa mucho más difÃcil de crear.
El Sr. Rosen dijo que la inteligencia artificial era menos eficiente para detectar el discurso de odio que, por ejemplo, la desnudez, porque el discurso de odio a menudo implicaba matices, contexto y palabras “inocuas” que podrÃan interpretarse como insultos.
Por ejemplo, aunque la inteligencia artificial de Facebook detectó el 86 por ciento del contenido violento y el 96 por ciento de la desnudez o contenido sexual antes de que los usuarios los reportaran, logró detectar apenas el 38 por ciento del contenido clasificado como discurso de odio.
Dijo que Facebook todavÃa estaba “muy limitado” lingüÃsticamente, y que sólo funcionaba en inglés, portugués y “algunos otros idiomas importantes”, pero que estaba trabajando para capacitar su inteligencia artificial en el uso de varios idiomas.
Facebook utiliza revisores humanos para analizar el contenido “peligroso”, y Zuckerberg ha dicho que sus equipos correspondientes se duplicarÃan hasta la cifra de 20,000 este año.
La compañÃa aún no ha facilitado un desglose de los idiomas en los que trabajarÃan sus revisores.
No hay comentarios.:
Publicar un comentario