Facebook Inc. contrató a más de 150 expertos en contraterrorismo y utiliza cada vez más inteligencia artificial que puede entender el lenguaje y analizar imágenes para tratar de evitar que los terroristas utilicen la red social para reclutar y hacerse propaganda.
Monika Bickert, directora de gestión de políticas globales, y Brian Fishman, director de política antiterrorista, describieron aspectos de los últimos esfuerzos de Facebook en un post en un nuevo blog que la compañía presentó el jueves. El blog, llamado "Hard Questions" (preguntas difíciles), abordará debates filosóficos sobre el papel de las redes sociales en la sociedad, lo que debería suceder a la historia digital de una persona después de morir y si las redes sociales son buenas para la democracia. El primer post se refiere a cómo responde la empresa a la propagación del terrorismo online.
"Estamos de acuerdo con quienes dicen que las redes sociales no deben ser un lugar donde los terroristas tengan voz", escriben Bickert y Fishman.
El movimiento es la respuesta de Facebook a la presión de los gobiernos para que haga más para combatir el terrorismo. Tras los ataques en Londres y Manchester en los últimos cuatro meses, la primera ministra del Reino Unido, Theresa May presionó a otros líderes de las naciones del Grupo de los Siete a considerar regular más a las empresas de redes sociales para obligarlos a adoptar medidas adicionales contra el contenido extremista.
Bickert y Fishman reconocen esta presión en su post, y escribieron que "a raíz de los recientes ataques terroristas, la gente ha cuestionado el papel de las empresas de tecnología en la lucha contra el terrorismo online".
Fuerza positiva
Mark Zuckerberg, cofundador y CEO de Facebook, también ha estado intentando posicionar a la compañía como una fuerza positiva para construir comunidades tanto en línea como fuera de ella. Este nuevo énfasis de Zuckerberg siguió al escándalo sobre el papel de Facebook en la proliferación de noticias falsas durante la campaña electoral de Estados Unidos el año pasado, así como la propagación del contenido extremo, tales como videos de asesinatos, publicados en Facebook.
"Aunque la investigación académica halla que la radicalización de miembros de grupos como ISIS y al-Qaeda se produce principalmente fuera de línea, sabemos que internet desempeña un papel - y no queremos que Facebook sea utilizado para ninguna actividad terrorista en absoluto", escribieron Bickert y Fishman.
Durante el año pasado Facebook amplió su equipo de expertos en contraterrorismo y ahora cuenta con más de 150 personas dedicadas principalmente a esa función. Muchas de estas personas tienen antecedentes en la aplicación de la ley y en conjunto hablan casi 30 idiomas. Además, Facebook cuenta con miles de empleados y contratistas de todo el mundo que responden a informes de violaciones de sus términos de servicio, ya se trate de intimidación en línea, publicación de pornografía o discurso de odio.
"Queremos encontrar el contenido terrorista inmediatamente, antes de que la gente de nuestra comunidad lo haya visto", escribieron Bickert y Fishman. "La mayoría de las cuentas que eliminamos por terrorismo las encontramos nosotros mismos. Pero sabemos que podemos hacer un mejor uso de la tecnología".
Herramientas de IA
Facebook también está utilizando la inteligencia artificial más para encontrar contenido terrorista que los usuarios intentan publicar en la red social, señalaron Bickert y Fishman.
La empresa ha desplegado un sistema que almacena la huella digital de cualquier video o fotografía que ya se ha eliminado por promover el terrorismo y automáticamente lo reporta a los revisores humanos si alguien intenta volver a publicar este contenido. También está trabajando con otras compañías de redes sociales para crear una base de datos compartida de estas firmas digitales - conocidas como hashes - para asegurarse de que la gente no pueda simplemente publicar el mismo contenido en Twitter o YouTube.
Una vez que se ha eliminado una cuenta por publicar contenido terrorista, Facebook ha utiliza algoritmos para buscar en la red social las páginas y los grupos a los que ese usuario se unió para identificar otras cuentas que también podrían estar promoviendo el terrorismo.
economiahoy.mx
