Los moderadores de Facebook inspeccionarán los mensajes privados de los usuarios sospechosos de enlaces terroristas
Presionados por los gobiernos europeos, Facebook, Twitter y Google están tratando de abordar la propaganda extremista y el reclutamiento en sus redes sociales y sitios.
Es un esfuerzo para el cual las compañías no tienen un plan bueno, preexistente, global - la relativa novedad de los medios de comunicación social y su uso para la propaganda significa que tienen que llegar a ideas innovadoras sobre cómo reprimir los casos más extremos de la misma. Ellos están actuando eficazmente - probando nuevos enfoques, y tratando de reaccionar rápidamente a los cambios implementados por los perpetradores.
Han convocado a antiguos agentes del gobierno y otros asesores expertos para crear esos planes pero, en el día a día, depende de la inteligencia artificial señalar los mensajes sospechosos y de los moderadores humanos para llegar al final de cada mensaje o mensaje sospechoso.
Los operadores humanos tienen la última palabra sobre si hay una necesidad de eliminar el contenido o si es creíble una amenaza hecha y debe ser notificado a los aplicadores de la ley.
Tienen autorización especial para investigar las cuentas de usuario sospechosas de pertenecer a usuarios que tienen vínculos con grupos terroristas y, según The Guardian, esta autorización significa que están autorizados a entrar en los perfiles sospechosos (incluyendo mensajes privados) para ver con quién y sobre qué están hablando estas personas, y para comprobar dónde han estado viajando.
"La máxima prioridad del equipo es identificar" combatientes viajando "para Isis y Al-Qaeda", informa The Guardian. "Alguien sería categorizado como tal si su perfil tiene un contenido que simpatiza con el extremismo y si, por ejemplo, hubieran visitado Raqqa en Siria antes de viajar a Europa. Cuando es identificado un combatiente viajero - que de acuerdo con una información privilegiada tiene lugar al menos una vez al día - la cuenta es escalada a un equipo interno de Facebook que decide si pasar la información a la policía".
Si bien, a primera vista, esto parece la cosa más lógica que hay que hacer, hay muchas cosas que pueden molestar a los defensores de la privacidad y los derechos humanos.
Por ejemplo, los esfuerzos de Facebook se guían, para bien o para mal, por la lista de grupos terroristas identificados del Departamento de Estado de los Estados Unidos.
En segundo lugar, Facebook todavía no ha explicado cómo se aseguran de que los moderadores humanos y, en general, todo su equipo de operaciones comunitarias, no están sobrepasando sus límites obligatorios y no están cometiendo errores que podrían tener graves consecuencias para algunos usuarios.
