La IA de Facebook puede estar ayudando a los terroristas a ocultar asesinatos

Los algoritmos que eliminan los vídeos "terroristas" podrían obstaculizar los esfuerzos para llevar ante la justicia a los violadores de los derechos humanos.

En los últimos años, los gobiernos han recurrido repetidamente a Facebook y otras plataformas de redes sociales para hacer un mejor trabajo de eliminar el contenido extremista, específicamente, cualquier cosa que promueva el terrorismo.

Muchos han recurrido a la Inteligencia Artificial para ayudarse a responder a esa llamada, pero ahora una investigación realizada por The Atlantic ha revelado que esta IA podrían estar ayudando inadvertidamente a los terroristas a escapar de sus atroces crímenes, al eliminar pruebas valiosas de ellos.

Investigadores ciudadanos

El artículo de The Atlantic cita un vídeo de Facebook de 2017 en el que un terrorista supervisa la ejecución de 18 personas. Facebook eliminó el vídeo, pero no antes de que pudiera propagarse por Internet.

Personas de todo el mundo analizaron el vídeo, que llevó al descubrimiento de que la ejecución tuvo lugar en Libia y que el hombre que la ordenó fue Mahmoud Mustafa Busayf al-Werfalli, un comandante de Al-Saiqa.

La orden posterior para el arresto de Werfalli [PDF] incluía varias referencias al vídeo de Facebook y otras plataformas similares.

Evidencia perdida

Desde entonces, los algoritmos de filtrado de contenido utilizados por Facebook, YouTube y similares se han vuelto mucho más avanzados: ahora eliminan automáticamente grandes franjas de contenido extremista, a veces incluso antes de que llegue a los ojos de un solo usuario.

Y esa es una gran victoria en muchos aspectos, pero la compensación puede ser la pérdida de pruebas que los fiscales podrían usar para responsabilizar por sus crímenes a los caudillos, dictadores y terroristas.

Referencias:

Tech Companies Are Deleting Evidence of War Crimes [The Atlantic]
How Facebook Flags Terrorist Content With Machine Learning [Futurism]

Comments (0)

There are no comments posted here yet

Leave your comments

  1. Posting comment as a guest.
Attachments (0 / 3)
Share Your Location


Recibe gratis nuevos artículos por email:
Inicia sesión para suscribirte en Youtube

Somos apañados (ñ)
Suscribete