En una de las decisiones más polémicas del último año, Facebook ha implementado una nueva funcionalidad que indica al usuario que podría haber consumido contenido considerado como dañino, y que podría tener amigos en la red social que se han vuelto extremistas.
El movimiento llega meses después de que Facebook fuese usada como la base de varios grupos partidarios de Donald Trump para organizar la invasión al Capitolio de los EEUU, en un aparente intento de evitar la votación de Joe Biden como nuevo presidente. La compañía reaccionó inicialmente expulsando a Trump de su plataforma, por considerar que la declaración que publicó fomentó el ataque.
Pero esa no era la primera vez, ni mucho menos, que el papel de Facebook en la formación de extremistas salió a la luz. Ahora, la compañía ha implementado una funcionalidad con la que intenta informar a los usuarios que se pueden encontrar ese tipo de grupos y contenido. Algunos usuarios en los EEUU han recibido dos tipos de mensajes emergentes, en los que se advierte que pueden estar interactuando con contenido y personas "extremistas".
Un mensaje pregunta directamente al usuario "¿Está preocupado de que alguien que conoce se ha convertido en un extremista?", mientras que el otro avisa de manera más directa: "Podría haber sido expuesto a contenido extremista dañino recientemente".
Facebook is now signposting help if you think a friend is becoming an extremist ????
— Matt Navarra (@MattNavarra) July 1, 2021
h/t @disclosetv pic.twitter.com/7L5B0UORzj
En ambos casos, el mensaje muestra un botón que permite obtener ayuda, que redirige a recursos e información sobre contenido extremista en la red. Entre estos, se encuentran grupos de ayuda para militantes de grupos violentos de extrema derecha.
Este es un programa piloto, del que por el momento, sólo unos pocos usuarios son participantes. Facebook ha confirmado que forma parte de su compromiso por la cumbre del Llamado a la Acción de Christchurch, que nació en respuesta al atentado en Nueva Zelanda del 2019, que terminó con el asesinato de 51 personas en una mezquita. El responsable emitió la matanza por streaming a través de redes sociales y ganó mucha popularidad entre grupos extremistas.
Cabe destacar que Facebook no muestra información de qué contenido ha activado este mensaje, ni cuál de nuestros amigos es el que está consumiendo ese tipo de mensajes y vídeos. Además, nada indica que esté borrando el contenido que considera "violento" y que ha activado el mensaje, sólo apuntando que la compañía "se preocupa por prevenir el extremismo en Facebook". En febrero, la compañía afirmó que había tomado acciones contra 26,9 millones de publicaciones de odio en su plataforma.
