Facebook forzó contenido de granja de trolls en más del 40% de todos los estadounidenses cada mes.

Tras las elecciones de 2016, Facebook sabía que tenía un problema. Las páginas y las cuentas falsas creadas por la Agencia de Investigación de Internet respaldada por el Kremlin se habían extendido a través de la red social y atrajeron una participación masiva de usuarios reales. Facebook sabía que tenía que controlar las cosas.

Pero años más tarde, los propios equipos de investigación internos de Facebook revelaron que las granjas de trolls todavía estaban llegando a audiencias masivas, incluso si no tenían muchos seguidores directos.

Los propios algoritmos de la compañía empujaron el contenido de los trolls a los usuarios que no habían expresado interés en las páginas, expandiendo exponencialmente el alcance de los trolls.

Los propios algoritmos de la compañía empujaron el contenido de los trolls a los usuarios que no habían expresado interés en las páginas, expandiendo exponencialmente el alcance de los trolls. Se filtró un informe que detalla la investigación a Review de tecnología del MIT por un ex empleado.

Cuando se publicó el informe en 2019, las granjas de trolls llegaban a 100 millones de estadounidenses y 360 millones de personas en todo el mundo cada semana. En cualquier mes, Facebook mostraba publicaciones sobre granjas de trolls a 140 millones de estadounidenses. La mayoría de los usuarios nunca siguió ninguna de las páginas. Más bien, los algoritmos de recomendación de contenido de Facebook habían impuesto el contenido a más de 100 millones de estadounidenses semanalmente. «Una gran mayoría de su capacidad para llegar a nuestros usuarios proviene de la estructura de nuestra plataforma y nuestros algoritmos de clasificación en lugar de la elección del usuario», dice el informe.

Las granjas de trolls parecían destacar a los usuarios en los EE. UU. Si bien a nivel mundial más personas vieron el contenido en cifras brutas (360 millones cada semana según la propia contabilidad de Facebook), las granjas de trolls llegaban a más del 40 % de todos los estadounidenses.

El informe, escrito por Jeff Allen, un ex científico de datos de Facebook, revela que la priorización del compromiso de la empresa condujo al problema. Facebook, dijo, sabe muy poco sobre productores de contenido. Quién publicó algo no estaba siendo considerado en el algoritmo de News Feed.

“Son muchos algoritmos de filtrado colaborativo extremadamente sofisticados, pero todos se basan en el compromiso”, escribió Allen. “Cuando los productores de contenido que ganan ese sistema están explotando comunidades en nuestra plataforma en lugar de construirlas y apoyarlas, queda claro que el sistema de clasificación no refleja los valores de nuestra empresa. Tanto es así que en realidad está trabajando en nuestra contra «.

Influencers extranjeros

Muchas de las páginas provienen de países de la península de los Balcanes y están dirigidas a audiencias extranjeras con un enfoque principal en los estadounidenses, dice el informe.

La popularidad y el alcance de las granjas de trolls llevaron a Allen a creer que los agentes de la Agencia de Investigación de Internet de Rusia probablemente podrían explotar las mismas técnicas o usar las mismas páginas para llegar a los usuarios estadounidenses. “Si Troll Farms está llegando a 30 millones de usuarios de EE. UU. Con contenido dirigido a afroamericanos, no debería sorprendernos en absoluto si descubrimos que la IRA también tiene actualmente una gran audiencia allí”, escribió Allen.

Además, las granjas de trolls pudieron deslizar su contenido en Instant Articles y Ad Breaks, dos programas de Facebook que brindan a los socios un recorte de las ventas de anuncios que se ejecutan junto con el contenido de la página. «En Instant Articles, hubo un período en el que quizás hasta el 60% de las lecturas de artículos instantáneos se realizaban en contenido raspado, que es el método de escritura de artículos de Troll Farms preferido», dijo Allen. Facebook había estado pagando inadvertidamente a las granjas de trolls.

«Esta publicación fue de un empleado saliente en 2019», dijo el portavoz de Facebook Joe Osborne a Ars. «Incluso en el momento en que se publicó, ya habíamos estado investigando estos temas, y desde ese momento, hemos levantado equipos, desarrollado nuevas políticas y colaboró ​​con pares de la industria para abordar estas redes. Hemos tomado medidas de aplicación agresivas contra este tipo de grupos no auténticos nacionales y extranjeros y hemos compartido los resultados públicamente trimestralmente «.

Ars ha enviado preguntas adicionales a Facebook y actualizaremos esta historia si obtenemos una respuesta.

Comunidades explotadas

Los usuarios que vieron contenido de granjas de trolls tendían a dividirse en dos grupos, escribió Allen. “Un campamento no se da cuenta de que las páginas están dirigidas por actores no auténticos que están explotando a sus comunidades. Tienden a amar estas páginas. Les gusta lo entretenidas que son las publicaciones y cómo reafirman las creencias que ya tenían ”, escribió. “El otro campo se da cuenta de que las páginas están dirigidas por actores que no son auténticos. Odian la mierda eternamente amorosa de estas páginas. Odian estas páginas con una pasión que incluso yo encuentro imposible de igualar «.

Este último grupo le estaba contando activamente a Facebook sobre el problema. “Nuestros usuarios están literalmente tratando de decirnos que se sienten explotados por estas páginas”, dijo Allen.

A modo de ejemplo, Allen citó a un usuario que descubrió una página de una granja de trolls dirigida a los indígenas estadounidenses. El grupo de trolls robó arte y lo vendió reimpreso en camisetas que con frecuencia nunca se enviaban a los clientes, dijo el usuario. «Todo este grupo es una red de fraudes», escribió el usuario.

Las granjas de trolls destacadas en el informe se dirigieron principalmente a cuatro grupos diferentes: indígenas estadounidenses, estadounidenses negros, estadounidenses cristianos y mujeres estadounidenses. En el momento en que se escribió en octubre de 2019, el informe dice que para muchos de esos grupos, la mayoría de las páginas principales estaban dirigidas por granjas de trolls, incluidas las 15 páginas principales dirigidas a los estadounidenses cristianos, 10 de las 15 principales dirigidas a los estadounidenses negros. y cuatro de los 15 principales dirigidos a los indígenas estadounidenses. Cuando MIT Technology Review publicó su historia, cinco de los grupos de trolls todavía estaban activos.

Gran parte del contenido que publicaron estos grupos, aunque robado con frecuencia, aparentemente no violaba las reglas de contenido de Facebook. Aún así, eso no significa que sea inofensivo, dijo Allen.

Arreglos simples

Allen creía que el problema podría solucionarse con relativa facilidad incorporando “Graph Authority”, una forma de clasificar a los usuarios y las páginas similares al PageRank de Google, en el algoritmo de News Feed. «Agregar incluso algunas funciones sencillas como Graph Authority y retirar el dial de las funciones puramente basadas en el compromiso probablemente valdría la pena tanto en el espacio de integridad como … probablemente también en el compromiso», escribió.

Allen dejó Facebook poco después de escribir el documento, informa MIT Technology Review, en parte porque la compañía «ignoró efectivamente» su investigación, dijo una fuente.