Instagram impulsó 1.500 millones de visualizaciones antisemitas
Instagram impulsó 1.500 millones de visualizaciones antisemitas con un algoritmo que generó más de USD 1,3 millones de ingresos sólo a dos cuentas.
“El algoritmo de Instagram impulsó la venta de productos extremistas y antisemitas a 1.500 millones de visualizaciones”, reveló un informe divulgado en Nueva York por las las Federaciones Judías de América del Norte.
Este estudio fue realizaso por el Centro para Contrarrestar el Odio Digital (CCDH) y publicado en asociación con las Federaciones Judías de América del Norte.
El informe muestra que “la plataforma de redes sociales Instagram está promoviendo algorítmicamente cuentas que venden productos extremistas, antisemitas y racistas”.
Según dicho estudio, el algoritmo de Instagram ayudó a un grupo de cuentas “a alcanzar 1.500 millones de visitas y generar más de 1,3 millones de dólares en ventas estimadas”.
El informe fue caratulado como “Odio en venta: cómo Instagram ayuda a los vendedores de mercancía de odio a alcanzar mil millones de vistas”.
Este estudio “proporciona evidencia que la reversión de las políticas clave de moderación de contenido de Meta a principios de este año fue seguida por un aumento de casi cuatro veces en las vistas de cuentas que promueven “mercancía de odio” con temática nazi y racista”.
“Las 11 cuentas identificadas fueron recomendadas por el propio algoritmo de Instagram”, sostiene el informe divulgado por las Federaciones Judías de América del Norte.
“En lo que respecta a la propagación del odio y el antisemitismo, sabemos que las redes sociales han desempeñado un papel fundamental, por lo que la comunidad judía ha incluído este tema como parte de nuestro plan de seis puntos para combatir el antisemitismo”, expuso el informe.
“Este informe es un importante recordatorio de que las empresas de redes sociales pueden y deben hacer mucho más para aplicar sus normas y mantener nuestras comunidades más seguras”, declaró Eric D. Fingerhut, presidente y director ejecutivo de la Federación Judía.
Las principales conclusiones del informe incluyen:
- 1.500 millones de visitas en 11 cuentas que promueven y venden productos de odio
- Un aumento de 3,75 veces en las visualizaciones después de que Meta debilitó la aplicación de las normas sobre discursos de odio.
- Publicaciones que se burlan de la muerte de George Floyd, glorifican a los nazis y venden camisetas con lemas como “La vida es una carrera. Sé racista”.
- Al menos dos cuentas, con decenas de miles de ventas, obtuvieron ingresos estimados de US$ 839.700 y US$ 499.750 respectivamente
- Uso de contenido de odio generado por IA, que Meta no etiqueta de forma consistente como IA
“Instagram ayuda a los extremistas a lucrar con el antisemitismo y el racismo”, declaró Imran Ahmed, director ejecutivo de CCDH.
“Al retirar medidas de seguridad cruciales, Meta ha permitido que el odio prospere. El contenido extremista, incluyendo publicaciones que glorifican a los nazis, difunden la negación del Holocausto, demonizan al pueblo judío y bromean sobre la esclavitud, es promovido y monetizado por sus algoritmos”, concluyó el analisis del CCDH.
“Cada vez que alguien compra una camiseta de uno de estos comerciantes del odio, financia más propaganda y mancha la reputación de todas las empresas que facilitaron la venta”, continuó el informe.
A partir del análisis de contenidos en redes sociales, “el informe también muestra cómo las principales plataformas de comercio electrónico (Shopify, Wix y Payhip) albergaban estas tiendas en línea”.
El CCDH contactó a las empresas para alertarlas sobre la “mercancía de odio” vendida en sus plataformas.
Wix y Payhip respondieron, indicando que tomaron la decisión independiente de retirar la mercancía identificada.
Las Federaciones Judías de América del Norte tienen sede en Nueva York.
