Los pagos de la plataforma social X incentivaron la propagación de desinformación inflamatoria tras el ataque terrorista en Bondi Beach, según afirma un experto en medios digitales.
En las horas posteriores al ataque contra una celebración judía —en el que 15 personas inocentes fueron asesinadas y decenas resultaron heridas— las redes sociales se inundaron de afirmaciones falsas y engañosas.
Víctima de identidad errónea recibe amenazas de muerte
Naveed Akram, un hombre de Sídney, relató que recibió amenazas de muerte después de ser incorrectamente identificado en X como uno de los atacantes. Algunas publicaciones incluyeron información personal como su universidad.
«Fue una verdadera pesadilla para mí, ver fotos de mi cara compartidas en redes sociales, siendo falsamente llamado el tirador», dijo el nacional paquistaní a la ABC.
Akram, quien comparte el mismo nombre que uno de los atacantes reales, publicó un video en la página de Facebook del consulado de Pakistán en Sídney, suplicando a la gente que dejara de difundir la información falsa.
«Mis amigos vinieron conmigo a la estación de policía para reportarlo, pero la policía dijo que no podían hacer nada y me dijeron que simplemente desactivara mis cuentas», explicó.
Aunque algunas publicaciones y artículos que lo identificaban erróneamente fueron eliminados después de que las reportara, otros permanecen en línea en X y otras plataformas.
«Todavía estoy temblando. Esto me ha puesto en riesgo, y también a mi familia en Pakistán. Mi madre se desplomó y se siente en peligro», añadió.
Otras formas de desinformación viral
Los usuarios de redes sociales también publicaron videos de fuegos artificiales, caracterizándolos como celebraciones en el suburbio de Bankstown por parte de «árabes» o «islamistas» tras el ataque. Sin embargo, una organización comunitaria local confirmó que la exhibición era para celebraciones navideñas.
Aunque posteriormente se agregaron notas de la comunidad a al menos una de las publicaciones y algunas fueron eliminadas, otros usuarios continuaron reposteando y caracterizando erróneamente el video.
La desinformación compartida en X también incluyó:
- Identificación errónea de los atacantes como ex miembros de las Fuerzas de Defensa Israelíes
- Afirmaciones de que eran de Pakistán
- Falsos reportes de que también estaban ocurriendo tiroteos en otros suburbios del este
- Teorías conspirativas de que la tragedia fue una operación de «falsa bandera»
En realidad, uno de los atacantes era originalmente de India, mientras que el otro nació en Australia.
El programa de monetización como incentivo perverso
Timothy Graham, experto en desinformación y profesor asociado en Medios Digitales de la Queensland University of Technology, señaló que X continúa siendo una plataforma influyente donde las «narrativas falsas clave» comienzan a viralizarse antes de extenderse más ampliamente.
«La mayor conclusión para mí realmente es que las plataformas, X en particular, realmente incentivan esto a través de sus características de diseño… desafortunadamente, esto tanto impulsa como recompensa [el contenido engañoso]», explicó Dr. Graham.
El mayor impulsor, según Graham, es el programa de monetización de X, en el cual los usuarios reciben pagos por el engagement en sus publicaciones.
Cómo funciona el sistema de pagos
El sitio web de X establece: «Los ingresos se calculan basándose en interacciones verificadas con tus publicaciones, como me gusta y respuestas».
Graham explicó que tras eventos como el tiroteo de Bondi, la gente está desesperada por información. Aunque gran parte del contenido engañoso destinado a explotar esa desesperación era hiperpolítico, la mayoría estaba motivado financieramente.
«La gente está incentivada a compartir contenido que saben que va a obtener muchos clics independientemente de su calidad, independientemente de si es verdadero o factual, simplemente porque pueden ganar dinero con ello, y esto es obviamente un problema realmente grande», dijo Graham.
«Básicamente hay una economía alrededor de la desinformación ahora».
Condiciones del programa ignoradas
Las condiciones del programa Creator Revenue Sharing de X establecen que el «contenido relacionado con tragedia, conflicto, violencia masiva, o explotación de asuntos políticos o sociales controvertidos» es contenido restringido que «puede enfrentar monetización restringida».
Sin embargo, no está claro cuándo se aplican estas condiciones.
Para unirse al programa de monetización, las cuentas deben tener ya una cantidad significativa de engagement, incluyendo 5 millones de «impresiones orgánicas» en los últimos tres meses y al menos 500 seguidores verificados. También deben ser suscriptores pagos de X.
Las «community notes» son inadecuadas para crisis
Graham también señaló que el sistema de moderación de «community notes» de X es inadecuado para situaciones divisivas de noticias de última hora como el tiroteo de Bondi.
Bajo este sistema, los usuarios pueden «colaborativamente agregar notas útiles a publicaciones que podrían ser engañosas». Las notas solo aparecen cuando las publicaciones son calificadas como «útiles» por personas de perspectivas diversas.
«Para identificar notas que son útiles para un amplio rango de personas, las notas requieren acuerdo entre contribuyentes que a veces han estado en desacuerdo en sus calificaciones pasadas», dice el sitio web de la plataforma.
Graham explicó que las community notes funcionan para algún contenido pero no para eventos polarizantes en desarrollo, que requieren acuerdo entre personas que tienen puntos de vista extremos opuestos.
Las notas terminan tardando demasiado o nunca se agregan, explicó.
«Mientras tanto, están acumulando visualizaciones. Están siendo reportadas. Están siendo recogidas por [otros canales]. Se está extendiendo como fuego, y ya sabes, 10, 12, 24 horas después todavía no vemos ningún contexto agregado».
Soluciones complejas pero necesarias
Graham dijo que las soluciones a la desinformación en redes sociales son complejas y deben encontrar un equilibrio entre la libertad de expresión y la protección del público.
Sin embargo, señaló que algunos pasos importantes serían abordar los incentivos ofrecidos por las plataformas y también hacer que los datos de las plataformas de redes sociales sean más accesibles.
«Estamos viviendo en una era oscura de acceso a datos de redes sociales», dijo.
Explicó que anteriormente las partes interesadas entendían cuánto discurso de odio y qué tipo estaba ocurriendo, así como los niveles de interferencia extranjera.
Se necesitan regulaciones que requieran que las plataformas compartan especificaciones de sus algoritmos, cómo funcionan, y qué contenido están impulsando, dijo.
Multa europea como precedente
A principios de este mes, la Unión Europea multó a X con 120 millones de euros (210 millones de dólares) por infracciones de su Ley de Servicios Digitales, incluyendo poner «barreras innecesarias» para investigadores que intentan acceder a datos públicos.
«La ley de servicios digitales de la Unión Europea enfrenta este problema de frente, y creo que está haciendo un excelente trabajo intentando abrir camino en las plataformas», afirmó Graham. «Necesitan compartir datos con la gente. Necesitamos saber qué está pasando».
La desinformación como problema de infraestructura
Graham calificó la desinformación en redes sociales como un «problema de infraestructura».
«Necesitamos reconocer que plataformas como X son ahora infraestructura moderna, como los puentes son infraestructura, como los cables telefónicos son infraestructura», explicó.
«Si hay algo problemático en ellas, entonces necesitamos cambiarlas; de lo contrario, van a seguir haciendo lo mismo».
