Tech

¿Por qué Twitter no tratará a la supremacía blanca como a ISIS? Porque también significaría prohibir a algunos políticos republicanos.



 El Shabbat 



Por  Joseph Cox and Jason Koeble


Un empleado de que trabaja en el aprendizaje automático cree que una solución proactiva y algorítmica a la supremacía blanca también atraparía a los políticos republicanos.

En una reunión de todas las manos en Twitter el 22 de marzo, un empleado hizo una pregunta contundente: Twitter ha erradicado en gran medida la propaganda del Estado Islámico de su plataforma. ¿Por qué no puede hacer lo mismo para el contenido de los supremacistas blanco?

Un ejecutivo respondió explicando que Twitter sigue la ley, y un empleado técnico que trabaja en aprendizaje automático y problemas de inteligencia artificial se acercó al micrófono para agregar algo de contexto. (Como informó anteriormente, los algoritmos son la próxima gran esperanza para las plataformas que intentan moderar las publicaciones de sus cientos de millones o miles de millones de usuarios).

Con cada tipo de filtro de contenido, hay una compensación, explicó. Cuando una plataforma se impone agresivamente contra el contenido de , por ejemplo, también puede marcar cuentas inocentes, como las emisoras en árabe. La sociedad, en general, acepta el beneficio de prohibir a por incomodar a otros, dijo.

En discusiones separadas verificadas por Motherboard, ese empleado dijo que Twitter no ha adoptado el mismo enfoque agresivo para el contenido de supremacistas blancos porque las cuentas colaterales que se ven afectadas pueden, en algunos casos, ser políticos republicanos.

El empleado argumentó que, a nivel técnico, el contenido de los políticos republicanos podría verse afectado por algoritmos que eliminan agresivamente el material de la supremacía blanca. Argumentaba que prohibir a los políticos no sería aceptado por la sociedad como una compensación por marcar toda la propaganda de la supremacía blanca.

No hay indicios de que esta posición sea una política oficial de Twitter, y la compañía le dijo a Motherboard que esto “no es [una] caracterización precisa de nuestras políticas o aplicación, en ningún nivel”. Pero los comentarios de los empleados de Twitter destacan el debate que a veces se pasa por alto. dentro de la moderación de las plataformas tecnológicas: ¿los problemas de moderación son puramente técnicos y algorítmicos, o las normas sociales juegan un papel más importante de lo que algunos pueden reconocer?

 

Aunque Twitter tiene reglas contra el “abuso y la conducta odiosa”, expertos en derechos civiles, organizaciones gubernamentales y usuarios de Twitter dicen que la plataforma no ha hecho lo suficiente para frenar la supremacía blanca y los neonazis en la plataforma, y ​​su competidor Facebook recientemente prohibió explícitamente a los blancos. nacionalismo. El miércoles, durante una audiencia del comité parlamentario sobre la moderación del contenido de las redes sociales, la parlamentaria británica Yvette Cooper preguntó a Twitter por qué aún no ha prohibido al ex líder del KKK David Duke, y “Jack, prohibir a los nazis” se ha convertido en una respuesta común a muchos de los CEO de Twitter Los tweets de . Durante una entrevista reciente con TED que permitió al público tuitear preguntas, la información fue superada por personas que le preguntaron a Dorsey por qué la plataforma no había prohibido a los nazis. Dorsey dijo que “tenemos políticas en torno a los grupos extremistas violentos”, pero no dio una respuesta directa a la pregunta. Dorsey no respondió a dos solicitudes de comentarios enviadas a través de Twitter DM.

¿Trabajas en Twitter? Nos encantaría saber de usted. Usando una computadora o teléfono que no sea de trabajo, puede comunicarse con Joseph Cox de manera segura en Signal al +44 20 8133 5190, chat OTR en jfcox@jabber.ccc.de, o correo electrónico joseph.cox@vice.com.

Twitter no ha explicado públicamente por qué ha podido erradicar con tanto éxito ISIS mientras continúa luchando con el nacionalismo blanco. Como empresa, Twitter no dirá que no puede tratar la supremacía blanca de la misma manera que trató al ISIS. Pero los expertos externos con los que habló Motherboard dijeron que las medidas tomadas contra ISIS eran tan extremas que, si se aplicaban a la supremacía blanca, ciertamente habría una reacción violenta, porque los algoritmos obviamente marcarían el contenido que ha sido twitteado por prominentes republicanos, o al menos , sus partidarios Por lo tanto, no es sorprendente que los empleados de la compañía también se hayan dado cuenta de eso.

Esto se debe a que las medidas proactivas tomadas contra ISIS son más parecidas a la eliminación de spam o pornografía infantil que la forma más matizada que las plataformas de redes sociales tradicionalmente controlan el contenido, lo que puede implicar el uso de algoritmos para mostrar el contenido, pero en última instancia depende de los humanos para revisar y quítelo (o déjelo). Un portavoz de Twitter le dijo a Motherboard que el 91 por ciento de las suspensiones relacionadas con el terrorismo de la compañía en un período de 6 meses en 2018 se debió a herramientas internas y automatizadas.

El argumento que los expertos externos hicieron a Motherboard se alinea con lo que transmitió el empleado de Twitter: la sociedad en su conjunto exigió de manera indiscutible e inequívoca que Twitter tome medidas contra ISIS a raíz de la decapitación de videos que se extienden por toda la plataforma. El enfoque automatizado que Twitter adoptó para erradicar ISIS fue exitoso: “No he visto un partidario legítimo de ISIS en Twitter que dure más de 15 segundos durante dos años y medio”, Amarnath Amarasingam, investigador de extremismo en el Instituto para Diálogo Estratégico, le dijo a Motherboard en una llamada telefónica. La sociedad y los políticos estaban dispuestos a aceptar que algunas cuentas fueron suspendidas por error por Twitter durante ese proceso (por ejemplo, las cuentas pertenecientes al grupo hacktivista Anónimo que informaban cuentas de ISIS a Twitter como parte de una operación llamada #OpISIS fueron prohibidas).

Ese mismo enfoque de erradicar todo, aplicado a la supremacía blanca, es mucho más controvertido.

“La mayoría de la gente puede aceptar que un video de decapitación o algún tipo de contenido de ISIS se elimine de manera proactiva, pero cuando tratamos de hablar sobre el nacionalismo de extrema derecha o blanco, nos metemos en un territorio peligroso, donde estamos hablando [Representante de Iowa. ] Steve King o tal vez incluso algunos de los tweets de Trump, por lo que se hace difícil para las compañías de redes sociales decir todo esto ‘este contenido debería eliminarse’ ”, dijo Amarasingam.

“Habrá controversia aquí que no vimos con ISIS, porque hay más nacionalistas blancos que partidarios de ISIS, y los nacionalistas blancos están más cerca de las palancas del poder político en Estados Unidos y Europa de lo que ISIS alguna vez estuvo”.

En marzo, King promovió a un nacionalista blanco abierto en Twitter por tercera vez. La cita de King tuiteó Faith Goldy, una nacionalista blanca canadiense. A principios de este mes, Facebook prohibió a Goldy bajo la nueva política del sitio que prohíbe el nacionalismo blanco; Goldy tiene 122,000 seguidores en Twitter y no ha sido prohibido al momento de escribir. El año pasado, Twitter prohibió al político republicano y nacionalista blanco Paul Nehlen por un tweet racista que envió sobre la actriz y princesa Meghan Markle, pero antes de la prohibición, Nehlen ganó muchos seguidores en la plataforma mientras tuiteaba contenido nacionalista abiertamente blanco sobre, por ejemplo, los “medios judíos”.

Es probable que cualquier movimiento que pueda percibirse como anti-republicano provoque una reacción violenta contra la compañía, que ha sido criticada por el presidente Trump y otros republicanos prominentes por tener un “sesgo anticonservador”. El martes, el mismo día que Trump se reunió con Dorsey de Twitter, el presidente tuiteó que Twitter “[no] me trata bien como republicano. Muy discriminatorio ”, tuiteó Trump. “No es de extrañar que el Congreso quiera involucrarse, y deberían hacerlo”.

JM Berger, autor de Extremismo y de varios informes sobre ISIS y extremistas de extrema derecha en Twitter, le dijo a Motherboard que, en su propia investigación, descubrió que “una gran cantidad de nacionalistas blancos se identifican como ávidos partidarios de Trump”.

“Tomar medidas enérgicas contra los nacionalistas blancos, por lo tanto, implicará eliminar a muchas personas que se identifican en mayor o menor medida como partidarios de Trump, y algunas personas en los círculos de Trump y los medios pro Trump ciertamente aprovecharán esto para quejarse de que están siendo perseguidos”. Berger dijo. “Habrá una controversia aquí que no vimos con ISIS, porque hay más nacionalistas blancos que partidarios de ISIS, y los nacionalistas blancos están más cerca de las palancas del poder político en los Estados Unidos y Europa de lo que ISIS alguna vez estuvo”.

Actualmente, Twitter no tiene una buena forma de suspender a los supremacistas blancos específicos sin intervención humana, por lo que continúa utilizando moderadores humanos para evaluar los tweets. En un correo electrónico, un portavoz de la compañía le dijo a Motherboard que “diferentes contenidos y comportamientos requieren diferentes enfoques”.

“Para el contenido relacionado con el terrorismo, hemos tenido mucho éxito con la tecnología patentada, pero para otros tipos de contenido que violan nuestras políticas, que a menudo pueden ser mucho más contextuales, vemos los mejores beneficios al usar la tecnología y la revisión humana en conjunto “, Dijo la compañía.

Twitter no ha hecho un trabajo particularmente bueno al eliminar el contenido de la supremacía blanca y ha mostrado reticencia a tomar cualquier tipo de acción contra los “líderes mundiales” incluso cuando sus tweets violan las reglas de Twitter. Pero Berger está de acuerdo con Twitter en que el problema que enfrenta la compañía con la supremacía blanca es fundamentalmente diferente al que enfrentó con ISIS a nivel práctico.

“Con ISIS, la marca obsesiva del grupo, las estrechas redes sociales y los pequeños números hicieron más fácil evitar el daño colateral cuando las compañías tomaron medidas enérgicas (aunque hubo algunas)”, dijo. “Los nacionalistas blancos, por el contrario, tienen una marca inconsistente, redes sociales difusas y un gran grupo de personas comprensivas en la población, por lo que el riesgo de daño colateral podría percibirse como más alto, pero realmente depende de dónde dibuje la compañía sus líneas. contenido.”

Pero solo porque erradicar la supremacía blanca en Twitter es un problema difícil no significa que la compañía deba obtener un pase. Después de que Facebook prohibió explícitamente la supremacía blanca y el nacionalismo blanco, Motherboard preguntó a YouTube y Twitter si harían cambios similares. Ninguna de las compañías se comprometió a hacer ese cambio explícito y nos remitió a sus reglas existentes.

“Twitter tiene la responsabilidad de pisotear todas las voces de odio en su plataforma”, dijo Brandi Collins-Dexter, directora principal de campaña del grupo activista Color Of Change a Motherboard en un comunicado. “En cambio, la compañía está dando un paseo gratis a políticos conservadores cuya retórica peligrosa permite el crecimiento del movimiento supremacista blanco en la corriente principal y el aumento del odio, en línea y fuera de él”.

, MOTHERBOARD, TWITTER, , ISIS, , , JACK DORSEY, ,

Si te ha gustado, ¡compártelo con tus amigos! No critiques, crea

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *