El despido de Elon Musk ha destruido un grupo de Twitter que lucha contra el abuso sexual infantil

El equipo actualmente tiene menos de 10 expertos para revisar e investigar los informes de abuso sexual infantil, tres personas familiarizadas con el asunto pidieron no ser identificadas por temor a represalias. A principios de año, dijeron que Twitter tenía un equipo de unas 20 personas.

Se produce cuando los legisladores de la Unión Europea y el Reino Unido planean reglas radicales de seguridad en línea que requerirían plataformas de redes sociales para proteger mejor a los niños o enfrentar multas significativas.

Twitter no respondió a una solicitud de comentarios.

Elon Musk ha reducido drásticamente el tamaño de un equipo de Twitter Inc. dedicado a combatir el abuso sexual infantil en la plataforma, reduciendo a la mitad su equipo global de expertos y dejando atrás un personal en gran parte mínimo, dijeron personas familiarizadas con el asunto.

El equipo actualmente tiene menos de 10 expertos para revisar e investigar los informes de abuso sexual infantil, tres personas familiarizadas con el asunto pidieron no ser identificadas por temor a represalias. A principios de año, dijeron que Twitter tenía un equipo de unas 20 personas.

Se produce cuando los legisladores de la Unión Europea y el Reino Unido planean reglas radicales de seguridad en línea que requerirían plataformas de redes sociales para proteger mejor a los niños o enfrentar multas significativas.

Twitter no respondió a una solicitud de comentarios.

Algunos hashtags populares relacionados con el abuso sexual infantil se eliminaron después de que Musk asumió el cargo, cambios que estaban en proceso antes de que se uniera, dijeron las personas. Sin embargo, combatir este tipo de mensajes no siempre es tan simple como eliminar los tweets que contienen hashtags ofensivos, ya que muchos tienen otro propósito inofensivo. Los delincuentes también cambian constantemente los términos que utilizan para evitar ser detectados.

Terminar con el abuso infantil es la prioridad #1. Si ve algo que Twitter debería abordar, responda en los comentarios.

— Elon Musk (@elonmusk) 24 de noviembre de 2022

Si bien las herramientas basadas en IA pueden ser útiles para identificar imágenes que ya han sido revisadas por las fuerzas del orden público y clasificadas como material de explotación sexual infantil, la percepción humana es especialmente importante para comprender los matices del acicalamiento y otros comportamientos de explotación, y para identificar imágenes ofensivas previamente desconocidas. . Los videos expresaron las diferencias regionales en la ley y la comprensión de la gente. También se requiere que las personas respondan a las consultas de las fuerzas del orden público como parte de las investigaciones criminales.

La pérdida de especialistas en Europa y Singapur hará que la vigilancia en los mercados de habla no inglesa sea un desafío particular, dice la gente.

Estos expertos han trabajado en estrecha colaboración con gerentes e ingenieros de productos dedicados para crear herramientas y automatización para detener la propagación de material, así como con contratistas externos que ayudan a clasificar las publicaciones informadas por los usuarios. Aunque solo unos pocos empleados fueron despedidos en la primera ronda de despidos, el equipo fue diezmado cuando Musk instó a los empleados de Twitter a apegarse a la cultura “incondicional” o perder sus trabajos. La gente dijo que Musk no creó un entorno en el que el equipo quisiera quedarse.

Personas familiarizadas con el asunto dijeron anteriormente que las salidas eran parte de un éxodo más amplio en el equipo de confianza y seguridad de Twitter después de que Musk emitiera un ultimátum este mes. La compañía también perdió una cantidad significativa de empleados que bloquearon campañas de desinformación extranjeras en la plataforma, dejando a toda la audiencia de Twitter sin moderación de contenido, dijo una de las personas. En la región de Asia-Pacífico, solo queda un contratista, contratado para ayudar con el spam en el mercado coreano, dijo la persona.

Axios informa que Twitter también ha despedido a varios contratistas que ayudan a moderar el contenido. Incluidas las plataformas de redes sociales FacebookTikTok y Twitter usan moderadores externos para ayudar a revisar las publicaciones marcadas en busca de infracciones.

A diferencia de otros tipos de contenido obsceno que violan las reglas de Twitter, es ilegal que la plataforma publique material de abuso sexual infantil y, según el país, existen requisitos para eliminar y denunciar el material dentro de un cierto período de tiempo.

En el Reino Unido, la Ley de seguridad en línea faculta a los reguladores para multar a las plataformas de contenido generado por los usuarios, incluidas Twitter y otras aplicaciones de redes sociales, hasta el 10 % de sus ingresos si no controlan sus plataformas de manera efectiva.

La UE también está planeando una regulación que requeriría que las empresas de tecnología adopten un enfoque más agresivo para detectar material de explotación sexual.

La controvertida propuesta de la Comisión Europea otorgaría a los tribunales el poder de exigir a las empresas que escaneen el contenido de los mensajes, incluso si están cifrados de extremo a extremo. La comisión también quiere que las empresas detecten el grooming a través de inteligencia artificial y utilicen la verificación de edad para encontrar menores en sus plataformas.

“Elon Musk ha expresado mucho su compromiso de combatir el abuso sexual de niños en línea”, dijo Ylva Johansson, la comisionada de la UE responsable de la propuesta. “Espero plenamente que cumpla con esos compromisos públicos”.

“Tener expertos y equipos experimentados, así como aquellos familiarizados con la legislación de la UE, me parece una base obvia para expandir esta lucha”, dijo.