Elon Musk está implementando acciones en la plataforma de redes sociales X, que antes se conocía como Twitter, para reforzar su conocido equipo de "confianza y seguridad". Este equipo fue el encargado de llevar a cabo la censura masiva de conservadores durante la administración anterior, y estas medidas se han intensificado tras la aparición de imágenes explícitas generadas por IA de la famosa cantante Taylor Swift en la plataforma.
Según informa el New York Post, la plataforma de redes sociales X/Twitter, propiedad de Elon Musk, ha decidido contratar a 100 nuevos moderadores de contenido y establecer un "centro de confianza y seguridad" en Austin, Texas. Esta iniciativa busca abordar de manera más efectiva el contenido abusivo y explícito. La medida se anuncia tras la rápida difusión en X/Twitter de imágenes deepfake generadas por IA que mostraban a la estrella del pop Taylor Swift desnuda la semana pasada.
El 6 de enero, Memetica, un grupo especializado en inteligencia de amenazas digitales, detectó los primeros deepfakes de Swift en línea; sin embargo, fue más recientemente cuando estos se volvieron virales. Utilizando generadores de imágenes de IA como DALL-E, se crearon las imágenes, capaces de producir falsificaciones realistas a partir de simples indicaciones de texto.
La compañía de Musk enfocó el trabajo del equipo de "confianza y seguridad" en la protección de los niños como parte de un esfuerzo por gestionar los daños. Joe Benarroch, ejecutivo de X, comentó: "X no tiene una línea de negocio centrada en los niños, pero es importante que realicemos estas inversiones para seguir impidiendo que los delincuentes utilicen nuestra plataforma para cualquier distribución o compromiso con el contenido de CSE".
Según los investigadores, la aparición de deepfakes explícitos ha aumentado en los últimos años debido a la mejora y mayor accesibilidad de la tecnología de IA. Celebridades femeninas y figuras públicas son las principales víctimas de este fenómeno. Para abordar esta problemática, la nueva Ley de Servicios Digitales de la UE obliga a plataformas como X a tomar medidas contra los contenidos abusivos y no consensuados.