X (antiguo Twitter) de Elon Musk, detuvo las búsquedas de Taylor Swift este fin de semana después de fotografías sexualmente explícitas generadas por Inteligencia Artificial (IA) de la superestrella del pop internacional (creada para parecerse a la artista) que se volvió viral en la plataforma. Cabe destacar que, esta es una de las pocas veces que X ha bloqueado significativamente contenido controvertido en la plataforma.
X tuvo que moderar su contenido
Las fotografías de desnudos de Taylor Swift generadas por IA comenzaron a circular en X a finales de la semana pasada, y hay que destacar que incluso, una publicación obtuvo más de 45 millones de visitas. Claramente, las publicaciones inmediatamente comenzaron a generar reacciones negativas por parte de la base de fans de Swift, lo que posteriormente llevó a X a bloquear las cuentas que compartían el contenido y así mismo, eliminar las publicaciones más virales.
La Casa Blanca incluso comentó sobre la situación, Karine Jean-Pierre, quien es secretaria de prensa de Biden, calificó la situación de “alarmante”. Posteriormente, en algún momento del fin de semana, los usuarios percibieron que ya no podían buscar el nombre de Taylor Swift, que significa uno de los impulsos de moderación de contenido más dramáticos de X desde la adquisición de Musk.
Incluso, Microsoft introdujo nuevas protecciones para su herramienta de generación de imágenes conocida como “Designer”, según 404 Medios el lunes, la cual fue identificada como la herramienta usada para crear las imágenes pornográficas con IA de la popular cantante Swift. Según se informó, Designer fue usado para crear contenido sexual Imágenes explícitas de varias otras celebridades, que están circulando en 4chan y también en la plataforma Telegram.
Lo cierto es que, la plataforma de redes sociales del magnate Elon Musk ha sido consumida por un escándalo de moderación de contenido en los últimos meses, como un aumento del antisemitismo y la supremacía blanca en la plataforma ha ahuyentado a los anunciantes. El propio Musk incluso ha jugado un papel en liderar ese movimiento, respaldar y así mismo, compartir opiniones controvertidas, defendiendo que X debería ser una plaza que promueva la libertad de expresión.
Incluso frente a las fuertes críticas, X (antiguo Twitter) se ha mostrado reacio a moderar su contenido con demasiada dureza. Sin embargo, la reacción del ejército de Taylor Swift (el número de fans) ha resultado demasiado para que la plataforma mantenga su postura de libertad de expresión por más tiempo. La decisión de limitar las búsquedas alrededor de Taylor, los engaños de IA rápida marcan uno de los casos más notables de verdadera moderación de contenido.
El sindicato de actores, SAG-AFTRA, se pronunció contra las imágenes pornográficas generadas por IA de Taylor Swift el viernes y señaló que el contenido debería ser ilegal si se crea sin el consentimiento de alguien. Incluso, la misma Swift esta al parecer furiosa sobre la situación. A medida que los generadores de imágenes de Inteligencia Artificial se vuelven cada vez más realistas, el porno de venganza hecho con estas herramientas se está convirtiendo rápidamente en una enorme área de inquietud.
X ha escrito políticas contra “desnudez no consentida” así como “medios sintéticos y manipulados” Ambos incluyen categóricamente porno Swift AI. La plataforma tiene una política sensata contra este tipo de medios, y al parecer, X está actuando de acuerdo con sus lineamientos previamente establecidos.
