¿La IA podría estar beneficiando a malos actores en Facebook?

Por si no lo sabía, la popular red social Facebook está siendo rápidamente invadida por basura dudosa generada por Inteligencia Artificial (IA), que de alguna manera está atrayendo monumentales cantidades de atención de su base de usuarios envejecida. Peor aún, según un nuevo análisis llevado a cabo por investigadores de la Universidad de Stanford y Georgetown, descubierto por primera vez por 404 Media, los estafadores y spammers se encuentran usando este contenido vulgar para aumentar su audiencia en Facebook. ¡Más detalles a continuación sobre la IA y Facebook!

Lo que tiene que saber acerca de la IA y Facebook

Vale la pena señalar que incluso con la proliferación de generadores de imágenes de IA, es evidente que la novedad todavía no ha desaparecido para los usuarios de la red social más grande, un verdadero dinosaurio de las redes sociales. Y aunque no lo crea, los estafadores se encuentran abusando de ese interés persistente, además del apoyo de los algoritmos involuntarios de Facebook, para llevar a las personas a otros sitios web llenos de anuncios, vender productos y así mismo, conseguir más seguidores, según han señalado los investigadores.

Es de acotar que, es sólo la última señal de que Internet está luchando por protegerse de un oleaje de basura generada por Inteligencia Artificial, que erosiona todavía más la calidad del contenido al que estamos expuestos a diario.

Imágenes que se volvieron virales

La semana pasada, capturas de pantalla de una publicación de Facebook que atrajo cientos de me gusta y comentarios con imágenes de un “Jesús camarón” se volvieron virales en X (antiguamente Twitter).

WHAT IS HAPPENING ON FACEBOOK pic.twitter.com/6XzTV5eBd3

— Jorge Murillo ? (@TheHornetsFury) March 13, 2024

Así mismo, otra captura de pantalla muestra una cuenta de Facebook que comparte una imagen de lo que supuestamente es una mujer de 112 años que hizo su propio pastel de cumpleaños. Como era de esperarse, la IA no pudo deletrear de forma correcta las palabras “feliz cumpleaños” y ni siquiera pudo deletrear correctamente las velas con forma de números.

Lots of normal things happening there pic.twitter.com/qR54fPlu7M

— ΛПΛƧƬΛƧYΛ (@YeenQween) March 13, 2024

Como señalan los investigadores de la Universidad de Stanford y Georgetown en su estudio aún por ser revisado, es más que posible que Facebook esté recompensando a las cuentas de spam de Inteligencia Artificial por inundar feeds con más de 50 imágenes generadas por IA al día, que atraen a decenas de millones de visitas.

Los algoritmos de Facebook se encuentran clasificando estas imágenes en los primeros lugares de los feeds de los usuarios, concibiendo enormes cantidades de interacción. La compañía ha degradado durante mucho tiempo los enlaces a sitios web externos y las publicaciones de imágenes parecen tener una clasificación mucho más alta.

Lo cierto es que, a juzgar por los comentarios, los investigadores descubrieron que muchos usuarios desconocen el origen sintético de las imágenes, aunque un subconjunto de usuarios publica comentarios o incluso infografías alertando a otros.

Como descubrió 404 Media, los estafadores están usando toda esta interacción para dirigir a los usuarios de Facebook a sitios web dudosos que están llenos de anuncios. Gracias a los algoritmos existentes en la popular red social Facebook, la empresa está impulsando activamente las páginas de estos estafadores.

Meta,hasta el momento no ha comentado sobre esta avalancha de basura generada por IA. Pero como sugieren los investigadores, se podría hacer mucho para abordar el problema. Por un lado, podría obligar a las páginas a etiquetar activamente el contenido sintético e implementar medidas de transparencia adicionales.

No es la única empresa que lucha con este problema

Pero, si hay algo muy importante que tener presente es que, la red social no es la única empresa que lucha con este problema. Google recientemente hizo cambios a su algoritmo central para penalizar el contenido generado por Inteligencia Artificial (IA) de bajo esfuerzo.

Sin embargo, todavía está por verse si estos esfuerzos darán frutos a largo plazo. Particularmente con usuarios involuntarios de Facebook que comparten y comentan estas publicaciones, es poco posible que observemos que el problema desaparezca por sí solo.

Como bien sabemos, Facebook también tiene un historial abismal cuando se trata de hacer cumplir las reglas y moderar el contenido. Dada su monstruosa base de usuarios de más de tres mil millones de usuarios, la red social de 20 años es, en muchos sentidos, demasiado grande para fracasar.

Es de resaltar que, al mismo tiempo, la empresa no ha sido especialmente relevante desde hace muchos años, y los usuarios jóvenes hace tiempo que lo abandonaron. Las imágenes generadas por IA de Jesús camarón continuan siendo transmitidas por su base de usuarios, lo cual, probablemente solo empeorarán las cosas.