¡La IA Generativa (GenAI) podría generar mucha desinformación!

La IA Generativa (GenAI) ha resultado muy benéfica pero, si hay algo que no se debe pasar por alto es que la misma, también podría generar mucha desinformación. En este artículo se comenta acerca de las 5 formas diferentes en que los malos actores la usan para difundir la desinformación de forma más fácil y efectiva, y así mismo, se explica por qué, con su ayuda, las noticias y las propagandas falsas se han vuelto más detalladas.

5 formas diferentes en que los malos actores usan GenAI para difundir la desinformación

Estas son las 5 formas que debe conocer y que no se deben pasar por alto:

GenAI ayuda a crear bots que parecen auténticos

Es importante señalar que antes de que GenAI llegara a nuestras vidas, crear una intrincada red de bots ya era una tarea que podía crearse a escala mediante el aprendizaje automático. En el pasado, sin embargo, se podía distinguir de forma fácil esos bots de los perfiles auténticos; tenían imágenes de perfil genéricas (si es que tenían alguna), todos fueron creados el mismo día, no tenían amigos o solo tenían amigos con perfiles similares (en ocasiones idénticos), y solo publicaban sobre el tema concreto para el que fueron creados.

Pero, lo cierto es que cuando la tecnología GenAI se implementó en las redes de bots, cambió las reglas del juego.

El parámetro más básico, una imagen de perfil distinguible, era uno de los más fáciles de lograr: los actores maliciosos ya no necesitan revisar bancos de imágenes o incluso, robar una foto de perfil de una persona real y correr el riesgo de ser descubiertos. Los generadores de imágenes GenAI como “Esta persona no existe” tienen la capacidad de poder producir fotografías de diferentes personas con características y defectos únicos, haciéndolas parecer más auténticas que nunca. Un mal actor puede crear una comunidad completa de perfiles falsos de cualquier género, de cualquier edad, así como color o nacionalidad, e incluso utilizar un “generador de personas” GenAI para obtener nombres que suenen auténticos, así como también otros detalles personales como cumpleaños, dirección, número de teléfono y hasta incluso, el tipo de sangre.

La GenAI tiene la posibilidad de fabricar intereses e historia

Cabe recalcar que el desafío de crear un perfil falso que parezca real no termina con el nombre y la foto. Muchos usuarios de redes sociales son más conocedores de los perfiles falsos y serían lo suficientemente sospechosos como para buscar signos clásicos de un perfil falso, como la fecha de creación reciente, la cantidad de amigos y, sobre todo, el historial. Un perfil que se creó hace dos años pero, que permaneció inactivo hasta que comenzó a twittear sobre un tema de tendencia crucial la semana pasada es un buen indicador de un perfil falso. Pero, es de acotar que si el perfil estaba activo y compartía contenido no relacionado (por ejemplo, si hablaba de su programa de televisión o equipo de fútbol favorito, entre otros), es mucho más probable que lo clasifiquen como real. Aunque parezca difícil de creer, todo este contenido personalizado se puede crear usando generadores de texto GenAI como ChatGPT y Bard.

Además, los generadores de imágenes GenAI tienen la capacidad de poder crear más de una imagen de perfil falsa; pueden suministrar una galería completa de fotos de la misma persona para acompañarla. Esos métodos claramente, logran permitir a los delincuentes crear fácilmente registros completos y un historial para cualquier perfil falso.

GenAI supera la barrera del idioma

Por si no lo sabía, una cantidad importante de la actividad falsa en línea se origina en países en los que el inglés no es un idioma nativo. Los perfiles falsos que pretendían ser estadounidenses alguna vez solicitaron habilidades bastante buenas en inglés, así como también una cantidad decente de investigación para tener en cuenta la cultura y la jerga. Incluso en sus inicios, los modelos de texto GenAI superaron de forma muy fácil muchas de esas barreras del idioma, ofreciendo a los actores maliciosos con un inglés promedio o básico, la capacidad de escribir, así como de reescribir y ajustar cualquier texto para que suene realmente nativo y local.

Incluso, con los avances que se han podido observar en GenAI tiene la posibilidad de superar la barrera del idioma en cualquier idioma. Pero, lo cierto es que hace más que eso de hecho, sus vastos conjuntos de datos ofrecen la capacidad de probar y también de ajustar el mensaje en cada estilo y tono, haciéndolo parecer mucho más personalizado y confiable.

GenAI tiene la capacidad de poder incluso construir una comunidad falsa

Si hay algo vital que mencionar es que crear una buena campaña de desinformación no se trata únicamente de una masa de perfiles falsos diversos y que parezcan confiables. Se trata también de las conexiones entre ellos; al inicio de cada campaña de operación de influencia, los perfiles falsos interactúan entre sí y también con los perfiles auténticos, aprovechando el algoritmo para hacerse eco y al mismo tiempo, difundir sus mensajes.

Es de resaltar que la implementación de GenAI en las redes de bots afectó en gran medida esta capacidad; donde antes un perfil falso saltaba a una conversación y compartía un mensaje que no tenía nada que ver con el tema o un enlace sin contexto, ahora esos bots tienen la capacidad de poder usar los mismos modelos GenAI que analizan la pregunta de un usuario para predecir la respuesta deseada, haciendo que la discusión suene más coherente. Los perfiles auténticos se encuentran perdiendo el tiempo discutiendo con bots, mientras que los propios bots pueden seguir interactuando entre sí sin cesar, lo que hace que esta cámara de resonancia sea aún más efectiva y aumenta el potencial de tendencia de la conversación.

GenAI suministra capas adicionales de contenido

No se debe pasar por alto que, como todo mal actor sabe, una campaña de desinformación nunca se sostiene por sí sola. Siempre es parte de una estrategia mayor; manchar la reputación de una empresa, afectar los resultados electorales, entre otros. Esto quiere decir que la campaña siempre puede beneficiarse de más contenido; por ejemplo, blogs, revistas o incluso, sitios de noticias falsos que respaldan el mismo reclamo que los perfiles falsos, llenos de otros tipos de contenido para parecer auténticos y confiables. No es necesario que un escritor redacte esas docenas o cientos de páginas de contenido; en tan solo unos momentos, cualquier generador de texto GenAI tiene la posibilidad de producir cientos de artículos, así como cientos de historias y fragmentos falsos.

Cabe acotar que, los perfiles falsos pueden difundir noticias falsas y generar caos, desconfianza o incluso, confusión. Sin embargo, cuando se combinan con un sitio creado por GenAI que parece legítimo y valida su agenda falsa, se convierten en un arma de desinformación verdaderamente masiva.