Cómo los deepfakes están impactando la cultura, la privacidad y la reputación!

Es vital tener presente que aunque las imágenes alteradas o falsas no son algo nuevo, los deepfakes lo llevan a un nivel totalmente nuevo, usando Inteligencia Artificial (IA) para crear imágenes, así como también videos y audio que parecen reales, pero no lo son. En este artículo comentaremos un poco sobre como los deepfakes están impactando la cultura, la privacidad y la reputación!

Todo lo que tiene que saber acerca de los deepfakes

Los deepfakes han sido un tema de conversación grandemente activo desde que adquirieron prominencia pública en el año de 2017 y, lo peor de todo, es que los mismos están creciendo en línea. La cantidad de deepfakes en línea aumentó más del 300% desde el mes de octubre de 2019 hasta junio de 2020, y es posible que esta cifra solo haya seguido subiendo.

En el año de 2021, usando solo unas pocas imágenes del rostro de una persona y software disponible públicamente, ha sido posible insertar la imagen de una persona en un video y mostrarla diciendo o haciendo casi cualquier cosa, incluso si no lo ha hecho. Cada vez es más difícil determinar la legitimidad de los deepfakes, lo que claramente aumenta el potencial de tergiversación y desinformación.

No se debe pasar por alto que su reputación surge de lo que hay sobre usted y de cómo los demás interpretan lo que observan. Con el progresivo número de deepfakes en línea, las opiniones de las personas pueden verse afectadas por eventos o momentos que ni siquiera han sucedido. Incluso si el deepfake finalmente (o rápidamente) se revela, puede ser difícil recuperarse del impacto inicial en la audiencia.

Conforme crece la prevalencia de los deepfakes, también crece la importancia de crear conciencia y de aprobar leyes al respecto. La manera en que los deepfakes pueden alterar la realidad influye en la percepción pública, así como en la privacidad y la reputación.

¿Cómo se puede detectar un deepfake?

Aunque los deepfakes se crean para ser convincentes, no son del todo herméticos. Si bien existen herramientas de detección de Inteligencia Artificial (IA) para detectar deepfakes, existen varios indicadores que pueden ayudarle a identificar un deepfake por su cuenta, los mismos pueden ser los siguientes:

Iluminación inconsistente.

Visión borrosa alrededor de la cara o el cabello.

Audio que no coincide.

Algo extraño en los ojos, como parpadeo excesivo o parpadeo insuficiente. (Este punto puede ser bastante valioso).

Atribución de los modelos de Deepfakes

El atractivo de los deepfakes

Entretenimiento y cultura pop

Quizás uno de los primeros y más populares usos de los deepfakes en la cultura popular fue el vídeo de impresiones de Bill Hader de 2019 creado por el canal de YouTube Ctrl-Shift-Face. Según se pudo conocer, el video tomó un clip del actor y comediante Bill Hader sobre David Letterman haciéndose pasar por Tom Cruise y Seth Rogen. Aunque el clip original era del año 2008, el nuevo vídeo mostraba el rostro de Hader transformándose en los rostros de Tom Cruise y Rogen, dependiendo de a quién imitara.

Hasta el momento, el vídeo ha recibido aproximadamente 12 millones de visitas en YouTube. Pero, en una entrevista con The Guardian, el YouTuber detrás del video afirmó que lo hizo para crear conciencia sobre el poder de la tecnología de intercambio de rostros y deepfake en “la era de las noticias y las imágenes falsas”, afirmando: “La gente necesita aprender a ser más crítico. El público en general es consciente de que las fotografías se pueden retocar con Photoshop, pero no tiene idea de que esto se pueda hacer con vídeo”.

Lo cierto es que, desde el año de 2021 los deepfakes se están volviendo cada vez más prominentes en los medios populares. Las películas recientes de Star Wars han presentado versiones generadas por computadora de Peter Cushing (Grand Moff Tarkin) y Carrie Fisher (Princesa Leia) tal como aparecieron en la película original de 1977. Las películas de Marvel también han hecho uso de esta tecnología, envejeciendo a muchos personajes en varias películas ambientadas en el MCU, así como estos existen muchos otros ejemplos.

Medios de comunicación social

A las redes sociales se les atribuye el mérito de impulsar la difusión de deepfakes, esto debido en gran medida a aplicaciones y software que permiten a los usuarios crear los suyos propios. Aplicaciones para que los usuarios intercambien caras entre sí e impongan sus propias caras en imágenes y videos de celebridades con una computadora o teléfono móvil, ha hecho posible la creación de deepfakes mucho más accesible para el ciudadano medio.

Sin embargo, el uso de deepfakes en las redes sociales no ha sido sólo diversión y juegos. Diversos informes han indicado que se han utilizado deepfakes para crear perfiles de redes sociales falsos para personas inexistentes, llamadas sockpuppets. Estas cuentas falsas según se conoce, se han usado con fines de propaganda, perpetuando noticias falsas o narrativas falsas y engañando a los usuarios de las redes sociales.

El lado más oscuro de los deepfakes

Todo esto de los deepfakes no queda aquí, parte del uso de ellos puede ser un poco más gris, si no completamente turbio. Según se informa, la gran mayoría de las noticias y la atención en torno a los deepfakes se centran en vídeos pornográficos de celebridades, pornografía de venganza, información errónea y engaños, noticias falsas, chantajes y fraudes, lo que sin duda es realmente perjudicial.

Preocupaciones en cuanto a la privacidad

Notoriamente, el uso de su imagen sin su consentimiento, especialmente en medios comprometedores, puede ser una violación de la privacidad. Esto puede volverse aún más significativo si se considera la credibilidad de los deepfakes. A diferencia de las imágenes auténticas que se roban y se usan sin su permiso, la falsedad inherente de las imágenes deepfake significa que las víctimas de los mismos, pueden toparse con obstáculos al reclamar violaciones de privacidad, debido a que la persona representada en los medios no es ella.

Incluso, vale la pena recalcar que existen preocupaciones sobre la privacidad de las aplicaciones usadas para crear deepfakes en primer lugar, y empresas destacadas como Zao se enfrentan al escrutinio público por su política de privacidad y datos de usuario invasivos.

Aunque parece que los deepfakes solo crean problemas cuando se trata de cuestiones de privacidad, algunos argumentan que la tecnología deepfake puede eliminar la necesidad de que usted muestre su rostro real, manteniendo su anonimato. Pero esto plantea otras preocupaciones sobre cómo su identidad influye en lo que dice, de dónde viene su perspectiva y así mismo, cómo se le responde, y claramente, pone en duda cuestiones de identidad y anonimato.

Reputación: pérdida de credibilidad y autenticidad

El impacto de los deepfakes en la reputación, la credibilidad y la autenticidad puede ser grave. Diversos expertos temen el impacto de los deepfakes en la percepción pública, especialmente porque la tasa de crecimiento de la credibilidad de los deepfakes supera la conciencia pública sobre ellos.

Aunque algunas plataformas de redes sociales han trabajado para limitar la prevalencia de los deepfakes, la cantidad de deepfakes y los resultados convincentes disponibles en línea están creciendo cada vez más.

Cabe acotar que el impacto en la reputación no afecta sólo a las figuras públicas. Aunque es más probable que las celebridades y los políticos sean el objetivo de los deepfakes, también tienen más reconocimiento, recursos y estatus para ayudar a controlar la narrativa. Sin embargo, una persona común y corriente puede tener dificultades para demostrar lo mismo sobre sí misma si salen a la luz videos, imágenes o incluso grabaciones que la muestran haciendo algo desagradable, inapropiado o algo mucho peor. Sin duda, es un tema realmente inherente que no deja de preocupar.