Facebook y MSU se unen para combatir los Deepfakes!

En la actualidad impresionar a alguien en el mundo digital es posible creando montajes fácilmente desde su celular siendo que, en el pasado, eso llevaría cientos de horas de trabajo, una infraestructura de hardware que sólo tendría una empresa y una serie de expertos con mucha paciencia.

El término Deepfake viene de dos palabras en inglés:

“Deep” relacionado del Aprendizaje Profundo (en Inglés Deep Learning),

Fake que en inglés se usa para denominar algo que es falso.

En palabras simples, se refiere a usar algoritmos de Inteligencia Artificial, básicamente, para crear o alterar materiales multimediales con resultados tan sorprendentes que tienden a pasar por materiales originales y verídicos. Algunos ejemplos de esta técnica se dan en videos donde se le cambia el rostro, la voz y algunos otros rasgos característicos de la personalidad (gestos, emociones y hasta simular expresiones) a una figura pública como puede ser un artista, un político o alguien influyente, con el fin difundir, crear controversia o difundir un mensaje ajeno a la realidad. Dicha técnica puede usarse hasta para cambiar elementos climáticos!

Los Deepfakes se han vuelto un problema y más para la persona que ha sido blanco de este tipo de montajes tan realistas (sobre todo cuando son viralizados con malas intenciones)!

Pero … ¿Para qué se unieron Facebook y La Universidad del Estado de Michigan (MSU)?

La verdad sea dicha, actualmente el resultado de los Deepfakes es tan increíble que, so sólo es capaz de engañar al ojo humano sino a algunas computadoras. Por lo mismo, Facebook y MSU se han unido para hacerle ingeniería inversa a este tipo de montajes para descubrir los atributos que tiene en común.

Antes de continuar, vale la pena recordar dos cosas:

1- La publicación de Facebook y MSU hasta ahora está en una etapa incipiente y abierta a mayor comprobación

2- El método lo que hace es usar la Inteligencia Artificial (AI) de Facebook y los conocimientos de los expertos de MSU para analizar un set de datos y una serie de Deepfakes para crear el compendio de reglas o patrones comunes a este tipo de montajes y el modelo usado para crearlos.

¿Cómo detectar cuál es un Deepfake?

Las propiedades únicas o patrones (imperfecciones o características únicas dejadas en el proceso de producción de la imagen) detectados en el “Análisis de Modelos”, son el equivalente a la “metadata” o “huella digital”, producida por un tipo de cámara en el momento de capturar una imagen.

Atribución de los modelos de Deepfakes

Así las cosas, esa información es usada para predecir detalles del modelo usado como el número de bloques, capas, filtros y similares usados en el proceso de producción del material en cuestión (para visualizar el video sobre este proceso de Ingeniería Inversa para detectar los Deepfakes, haga clic aquí).

Análisis de Modelos por Ingeniería Inversa

Lo interesante acerca de este método de Análisis de Modelos es que no sólo ayuda a detectar si la imagen es real o no (eso ya lo hacen los métodos actuales) sino, que, intenta ir más allá de un set limitado de imágenes hasta llegar a los patrones y al método usado para producirlo, todo con el fin disminuir la viralidad para detener los proliferación de noticias falsas.

Modelo de Facebook AI y MSU para Ingeniería Inversa