Herramientas para combatir los deepfakes

Por si no lo sabía, entre el año de 2022 y 2023 el número de deepfakes a nivel mundial se multiplicó por 10 y solo en la región de Latinoamérica aumentaron un 450 % en ese periodo, según un informe de Sumsub. Los sectores más afectados, por su naturaleza propia y alcance, fueron, y seguirán siendo; el periodismo, la política, así como el entretenimiento, y las finanzas. El mercado de las deepfake, por otro lado, se estima que tiene un valor actual de 534 millones de dólares, y según se prevé podría llegar a los 5134 millones de dólares para 2030. Desde ESET, aseguran que las herramientas de detección de deepfake son un buen aliado para determinar la veracidad de los videos o audios que pueden encontrarse en internet y comparte las mejores opciones para comprobarlo. Conozca a continuación las herramientas para combatir los deepfakes.

Así es como puede combatir los deepfakes

Los deepfakes son medios sintéticos generados mediante técnicas de aprendizaje profundo (Deep learning). Incluyen imágenes, vídeos y así mismo, grabaciones de audio manipulados para retratar a alguien diciendo o haciendo algo que en realidad nunca dijo o hizo. Estas tecnologías identifican y aprenden de grandes cantidades de datos para generar medios falsos de apariencia realista.

Desde ESET comparten qué recursos online se pueden usar para combatir la desinformación y la difusión de videos o audios falsos creados con estas técnicas de Inteligencia Artificial, las mismas son:

Herramientas basadas en IA

Estos sistemas usan algoritmos de aprendizaje automático para analizar patrones en videos y audios, buscando inconsistencias que podrían indicar manipulación.

Sentinel: viene siendo una solución basada en la nube que proporciona detección de deepfakes en tiempo real con alta precisión. Usa algoritmos avanzados de Inteligencia Artificial y múltiples tecnologías, como análisis de puntos de referencia faciales, comprobaciones de coherencia temporal y de igual forma, detección de parpadeo para identificar medios manipulados. Este detector logra permitir cargar medios digitales falsificados por Inteligencia Artificial (IA) a través de su sitio web o API. Luego determina vídeos, imágenes y audio manipulados. Además, este sistema ofrece un informe completo de sus descubrimientos, incluida la visualización del área de medios que sufrió modificaciones. Entre tanto, permite a los usuarios ver exactamente dónde y cómo se han manipulado los medios.

Sensity: dispone una plataforma de monitoreo en tiempo real, usada por gobiernos y empresas de todo el mundo. Su capacidad para escanear grandes volúmenes de contenido lo convierte en una herramienta realmente fundamental para quienes buscan mantener la integridad de la información en línea puesto que ofrece una detección eficiente de contenido deepfake, como intercambios de rostros, audio manipulado e imágenes generadas por IA. Del mismo modo, previene actividades de suplantación de identidad, detección de documentos engañosos y así mismo, verificación de documentos de identidad.

Oz Liveness: logra evitar que los usuarios suplanten ataques con un gran nivel 100% de precisión. Viene con el estándar de prueba más estricto, la certificación ISO 30107. Entre sus características clave se encuentran; el impulsar la transformación digital, combatir el fraude y de igual forma, reducir los riesgos, obtener flexibilidad y ahorrar tiempo con SaaS, y su facilidad de integrar iOS/Android y WEB SDK.

WeVerify: el mismo se centra en identificar y contextualizar las redes sociales y el contenido web. Incluye verificación de contenido multimodal, análisis de redes sociales, así como desacreditación microdirigida y una base de datos pública basada en blockchain de falsificaciones reconocidas. Es ideal para comunidades, periodistas ciudadanos, así como para redacciones, periodistas independientes y la industria del entretenimiento.

HyperVerge: con un modelo de IA y aprendizaje automático para una seguridad integral, este detector de falsificaciones identifica la verificación, el reconocimiento facial y de igual manera los controles sólidos de vida. Proporciona una detección precisa, seguridad avanzada para garantizar la seguridad de los datos y las aplicaciones en la nube y el cumplimiento AML, una interfaz amigable y soluciones personalizables. Además de todo esto, cuenta con certificaciones globales de reconocimiento facial de iBeta y NIST.

FakeCatcher de Intel: ahora bien, este software detector de Deepfake usa hardware y software Intel, se ejecuta en un servidor y se conecta a través de una plataforma basada en web. Cabe aclarar que, se centra en la velocidad y la eficiencia, al buscar pistas auténticas en vídeos naturales. A través del aprendizaje profundo, este software detector de AI Deepfake tiene la capacidad de poder detectar en milisegundos si un video es real o falso, con una tasa de precisión del 96%.

Microsoft Video AI Authenticator: se trata de una herramienta gratuita diseñada por Microsoft que tiene la capacidad de identificar videos e imágenes. Proporciona una puntuación de confianza que indica la probabilidad de manipulación. Es de resaltar que, este software de detección de AI Deepfake identifica inconsistencias en la fusión de límites y elementos sutiles en escala de grises que son indetectables para el ojo humano. La herramienta brinda una puntuación de confianza en tiempo real, lo que permite a los usuarios determinar rápidamente si los medios son auténticos o no.

Deepware: software avanzado que usa tecnologías de IA y aprendizaje automático para detectar y aminorar los deepfakes. Identifica vídeos, así como imágenes y archivos de audio y determina si son falsos o no. Esta herramienta es fácil de usar y de fácil acceso para detectar falsificaciones profundas. Gracias a un escáner de deepfake dedicado, le permite a los usuarios analizar posibles videos deepfake o evaluar aspectos concretos de la comunicación visual y de audio con únicamente ingresar enlaces.

Phoneme-Viseme Mismatch: Investigadores de la Universidad de Stanford y la Universidad de California desarrollaron esta herramienta de detección de deepfake mediante IA. Se centra en las inconsistencias entre el audio hablado y los movimientos de los labios en los vídeos. La falta de coincidencia entre estos elementos puede indicar una posible manipulación.

DuckDuckGoose: Analiza los deepfakes de forma rápida y precisa para proteger a las empresas de posibles amenazas, ya sean cibernéticas, reputacionales o financieras. Este software detector de deepfake actúa como una capa de seguridad adicional que proporciona explicaciones claras de cómo detecta manipulaciones digitales. Realiza una detección de espectro integral, un monitoreo y análisis en tiempo real, cuenta con tecnología de vanguardia y una plataforma fácil de usar.

Herramientas basadas en análisis de metadatos

Los metadatos, como la fecha de creación del archivo o la ubicación de la grabación, tienen la capacidad de poder contener pistas que revelan la manipulación. Herramientas como MediaInfo y ExifTool facilitan la extracción y el análisis de estos metadatos.

Herramientas basadas en detección de anomalías

Vale la pena destacar que estas herramientas buscan patrones inusuales en el movimiento facial, la voz o el contenido del video que podrían indicar deepfakes. Algunos ejemplos incluyen; FaceForensics y Audio Fingerprinting.