En un mundo donde la inteligencia artificial (IA) puede generar imágenes, audios, videos y textos indistinguibles de la realidad, la desinformación se ha convertido en un desafío global. Los medios sintéticos, creados con IA, pueden utilizarse para manipular la opinión pública, cometer fraudes o dañar reputaciones. Pero, ¿cómo podemos detectarlos y evitar caer en engaños?
¿Qué son los medios sintéticos?
Tal como lo decíamos anteriormente en otro artículo:
Medios Sintéticos es un termino genérico creado recientemente que denota el contenido generado artificialmente por medio de una Inteligencia Artificial (AI). Lo sé, eso suena como a una definición sacada de una película pero, por aterrador que parezca, es una realidad a la cual tendremos que acostumbrarnos! El aprendizaje profundo permite a las máquinas analizar cantidades inmensas de data (textos, imágenes, video, música y demás) y con el entrenamiento adecuado, poder generar sus propias interpretaciones de la misma
Entre los más comunes se encuentran:
- Deepfakes: Videos alterados para mostrar a personas diciendo o haciendo cosas que nunca ocurrieron.
- Audios clonados: Voces artificiales que imitan el tono y el estilo de una persona real.
- Imágenes generadas por IA: Fotografías hiperrealistas que nunca fueron tomadas en la realidad.
- Noticias falsas automatizadas: Textos creados por IA para difundir desinformación.
Los peligros de los medios sintéticos
- Desinformación y manipulación: Deepfakes políticos pueden afectar elecciones, manipular mercados financieros o incitar al odio.
- Fraudes y estafas: Los audios clonados permiten estafas telefónicas donde los atacantes se hacen pasar por familiares o jefes.
- Suplantación de identidad: Las imágenes generadas por IA facilitan la creación de perfiles falsos hiperrealistas en redes sociales.
- Daño a la reputación y ciberacoso: Personas han sido víctimas de campañas de difamación con videos e imágenes falsificadas.
¿Cómo detectar medios sintéticos?
Es duro aceptarlo para muchos pero, a medida que estas tecnologías avanzan, cada vez es más difícil distinguir la realidad de la fantasía cuando e trata de los medios digitales. Por suerte, también surgen consejos y hasta herramientas para ayudar en este propósito de la identificación. Vamos a empezar por lo más simple:
Análisis visual y de sonido
- Deepfakes: Para los que tienen el ojo entrenado, hay que buscar movimientos faciales extraños, parpadeos irregulares o mala sincronización de labios.
- Audios clonados: A veces carecen de entonación natural o presentan un ritmo mecánico.
- Verificación de fuentes: Antes de creer ciegamente como en el caso de las verdades de fe, vale la pena verificar la fuente por medio del uso de herramientas como Media Bias/Fact Check para analizar la credibilidad de un medio. Otra opción valida es revisar: ¿Otros medios han reportado la misma noticia? Puedes revisar en FactCheck.org, Snopes o NewsGuard (cabe aclarar que, lastimosamente, algunas de estas herramientas funcionan muy bien en ingles pero, no en otros idiomas).
Uso de herramientas de detección de IA
Ahora bien, cuando la cosas como los videos se ven bien pero lógicamente resultan poco creíbles, es hora de buscar la artillería pesada para combatir la desinformación generada por IA, por medio de herramientas como estas:
- Deepware Scanner – Analiza videos para detectar deepfakes.
- Reality Defender – Verifica imágenes y audios alterados con IA.
- Google Reverse Image Search – Permite detectar imágenes manipuladas o sacadas de contexto.
- Sensity AI – Identifica deepfakes en videos.
- Hive Moderation – Detecta contenido generado por IA en redes sociales.
Y…¿Entonces?
Como seguramente muchos lectores se han dado cuenta para este momento del artículo, los medios sintéticos representan un desafío para la verdad y la confianza en internet. Con un buen criterio,las herramientas y estrategias adecuadas, es posible aprender a detectar contenido falso y evitar su propagación. La clave está en la educación digital y la verificación constante de la información que se consume y comparte en el día a día.
