Google Search buscará el origen de las imágenes manipuladas

Google se encuentra ampliando sus esfuerzos para etiquetar apropiadamente el contenido generado por Inteligencia Artificial (IA), actualizando su herramienta interna “Acerca de esta imagen” con un estándar global para detectar el origen de una imagen editada por IA.

Vale la pena señalar que la nueva etiqueta se formuló como parte del trabajo de Google con la Coalición global para la procedencia y autenticidad del contenido (C2PA). Los miembros de la C2PA se han comprometido a desarrollar y adoptar un proceso estandarizado de certificación y detección de IA, habilitado por una tecnología de verificación conocida como “Credenciales de contenido”. Sin embargo, no todos los miembros de la C2PA, entre los que se incluyen Amazon, Meta y de igual forma, OpenAI, han implementado los estándares de autenticación.

El origen de una imagen editada por IA

Google está dando el primer paso entre los actores clave, integrando el nuevo estándar 2.1 de C2PA en productos como Google Search y, eventualmente, Google Ads (cabe aclarar que el mensaje “Acerca de esta imagen” se encuentra haciendo clic en los 3 puntos verticales ubicados sobre una foto descubierta en una búsqueda). Es de resaltar que este estándar incluye una “Lista de confianza” oficial de dispositivos y tecnología que tienen la capacidad de poder ayudar a verificar el origen de una foto o video a través de sus metadatos.

“Por ejemplo, si los datos muestran que una imagen fue tomada por un modelo de cámara específico, la lista de confianza ayuda a validar que esta información es precisa”, comentó Laurie Richardson, vicepresidenta de confianza y seguridad de Google.

Así mismo, Richardson señaló, “Nuestro objetivo es aumentar esto con el tiempo y usar las señales de C2PA para informar cómo aplicamos políticas clave”.

Luego de unirse a la C2PA en el mes de mayo, TikTok se convirtió en la primera plataforma de video en implementar las credenciales de contenido de la C2PA, incluido un sistema de etiquetado automático para leer los metadatos de un video y marcarlo como IA. Con el lanzamiento de las credenciales de contenido para las plataformas de Google, YouTube está listo para seguir sus pasos.

Cabe aclarar que Google ha sido muy claro en su postura sobre el etiquetado y la regulación generalizados de la Inteligencia Artificial, especialmente en sus esfuerzos por frenar la propagación de desinformación. En el año 2023, Google lanzó SynthID, su propia herramienta de marca de agua digital diseñada para ayudar a detectar y rastrear contenido generado por IA realizado con el generador de texto a imagen de Google DeepMind, Imagen. Según se conoce, introdujo mandatos de etiquetado de IA (limitados) para videos de YouTube a principios de este año y se comprometió a abordar el contenido deepfake generado por Inteligencia Artificial en la Búsqueda de Google.

No se debe pasar por alto señalar que la compañía se unió al comité directivo de C2PA en el mes de febrero, un grupo que incluye a otros actores importantes de la industria e incluso organizaciones de noticias, como la BBC.