La Inteligencia Artificial (IA) generativa ha hecho que la identificación de contenido sintético y la protección de la privacidad del usuario sean mucho más difíciles. En un esfuerzo por optimizar la alfabetización informativa y así mismo, aumentar la protección de datos, Google ha llevado a cabo cambios en la Búsqueda que combaten los deepfakes y hacen que tomar el control de su información sea un poco más fácil.
El pasado miércoles, la compañía detalló las mejoras que ha implementado en la forma en que gestiona el contenido falso explícito, o deepfakes no consensuados, en la Búsqueda. Aunque durante años se ha podido solicitar a Google que elimine este contenido de los resultados de búsqueda, Google ahora filtrará todos los duplicados de esa imagen, así como los resultados explícitos que surjan de búsquedas similares sobre usted, no solo el resultado de búsqueda de la solicitud de eliminación original. Google actualiza su algoritmo para castigar a quienes publican deepfakes y a continuación lo que tiene que saber al respecto.
Google hace actualización para castigar a quienes publican deepfakes
Vale la pena destacar que, en teoría, esto debería abarcar más terreno en términos de eliminar contenido dañino de los rincones en los que puede estar escondido, incluso luego de que alguien haya solicitado con éxito su eliminación. Es de resaltar que el proceso se aplica tanto a imágenes no consentidas como también a imágenes explícitas falsas.
Ahora bien, Google también actualizó sus sistemas de clasificación “para consultas en las que existe un mayor riesgo de que aparezca contenido falso explícito en la Búsqueda”, según un blog.
En este sentido, es crucial señalar que estas actualizaciones priorizarán la aparición de resultados no explícitos y de alta calidad para consultas que incluyan nombres de personas cuando estén disponibles.
La compañía ha afirmado que sus actualizaciones ya han reducido la exposición a contenido explícito en más del 70%. Según se informa, los cambios tienen como objetivo mostrar contenido que eduque a los usuarios sobre deepfakes, en vez de los deepfakes en sí. Google de igual forma degradará sitios sobre los que la compañía ha recibido muchas solicitudes de eliminación.
Como parte de las mejoras de búsqueda, Google igualmente se encuentra añadiendo su función de contextualización “Acerca de esta imagen” tanto a Circle to Search como a Google Lens. Los usuarios ahora tienen la capacidad de poder acceder a la función sin problemas mediante ambas herramientas.
Vale la pena aclarar que, “Acerca de esta imagen” muestra información de otros sitios, incluidas plataformas de noticias y verificación de datos, que describen la imagen. Este contexto tiene la posibilidad de ayudar a desacreditar una foto que se está utilizando fuera de su contexto original, por ejemplo, o que se ha alterado para tergiversar la información.
Desde Google también hacen referencia a los metadatos de la imagen para obtener contexto sobre su historia y cómo o cuándo se creó, aunque alguien puede añadir o eliminar metadatos al publicar una imagen en línea. Algunos de estos datos tienen la capacidad de indicar si una imagen es sintética o si se generó o editó mediante Inteligencia Artificial (IA).
En una sesión informativa y demostración a la que asistió el medio de noticias, ZDNET, Google no especificó cómo puede verificar el origen de una imagen con Inteligencia Artificial, pero sí señaló que la tecnología todavía se encuentra en sus etapas rudimentarias. La función “Acerca de esta imagen” tiene la capacidad de detectar si una imagen se generó con Inteligencia Artificial si contiene la marca de agua SynthID de Google DeepMind, que está incrustada en los píxeles de cualquier imagen creada con las herramientas de IA de Google.
No se debe pasar por alto especificar que estas medidas tienen como objetivo facilitar la búsqueda del contexto de lo que se ve en Internet como parte de la iniciativa de alfabetización informativa de Google.
“Acerca de esta imagen”, disponible en 40 idiomas, ahora se encuentra disponible en Circle to Search en los últimos teléfonos, dispositivos plegables y así mismo, tabletas Samsung y Pixel, y en Google Lens, disponible en la aplicación de Google para Android e iOS.
