Clearview AI y el fin del anonimato en público

Hay una noticia de lo último en tecnología que está prendiendo alarmas en todo el mundo: desde el año pasado, más de 600 agencias de seguridad y cuerpos policiales en Estados Unidos y Canadá están utilizando una aplicación para identificar a prácticamente cualquier persona mediante reconocimiento facial y en tan solo unos cuantos minutos. Así lo dio a conocer un artículo del New York Times hace unos días y del cual habló nuestro equipo esta mañana en el capítulo de esta semana de DGTal.

La misteriosa empresa que desarrolló esta app de reconocimiento facial se llama Clearview AI, una start up de Hoan Ton-That, un empresario australiano que hasta hace más de un año solo era conocido por crear una aplicación para poner el cabello de Donald Trump en cualquier fotografía.

Esta herramienta funciona con una base de datos de más de 3000 millones de imágenes extraídas —de forma cuestionable— de Facebook, Instagram, YouTube, Venmo, entre otros sitios web. Así, el agente de policía puede subir una fotografía de su sospechoso a la app y recibir varias opciones de compatibilidad que lo enlazarán de forma inmediata a los sitios en donde aparecen esas fotografías, es decir, lugares en los que puede acceder a su nombre, edad, dirección, etc.

Gráfico comparativo de la cantidad de imágenes a las que tienen acceso las entidades del Gobierno estadounidense en comparación con Clearview. Fuente: The New York Times.

De esta forma, cualquier fuerza policial, cuerpo de seguridad, empresa privada o persona del común que cuente con acceso a esta aplicación podrá saber de inmediato la información personal de prácticamente cualquier persona caminando por la calle en tan solo cuestión de minutos. Una pérdida absoluta del anonimato público, según Kashmir Hill, la autora del artículo del NYT.

Resolviendo crímenes en menos de 20 minutos

Pero, ¿cómo llegó esta aplicación a manos de los policías de EEUU? Según la investigación del NYT, aunque los cuerpos de policía tienen acceso a herramientas de reconocimiento facial, en la actualidad solo acceden a fotografías de civiles tomadas de prontuarios y para los permisos de conducción, es decir, cuentan con una base de datos muy limitada para identificación de sospechosos.

También le podría interesar: 85% de ustedes no debería usar el reconocimiento facial de sus dispositivos móviles

Es en ese escenario que Ton-That encontró una oportunidad de negocio. Así, desarrolló esta herramienta y la puso en manos de la policía de los Estados Unidos, quienes afirman solo haberla usado para resolver casos de “hurto en tiendas, robo de identidad, fraude con tarjetas de crédito, asesinato y explotación sexual infantil”.

Un caso de éxito que reporta la compañía fue el de la policía estatal de Indiana, quienes lograron aprehender a un hombre que, en medio de una riña callejera, le disparó a otra persona en el estómago. Utilizando Clearview, los agentes lograron encontrar videos del atacante junto a su nombre —información suficiente para realizar la captura—en tan solo 20 minutos. Dado que la persona no tenía licencia de conducir ni había sido procesado en el pasado, tal vez no hubiera sido identificado sin la utilización de esta herramienta.

via Gfycat

Al igual que muchas otras herramientas de reconocimiento facial, Clearview transforma los datos faciales en vectores y así realiza la identificación.

¿Se acabó el anonimato en espacios públicos?

Lo que le preocupa a los expertos alrededor del mundo sobre esta novedad tecnológica presentada por Clearview AI es que es una herramienta con el potencial de violar la privacidad de cualquier persona y que no está siendo regulada por ninguna organización, no ha sido estudiada por ninguna instancia independiente y funciona sin escrutinio público de ningún tipo.

Cabe mencionar también la polémica que se desató hace un tiempo sobre la poca eficacia que las herramientas de reconocimiento facial tienen cuando se trata de criterios como edad o raza, y que dejan a los grupos raciales minoritarios vulnerables a la identificación errónea de su identidad por parte de cuerpos oficiales. En este escenario, utilizar reconocimiento facial en procesos judiciales sería un riesgo para la garantía de los derechos humanos.

Adicionalmente, existe un vacío en la ley puesto que, según Al Gidari, profesor de privacidad en la Facultad de Derecho de Stanford, no existe una ley de privacidad que realmente tenga la contundencia para reglamentar algoritmos de este tipo.

Por esa razón, se presentan situaciones como la que describe la autora del artículo del NYT, en el que afirma que la compañía Clearview no solo almacena las fotografías subidas, sino que tiene control sobre esa información, es decir, puede saber quién o quiénes son sujetos de interés para los diversos cuerpos de seguridad que usan la app.

También le podría interesar: Sonría! está en cámara (no tan escondida)

A todo lo anterior hay que sumarle el hecho de que la app está siendo vendida a cuerpos de seguridad gubernamentales en todo el mundo y empresas privadas. Aunque Ton-That no se muestra interesado en poner esta herramienta a disposición del público en general, la verdad es que el daño ya está hecho y en un futuro cercano otra start up podría hacerlo realidad.

Su anonimato público, tal y como lo conoce, podría desaparecer, ya que no solo sería su rostro sino cualquier tipo de información personal que pueda ser hallada en las redes sociales o páginas web: nombre, edad, dirección, trabajo, lugar de estudio, etc.

Aunque claramente Clearview está violando los términos de servicio de Facebook y el mismo Ton-That afirma que la compañía lo sabe, un portavoz de la empresa afirma que se está conversando la situación con Clearview para determinar si se está o no incumpliendo sus políticas y las medidas que tomarían en caso de ser cierto. ¿Se sumará este a la larga lista de polémicas por violación a la privacidad en los que Facebook se ha involucrado o harán honor a lo que prometieron a mediados del año pasado?

Un detalle importante: uno de los cofundadores de la empresa es el multi-millonario Peter Thiel, accionista y miembro de la junta directiva de Facebook y la persona, según se rumora, que ha acercado a Mark Zuckerberg al presidente Donald Trump, llevándolo a negarse a prohibir las publicaciones políticas falsas y el micro-targeting de este tipo de publicidad en la red social a pesar del pedido generalizado de los expertos.

Lo que queda claro por ahora es el potencial de esta aplicación y el peligro de permitir que herramientas como estas funcionen con la libertad con la que que cuenta Clearview, sin embargo, como mencionamos en nuestro artículo sobre la polémica de Cambridge Analytica, es importante que como usuarios cuestionemos el poder que le estamos otorgando a las redes sociales sobre nuestra información personal y que permite a compañías como estas poner en riesgo nuestro anonimato.

¿Está de acuerdo en la utilización restringida de estas aplicaciones?, ¿o, al igual que algunos expertos estadounidenses, considera que el reconocimiento facial debería ser prohibido para instituciones públicas? Queremos leer su opinión en los comentarios.

No deje de leer a TECHctetera para enterarse de todos las noticias de actualidad tecnológica.