California vuelve y lidera. Esta es la ley anti deepfakes

California ahora requerirá que las empresas de redes sociales moderen la difusión de suplantaciones de identidad relacionadas con las elecciones impulsadas por Inteligencia Artificial (IA), conocidas como “deepfakes”, luego de que el gobernador demócrata Gavin Newsom firmara el martes 3 nuevas leyes sobre el tema.

Es de resaltar que las 3 leyes, incluida una ley única en su tipo que impone un nuevo requisito a las plataformas de redes sociales, tratan en gran medida de prohibir o etiquetar los deepfakes.

California: leyes anti deepfakes

Es inherente dar a conocer que solo una de las leyes entrará en vigor a tiempo para afectar las elecciones presidenciales del presente año 2024, pero el trío podría proporcionar una hoja de ruta para los reguladores de todo el país que intentan frenar la propagación del contenido manipulador impulsado por IA.

Se espera que las leyes enfrenten desafíos legales por parte de empresas de redes sociales o incluso de grupos centrados en el derecho a la libertad de expresión.

Vale la pena destacar que las nuevas leyes de California se suman a los esfuerzos de docenas de estados para limitar la propagación de las falsificaciones de IA en torno a las elecciones y el contenido sexual. Muchos son los que han exigido etiquetas en los medios de audio o visuales engañosos, parte de un aumento de la regulación que ha recibido un amplio apoyo bipartidista. Cabe aclarar que algunos han regulado las deepfakes relacionadas con las elecciones, pero la mayoría se centran en la pornografía deepfake. Hasta el momento, no existe ninguna ley federal que prohíba o incluso regule las deepfakes, aunque se han propuesto varias.

Los legisladores de California han mostrado un intenso interés en regular la Inteligencia Artificial (IA), incluida una nueva ley que obligaría a las compañías tecnológicas a probar la seguridad de las herramientas de IA antes de ponerlas a disposición del público. El gobernador tiene hasta el día 30 de septiembre para firmar o vetar la otra legislación.

2 de las leyes firmadas el pasado martes establecen límites sobre cómo pueden circular las falsificaciones profundas concernidas con las elecciones, incluidas aquellas dirigidas a candidatos y funcionarios o inclusive, aquellas que cuestionan el resultado de una elección.

Una de ellas entra en vigor de inmediato y prohíbe de manera efectiva que personas o grupos compartan a sabiendas ciertas falsificaciones engañosas relacionadas con las elecciones. Es aplicable durante 120 días antes de una elección, similar a las leyes de otros estados, sin embargo, va más allá al seguir siendo aplicable durante 60 días después, una señal de que a los legisladores les preocupa que se propague información errónea mientras se contabilizan los votos.

Por su parte, la otra entrará en vigor en el mes de enero y exige que aparezcan etiquetas en audio, vídeo o imágenes engañosas en anuncios políticos cuando se generen con ayuda de herramientas de IA.

Ahora bien, la tercera ley, conocida como “Ley para la Defensa de la Democracia frente al Engaño de los Deepfakes”, entrará en vigor en el mes de enero y exigirá a las plataformas de redes sociales y otros sitios web con más de un millón de usuarios en California que etiqueten o eliminen los deepfakes de Inteligencia Artificial en un plazo de 72 horas después de recibir una denuncia. Es crucial señalar que, si el sitio web no toma medidas, un tribunal tiene la capacidad de poder exigirles que lo hagan.

“Es muy diferente de otros proyectos de ley que se han presentado”, comentó Ilana Beller, gerente de organización del equipo de democracia de Public Citizen, que ha hecho un seguimiento de las leyes sobre deepfake en todo el país.

Así mismo, Beller dijo “Este es el único proyecto de ley de este tipo a nivel estatal”.

Las 3 leyes se aplican únicamente a las falsificaciones profundas que podrían engañar a los votantes, lo que deja la puerta abierta a la sátira o incluso a la parodia (siempre que estén etiquetadas) y se limitarían efectivamente al período que rodea a una elección. Aunque las leyes solo se aplican en California, rigen las falsificaciones profundas que representan a candidatos presidenciales y vicepresidenciales junto con decenas de candidatos estatales, funcionarios electos y así mismo, administradores electorales.

También firmaron otras 2 leyes…

El gobernador Newsom también firmó el pasado martes otras 2 leyes que regulan cómo Hollywood usa la tecnología deepfake; una que requiere el consentimiento explícito para usar deepfakes de artistas y otra que demanda el permiso de los herederos para representar a artistas fallecidos en medios comerciales como películas o audiolibros.

Es importante mencionar que en general, los legisladores no han aprobado leyes que regulen la forma en que las compañías de redes sociales moderan el contenido debido a una ley federal, conocida como Sección 230, que protege a las empresas de la responsabilidad por el contenido publicado por los usuarios. La Primera Enmienda igualmente proporciona amplias protecciones a las empresas de redes sociales y a los usuarios, lo que limita la forma en que los gobiernos pueden regular lo que se dice en línea.

“En realidad, están pidiendo a las plataformas que hagan cosas que no creemos que sean factibles. Decir que van a poder identificar qué es realmente un discurso engañoso, qué es una sátira o qué es un discurso protegido por la Primera Enmienda va a ser muy difícil”, señaló Hayley Tsukayama, directora asociada de activismo legislativo en la Electronic Frontier Foundation, un grupo de derechos digitales de San Francisco que escribió cartas oponiéndose a las nuevas leyes.

Los partidarios de la ley han argumentado que, dado que no impone sanciones financieras a las compañías por no cumplir la ley, la Sección 230 podría no aplicarse.

Diversos grupos que defienden la libertad de expresión y los derechos digitales, incluida la Coalición de la Primera Enmienda, se han opuesto enérgicamente a las leyes.

“Por supuesto, algunas personas pueden difundir una falsedad; ese es un problema tan antiguo como la política, tan antiguo como la democracia, tan antiguo como la libertad de expresión. La premisa de la Primera Enmienda es que corresponde a la prensa, al público y a la sociedad civil resolverlo”, dijo David Loy, director jurídico de la Coalición por la Primera Enmienda.