En qué van las nuevas leyes de California acerca de la IA?

En el mes de septiembre, el gobernador de California, Gavin Newsom, consideró 38 proyectos de ley relacionados con la Inteligencia Artificial (IA), incluido el muy polémico SB 1047, que la legislatura del estado envió a su escritorio para su aprobación final. Vetó el SB 1047 el domingo, lo que marcó el final del camino para el controvertido proyecto de ley de IA de California que intentaba prevenir desastres de IA, pero firmó muchos otros proyectos de ley de Inteligencia Artificial para convertirlos en ley este mes. Vale la pena señalar que estos proyectos de ley intentan abordar los problemas más urgentes en Inteligencia Artificial: todo, desde el riesgo de IA, los desnudos falsos creados por generadores de imágenes de IA, hasta los estudios de Hollywood que crean clones de Inteligencia Artificial de artistas muertos. A continuación, todo acerca de las nuevas leyes de California.

Lo que debe conocer sobre las nuevas leyes de California

Hasta el momento, el gobernador Newsom ha promulgado 18 proyectos de ley sobre Inteligencia Artificial (IA), algunos de los cuales son las leyes de mayor alcance en Estados Unidos sobre IA generativa hasta el momento:

SB 1047 es vetado

Según se pudo conocer, el gobernador Newsom todavía tiene que decidir sobre algunos proyectos de ley relacionados con la IA. Sin embargo, la SB 1047 no es uno de ellos: el proyecto de ley fue vetado hace poco.

En una carta explicando su decisión, Newsom señaló que la SB 1047 se centraba demasiado en los grandes sistemas de Inteligencia Artificial que podrían “dar al público una falsa sensación de seguridad”. El gobernador de California señaló que los modelos de IA pequeños podrían ser tan peligrosos como los que se abordan en la SB 1047 y comentó que se necesita un enfoque regulatorio más flexible.

Riesgo de la IA

Hace poco, el gobernador Newsom promulgó la ley SB 896, la cual exige que la Oficina de Servicios de Emergencia de California efectúe análisis de riesgos sobre las posibles amenazas que plantea la IA generativa. CalOES trabajará con empresas de modelos de vanguardia, como OpenAI y Anthropic, para analizar las posibles amenazas de la Inteligencia Artificial a la infraestructura crítica del estado, así como las amenazas que podrían provocar eventos con víctimas en masa.

Datos de entrenamiento

Ahora bien, otra ley que Newsom firmó este mes exige que los proveedores de IA generativa revelen los datos usados para entrenar sus sistemas de Inteligencia Artificial en la documentación publicada en su sitio web. La AB 2013 entrará en vigor en el año de 2026 y exige que los proveedores de IA publiquen: las fuentes de sus conjuntos de datos, una descripción de cómo se utilizan los datos, así como la cantidad de puntos de datos en el conjunto, si se incluyen datos con derechos de autor o con licencia, el período de tiempo en que se recopilaron los datos, entre otras normas.

Privacidad y sistemas de IA

Por su parte, Newsom también firmó hace poco la AB 1008, que aclara que las leyes de privacidad existentes en California se extienden también a los sistemas de IA generativa. Eso significa que si un sistema de IA, como ChatGPT de OpenAI, expone la información personal de alguien (nombre, dirección, así como datos biométricos), las leyes de privacidad existentes en California limitarán la forma en que las compañías tienen la capacidad de poder usar y sacar provecho de esos datos.

Educación

Newsom firmó este mes la AB 2876, que exige que la Junta Estatal de Educación de California considere la “alfabetización en IA” en sus marcos curriculares y materiales didácticos de matemáticas, ciencias e historia. Esto significa que las escuelas de California tienen la posibilidad de comenzar a enseñar a los estudiantes los conceptos básicos de cómo funciona la IA, así como las limitaciones, impactos y las consideraciones éticas del uso de la tecnología.

Entre tanto, otra nueva ley, SB 1288, requiere que los superintendentes de California creen grupos de trabajo para explorar cómo se usa la Inteligencia Artificial en la educación escolar pública.

Definición de IA

En Septiembre, Newsom firmó un proyecto de ley que establece una definición uniforme de Inteligencia Artificial (IA) en la legislación de California.

La AB 2885 establece que la IA se define como “un sistema diseñado o basado en máquinas que varía en su nivel de autonomía y que puede, para objetivos explícitos o implícitos, inferir a partir de la información que recibe cómo generar resultados que pueden influir en entornos físicos o virtuales”.

Cuidado de la salud

Otro proyecto de ley firmado en el mes de septiembre es el AB 3030, el cual requiere que los proveedores de atención médica revelen cuándo usan IA generativa para comunicarse con un paciente, concretamente cuando esos mensajes contienen información clínica del paciente.

Mientras tanto, Newsom firmó recientemente la ley SB 1120, que impone limitaciones a la manera en que los proveedores de servicios de atención médica y las aseguradoras de salud pueden automatizar sus servicios. Es de resaltar que, la ley garantiza que los médicos con licencia supervisen el uso de herramientas de IA en estos entornos.

Llamadas automáticas con IA

También, el gobernador Newsom firmó un proyecto de ley que exige que las llamadas automáticas revelen si han utilizado voces generadas por Inteligencia Artificial (IA). La AB 2905 tiene como objetivo evitar otro caso de una llamada automática deepfake que se asemeja a la voz de Joe Biden y que confundió a numerosos votantes de New Hampshire a inicios de este año.

Pornografía deepfake

Newsom convirtió en ley la AB 1831, la cual amplía el alcance de las leyes existentes sobre pornografía infantil para incluir material generado por sistemas de Inteligencia Artificial.

Recientemente, Newsom firmó 2 leyes que abordan la creación y difusión de desnudos falsos. La SB 926 criminaliza la ley, haciendo ilegal chantajear a alguien con imágenes de desnudos generadas por IA que se parezcan a él.

Por su parte, la SB 981, que también se convirtió en ley el pasado jueves, exige que las plataformas de redes sociales establezcan canales para que los usuarios denuncien desnudos falsos que se parezcan a ellos. El contenido tiene que bloquearse temporalmente mientras la plataforma lo investiga y eliminarse permanentemente si se confirma.

Marcas de agua

Del mismo modo, el jueves, Newsom firmó un proyecto de ley para ayudar al público a identificar el contenido generado por Inteligencia Artificial. La SB 942 exige que los sistemas de IA generativa ampliamente utilizados revelen que fueron generados por IA en los datos de procedencia de su contenido. Por ejemplo, todas las imágenes creadas por Dall-E de OpenAI ahora requieren una pequeña etiqueta en sus metadatos que indique que fueron generadas por Inteligencia Artificial.

Por si no lo sabía, cuantiosas compañías de IA ya hacen esto y existen varias herramientas gratuitas que tienen la capacidad de poder ayudar a las personas a leer estos datos de procedencia y detectar contenido generado por Inteligencia Artificial.

En cuanto a las falsificaciones electorales profundas

El gobernador de California firmó 3 leyes para acabar con las falsificaciones de IA que podrían influir en las elecciones.

Una de las nuevas leyes de California, la AB 2655, exige que las grandes plataformas en línea, como Facebook y X (anteriormente Twitter), eliminen o etiqueten los deepfakes de IA relacionados con las elecciones, así como que creen canales para denunciar ese tipo de contenido. Los candidatos y funcionarios electos tienen la posibilidad de solicitar una medida cautelar si una gran plataforma en línea no cumple con la ley.

Por otra parte, otra ley, la AB 2839, apunta a los usuarios de las redes sociales que publican o reenvían falsificaciones de IA que podrían engañar a los votantes sobre las próximas elecciones. La ley entró en vigor de inmediato el martes y Newsom sugirió que Elon Musk podría correr el riesgo de violarla.

La nueva ley de California, AB 2355, exige ahora la divulgación total de los anuncios políticos generados por Inteligencia Artificial (IA). Eso significa que, en el futuro, Trump podría no poder salirse con la suya publicando deepfakes de Taylor Swift apoyándolo en Truth Social (como sabemos, realmente ella respaldó a Kamala Harris). La FCC ha propuesto un requisito de divulgación similar a nivel nacional y ya ha declarado ilegales las llamadas automáticas que usan voces generadas por IA.

Actores e Inteligencia Artificial

Es inherente señalar que 2 leyes que Newsom firmó a principios de este mes (que SAG-AFTRA, estaba impulsando) crean nuevos estándares para la industria de los medios de comunicación de California. La AB 2602 requiere que los estudios obtengan el permiso de un actor antes de crear una réplica generada por Inteligencia Artificial de su voz o imagen.

Mientras tanto, la AB 1836 prohíbe a los estudios crear réplicas digitales de artistas fallecidos sin el consentimiento de sus herederos.

Gavin Newsom