La Asamblea y el Senado de California han aprobado la Ley de Innovación Segura para Modelos de Inteligencia Artificial, una de las regulaciones más fuertes en términos de Inteligencia Artificial promulgadas hasta el momento.
El trasfondo del SB 1047 es la implementación de una serie de medidas preventivas antes de la publicación de nuevos modelos fundacionales de IA sofisticados. Dentro de las medidas requeridas bajo la ley, que está en el escritorio del Gobernador de California Gavin Newsom para su firma, se incluyen entre otros:
- Incluir un kill switch que permitan apagar de forma rápida (y por completo) un modelo
- Garantías de que el esté protegido contra “modificaciones inseguras después de su entrenamiento”, y
- Mantener procedimientos de prueba para evaluar si un modelo (o sus derivados) pueden “causar o permitir un daño crítico
La Ley tiene grandes opositores, dentro de los que están OpenAI, Anthropic y la Cámara de Comercio de California quienes argumentan que su implementación podría afectar a los pequeños desarrolladores de modelos de IA de código abierto más que a los grandes desarrolladores que ya han aceptado medidas similares contenidas en la Orden Ejecutiva emitida por el Gobierno del Presidente Biden en Octubre pasado.
El Gobernador Newsom tiene hasta finales de mes para decidir si firma o no la Ley, período en el cual seguramente será contactado por las firmas de lobby de Silicon Valley quienes se oponen al texto final del decreto.
