La Unión Europea ya habla de Privacidad y Seguridad para la Inteligencia Artificial

El día de ayer, en unas votaciones en el Parlamento Europeo, los legisladores de la Unión Europea respaldaron las normas de transparencia y seguridad para la Inteligencia Artificial Generativa. Según se conoció, ampararon un conjunto de enmiendas al proyecto de ley de IA del bloque, en donde estaba incluido el acuerdo de una serie de requisitos para los llamados modelos elementales que sostienen las tecnologías de IA generativa como por ejemplo, el novedoso ChatGPT. ¡Conozca los mejores detalles sobre este tema aquí en TECHcetera!

Ampararon un conjunto de Enmiendas al proyecto de ley de IA del bloque

Es importante mencionar que el texto de la enmienda acordada por los eurodiputados en dos comités, exige a los proveedores de modelos fundamentales o elementales, a aplicar controles de seguridad, así como medidas de gobernanza de datos y además, mitigaciones de riesgos antes de colocar sus modelos en el mercado. Todo esto incluye evidentemente obligarlos a considerar ciertos riesgos previsibles para la salud, la seguridad, así como también los derechos fundamentales, el medio ambiente y la democracia e incluso, el estado de derecho.

Por otra parte, la enmienda también compromete a los creadores de modelos fundacionales a disminuir el consumo de energía y el uso de recursos de sus sistemas, así como registrar sus sistemas en una base de datos de la UE establecida por la Ley de IA. Mientras por otro lado, los proveedores de tecnologías de IA generativa (como ChatGPT de OpenAI), están obligados a cumplir con las obligaciones de transparencia en la regulación, así como a aplicar garantías adecuadas, e incluso, a brindar un resumen de cualquier material protegido por derechos de autor utilizado para entrenar sus IA.

Asimismo, entre otros aspectos claves de debate para los parlamentarios incluyeron la vigilancia biométrica, donde los mismos, acordaron cambios predestinados a fortalecer la protección de los derechos fundamentales.

Es importante señalar que los eurodiputados de dos comisiones, la Comisión de Mercado Interior y la Comisión de Libertades Civiles, votaron hoy unas 3.000 enmiendas, acogiendo un proyecto de mandato sobre el reglamento de Inteligencia Artificial (IA) concebido con la cantidad de 84 votos a favor, 7 votos en contra y asimismo, 12 abstenciones.

Hay unas enmiendas bastante claves acordadas el día de hoy entre las cuales se encuentra una expansión de la lista prácticas prohibidas, las cuales añaden prohibiciones sobre usos “intrusivos” así como también “discriminatorios” de los sistemas de IA, las mismas son:

La primera que debemos mencionar, es la de los sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público.

Asimismo, sistemas de identificación biométrica a distancia “post”, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial.

En ellas también se incluyen, los sistemas de categorización biométrica que utilizan características sensibles como por ejemplo; de género, raza, religión, entre otros.

Entre tanto, se encuentran además, los sistemas policiales predictivos (basados ​​en perfiles, así como ubicación o conducta delictiva pasada).

Sistemas de reconocimiento de emociones en las fuerzas del orden, así como la gestión de fronteras, el lugar de trabajo y las instituciones educativas.

Por último y no menos importante, se encuentra el raspado indiscriminado de datos biométricos de las redes sociales o incluso, imágenes de CCTV para elaborar bases de datos de reconocimiento facial. (violando los derechos humanos y asimismo, el derecho a la privacidad).

Aunque hay que dejar claro que se espera una votación completa en el parlamento para poder sellar el mandato el próximo mes (en la sesión del 12 al 15 de junio de este mismo año 2023), luego de ello, iniciarán las conversaciones tripartitas con el Consejo para pactar un compromiso final sobre el archivo.

Por otro lado, según se conoció, los eurodiputados respaldaron enmiendas destinadas a impulsar el derecho de los ciudadanos a exhibir quejas sobre los sistemas de Inteligencia Artificial y recibir explicaciones de las decisiones basadas en sistemas de IA de alto riesgo que pudieran afectar de manera significativa sus derechos. Otro aspecto resaltante que los eurodiputados acordaron el día de hoy, fue un papel modificado para el organismo denominado “Oficina de AI de la UE”, que quieren monitorear cómo se implementa el libro de reglas, para completar la supervisión descentralizada de la regulación a nivel de los Estados miembros.

Asimismo, otro punto clave es la introducción de obligaciones de responsabilidad y transparencia en los implementadores de Inteligencia Artificial de alto riesgo, aplicándoles el deber de realizar una evaluación del impacto de los derechos fundamentales, así como de los mecanismos mediante los cuales las personas afectadas, pueden desafiar los sistemas de IA.

Evidentemente las votaciones del comité del día de hoy, resultaron ser un gran paso para establecer el mandato del parlamento e implantar el tono para las próximas conversaciones tripartitas con el Consejo.