La Autoridad Europea está preocupada por los avances de la IA

La Inteligencia Artificial (IA) se encuentra marcando el comienzo de un “nuevo mundo” tan vertiginosa y disruptivamente como lo hicieron las armas atómicas hace 80 años, expresó recientemente Margrethe Vestager, principal reguladora tecnológica de la Unión Europea, ante una multitud en el Instituto de Estudios Avanzados de Princeton, Nueva Jersey. A continuación, todos los detalles sobre el porqué la Autoridad Europea está muy preocupada por los avances de la IA.

Preocupación por los avances de la IA

Margrethe Vestager, principal reguladora tecnológica de la Unión Europea.

Es crucial dar a conocer que, en una entrevista exclusiva con Axios posterior, Vestager señaló que aunque tanto la bomba atómica como la IA han planteado grandes peligros para la humanidad, la Inteligencia Artificial conlleva “riesgos existenciales individuales” adicionales a medida que la empoderamos para tomar decisiones sobre nuestro trabajo y la universidad, nuestros préstamos e hipotecas, y nuestros tratamientos médicos.

Vestager señaló, “Si nos ocupamos primero de las amenazas existenciales individuales, podremos abordar mucho mejor las amenazas existenciales hacia la humanidad”.

Según ha comentado Vestager, los seres humanos nunca antes se habían enfrentado a una tecnología con tanto poder y sin un propósito definido.

Es de resaltar que, en su conferencia, Vestager (cuyo título completo en la Comisión Europea es “vicepresidenta ejecutiva para una Europa apta para la era y la competencia digitales”) argumentó firmemente que “la tecnología debe servir a los humanos”.

La era de Vestager en la UE ha coincidido con la aprobación de algunas de las regulaciones tecnológicas más completas del mundo y la búsqueda de una serie de acciones coercitivas contra los gigantes tecnológicos. Pero, rechaza la creencia sostenida por muchos en la industria, de que este enfoque ha obstaculizado a los innovadores y las economías europeas.

El mayor problema tecnológico de Europa es que las empresas no escalan, señaló, culpando a “un mercado de capitales incompleto” y, en el caso de las nuevas empresas de Inteligencia Artificial (IA), a los problemas para acceder a los chips y la potencia informática necesarios.

Igualmente sustenta que no ha intimidado a las empresas para que apliquen las regulaciones de la UE a nivel mundial, como algunos han sugerido.

“No estamos tratando de legislar de facto para todo el mundo. Eso no sería apropiado”, aseveró.

Sin embargo, instó a los legisladores estadounidenses y a los fundadores e ingenieros de la IA a “interactuar con el mundo exterior” para cumplir con su responsabilidad ante la humanidad.

La confianza viene siendo un gran problema para las empresas de Inteligencia Artificial, según ha indicado Vestager, algo que se hace eco de una larga lista de encuestas y sondeos de opinión.

“La confianza es algo que se construye cuando también se tiene algo que lo mantiene encaminado. Como la oficina de IA de la UE y los Institutos de Seguridad de Estados Unidos y el Reino Unido”.

Así mismo añadió, “Los gobiernos pueden establecer puntos de referencia. Pero es realmente importante que se desarrolle un sector de equipos rojos”.

La principal reguladora tecnológica de la Unión Europea, Vestager, también expresó que los derechos a la equidad y la transparencia en torno a las decisiones tomadas con Inteligencia Artificial no tienen sentido si no pueden hacerse cumplir mediante reglas.

En su discurso, Vestager manifestó que las grandes plataformas digitales se encuentran desafiando la democracia, pero que la “IA de propósito general” está desafiando a la humanidad.

“Con la IA, puedes incluso renunciar a las relaciones con las personas”, señaló, citando el auge de los robots y chatbots. “Y si perdemos relaciones, perdemos la sociedad. Por eso nunca debemos renunciar al mundo físico”.

Pero, ¿qué sigue?

Lo cierto es que Vestager quiere una gobernanza universal en materia de seguridad de la Inteligencia Artificial (IA), aunque eso signifique llegar a un compromiso con gobiernos con los que no están de acuerdo fundamentalmente.