¿Debemos pausar el desarrollo de Inteligencia Artificial?

Los sistemas de IA con inteligencia competitiva desde el ser humano pueden plantear profundos riesgos para la sociedad y la humanidad, como lo demuestra una amplia investigación y reconocido por los principales laboratorios de IA.

Con esa frase comienza una carta abierta firmada por mas de un centenar de académicos, líderes empresariales y expertos técnicos dentro de los que se destacan (sin demeritar a los demás) a Elon Musk, Steve Wozniak y Juval Noah Harari y que pide pausar por lo menos por 6 meses los avances de Inteligencia Artificial más allá de GPT-4, el más reciente modelo publicado por OpenAI.

Y es que seguramente usted ha visto la andanada de anuncios que, relacionados con Inteligencia Artificial, hemos visto en los últimos meses y que a diferencia de anuncios hechos el año pasado y que tenían una aplicabilidad muy específica (por ejemplo la detección temprana de cáncer), ahora pueden impactar no sólo el trabajo de millones de personas sino que afectan la capacidad de discernir entre lo que es real y lo que no, como lo ocurrido con esta foto del Papa (o estas otras producidas por MidJourney V5).

“Pedimos a todos los laboratorios de IA que detengan inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que el GPT-4 (incluido el GPT-5 que se está entrenando actualmente)”

La carta fue publicada por el Future of Life Institute, una organización enfocada en los riesgos que la tecnología representa para la humanidad y busca crear un espacio para desarrollar redes y protocolos de seguridad que garanticen controles más estrictos y una supervisión estricta del desarrollo de la IA en el futuro creando “sistemas más interpretables y transparentes”.

De igual forma, insta a los gobiernos a acelerar el desarrollo de marcos regulatorios y de gobierno para el desarrollo y uso de sistemas de Inteligencia Artificial y para exigir la inclusión de mecanismos de “marca de agua” que permita distinguir entre el contenido que es real y aquel que ha sido creado utilizando esta tecnología.

Por último, los firmantes piden una amplia investigación institucional para analizar y eludir las principales interrupciones socioeconómicas que puedan ser causadas por la intempestiva llegada de la Inteligencia Artificial y que sabemos, por experiencias similares como la vivida en la 1era Revolución Industrial, puede generar impactos significativos.

¿Debemos pausar el desarrollo de Inteligencia Artificial?

La pregunta importante es ¿Debemos pausar el desarrollo de Inteligencia Artificial? Y lo es porque la IA es hoy por hoy uno de los pilares de la carrera entre las grandes potencias (a propósito, le recomiendo que se lea AI Super Powers de Kai Fu Lee) económicas del planeta. Está dispuesto Estados Unidos a pausar el desarrollo de esta herramienta sin saber si China, Corea del Norte o Rusia también lo harán? ¿Estarán dispuestos los líderes de OpenAI, Microsoft, Google y demás compañías que se han montado en el bus de la IA a darle espacio a sus competidores para que los alcancen? Y es que las ventajas competitivas que por años han tenido los grandes jugadores se están viendo disminuidas gracias a estas herramientas y en una economía altamente capitalista y competitiva, en la que no vemos este nivel de disrupción desde la llegada del iPhone en 2007, será difícil poner a todos de acuerdo.

Es claro que el riesgo es latente. Y no hablo de SkyNet o Terminator (aunque sí). Hablo de la posibilidad de generar un cambio tan grande que desplace un número importante de empleos y genere problemas masivos de desempleo mientras se generan los beneficios que creen más de los que se perdieron y en donde vemos pocas iniciativas de reskiling que permitan la movilidad de la fuerza laboral. Hablo de la proliferación -aún más- de la desinformación y del impacto que esta pueda tener en la división y polarización de la sociedad. Y hablo de consecuencias inesperadas, que aún no hemos visto, tal y como nos pasó con la llegada de la revolución móvil y la de redes sociales.