El multimillonario, Elon Musk, está bastante seguro de que vale la pena correr el riesgo de IA, incluso si hay una posibilidad de 1 entre 5 de que la tecnología se vuelva contra los humanos. ¡Todos los detalles a continuación!
Elon Musk está seguro de que vale la pena correr el riesgo de IA
Platicando en un seminario sobre el “Gran Debate sobre la IA” en la Cumbre sobre la Abundancia recientemente, Elon Musk recalculó su evaluación de riesgos anterior sobre la tecnología y señaló; “Creo que hay alguna posibilidad de que acabe con la humanidad. Probablemente estoy de acuerdo con Geoff Hinton, que es alrededor del 10% o 20% o algo así”.
Sin embargo, Musk añadió que cree que el probable escenario positivo supera al escenario negativo. Cabe destacar que Musk no mencionó como fue que calculo el riesgo.
¿Qué es p (viene de perdición)?
(p)doom en inglés, es “la nueva estadística morbosa que está arrasando en Silicon Valley”, y diversos ejecutivos de tecnología poseen apreciaciones acerca de un posible apocalipsis impulsado por la Inteligencia Artificial (IA).
Roman Yampolskiy, investigador de seguridad de la IA y director del laboratorio de seguridad cibernética de la Universidad de Louisville, comentó a Business Insider que Musk tiene razón al decir que la Inteligencia Artificial podría ser un riesgo existencial para la humanidad, pero, en todo caso, es un demasiado conservador, en su valoración.
“En mi opinión, la p(perdición) real es mucho mayor”, señaló Yamploskiy, refiriéndose a la [probabilidad de perdición] o la probabilidad de que la IA tome el control de la humanidad o provoque un evento que acabe con la humanidad, como la creación de una nueva arma biológica o provocando el colapso de la sociedad debido a un ciberataque a gran escala o una guerra nuclear.
“Como un niño con inteligencia divina”
En el mes de noviembre pasado, Musk expresó que había una probabilidad “no nula” que la tecnología podría terminar “yendo mal”, sin embargo, no llegó tan lejos como para decir que creía que la tecnología podría acabar con la humanidad si lo hiciera.
Es de resaltar que, aunque ha sido un defensor de la regulación de la Inteligencia Artificial, Musk fundó el año pasado una empresa llamada “xAI”, dedicado a ampliar todavía más el poder de la tecnología. xAI es un competidor de “Abierto AI”, una empresa que Musk cofundó con Sam Altman antes de que Musk dejara la junta directiva en el año de 2018.
En la Cumbre, Elon Musk estimó que la inteligencia digital superará toda la inteligencia humana combinada para 2030. Aunque sostiene que los aspectos positivos potenciales superan a los negativos, Musk reconoció el riesgo para el mundo si el desarrollo de la IA continúa su trayectoria actual en algunos de los sectores más directos.
“En cierto modo se hace crecer un AGI. Es casi como criar a un niño, pero uno que es como un súper genio, como un niño con inteligencia divina, y es importante cómo se cría al niño”, expresó Elon Musk en el evento de Silicon Valley en marzo 19, refiriéndose a la Inteligencia Artificial General.
Según ha señalado Musk, una de las cosas que cree que es increíblemente importante para la seguridad de la Inteligencia Artificial es tener un tipo máximo de IA curiosa y que busque la verdad.
Musk comentó su “conclusión final” sobre la mejor forma de lograrlo. La seguridad de la IA es hacer crecer la Inteligencia Artificial de una manera que la obligue a ser veraz.
Investigadores han descubierto que, una vez que una IA aprende a mentir a los humanos, el comportamiento engañoso es imposible de revertir usando las medidas de seguridad actuales de la Inteligencia Artificial.
Incluso, lo que es más preocupante aún, es que, investigadores añadieron que es posible que la Inteligencia Artificial pueda aprender a engañar por sí sola en vez de que se le enseñe concretamente a mentir.
“Si llega a ser mucho más inteligente que nosotros, será muy bueno en la manipulación porque lo habría aprendido de nosotros”, Hinton, a menudo referido como el “Padrino de la IA”, quien sirve como base para Elon Musk para su evaluación de riesgos de la tecnología, dijo cnn. “Y hay muy pocos ejemplos de algo más inteligente controlado por algo menos inteligente”.
