Geoffrey Hinton ganó, en conjunto con Yoshua Bengio and Yann LeCun, el premio Turing en 2018 por su trabajo en avances conceptuales y de ingeniería asociados a redes neuronales profundas e inteligencia artificial. Es considerado, por muchos, el Padrino de la Inteligencia Artificial y sus aportes pueden rastrearse casi que directamente con la reciente explosión de anuncios y lanzamientos relacionados con Machine Learning, LLMs e Inteligencia Artificial.
Ahora, luego de su retiro de Google (donde laboró los últimos 10 años), el científico canadiense se arrepiente de parte de su trabajo y alerta sobre los peligros que esta tecnología puede traer para la humanidad, especialmente por la velocidad a la que se está avanzando en su desarrollo y la falta de un marzo ético y legal que regule su utilización. Lo hizo en una entrevista con el New York Times.
“Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho. Es difícil ver cómo evitar que los malos actores lo usen para cosas malas”.
Las 5 preocupaciones del “Padrino” de la Inteligencia Artificial
Hinton resume sus preocupaciones en 5 puntos básicos:
1 – El aumento en la competencia por llegar al mercado con soluciones de IA hará que se eliminen las precauciones en su implementación.
2 – Desinformación: entre más avanzados sean los sistemas de Inteligencia Artificial Generativa más fácil será engañar a la gente con información que, simplemente, no es real (para la muestra, la foto del Papa con su abrigo de invierno).
3 – Desempleo: la IA, al igual que muchas tecnologías que le han precedido, terminará generando nuevos empleos y trabajos. Pero el impacto temporal se sentirá en el desplazamiento de labores y trabajos que serán reemplazados por algoritmos, asistentes digitales y programas que pueden hacer -de manera más efectiva y económica- sus tareas.
4 – Consecuencias Inesperadas: son varios los casos en que los algoritmos de Inteligencia Artificial han tomado decisiones que los humanos, sencillamente, no entendemos. Lo vimos cuando Alpha Go le ganó a Lee Sedol con una jugada que los ingenieros pensaron era un error de programación. Lo vimos cuando 2 bots de Meta decidieron dejar de interactuar en inglés y crearon su propio idioma y lo hemos visto con las llamadas “alucinaciones” de los LLMs conversacionales actuales.
5 – En la medida en que la IA siga aprendiendo a la velocidad que está aprendiendo y que su desarrollo se siga dando de manera exponencial, es lógico pensar que en algún momento la inteligencia artificial sea más inteligente que los humanos. ¿Qué pasará entonces?
“La idea de que puedan llegar a ser más inteligentes que la gente, algunas personas lo creían. Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no creo eso”.
Y no. Hinton no renunció a Google para poder “contar la verdad”. Lo hizo para poder hacerlo sin impactar a quien, en sus propias palabras, ha actuado de manera muy responsable.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
