Todo parece indicar que, las fallas que han estado latentes durante mucho tiempo dentro de OpenAI sobre cuestiones de seguridad con respecto al despliegue de grandes modelos de lenguaje como GPT, el motor detrás de los servicios ChatGPT y DALL-E, llegaron a un punto crítico hace poco cuando la junta directiva sin fines de lucro de la organización votó a favor. Despedir al entonces director ejecutivo Sam Altman. En una corta publicación en el blog, la junta señaló que Altman no había sido “consistentemente sincero en sus comunicaciones”. Pero, después de todo un “novelón”, está de regreso y, lo cierto es que, la seguridad a nivel de IA tiene a Sillycon Valley dividido
Vale la pena resaltar que, OpenAI no es el único lugar en Silicon Valley donde las escaramuzas sobre la seguridad de la Inteligencia Artificial (IA) han estallado en una guerra total. En Twitter (actualmente llamado X) , hay 2 bandos; los tecnócratas que dan prioridad a la seguridad, liderados por empresas de riesgo como General Catalyst en asociación con la Casa Blanca; y por otro lado, están los autodenominados “tecnooptimistas”, liderados por empresas de tendencia libertaria como Andreessen Horowitz. ¡Todos detalles en breve!
La seguridad a nivel de IA tiene a Sillycon Valley dividido
Es importante señalar que los tecnócratas se encuentran asumiendo compromisos de seguridad, formando comités y así mismo, estableciendo organizaciones sin fines de lucro. Reconocen el poder de la Inteligencia Artificial y creen que la mejor manera de aprovecharla es a través de la colaboración interdisciplinaria.
Hemant Taneja, director ejecutivo y director general de General Catalyst, informó el pasado martes que había liderado a más de 35 firmas de capital de riesgo y 15 empresas a firmar una serie de compromisos de “IA responsable” redactados por Responsible Innovation Labs, una organización sin fines de lucro que cofundó. Ahora bien, el grupo también publicó un Protocolo de IA responsable de 15 páginas, que Taneja describió en X (antiguo Twitter) como un “manual práctico de instrucciones”.
Hay que destacar que la publicación en X de Taneja fue apresuradamente razonado. Praying for Exits, una cuenta de memes e inversor de Silicon Valley, publicó una captura de pantalla de mensajes entre un investigador de Inteligencia Artificial, llamado Rohan Pandey, y un inversor de Insight Partners, que también firmó los compromisos de IA responsable, en los que Pandey canceló su próxima reunión; Pandey señaló que los compromisos pondrían en peligro la investigación de Inteligencia Artificial (IA) de código abierto y al mismo tiempo indicó que contribuirían a la captura regulatoria.
Mientras tanto, los denominados “tecnooptimistas” se muestran grandilocuentes mediante publicaciones en X, podcasts y blogs. Reconocen el poder de la Inteligencia Artificial y creen que los empresarios, más que los formuladores de políticas, se encuentran mejor equipados para hacer de la tecnología una fuerza para el bien.
Particularmente, los tecnooptimistas han estado en pie de guerra desde que el presidente de los Estados Unidos, Joe Biden emitió una orden ejecutiva sobre el “Desarrollo y uso seguro y confiable de la Inteligencia Artificial (IA)” a finales del mes de octubre. En Europa, las negociaciones sobre una Ley de IA siguen en curso, y el debate se centra en la cuestión de regular directamente los modelos de fundaciones en vez de regular los daños al consumidor.
Cabe resaltar que, en cuanto a la posición de Altman en el debate, ha infundido mucho miedo con la Inteligencia Artificial General (AGI), un “no-no” tecno-optimista. Pero, al mismo tiempo, ha presionado para implementar y comercializar la Inteligencia Artificial rápidamente, llevando una tecnología que antes era competencia de la torre de marfil a la corriente principal: una victoria “tecno-optimista”. Además, ahora es víctima de la burocracia (aunque sea una que él mismo creó).
Independientemente de lo que diga o haga Altman , como líder de la Inteligencia Artificial (IA), cada lado lo reclamará como suyo y el debate continuará.
