Es crucial dar a conocer que, Blockchain podría utilizarse para evitar sesgos en los datos con los que se entrenan los modelos de Inteligencia Artificial (IA), y ese podría ser un “caso de uso excelente” para la tecnología, así lo comentaron ejecutivos a CNBC. ¡Más detalles al respecto a continuación!
BlockChain para evitar sesgos
Una de las preocupaciones sobre los modelos de IA (del tipo que sustentan aplicaciones como ChatGPT de OpenAI) es que los datos con los que se entrenan podrían llegar a contener sesgos o información errónea. Eso quiere decir que, las respuestas que pueda dar un sistema de Inteligencia Artificial contendrán esos sesgos e información falsa.
Es de acotar que, Blockchain llegó al mercado en el año de 2009 con el lanzamiento de la criptomoneda bitcoin. En el contexto de bitcoin, la tecnología es un libro de transacciones público inmutable y a prueba de manipulaciones. Las empresas han estado buscando usar estos principios en otras aplicaciones de blockchain, que a veces se le llama tecnología de contabilidad distribuida. Lastimosamente, hasta los cibercriminales han estado tratando de aprovecharse de este tipo de funcionalidades para llevar acabo sus fechorías.
En el caso de la IA, los datos de entrenamiento se pueden colocar en la cadena de bloques y eso permitirá a los desarrolladores del sistema de Inteligencia Artificial llevar a cabo un seguimiento de los datos con los que se ha entrenado el modelo.
Según se ha podido conocer, Casper Labs, la cual viene siendo una empresa de blockchain centrada en los negocios, se asoció con IBM este mes para crear dicho sistema.
Medha Parlikar, directora de tecnología y cofundadora de Casper Labs, señaló durante un panel discusión en el Foro Económico Mundial en Davos esta semana, “El producto que estamos desarrollando, los conjuntos de datos en realidad están controlados y almacenados en la cadena de bloques para que tenga una prueba de cómo se entrena la IA. Y así, cuando usas la IA, si está aprendiendo y descubres que la IA está comenzando a alucinar, puedes hacer retroceder la IA. Y entonces puedes deshacer parte del aprendizaje y volver a una versión anterior de la IA”.
Como bien sabemos, las alucinaciones se refieren en términos generales a cuando un sistema de Inteligencia Artificial (IA) suministra información falsa.
Blockchain viene siendo una tecnología de la que se ha hablado durante muchos años, y una gran cantidad de industrias, desde las finanzas hasta la atención médica por ejemplo, han estado buscando maneras de usarla.
Sheila Warren, directora ejecutiva del Crypto Council for Innovation, expresó, sin embargo, que un libro de datos de entrenamiento de IA basado en blockchain podría ser el “caso de uso excelente” para la tecnología.
Además, Warren indicó, “De hecho, creo que la verificación de una IA y algún tipo de controles y contrapesos… dentro de un sistema de IA, serán impulsados y respaldados por blockchain”.
