Por si no lo sabía, los modelos de aprendizaje profundo se usan en numerosos campos, desde el diagnóstico sanitario hasta inclusive, la previsión financiera. Sin embargo, si hay algo inherente que señalar es que, estos modelos requieren un uso tan intensivo de recursos computacionales que demandan el uso de potentes servidores basados en la nube. Vale la pena destacar que esta dependencia de la computación en la nube plantea riesgos de seguridad significativos, en particular en áreas como la atención médica, donde los hospitales pueden dudar en usar herramientas de Inteligencia Artificial (IA) para analizar datos confidenciales de los pacientes debido a preocupaciones sobre la privacidad. Para abordar este problema urgente, los investigadores del MIT han desarrollado un protocolo de seguridad que logra aprovechar las propiedades cuánticas de la luz para garantizar que los datos enviados hacia y desde un servidor en la nube permanezcan seguros durante los cálculos de aprendizaje profundo.
Investigadores del MIT han desarrollado un nuevo protocolo de seguridad
Es crucial destacar que al codificar datos en la luz láser utilizada en los sistemas de comunicaciones de fibra óptica, el protocolo explota los principios fundamentales de la mecánica cuántica, haciendo imposible que los atacantes copien o incluso intercepten la información sin ser detectados.
Además de esto, hay que acotar que la técnica consigue garantizar la seguridad sin la necesidad de comprometer la precisión de los modelos de aprendizaje profundo. En las pruebas, el investigador demostró que su protocolo podía mantener una precisión del 96% al tiempo que garantizaba medidas de seguridad realmente sólidas.
Seguridad en el aprendizaje profundo
El escenario de computación basado en la nube en el que se centraron los investigadores involucra 2 partes: un cliente que tiene datos confidenciales, como imágenes médicas y un servidor central que controla un modelo de aprendizaje profundo.
El cliente quiere usar el modelo de aprendizaje profundo para hacer una predicción, por ejemplo, si un paciente tiene cáncer basándose en imágenes médicas, sin revelar información sobre el paciente. En este escenario, se tienen que enviar datos confidenciales para generar una predicción. Sin embargo, durante el proceso, los datos del paciente deben permanecer seguros.
Además, el servidor no quiere revelar ninguna parte del modelo propietario que una compañía como OpenAI invirtió años y millones de dólares en construir. Es crucial señalar que, en la computación digital, un actor malintencionado podría copiar fácilmente los datos enviados desde el servidor o el cliente. Por otra parte, la información cuántica no se puede copiar a la perfección. Los investigadores aprovechan esta propiedad, conocida como principio de no clonación, en su protocolo de seguridad. Posterior al uso del protocolo de los investigadores, el servidor codifica los pesos de una red neuronal profunda en un campo óptico usando luz láser.
Una red neuronal es un modelo de aprendizaje profundo que consta de capas de nodos interconectados, o neuronas, que llevan a cabo cálculos sobre los datos. Los pesos son los componentes del modelo que realizan las operaciones matemáticas en cada entrada, una capa a la vez. La salida de una capa se introduce en la siguiente capa hasta que la capa final genera una predicción.
Ahora bien, el servidor transmite los pesos de la red al cliente, que efectúa operaciones para obtener un resultado en función de sus datos privados. Cabe aclarar que los datos permanecen protegidos del servidor. Al mismo tiempo, el protocolo de seguridad permite al cliente medir solo un resultado y evita que el cliente copie los pesos debido a la naturaleza cuántica de la luz. Una vez que el cliente introduce el primer resultado en la siguiente capa, el protocolo se encuentra diseñado para cancelar la primera capa para que el cliente no tenga la posibilidad de aprender nada más sobre el modelo.
Debido al teorema de no clonación, el cliente inevitablemente aplica pequeños errores al modelo mientras mide su resultado. Cuando el servidor recibe la luz residual del cliente, tiene la capacidad de poder medir estos errores para determinar si se filtró alguna información. Es importante destacar que se ha demostrado que esta luz residual no revela los datos del cliente.
Protocolo práctico
Los equipos de telecomunicaciones modernos suelen depender de fibras ópticas para transferir información debido a la necesidad de soportar un ancho de banda masivo a largas distancias. Como estos equipos ya incorporan láseres ópticos, los investigadores tienen la capacidad de poder codificar datos en luz para su protocolo de seguridad sin ningún hardware especial.
Vale la pena señalar que, cuando probaron su enfoque, los investigadores descubrieron que podía garantizar la seguridad del servidor y del cliente y al mismo tiempo, podía permitir que la red neuronal profunda alcanzara una precisión del 96%.
En el futuro, los investigadores quieren estudiar cómo se podría aplicar este protocolo a una técnica denominada aprendizaje federado, en la que varias partes utilizan sus datos para entrenar un modelo central de aprendizaje profundo. Del mismo modo se podría usar en operaciones cuánticas, en vez de las operaciones clásicas que estudiaron para este trabajo, lo que podría proporcionar ventajas tanto en precisión como en seguridad.
