Conforme los agentes de Inteligencia Artificial (IA) se vuelven más avanzados, podría resultar cada vez más difícil distinguir entre usuarios impulsados por IA y humanos reales en Internet. En un nuevo informe técnico, investigadores del MIT, así como de OpenAI, Microsoft y otras empresas tecnológicas e instituciones académicas, proponen el uso de credenciales de personalidad, la cual es una técnica de verificación que permite a alguien demostrar que es un humano real en línea, al tiempo que preserva su privacidad.
Datos más destacados acerca de la humanidad en línea
Una de las preguntas que realizaron fue: ¿por qué necesitamos credenciales de humanidad (algo que WorldCoin también ha estado explorando)? A lo que Tobin South (estudiante de posgrado en el Media Lab) señaló que las capacidades de la Inteligencia Artificial están mejorando rápidamente. Aunque gran parte del discurso público ha versado sobre cómo los chatbots continúan mejorando, la IA sofisticada permite muchas más capacidades que un simple ChatGPT mejorado, como la capacidad de la IA para interactuar en línea de forma autónoma.
Según comenta, la IA podría tener la capacidad de crear cuentas, publicar contenido, así como también generar contenido falso, hacerse pasar por humanos en línea o amplificar contenido algorítmicamente a gran escala. Ha señalado que esto abre cuantiosos riesgos. Se puede pensar en esto como un problema de “impostor digital”, en el que cada vez es más difícil distinguir entre la IA sofisticada y los humanos. Según ha expresado South, las credenciales de personalidad son una posible solución a ese problema.
Por su parte, Nouran Soliman (estudiante de posgrado en ingeniería eléctrica e informática) ha mencionado que esas capacidades avanzadas de IA podrían ayudar a los actores maliciosos a ejecutar ataques a gran escala o inclusive, a difundir información errónea. Internet podría estar llena de IA que compartan contenido de seres humanos reales para ejecutar campañas de desinformación. Según señala, será cada vez más difícil navegar por Internet, y en particular por las redes sociales. Podríamos imaginar el uso de credenciales personales para filtrar determinados contenidos y moderar el contenido de nuestro feed de redes sociales o determinar el nivel de confianza de la información que recibimos en línea.
Credencial de personalidad y la seguridad
Otra de las preguntas que les realizaron a los coautores del artículo en cuanto a este inherente tema fue; ¿qué es una credencial de personalidad y cómo se puede garantizar que dicha credencial sea segura? Ante esto, South explicó que las credenciales de personalidad permiten demostrar que es humano sin revelar nada más sobre su identidad. Estas credenciales le permiten obtener información de una entidad como el gobierno, que puede garantizar que usted es humano, y luego, mediante la tecnología de privacidad, le permiten demostrar ese hecho sin compartir ninguna información confidencial sobre su identidad. Según comenta, para obtener una credencial de personalidad, tendrá que presentarse en persona o tener una relación con el gobierno, como un número de identificación fiscal. Ha explicado que hay un componente fuera de línea. Tendrá que hacer algo que únicamente los humanos pueden hacer. Las IA no pueden presentarse en el DMV, por ejemplo. E incluso las IA más sofisticadas no tienen la capacidad de poder falsificar o romper la criptografía. Entonces, combinaron 2 ideas: la seguridad que tenemos a través de la criptografía y el hecho de que los humanos todavía tienen algunas capacidades que las IA no poseen, para hacer garantías realmente sólidas de que usted es humano.
Ante esta pregunta, Soliman por su parte, señaló que las credenciales de personalidad pueden ser opcionales. Los proveedores de servicios tienen la posibilidad de dejar que las personas elijan si quieren usar una o no. En este momento, si las personas solo quieren interactuar con personas reales y verificadas en línea, no hay una forma razonable de hacerlo. Y más allá de simplemente crear contenido y hablar con personas, en algún momento los agentes de IA también van a tomar acciones en nombre de las personas. Manifestó que si va a comprar algo en línea o negociar un trato, entonces tal vez en ese caso quiera estar seguro de que está interactuando con entidades que tienen credenciales de personalidad para asegurarse de que son confiables.
South ha explicado que las credenciales de personalidad se basan en una infraestructura y un conjunto de tecnologías de seguridad que hemos tenido durante décadas, como el uso de identificadores como una cuenta de correo electrónico para iniciar sesión en servicios en línea, y tienen la capacidad de poder complementar ésos métodos existentes.
