Sus decisiones en línea podrían llegar a ser manipuladas

Según investigadores de la Universidad de Cambridge, las herramientas de Inteligencia Artificial (IA) podrían utilizarse para manipular a las audiencias en línea para que tomen decisiones, desde qué comprar hasta inclusive, a quién votar.

El artículo destaca un nuevo mercado emergente para las “señales digitales de intención”, conocido como “economía de la intención”, en el que los asistentes de Inteligencia Artificial comprenden, pronostican y así mismo manipulan las intenciones humanas y venden esa información a empresas que pueden beneficiarse de ella. Sus decisiones en línea podrían llegar a ser manipuladas y a continuación todo lo que debe conocer al respecto.

Chatbots a nivel electoral

Decisiones: las herramientas de IA podrían utilizarse para manipular a las audiencias en línea

Los investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de Cambridge consideran que la economía de la intención es la sucesora de la economía de la atención, en la que, las redes sociales mantienen a los usuarios enganchados a sus plataformas y les muestran anuncios.

La economía de la intención implica que las empresas tecnológicas expertas en IA vendan al mejor postor lo que saben sobre las motivaciones de los usuarios, desde los planes para una estancia en un hotel hasta inclusive, las opiniones sobre un candidato político.

El estudio asevera que los grandes modelos de lenguaje (LLM), la tecnología que sustenta las herramientas de IA como el chatbot ChatGPT de OpenAI, se utilizarán para “anticipar y dirigir” a los usuarios basándose en “datos intencionales, conductuales y psicológicos”.

Los autores señalaron que la economía de la atención permite a los anunciantes comprar el acceso a la atención de los usuarios en el presente a través de pujas en tiempo real en los intercambios de anuncios o comprarlo en el futuro adquiriendo un espacio publicitario equivalente a un mes en una valla publicitaria.

Es de resaltar que el estudio plantea un escenario en el que estos ejemplos se “generan dinámicamente” para que coincidan con factores como por ejemplo; los “rastros de comportamiento personal” y así mismo, el “perfil psicológico” de un usuario.

“En una economía de intenciones, un LLM podría, a bajo costo, aprovechar la cadencia, la política, el vocabulario, la edad, el género, las preferencias de adulación, etc., de un usuario, en conjunto con ofertas intermediadas, para maximizar la probabilidad de lograr un objetivo determinado (por ejemplo, vender una entrada de cine)”, sugiere el estudio.

En un mundo así, un modelo de Inteligencia Artificial (IA) dirigiría las conversaciones al servicio de los anunciantes, las empresas y del mismo modo, otros terceros. Entre tanto, los anunciantes podrán usar herramientas de IA generativa para crear anuncios online personalizados, afirma el informe.

Los modelos de Inteligencia Artificial (IA) podrán ajustar sus resultados en respuesta a “flujos de datos entrantes generados por el usuario”, añade el estudio, citando una investigación que muestra que los modelos tienen la capacidad de inferir información personal a través de intercambios cotidianos e incluso “dirigir” conversaciones para obtener más información personal.

Cabe aclarar que, la investigación se refiere a ejecutivos de tecnología que discuten cómo los modelos de Inteligencia Artificial podrán predecir la intención y las acciones de un usuario.

Sus decisiones pueden ser influenciadas por los LLMs