Este es uno de los grandes problemas de la IA!

TechCrunch Disrupt es una conferencia de 3 días que se llevó a cabo hace poco en la ciudad de San Francisco, enfocada en noticias y desarrollos tecnológicos de última hora con líderes de opinión de renombre. El escenario de IA en TechCrunch Disrupt 2024, comenzó con un rifirrafe pero bastante constructivo panel sobre la lucha contra la desinformación. Pero en un animado intercambio de opiniones atenuado por expresiones de respeto y acuerdo, los 3 panelistas tuvieron palabras duras para las redes sociales y también para la IA generativa.

Problemas de la IA

Entre todas las opiniones, nadie fue más severo que Imran Ahmed, director ejecutivo del Centro para Contrarrestar el Odio Digital.

“Siempre ha habido mentiras en política, y muchos políticos utilizan la mentira como arte, como herramienta para hacer política. Lo que tenemos ahora es cuantitativamente diferente y a tal escala que es como comparar la carrera armamentística convencional de mentiras en política con la carrera nuclear”, afirmó.

Así mismo añadió, “Es la economía la que ha cambiado tan radicalmente: el costo marginal de la producción de una pieza de desinformación se ha reducido a cero gracias a la IA generativa, y los costos marginales de la distribución de la desinformación [también son cero]. Así que lo que tenemos, teóricamente, es un sistema de bucle perfecto en el que la IA generativa produce, distribuye y luego evalúa el rendimiento (hace pruebas A/B y mejora). Tenemos una máquina de mentiras perpetua. ¡Eso es bastante preocupante!”.

Por su parte, Brandie Nonnecke, quien es directora del Laboratorio de Políticas CITRIS de la Universidad de California en Berkeley, señaló que la autorregulación en forma de límites voluntarios e informes de transparencia es completamente insuficiente.

“No creo que estos informes de transparencia realmente hagan algo, en parte porque en ellos dicen, miren qué gran trabajo estamos haciendo: eliminamos decenas de miles de piezas de contenido dañino. Bueno, ¿qué no eliminaron? ¿Qué sigue circulando por ahí que no detectaron? Da una falsa sensación de que realmente están haciendo la debida diligencia, cuando creo que en el fondo todo es un gran lío de ellos tratando de averiguar cómo lidiar con todo este contenido”, señaló.

Enfrentamientos por la IA y la desinformación

Por otro lado, Pamela San Martin, copresidenta de la Junta de Supervisión de Facebook, estuvo de acuerdo en principio, pero advirtió que no se debe tirar al bebé junto con el agua de la bañera.

“Creo que sería completamente falso decir que cualquier plataforma de redes sociales está haciendo todo lo que tiene que hacer, especialmente no diría eso de Meta”, comentó.

Así mismo añadió, “Estoy de acuerdo con lo que dices, pero pensábamos que este año, que ha tenido 80 elecciones, sería el año de la IA y las elecciones, que todas las elecciones en el mundo se inundarían de deepfakes de IA, que eso sería lo que controlaría la narrativa. Hemos visto un aumento en ello, pero no hemos visto elecciones completamente inundadas de contenido generado por IA. ¿Por qué digo eso? No porque esté en desacuerdo, es muy preocupante, pero también creo que tenemos que tener en cuenta que si empezamos a tomar medidas por miedo, perderemos la parte buena de la IA”.

Lo cierto es que, muchas son las opiniones en cuanto a la Inteligencia Artificial (IA). Sin duda, nos hace pensar que es realmente buena, pero, también tiene sus problemas y hay que ser lo más cuidadoso posible con esta tecnología. Ahora bien, cuando la tecnología, la desinformación y la política se mezclan, puede ser la receta para el desastre!