La IA quiere acabar con el fraude pero hay riesgos

Recientemente se ha conocido que han ampliado el despliegue de Inteligencia Artificial (IA) para descubrir el fraude de asistencia social, del gobierno del Reino Unido ha hecho esto a pesar de las advertencias de sesgo algorítmico contra grupos de solicitantes vulnerables.

El DWP ha extendido el uso del aprendizaje automático

En una inversión de la cantidad de £70 millones que aplica “análisis avanzados” a las solicitudes de crédito universal (UC), el Departamento de Trabajo y Pensiones (DWP) ha extendido el uso del aprendizaje automático en un intento de ahorrar más de la cantidad de £1 mil millones de los £8 mil millones más perdido por fraude y error el pasado año.

Aunque hay que mencionar que el proyecto no parece haber sido anunciado de manera formal por el gobierno del Reino Unido que, al parecer, han querido mantener en secreto la Inteligencia Artificial (IA) en el sistema de bienestar. Cabe acotar que si se extiende, tiene el potencial de llegar a muchos de los 5,9 millones de personas que reclaman UC.

Luego de una prueba el año pasado utilizando un software automatizado para señalar a posibles estafadores que buscan adelantos en efectivo de la UC, actualmente se ha desarrollado y, así mismo, probado una tecnología similar para poder escanear solicitudes de asistencia social creadas por personas que viven juntas, así como por personas que trabajan por cuenta propia y aquellos que desean apoyo para la vivienda, como para evaluar las aseveraciones que las personas hacen sobre su capital personal, como de los ahorros.

Ahora bien, tanto las organizaciones de derechos de bienestar, como los expertos de la ONU han mencionado que extender el sistema de bienestar “digital por defecto” del Reino Unido con aprendizaje automático sin mayor transparencia, corre el riesgo de crear serios problemas para algunos solicitantes de beneficios.

Según se ha conocido, Big Brother Watch, un grupo de campaña de libertades civiles del Reino Unido, mencionó que estaban preocupados de que el gobierno estuviera impulsando modelos de Inteligencia Artificial mucho más oscuros cuando admite que su capacidad para monitorear la injusticia es limitada.

Cabe resaltar que la extensión de la automatización del bienestar se resume en la declaración del contralor y auditor general en el más reciente informe anual del DWP. Menciona que el DWP posee un “gobierno y control estrictos sobre el uso del aprendizaje automático”, sin embargo, reveló que los funcionarios han detectado evidencia de sesgo hacia los reclamantes mayores.

Tal parece que el gobierno se encuentra bajo presión para aumentar la confianza del público en el uso de la Inteligencia Artificial, y el auditor general lo instó a publicar su evaluación del sesgo en los modelos de aprendizaje automático.

Hasta el momento, el DWP ha mencionado que se encuentra trabajando para poder desarrollar su capacidad para realizar un análisis de justicia más completo en una gama más extensa de características protegidas. Finalmente se debe dejar claro que, según ha mencionado un portavoz de DWP siguen explorando el potencial de las nuevas tecnologías para poder combatir el fraude y desplegar protecciones integrales al hacerlo.