¿Puede la IA caer en el racismo?

El auge de la Inteligencia Artificial (IA) está marcando el comienzo de una nueva era, la cual, consigue brindar una gran cantidad de posibilidades. Pero, no se debe pasar por alto que con el crecimiento de la IA, también hay motivos de preocupación a nivel de racismo.

Al término “Anti-Blackness” se le conoce como: creencias, actitudes, así como también acciones y comportamientos de individuos e instituciones que desvalorizan, minimizan e incluso, marginan la participación plena de las personas de negras. Por lo que entendiendo esto, se debe mencionar que hay varios ejemplos de la lucha de raza en los algoritmos como también en nuestra Inteligencia Artificial (IA). A pesar del enorme potencial, se debe reflexionar y considerar el sesgo “anti-personas negras” integrado en los sistemas de IA. Para conocer más detalles al respecto, no puede dejar de conocer este tema tan inherente.

El sesgo o racismo integrado en los sistemas de IA

Según un informe de 2021 del Laboratorio de Políticas de la Facultad de Derecho de la Universidad de Pensilvania, sobre la IA y sesgo implícito, buscó investigar el papel que juega el sesgo en las plataformas de reclutamiento y asimismo de contratación. Los descubrimientos del informe lograron indicar que entre las personas de 18 a 40 años que fueron encuestadas, existían temores desmedidos sobre la amenaza de los estereotipos en las plataformas de reclutamiento.

Así mismo, se debe mencionar que el informe antes mencionado consiguió identificar diversas preocupaciones que tienen los jóvenes profesionales cuando se trata de Inteligencia Artificial. Un claro ejemplo de ello es que los sistemas de IA están programados para identificar ciertas palabras clave en el currículum de un candidato a un puesto de trabajo, pero hay que aclarar que por lo general, estas palabras clave están diseñadas pensando en los candidatos blancos.

En este sentido, un encuestado comunicó que si el concepto de IA de un “buen” currículum se edifica utilizando referencias a currículums blancos, las personas que jugaron al golf por ejemplo, tendrían una ventaja sobre aquellos que prefieren el atletismo o el baloncesto. Incluso, otra de las preocupaciones de los encuestados es que tener un colegio o universidad históricamente negro en un currículum o perfil de solicitante, pudiera causar que AI descalificara a un candidato para el trabajo. Pero, claro está, que estas no son las únicas inquietudes que se descubrieron en el estudio, también hay muchas otras por lo cual es un tema muy inherente.

Tecnología de reconocimiento facial

Desde hace algún tiempo, ha habido mucha conversación racial en la tecnología de reconocimiento facial. Nijeer Parks fue acusado de robar y así mismo de intentar golpear a un oficial de policía con un vehículo en el año de 2019 luego de que un software de reconocimiento facial lo identificara como el culpable de lo ocurrido (a pesar de que el mismo, se encontraba a 30 millas de distancia en el momento en que ocurrió el suceso). Pero este no es el único caso, también ha habido otros en donde el reconocimiento facial a inculpado injustamente a personas de color, incluso, Marketplace dio a conocer en el mes de abril que de los 5 casos conocidos de arrestos injustos o indebidos realizados con tecnología de reconocimiento facial, todas las víctimas han sido hombres negros (lo cual, da grandes indicios de racismo).

Filtros de redes sociales

Para nadie es un secreto que muchos de los filtros populares disponibles en redes sociales como Instagram y TikTok por ejemplo, se adaptan a los estándares de belleza blanca, creando ojos de color más claro, piel más clara, entre otros aspectos. Un artículo de MIT Technology Review de 2021, señaló que estos filtros de belleza también pueden perpetuar el favoritismo hacia cierto color.

Otro aspecto importante ocurre en las aplicaciones de generación de fotos

Las modernas plataformas de generación de fotos no están exentas de problemas. Según ha comentado Nitiya Walker, fundadora de una organización sin fines de lucro, descargo una plataforma de IA para brindarse diferentes opciones para publicar en LinkedIn para un panel reciente en el que participó. Pero, la aplicación de IA desvaneció sus trenzas con el filtro en la parte superior y así mismo, su piel se tornó más clara, al mismo tiempo que mencionó que producto de ello, no reconocía ninguna de sus selfies y esto fue bastante frustrante.

Inteligencia Artificial Generativa

Por otra parte, es necesario mencionar que según ha señalado Mea Boykins, quien es Ph.D. estudiante de la Universidad de las Indias Occidentales, logró utilizar ChatGPT y así mismo, otras formas de IA para profundizar en la literatura y las estadísticas existentes de las mujeres afroamericanas y se halló con que la información era excesivamente escaza.

Además de esto, hay que destacar que según un estudio publicado recientemente, dejó conocer que algunas indicaciones podrían resultar sencillamente en resultados abiertamente racistas de ChatGPT.

Por lo que se debe saber que para superar la lucha contra el racismo está desenfrenada dentro de la novedosa tecnología de Inteligencia Artificial, debemos asegurarnos de que esos sistemas de programación de Inteligencia Artificial operen desde una lente antirracista y, así mismo, antiopresiva. Puede decirse que una parte del problema puede residir en que hay muy pocas personas negras en Inteligencia Artificial; según se ha conocido mediante un informe de 2021, solo el 2,4% de los residentes de Estados Unidos que se graduaron con un doctorado en AI eran negros. La formación de más comités de ética de Inteligencia Artificial, puede llegar a ser una parte trascendental para poder abordar la lucha contra este problema inherente a la IA.