El peligro de la falta de regulación (y castigo) de las deepfakes

Según se ha conocido, un teléfono, algunas fotos e Inteligencia Artificial (IA) han generado controversia y así mismo, destrozado la privacidad de diversos adolescentes en una escuela secundaria de Nueva Jersey después de enterarse de que imágenes de ellos desnudos, creadas mediante IA, circulaban en chats grupales. Los deepfakes (noticia o nota falsa) sin duda, siguen entre nosotros. Pero, no deje de leer este post, a continuación le brindaremos todos los detalles al respecto.

Deepfakes continúan

Es probable que se le venga a la mente ¿Por qué este tema es tan importante? Por lo que debe saber que es inherente porque según expertos, el incidente es un ejemplo conmovedor de las amenazas que conlleva el acceso no regulado y en expansión a la Inteligencia Artificial (IA).

Ante esto, es importante señalar que algunas adolescentes de Westfield High School (en Nueva Jersey) se enteraron el mes pasado de que se compartían imágenes falsas de ellas desnudas entre otros estudiantes, informó el Wall Street Journal.

Cabe acotar que la investigación y la respuesta involucraron al Departamento de Policía de Westfield, además del oficial de recursos, el departamento de consejería y así mismo, la administración de la escuela.

Pero, si hay algo importante que mencionar es que Westfield es tan solo un ejemplo de un problema con el que todos los distritos escolares están lidiando conforme la omnipresencia de la tecnología, incluida la IA, impacta las vidas de los estudiantes, o al menos esto es lo que ha señalado el superintendente del distrito, Raymond González, en un comunicado.

Cabe resaltar que tan solo del mes de enero al mes de septiembre de este año, se cargaron un 54% más de vídeos pornográficos deepfake en los servidores de sitios web que en todo 2022.

Según ha comentado Hany Farid, profesor de la Universidad de California en Berkeley, que ha investigado la ciencia forense digital y el análisis de imágenes, la creación de deepfakes solía demandar cientos de miles de imágenes de una persona. Pero, según señaló ahora tan solo basta con una foto para crear un deepfake, y las herramientas para crear este tipo de imágenes también se han vuelto mucho más accesibles.

Farid también comentó que cualquiera que tenga una foto singular de sí mismo en Internet, es susceptible a que se cree un deepfake.

Para nadie es un secreto que las imágenes deepfake han dañado la reputación de las personas y se han llegado a utilizar para extorsionar, y los expertos han estado advirtiendo sobre los riesgos durante años.

Farid, ha mencionado, “La situación va a empeorar porque las imágenes se están volviendo más realistas”

La verdad es que las transgresiones que involucran deepfakes son difíciles de procesar, a pesar de la legislación aprobada y propuesta que apunta al intercambio de imágenes y videos explícitos falsificados.