El algoritmo de YouTube es peor que el de Facebook

Todos los ojos están puestos sobre Facebook, sobre cómo la plataforma ha sido fundamental para la transmisión -casi que sin control alguno- de teorías conspirativas y desinformación asociados con temas civiles, de ciencia, políticos y de salud, y en cómo el algoritmo de la compañía ha premiado por años el contenido más escandaloso y radical.

Y, sin embargo, el algoritmo de Facebook está lejos de ser el único que ve en los contenidos “problemáticos” la herramienta para mantener a millones de usuarios pegados a la plataforma.

Un estudio realizado por la Fundación Mozilla, y publicado el día de hoy, destaca la forma en cómo en más del 70% de los casos los videos recomendados por el algoritmo encontraron el contenido como “cuestionable”. El estudio se llevó a cabo durante período de 10 meses con 37.380 voluntarios.

El contenido cuestionable y problemático reportado abarca desde videos de la denominada pseudo-ciencia, la supremacía blanca y mentiras acerca de los resultados de las elecciones en Estados Unidos hasta temas relacionados con la salud pública (el COVID y las vacunas) y personal (videos de dietas extremas que llevaron a un usuario a la sala de emergencia).

La compañía, parte del conglomerado de Google, ha indicado que sus algoritmos detectan y eliminan el contenido que viola sus políticas en 94% antes de que dichos videos llegan a los 10 views. Y, sin embargo, dado el tamaño de la plataforma y la cantidad de videos que se suben a la misma diariamente (cada día se ven cerca de 700 millones de horas en YouTube) la tarea parece imposible.

Un detalle interesante del estudio es cómo los usuarios que no hablan inglés parecen ser lo más afectados por este tipo de recomendaciones, posiblemente por el limitado funcionamiento que el algoritmo puede tener sobre contenido creado en otros idiomas. Brasil, Alemania y Francia reportaron niveles superiores en hasta 60% que aquellos reportados por usuarios en Estados Unidos o El Reino Unido.

El problema, según expertos, está en el modelo de negocio. YouTube, al igual que Facebook, vive principalmente de la publicidad. Publicidad que entre más sea vista más dinero genera. En este sentido, el incentivo principal de cualquier acción dentro de la compañía es maximizar el tiempo que los usuarios pasan dentro de la plataforma. Y, lamentablemente, en esa búsqueda de mantener a los clientes enganchados los algoritmos han aprendido que entre más polémico y radical el contenido, más viral y “enganchador” es por lo que lo promueve con mayor frecuencia.

La fundación Mozilla cree que entre el 10.4% y el 14.2% de los videos que actualmente hostea Youtube no deberían estar en la plataforma o no debería ser recomendados productivamente por los algoritmos dado su contenido.

Es claro que la mayor pandemia a la que nos enfrentamos es la pandemia de la desinformación. Y es hora de comenzar a solucionarla.