¿Más control o más burbuja? Los filtros inteligentes de TikTok!

TikTok ha lanzado recientemente los “filtros inteligentes” o “Smart Keyword Filters”, una herramienta que promete ofrecer a los usuarios un mayor control sobre el contenido que aparece en su feed “Para ti”. Estos filtros, impulsados por inteligencia artificial, no solo bloquean palabras clave específicas, sino también términos relacionados, sinónimos y jerga asociada. Además, la plataforma ha duplicado el número de palabras clave que se pueden filtrar, pasando de 100 a 200, y ha facilitado la adición masiva de términos.

La implementación de estos filtros responde a una creciente demanda de los usuarios por personalizar su experiencia y evitar contenido no deseado. Sin embargo, también plantea interrogantes sobre el equilibrio entre la personalización y la exposición a una diversidad de contenidos.

Ilustración acerca del equilibrio entre la personalización y la exposición a una diversidad de contenidos

Así las cosas, los “filtros inteligentes” pueden ser una herramienta valiosa para evitar contenido sensible o irrelevante, especialmente para usuarios jóvenes o aquellos que buscan una experiencia más enfocada. Por otro lado, existe el riesgo de que estos filtros contribuyan a la creación de “burbujas de información” o “cámaras de eco”, donde los usuarios sólo consumen a contenidos que refuercen sus creencias y preferencias, limitando la diversidad de perspectivas y exacerbando algunos sesgos.

Esto se traduce en un fenómeno conocido como cámaras de eco digitales. A medida que los usuarios afinan sus filtros, sus feeds se vuelven más homogéneos, cerrando la puerta al disenso y al debate saludable. En este entorno, es cada vez más difícil que los usuarios vean “el otro lado de las cosas”, lo que puede ayudar a construir, mantener en el tiempo y empeorar los sesgos, dificultando la comprensión de temas complejos y reducir la calidad del discurso en línea.

Ilustración del concepto de las cámaras de eco

Además, la dependencia de los algoritmos para determinar qué términos relacionados deben ser filtrados plantea preocupaciones sobre la transparencia y el control real que los usuarios tienen sobre su experiencia. Aunque TikTok ha anunciado que permitirá a los usuarios seleccionar o deseleccionar palabras clave relacionadas en el futuro, la eficacia y claridad de esta función aún están por verse.

Por todo lo anterior, aunque el concepto de los “filtros inteligentes” de TikTok a primera vista suenan con una idea interesante que representa un avance significativo en la personalización del contenido, ofreciendo a los usuarios herramientas más sofisticadas para controlar su experiencia, también, resulta esencial que la plataforma garantice la transparencia en el funcionamiento de los mismos y eduque a los usuarios sobre su uso responsable, para evitar la creación de entornos cerrados y promover una experiencia más neutra, enriquecedora y diversa.