la Comisión Europea ha concluido de manera preliminar este viernes que TikTok incumple la Ley de Servicios Digitales (DSA) debido al denominado «efecto madriguera» de su sistema de recomendación. La pestaña de «para ti» de la plataforma muestra a los usuarios un flujo continuo de vídeos personalizados, incluso cuando estos están relacionados con problemas de salud mental e imagen corporal, añade Bruselas.
«Cuanto más interactúa un usuario con un determinado tipo de contenido, más contenido similar recomienda el algoritmo del feed «para ti» de TikTok. Este diseño puede ser perjudicial cuando esa exposición interminable y repetida incluye, por ejemplo, contenido sobre tristeza, aislamiento o imagen corporal. Estas ‘madrigueras’ pueden tener un impacto negativo en la salud mental de los usuarios, especialmente en la de los adultos vulnerables y los menores», explica el Ejecutivo comunitario en su comunicado.
Así, la Comisión ha concluido de manera preliminar que TikTok no evaluó adecuadamente cómo su algoritmo de recomendación puede conducir a los usuarios a estas ‘madrigueras’, poniendo en riesgo su bienestar. Las conclusiones preliminares muestran que el diseño del algoritmo puede desempeñar un papel importante en la aparición de estos bucles
El algoritmo utiliza información sobre la interacción de los usuarios, como la visualización y los ‘me gusta’ de los vídeos, para personalizar el contenido que les recomienda. Por ejemplo, cuando un usuario ve o indica que le gusta repetidamente contenido que puede resultar perjudicial, como publicaciones sobre pérdida de peso o imagen corporal, el sistema interpreta estas interacciones como señales positivas de interés y recomienda más contenido del mismo tipo, sostiene Bruselas
«La exposición repetida a este tipo de contenido puede tener graves efectos negativos en el bienestar de los usuarios, como un aumento de los sentimientos de tristeza o ansiedad, insatisfacción con el propio cuerpo, una menor autoestima o el empeoramiento de trastornos alimentarios y problemas de salud mental ya existentes», explican.
El Ejecutivo comunitario considera que TikTok «no ha aplicado medidas de mitigación proporcionadas, razonables y eficaces para hacer frente a estos riesgos». Aunque la entidad ya ha puesto en marcha determinadas medidas para mitigar el riesgo del «efecto madriguera», la Comisión ha concluido de manera preliminar que estas medidas no son eficaces.
Las medidas destinadas a recomendar contenido diverso «no reducen suficientemente la frecuencia con la que se recomienda contenido similar, incluido aquel relacionado con problemas de salud mental e imagen corporal», alerta la Comisión. Las herramientas de control «no permiten a los usuarios controlar eficazmente el contenido que se les recomienda». Por ejemplo, utilizar el botón ‘no me interesa’ puede no ser suficiente para modificar el feed de contenido. «El algoritmo da prioridad a mostrar a los usuarios contenido en función del tiempo de visualización, por encima de su elección de ver menos contenido de determinados tipos», sentencia el comunicado.
«Cada vez que un usuario se desplaza por la pantalla o da a ‘me gusta’ a un vídeo en TikTok, el algoritmo le muestra más contenido similar, lo que lleva a los usuarios a caer en espirales de las que no pueden escapar fácilmente. La Ley de Servicios Digitales hace que las plataformas sean responsables de abordar los efectos negativos relacionados con su sistema de recomendaciones. Las conclusiones preliminares de hoy demuestran una vez más que TikTok debe redoblar sus esfuerzos para proteger el bienestar de los usuarios, incluidos los menores», explicó tras el anuncio la vicepresidenta de la Comisión Europea Henna Virkkunen.
La Comisión señala el flujo continuo de vídeos personalizados, incluso cuando estos están relacionados con problemas de salud mental e imagen corporal.
la Comisión Europea ha concluido de manera preliminar este viernes que TikTok incumple la Ley de Servicios Digitales (DSA) debido al denominado «efecto madriguera» de su sistema de recomendación. La pestaña de «para ti» de la plataforma muestra a los usuarios un flujo continuo de vídeos personalizados, incluso cuando estos están relacionados con problemas de salud mental e imagen corporal, añade Bruselas.
«Cuanto más interactúa un usuario con un determinado tipo de contenido, más contenido similar recomienda el algoritmo del feed «para ti» de TikTok. Este diseño puede ser perjudicial cuando esa exposición interminable y repetida incluye, por ejemplo, contenido sobre tristeza, aislamiento o imagen corporal. Estas ‘madrigueras’ pueden tener un impacto negativo en la salud mental de los usuarios, especialmente en la de los adultos vulnerables y los menores», explica el Ejecutivo comunitario en su comunicado.
Así, la Comisión ha concluido de manera preliminar que TikTok no evaluó adecuadamente cómo su algoritmo de recomendación puede conducir a los usuarios a estas ‘madrigueras’, poniendo en riesgo su bienestar. Las conclusiones preliminares muestran que el diseño del algoritmo puede desempeñar un papel importante en la aparición de estos bucles
El algoritmo utiliza información sobre la interacción de los usuarios, como la visualización y los ‘me gusta’ de los vídeos, para personalizar el contenido que les recomienda. Por ejemplo, cuando un usuario ve o indica que le gusta repetidamente contenido que puede resultar perjudicial, como publicaciones sobre pérdida de peso o imagen corporal, el sistema interpreta estas interacciones como señales positivas de interés y recomienda más contenido del mismo tipo, sostiene Bruselas
«La exposición repetida a este tipo de contenido puede tener graves efectos negativos en el bienestar de los usuarios, como un aumento de los sentimientos de tristeza o ansiedad, insatisfacción con el propio cuerpo, una menor autoestima o el empeoramiento de trastornos alimentarios y problemas de salud mental ya existentes», explican.
El Ejecutivo comunitario considera que TikTok «no ha aplicado medidas de mitigación proporcionadas, razonables y eficaces para hacer frente a estos riesgos». Aunque la entidad ya ha puesto en marcha determinadas medidas para mitigar el riesgo del «efecto madriguera», la Comisión ha concluido de manera preliminar que estas medidas no son eficaces.
Las medidas destinadas a recomendar contenido diverso «no reducen suficientemente la frecuencia con la que se recomienda contenido similar, incluido aquel relacionado con problemas de salud mental e imagen corporal», alerta la Comisión. Las herramientas de control «no permiten a los usuarios controlar eficazmente el contenido que se les recomienda». Por ejemplo, utilizar el botón ‘no me interesa’ puede no ser suficiente para modificar el feed de contenido. «El algoritmo da prioridad a mostrar a los usuarios contenido en función del tiempo de visualización, por encima de su elección de ver menos contenido de determinados tipos», sentencia el comunicado.
«Cada vez que un usuario se desplaza por la pantalla o da a ‘me gusta’ a un vídeo en TikTok, el algoritmo le muestra más contenido similar, lo que lleva a los usuarios a caer en espirales de las que no pueden escapar fácilmente. La Ley de Servicios Digitales hace que las plataformas sean responsables de abordar los efectos negativos relacionados con su sistema de recomendaciones. Las conclusiones preliminares de hoy demuestran una vez más que TikTok debe redoblar sus esfuerzos para proteger el bienestar de los usuarios, incluidos los menores», explicó tras el anuncio la vicepresidenta de la Comisión Europea Henna Virkkunen.
20MINUTOS.ES – Internacional
