Algoritmos de redes sociales empujan a adolescentes hacia contenido cada vez más sensible
Imagen con fines ilustrativos. Tomada de redes sociales
Los algoritmos que utilizan algunas de las redes sociales más populares del mundo pueden llevar rápidamente a adolescentes hacia contenido relacionado con depresión, autolesiones, violencia extrema y sexualización, según una investigación realizada en México.
La investigación fue desarrollada por 5Rights Foundation, Revealing Reality y el Instituto Nacional de Salud Pública de México.
El estudio evaluó el comportamiento de plataformas como TikTok, Instagram y X a partir de perfiles digitales diseñados para simular la navegación de adolescentes reales.
Para el análisis, los investigadores entrevistaron a adolescentes y construyeron perfiles digitales simulados con sus mismos intereses, hábitos y formas de uso en redes sociales.
Estos perfiles permanecieron activos durante 12 días y realizaron acciones básicas como ver contenido, dar "me gusta", seguir cuentas y hacer búsquedas.
Aunque el uso total no superó una hora acumulada, los investigadores observaron cambios rápidos en el tipo de contenido recomendado por las plataformas.
El estudio muestra que el principal riesgo no es solo la presencia de contenido sensible, sino la velocidad con la que los sistemas de recomendación amplifican determinados temas cuando detectan interés en ellos.
En uno de los casos, un perfil que interactuó con contenido sobre salud mental comenzó recibiendo publicaciones emocionales o reflexivas. Con el paso del tiempo, las recomendaciones evolucionaron hacia mensajes de tristeza, soledad y baja autoestima.
En menos de 40 minutos de actividad acumulada, ese perfil fue expuesto a un video con referencia directa al suicidio, sin advertencias ni recursos de apoyo visibles. Posteriormente aparecieron contenidos relacionados con autolesiones.
Un patrón similar se observó en otros perfiles del estudio.
Cuando el interés estaba vinculado a contenido sexual, las recomendaciones se desviaron rápidamente hacia publicaciones más explícitas y cuentas que conducían a material para adultos fuera de las plataformas.
En otro caso, asociado a violencia, los perfiles comenzaron a recibir imágenes gráficas de crímenes y contenido relacionado con grupos delictivos.
El estudio también advierte que las herramientas de búsqueda pueden acelerar este proceso, ya que términos simples pueden derivar en resultados cada vez más explícitos.
Debilidades en los controles de edad
Otro hallazgo relevante es la debilidad en los controles de edad. Según los investigadores, las cuentas pudieron crearse únicamente con una fecha de nacimiento, sin verificación efectiva de la identidad o la edad real del usuario.
Esto permite que menores de edad accedan fácilmente a contenidos no adecuados sin mayores barreras.
Los investigadores advierten además que estos cambios pueden pasar desapercibidos para familias y docentes, ya que el contenido recomendado se adapta de forma progresiva según la actividad de cada usuario.
Las organizaciones responsables del estudio sostienen que estos resultados evidencian una brecha entre los compromisos públicos de seguridad digital anunciados por las plataformas y la experiencia real que enfrentan niñas, niños y adolescentes en línea.
"Esta investigación demuestra cuán rápidamente un feed puede volverse cada vez más concentrado en contenido violento, sexualizado o emocionalmente extremo en respuesta a la actividad cotidiana en línea", señalaron los investigadores.
Las conclusiones apuntan a que el desafío no se limita a la eliminación de contenidos dañinos, sino a la forma en que funcionan los sistemas de recomendación que determinan qué ve cada usuario.
Señalan que estos mecanismos están diseñados para maximizar la atención y la interacción, lo que puede terminar amplificando material sensible cuando detectan interés en determinados temas.
Por ello, las organizaciones instan a fortalecer las medidas de protección para menores de edad, mejorar los sistemas de verificación y exigir mayor transparencia sobre el funcionamiento de los algoritmos que moldean la experiencia digital.
El reto no es solo el acceso, sino el entorno digital
Para Mariam Carpio, cofundadora de la Fundación ColibrIA, los hallazgos refuerzan la necesidad de ampliar el enfoque de protección más allá de las restricciones de acceso.
Carpio explica que el problema no se limita al acceso a pantallas, sino al entorno digital en el que se desarrollan los niños y adolescentes.
"Criar en tiempos de scroll implica mucho más que poner límites frente a una pantalla", señaló.
La especialista advierte que las plataformas no son neutrales, sino que están diseñadas para mantener la atención de los usuarios el mayor tiempo posible, lo que puede intensificar la exposición a ciertos contenidos sin que exista una búsqueda directa.
"No podemos pedirles que naveguen solos en espacios que incluso los adultos encuentran difíciles de comprender", agregó.
Carpio advierte que el abordaje del problema debe ser compartido entre familias, centros educativos, Estados y empresas tecnológicas.
Finalmente, sostiene que el reto no es solo controlar el acceso, sino mejorar el diseño de las plataformas y reforzar su seguridad para menores de edad.
