En el ecosistema digital actual, es decir, el entramado donde interactúan consumidores/usuarios, agentes productores y redes, plataformas y portales web, fenómenos como el «trash streaming» —la retransmisión en directo de actos humillantes a cambio de dinero— emergen como síntomas de una disfunción social digital más compleja. Plataformas como Kick, con su promesa de libertad de expresión casi absoluta y recompensas financieras, se han convertido en el epicentro de estas prácticas, exponiendo una cruda realidad sobre la monetización de la violencia y la degradación.
Este fenómeno no es nuevo. Ya desde hace años, diferentes webs permitían que los usuarios remitieran contenidos que, a través de otros canales digitales, era imposible publicar. Lo cierto es que dichas páginas no abundaban y eran muy de nicho, sin tanta promoción. Pero el crecimiento de las plataformas y redes ha sobredimensionado este fenómeno.
No obstante, centrarse exclusivamente en los creadores de contenido o en los detalles más escabrosos de sus transmisiones sería un error de análisis. Estos eventos no son anomalías aisladas, sino el producto predecible y, en muchos casos, rentable de la arquitectura económica, algorítmica y psicológica sobre la que se construyen las dinámicas de consumo en las plataformas digitales modernas.
¿Ser viral a cualquier precio?
La difusión masiva de contenido dañino no es un accidente, sino una consecuencia directa de decisiones estratégicas de negocio y de una estructura tecnológica condicionada que persigue la máxima captación de la atención del usuario, una tesis que desde la Academia algunos sostienen bajo el concepto de “Economía de la Atención”. Esta estructura opera sobre tres bases esenciales: un modelo de negocio basado en la economía de la atención, algoritmos diseñados para amplificar el contenido más estimulante y mecanismos de monetización directa que crean un incentivo inmediato para la escalada del contenido.
Ahora bien, si la economía de la atención es el motor, los algoritmos de recomendación de redes y plataformas digitales son el sistema de transmisión que distribuye su potencia. Estos sistemas, basados en técnicas como el filtrado colaborativo (recomendar lo que a usuarios similares les ha gustado) y el filtrado basado en contenido (recomendar publicaciones con características similares a las ya consumidas), tienen como objetivo principal personalizar la experiencia del usuario para maximizar su tiempo en la plataforma. Aquí el tema no es discernir la calidad en un sentido humano, sino predecir qué contenido tiene la mayor probabilidad de ser consumido a continuación.
El problema es que estos algoritmos están optimizados para métricas de engagement. El contenido que provoca reacciones emocionales intensas —como la ira, la indignación, el miedo, etc.— es proclive a generar más interacciones. Esto conduce a un fenómeno conocido como “amplificación algorítmica”. En otras palabras, se trata cuando el sistema no solo muestra contenido, sino que le da un alcance desproporcionado a aquel que es más polarizante, sensacionalista o extremo, simplemente porque es el que mejor cumple con los objetivos para los que fue programado, aunque ello derive en problemas tan graves como la creciente desinformación con todas las consecuencias que hoy sufrimos a escala global.
Como consecuencia de estas estrategias, existe una deriva hacia burbujas de filtro y cámaras de eco que refuerzan las creencias existentes, sesgos y prejuicios, y pueden, en casos extremos, conducir a la radicalización, ya que el algoritmo alimenta al usuario con versiones cada vez más intensas de lo que ya ha demostrado que le interesa.
Cuando una plataforma como Kick reduce drásticamente las barreras de entrada para la monetización —requiriendo, por ejemplo, solo 75 seguidores y 5 horas de transmisión—, se crea un incentivo perverso con base en este modelo de contenido segmentado. En un escenario digital cada vez más saturado de creadores, el sensacionalismo se convierte en la estrategia más eficiente para destacar, construir una audiencia y empezar a generar ingresos rápidamente.
El ‘trash streaming’ es la manifestación más cruda de esta dinámica, es decir, un bucle de retroalimentación donde la audiencia paga para dictar el guion de la degradación en tiempo real, y el creador, a menudo, en una posición de vulnerabilidad económica, cumple para sobrevivir.
La economía de la atención, la amplificación algorítmica y la monetización directa, no operan de forma independiente, sino que conforman un sistema cerrado y autorreforzado que atrapa al creador en una espiral de dependencia al más puro estilo Black Mirror. En este contexto, el algoritmo se convierte en un jefe invisible y caprichoso, cuyas reglas para el éxito son opacas y cambian constantemente según la voluntad de la tecnología responsable de la red o plataforma, obligando a los usuarios y creadores a estar siempre conectados y siempre alerta.
Desde una perspectiva más amplia, este modelo de negocio genera un coste social que no es asumido por las plataformas. Al optimizar exclusivamente la atención para maximizar sus beneficios, el sistema produce subproductos tóxicos como la polarización, la desinformación y el daño psicológico a usuarios y creadores.
Pero las motivaciones de un creador de contenido son múltiples, porque adicional al evidente incentivo económico, existe una profunda búsqueda de validación, reconocimiento, estatus y la construcción de una comunidad. En un entorno digital hipersaturado, la notoriedad, incluso si se deriva de la infamia, puede ser percibida como una forma de capital social, una prueba de relevancia.
La exposición constante a la crítica pública, la difuminación de los límites entre la vida personal y la profesional, la presión por mantener el rendimiento o la adicción a la validación externa por parte de la comunidad, generan altos niveles de ansiedad, depresión y síndrome del impostor. Esta vulnerabilidad psicológica y económica crea una peligrosa dependencia de la audiencia, por lo que el apoyo financiero y la validación emocional que ofrecen los seguidores se convierten en un salvavidas, haciendo que el creador sea mucho más susceptible —vulnerable/dependiente— a aceptar y cumplir con las demandas de su comunidad, por muy extremas que estas sean.
Hacia un ecosistema digital más responsable
El debate sobre la moderación de contenidos se construye sobre la base de dos temas clave. Por un lado, el modelo de «negligencia deliberada» de plataformas como Kick, que prioriza una libertad mal entendida y externaliza el coste del daño directamente a sus usuarios y creadores. Y, por otro lado, el modelo de «limpieza a alto coste» de gigantes tecnológicos como Meta, que buscan mantener una apariencia de seguridad a costa de un inmenso y oculto coste psicológico para sus moderadores humanos, quienes sufren tasas alarmantes de Trastorno por Estrés Postraumático (TEPT) y otros trastornos mentales graves, como ya ha trascendido en medios.
Quizás, la estrategia más viable y responsable pareciera encontrarse en un enfoque híbrido que combine la eficiencia de la tecnología con el juicio del ser humano. La moderación automatizada, impulsada por inteligencia artificial, es indispensable para gestionar el volumen masivo de contenido y detectar a escala violaciones claras y objetivas, como el material de abuso sexual infantil o la violencia gráfica explícita. Sin embargo, la IA carece de la capacidad para interpretar el contexto, el sarcasmo, la sátira o los matices culturales, como ha venido ocurriendo, por ejemplo, en TikTok.
Por tanto, la moderación humana cualificada parece ser un elemento primordial. Equipos de profesionales bien entrenados, con condiciones laborales justas y un sólido apoyo psicológico, como responsables de tomar decisiones en los casos grises y ambiguos. La combinación de diferentes tácticas —como la pre-moderación (revisar antes de publicar), la post-moderación (revisar después de publicar) y la moderación reactiva (actuar tras denuncias de usuarios)— permitiría crear un sistema de defensa equilibrado y por capas.
Pero la moderación por sí sola no es suficiente si la estructura subyacente sigue recompensando el daño, por lo que es necesaria una intervención regulatoria que cambie las reglas del juego. Por ejemplo, la Ley de Servicios Digitales (DSA) de la Unión Europea representa un cambio de paradigma en este sentido, estableciendo un marco de co-regulación que impone obligaciones claras y significativas a las grandes plataformas en línea.
La DSA actúa como una fuerza externa que obliga a las plataformas a internalizar los costes sociales de su actividad, forzándolas a invertir en seguridad y bienestar en lugar de sacrificarlo todo en aras del engagement y el beneficio, aunque aún no ha sido tan determinante como debería esperarse.
Alfabetización mediática y presión colectiva
Tanto la tecnología como su regulación deben complementarse con el empoderamiento y educación de los propios usuarios. En este sentido, es necesario reforzar la oferta de programas educativos, desde la edad escolar, que enseñen a los usuarios a interactuar críticamente con el entorno digital, conocer cómo funcionan los algoritmos, cómo identificar la manipulación emocional, cómo verificar la información y, crucialmente, cómo proteger su propio bienestar mental.
Este enfoque debe estar correspondido con la responsabilidad de los propios creadores, fomentando una cultura de prácticas éticas, y con la presión de otros actores del ecosistema digital. Los anunciantes tienen el poder de retirar su inversión de plataformas que consideran tóxicas, y los usuarios, a través de la acción colectiva, pueden exigir mayor transparencia y responsabilidad, votando con su recurso más preciado: su atención.
Reconocer la naturaleza sistémica del problema es el primer paso para encontrar soluciones sistémicas. No existe una solución mágica ni un único responsable. La construcción de un ecosistema digital más saludable y responsable exige una acción coordinada, requiere un diseño responsable por parte de las propias plataformas, que deben reorientar sus algoritmos y modelos de negocio para que dejen de recompensar sistemáticamente el contenido más divisivo, y un marco regulatorio que demarque límites y determine responsabilidades y sea capaz de depurar consecuencias ante escenarios concretos.
El objetivo final no puede ser una internet aséptica, «limpia» a costa del sufrimiento oculto de miles de moderadores, ni una internet falsamente «libre» que sirva de coartada para la explotación de la vulnerabilidad humana. El reto necesario es construir un espacio digital que reconozca su inmenso poder en la configuración de nuestras vidas y nuestra sociedad y que asuma la responsabilidad que conlleva ese poder. Un entorno que, en última instancia, ponga la dignidad humana por delante de la búsqueda incesante de la participación a cualquier precio.
Pavel Sidorenko Bautista
Doctor en Comunicación
Universidad Internacional de La Rioja (UNIR)
