Una investigación de la BBC, titulada Inside the Rage Machine, ha sacado a la luz testimonios alarmantes de más de una docena de informantes y ex empleados de Meta y TikTok. Según las denuncias, los gigantes de las redes sociales habrían ignorado riesgos críticos de seguridad —incluyendo terrorismo, misoginia y explotación infantil— para priorizar el crecimiento y competir en una «carrera armamentística» de algoritmos.
La estrategia del «contenido al límite»
Uno de los puntos más críticos de la revelación proviene de un ingeniero de Meta (propietaria de Facebook e Instagram). El informante describió cómo la alta dirección instruyó a los equipos para permitir contenido «al límite» de lo dañino (como teorías conspirativas y discursos de odio) en los feeds de los usuarios.
El objetivo principal era frenar la migración de usuarios hacia TikTok tras una caída en el precio de las acciones de la compañía. «Nos dieron a entender que se debe a que el precio de las acciones ha bajado», afirmó el ingeniero, sugiriendo que la indignación de los usuarios es el combustible que mantiene alta la interacción.
El «agujero negro» de Instagram Reels
Matt Motyl, investigador sénior de Meta, entregó documentos que demuestran que Instagram Reels se lanzó en 2020 sin las medidas de seguridad adecuadas. Los hallazgos internos son contundentes:
-
Incentivos perversos: El algoritmo ofrece a los creadores un camino que «maximiza las ganancias a expensas del bienestar de la audiencia».
-
Falta de recursos: Mientras la empresa contrató a 700 empleados para expandir Reels, se le negó la contratación de apenas 12 especialistas destinados a la protección infantil y la integridad electoral.
-
Prevalencia de odio: Los estudios internos mostraron niveles significativamente más altos de acoso y violencia en Reels que en otras secciones de la plataforma.
TikTok: Política sobre protección infantil
Las denuncias no se limitan a Meta. Un empleado de TikTok proporcionó acceso a paneles internos que muestran una jerarquía de prioridades cuestionable. Según el testimonio, el personal recibió instrucciones de priorizar las quejas de figuras políticas por encima de informes sobre contenido dañino que involucraba a niños.
«Las decisiones se tomaban para mantener una relación sólida con los políticos y evitar amenazas de regulación, no por los riesgos para los usuarios», declaró la fuente.
El dilema del «coche sin frenos»
Ruofan Ding, ingeniero de aprendizaje automático en TikTok entre 2020 y 2024, comparó la estructura de la empresa con la fabricación de un automóvil. Mientras su equipo se encargaba del «motor» (la aceleración del algoritmo), dependían de otros para los «frenos» (la seguridad).
Ding admitió que, para los ingenieros, el contenido es simplemente un «identificador numérico» y que, debido a la naturaleza del aprendizaje profundo (deep learning), el funcionamiento interno del algoritmo es a menudo una «caja negra» difícil de controlar.
Respuesta de las compañías
Ambas empresas han negado rotundamente las acusaciones:
-
Meta: Calificó de «falsa» cualquier insinuación de que amplifican contenido dañino de forma deliberada por beneficios económicos.
-
TikTok: Desestimó las denuncias como «acusaciones inventadas» y aseguró que su tecnología de moderación impide que el contenido peligroso sea visto.
La investigación deja una pregunta en el aire para los reguladores: ¿Es posible controlar una tecnología que sus propios creadores describen como fuera de su control total?
