Se descubrió que TikTok, al actualizar su algoritmo en 2021 para evitar la exposición a contenido dañino mediante una función de protección que había desarrollado, mantuvo en secreto esa función a 15 millones de usuarios con el fin de medir la interacción de los usuarios. Se determinó que, en el grupo de control del experimento, las cuentas de Chase Nasca, de 16 años, recibieron miles de videos de suicidio y autolesión porque el mecanismo de protección estaba desactivado, lo que posteriormente llevó a su suicidio.
El informe interno de TikTok muestra que el objetivo del experimento era medir el efecto de los mecanismos de protección sobre el número de usuarios activos diarios. La empresa defiende que el experimento se realizó con el propósito de encontrar un equilibrio entre la seguridad de los usuarios y la interacción.
La empresa declaró que la seguridad de los usuarios es una prioridad y que continuará con sus inversiones en seguridad. Sin embargo, este incidente ha reavivado el debate sobre cómo las empresas de tecnología equilibran la seguridad de los usuarios con sus objetivos comerciales.