TikTok'un 2021'de algoritmasını güncelleyerek zararlı içeriğe maruz kalmayı önlemek için geliştirdiği koruma özelliğini, kullanıcı etkileşimini ölçmek için 15 milyon kullanıcıdan gizli tuttuğu ortaya çıktı. Bu deneyin kontrol grubuna alınan 16 yaşındaki Chase Nasca'nın hesaplarına, koruma mekanizması devre dışı bırakıldığı için binlerce intihar ve kendine zarar verme videosunun gösterildiği ve bunun ardından intihar ettiği belirlendi.
TikTok'un iç raporu, deneyin amacının günlük aktif kullanıcı sayısını etkileyecek şekilde koruma mekanizmalarının etkisini ölçmek olduğunu gösteriyor. Şirket, bu deneyin kullanıcı güvenliği ile etkileşim arasında bir denge kurmak amacıyla yapıldığını savunuyor.
Şirket, kullanıcı güvenliğinin öncelikli olduğunu ve güvenlik yatırımlarını sürdüreceğini açıkladı. Ancak, bu olay, teknoloji şirketlerinin kullanıcı güvenliği ile ticari hedefleri arasında nasıl bir denge kurduğu konusunda tartışmaları yeniden başlattı.