Autorzy badania „Deadly by Design” założyli fikcyjne konta na platformie, by sprawdzić, jakie treści zaproponuje im algorytm aplikacji należącej do chińskiej firmy ByteDance. W sumie stworzyli osiem kont (w Stanach Zjednoczonych, Kanadzie, Wielkiej Brytanii i Australii) mających naśladować profile 13-latków, czyli o minimalnej granicy wiekowej użytkowników.
„To, co odkryliśmy, jest głęboko niepokojące. W ciągu 2,6 minuty TikTok polecił treści o samobójstwie. W ciągu 8 minut zaserwował treści związane z zaburzeniami odżywiania. Co 39 sekund algorytm TikToka poleca nastolatkom filmy o wyglądzie i zdrowiu psychicznym”, można przeczytać w raporcie Center for Countering Digital Hate.
Efekty
Nagrania podsuwane przez algorytm zachwalały zaburzenia odżywiania. Użytkownikom wyświetliły się m.in. filmy opatrzone hasztagiem „junkorexia” (to potoczne określenie dla osób z anoreksją, które spożywają tylko tzw. śmieciowe jedzenie), wideo opisujące sposoby samookaleczenia lub sugerujące, jak szybko stracić na wadze. Jednocześnie zauważono, że wielu twórców takich filmów oznaczało je zakamuflowanymi hasztagami (np. #EdSheeranDisorder), co pozwalało im uniknąć naruszenia regulaminu platformy.
„To jak utknięcie w gabinecie krzywych luster, w którym wciąż słyszysz, że »jesteś brzydka, niewystarczająco dobra, więc czemu się nie zabić?«. Tak właśnie działa algorytm TikToka”, powiedział autor badania na spotkaniu z dziennikarzami.
To przerażające, szczególnie biorąc pod uwagę fakt, że w samych Stanach Zjednoczonych z TikToka korzysta dwie trzecie nastolatków, którzy spędzają na platformie aż 80 minut dziennie. Według specjalistów popularność TikToka w dużym stopniu wynika z potężnego algorytmu rekomendacji, który serwuje użytkownikom określone treści prezentowane w zakładce „Dla Ciebie”.
Rozwiązanie problemu
TikTok zakwestionował badanie Center for Countering Digital Hate, twierdząc, że „metodologia nie odzwierciedla autentycznych zachowań lub doświadczeń związanych z korzystaniem z aplikacji przez prawdziwych ludzi”. Rzecznik firmy dodał, że „TikTok regularnie konsultuje się z ekspertami w dziedzinie zdrowia i usuwa nagrania, które naruszają regulamin, zapewniając dostęp do wspierających treści każdemu, kto znajdzie się w potrzebie”. Czy to jednak ma znaczenie w sytuacji, gdy regulamin i zasady bezpieczeństwa platformy są dziecinnie łatwe do obejścia? Autorzy raportu uważają, że rządy państw powinny wprowadzić odpowiednie regulacje dotyczące funkcjonowania algorytmów TikToka.
Sprawa znana nie od dziś
„TikTokowe konta młodych ludzi są bombardowane szkodliwymi, wstrząsającymi treściami, które mogą mieć znaczący wpływ na ich rozumienie otaczającego świata oraz zdrowie fizyczne i psychiczne”, napisał Imran Ahmed, dyrektor generalny CCDH i autor raportu „Deadly by Design”.
Śledztwo „Wall Street Journal” z 2021 roku także wykazało, że konta nastolatek są zalewane niebezpiecznymi filmami o odchudzaniu i poradami, jak spożywać mniej niż 300 kalorii dziennie. Z kolei sąd w Wielkiej Brytanii w tym roku orzekł, że media społecznościowe przyczyniły się do samobójstwa 14-letniej Molly Russell, która na przestrzeni 6 miesięcy przed śmiercią zapisała, udostępniła lub polubiła aż 2100 postów związanych z samobójstwem, samookaleczeniem bądź depresją. Pilnie potrzeba regulacji i zmiany zasad funkcjonowania platform społecznościowych oraz działań rodziców i opiekunów, które przyczynią się do bezpiecznego korzystania z nich.
Pełny raport Center for Countering Digital Hate jest dostępny na stronie Counterhate.com. 
