Siedmioro dzieci umarło po „blackout challenge”. TikTok przymykał na to oczy?

Popularna platforma TikTok od dawna zapewnia, że leży jej na sercu ochrona użytkowników przed szkodliwymi treściami, i że robi wiele w tym kierunku. Na dowód tego serwis podał niedawno, że w pierwszym kwartale 2022 r. z TikToka usunięto ponad 102 mln klipów wideo, które nie spełniały regulaminu tej platformy. Większość zamieszczonych filmów została zablokowana przez algorytm przed ich obejrzeniem, a z górą 41 tys. materiałów dotyczyło wojny w Ukrainie.

Zabójczy „blackout challenge”

Może się okazać, że pomimo deklarowanych starań TikTok nie robi wystarczająco dużo w celu ochrony najmłodszych użytkowników przed groźnymi treściami, a niektóre z nich mają charakter wprost zagrażający życiu.

TikTok stanął w obliczu kilku pozwów od rodziców, którzy twierdzą, że ich dzieci zmarły z powodu uduszenia próbując wyzwania o nazwie „blackout challenge” po tym, jak aplikacja pokazała im filmy przedstawiające to zjawisko.

W skrócie: Wyzwanie polega na tym, aby osoba podejmująca je doprowadziła samą siebie do utraty przytomności poprzez tzw. przyduszanie. Publikowane na TikToku filmiki, według pozwów „zachęcają użytkowników do dławienia się paskami, sznurkami, lub innymi przedmiotami, aż do momentu zemdlenia”.

Zgodnie z oskarżeniami, w siedmiu wypadkach zastosowanie się dzieci do wyzwania doprowadziło do ich śmierci. Wszystkie ofiary miały mniej niż 15 lat.

Najnowszy pozew został złożony przez rodziców ośmioletniej Lalani Walton, oraz dziewięcioletniej Arriani Arroyo. Jako dowód na to, że TikTok był świadomy problemu, prawnicy powodów przytaczają także przypadki kilku innych dzieci, które zmarły po próbie wykonania wyzwania. Oprócz Walton i Arroyo, wymienione przez pozwy przypadki to:

• 10-latek we Włoszech, który zmarł w styczniu 2021 r.
• 12-latek w Kolorado, który zmarł w marcu 2021 r.
• 14-latek w Australii, który zmarł w czerwcu 2021 r.
• 12-latek w Oklahomie, który zmarł w lipcu 2021 r.
• 10-latek w Pensylwanii, który zmarł w grudniu 2021 r.

Matka 10-latka z Pensylwanii, Nylah Anderson, również pozywa firmę, twierdząc, że aplikacja „promowała niedopuszczalnie niebezpieczne wyzwania”. W odpowiedzi na ten pozew, TikTok oświadczył dziennikowi „The Washington Post”, że zablokował użytkownikom możliwość wyszukiwania wyzwania blackout - zamiast tego widzą jeden z ekranów ostrzegawczych, mówiący o tym, że „niektóre wyzwania online mogą być niebezpieczne, niepokojące, a nawet sfabrykowane” i dostają link do strony w aplikacji o ocenie wyzwań i ostrzeżeń.

Czytaj także: TikTok porzuca zakupowy livestreaming w Europie i USA. Powodem fiasko projektu w Wielkiej Brytanii

Jednak pozew Arroyo twierdzi, że ich dzieci nie szukały wyzwań, gdy widziały filmy. Zamiast tego, TikTok pokazywał kontrowersyjne treści na głównym ekranie aplikacji, na stronie Dla Ciebie. Pozew zarzuca firmie, że „specjalnie uznała, że filmy przedstawiające użytkowników, którzy celowo duszą się aż do utraty przytomności są odpowiednie i pasujące dla małych dzieci”.

Wyzwania są kluczową częścią algorytmu TikToka, jednak w większości są dość niewinne. Polegają np. na wykonaniu ruchu tanecznego. Jednak zdarzają się także bardziej kontrowersyjne. Np. jedno niesławne wyzwanie, które rozprzestrzeniło się wśród użytkowników platformy, zachęcało uczniów do kradzieży lub zniszczenia własności szkoły.

Czytaj także: Dzieci spędzają przed ekranami nawet 11 godzin tygodniowo

Pozew Arroyo argumentuje, że ponieważ TikTok reklamuje i promuje niektóre wyzwania, ma obowiązek monitorowania filmów publikowanych i rozpowszechnianych na swojej platformie, aby zapewnić, że niebezpieczne treści i wyzwania nie będą szeroko udostępniane lub zalecane.

TikTok stanął już wcześniej w obliczu pozwów i grzywien dotyczących dostępu dzieci do swojej platformy. W 2019 r. firma zgodziła się zapłacić 5,7 mln dol., aby uregulować zarzuty Federalnej Komisji Handlu, że pozwoliła użytkownikom poniżej 13. roku życia zarejestrować się bez zgody rodzica. Około rok później wprowadziła tryb Family Pairing, który pozwala rodzicom połączyć swoje konta z kontami ich dzieci i kontrolować treści, które widzą najmłodsi i ile czasu mogą spędzić w aplikacji.