Cassis -Op het moment dat haar wereld drie jaar geleden verbrijzelde, vond Stephanie Mistre haar 15-jarige dochter, Marie, levenloos in de slaapkamer waar ze stierf door zelfmoord.
“Ik ging van licht naar duisternis in een fractie van een seconde,” zei Mistre, en beschreef de dag in september 2021 die het begin markeerde van haar gevecht tegen Tiktok, de video-app in Chinees die ze de schuld geeft van het duwen van haar dochter naar wanhoop.
Aanbevolen video’s
Noot van de redactie – Dit verhaal bevat discussie over zelfmoord. Als u of iemand die u kent hulp nodig heeft, is de nationale zelfmoord- en crisis -levenslijn in de VS beschikbaar door te bellen of te sms’en 988. Er is ook een online chat op 988Lifeline.org. Hulplijnen buiten de VS zijn te vinden op www.iasp.info/suicidalthoughts.
Duikend in de telefoon van haar dochter na haar dood, ontdekte Mistre video’s die zelfmoordmethoden, tutorials en opmerkingen bevorderen die gebruikers aanmoedigen om verder te gaan dan “louter zelfmoordpogingen”. Ze zei dat het algoritme van Tiktok herhaaldelijk dergelijke inhoud aan haar dochter had geduwd.
“Het was hersenspoeling,” zei Mistre, die in Cassis, in de buurt van Marseille, in het zuiden van Frankrijk woont. “Ze genormaliseerden depressie en zelfbeschadiging, waardoor het een verwrongen gevoel van verbondenheid verandert.”
Nu klaagt Mistre en zes andere families Tiktok France aan, beschuldigend het platform van het niet matigen van schadelijke inhoud en het blootstellen van kinderen aan levensbedreigend materiaal. Uit de zeven families ervoeren twee het verlies van een kind.
Gevraagd naar de rechtszaak, zei Tiktok dat zijn richtlijnen elke promotie van zelfmoord verbieden en dat het wereldwijd 40.000 vertrouwens- en veiligheidsprofessionals in dienst heeft-honderden Franstalige moderators-om gevaarlijke posten te verwijderen. Het bedrijf zei ook dat het gebruikers verwijst die zoeken naar zelfmoordgerelateerde video’s naar geestelijke gezondheidszorg.
Voordat ze zelfmoord pleegde, maakte Marie Le Tiec verschillende video’s om haar beslissing uit te leggen, waarbij ze verschillende moeilijkheden in haar leven citeerden, en een nummer geciteerd van de in Louisiana gevestigde emo rapgroep Suicideboys, die populair zijn op Tiktok.
Haar moeder beweert ook dat haar dochter herhaaldelijk werd gepest en lastiggevallen op school en online. Naast de rechtszaak hebben de 51-jarige moeder en haar man een klacht ingediend tegen vijf van Marie’s klasgenoten en haar vorige middelbare school.
Bovenal geeft Mistre de schuld aan Tiktok en zegt dat het plaatsen van de app “in de handen van een empathische en gevoelige tiener die niet weet wat echt is van wat niet is als een tikkende bom.”
Wetenschappers hebben geen duidelijk verband gelegd tussen sociale media en psychische problemen of psychologische schade, zei Grégoire Borst, een professor in psychologie en cognitieve neurowetenschappen aan de Universiteit van Paris-Cité.
“Het is heel moeilijk om een duidelijke oorzaak en gevolg op dit gebied te tonen,” zei Borst, onder verwijzing naar een toonaangevend peer-reviewed onderzoek dat slechts 0,4% van de verschillen in het welzijn van tieners kon worden toegeschreven aan het gebruik van sociale media.
Bovendien wees Borst erop dat geen huidige studies suggereren dat Tiktok schadelijker is dan rivaliserende apps zoals Snapchat, X, Facebook of Instagram.
Hoewel de meeste tieners sociale media zonder aanzienlijke schade gebruiken, liggen de echte risico’s, zei Borst, liggen bij degenen die al worden geconfronteerd met uitdagingen zoals pesten of familie -instabiliteit.
“Wanneer tieners zich al slecht voelen over zichzelf en tijd besteden aan het blootstellen van vervormde beelden of schadelijke sociale vergelijkingen,” kan het hun mentale toestand verergeren, zei Borst.
Advocaat Laure Boutron-Marmion, die de zeven families vertegenwoordigt die Tiktok aanklagen, zei dat hun zaak gebaseerd is op ‘uitgebreid bewijsmateriaal’. Het bedrijf “kan zich niet langer verbergen achter de bewering dat het niet hun verantwoordelijkheid is omdat ze de inhoud niet maken,” zei Boutron-Marmion.
De rechtszaak beweert dat het algoritme van Tiktok is ontworpen om kwetsbare gebruikers te vangen in cycli van wanhoop voor winst en zoekt herstelbetalingen voor de families.
“Hun strategie is verraderlijk,” zei Mistre. “Ze verbinden kinderen depressieve inhoud om ze op het platform te houden en veranderen ze in lucratieve re-engagement-producten.”
Boutron-Marmion merkte op dat de Chinese versie van Tiktok, Douyin, veel strengere inhoudscontroles voor jonge gebruikers heeft. Het bevat een “jeugdmodus” die verplicht is voor gebruikers onder de 14 jaar die de schermtijd beperkt tot 40 minuten per dag en alleen goedgekeurde inhoud biedt.
“Het bewijst dat ze inhoud kunnen matigen wanneer ze ervoor kiezen,” zei Boutron-Marmion. “De afwezigheid van deze waarborgen hier is veelzeggend.”
Een rapport getiteld ‘Children and Screens’, in opdracht van de Franse president Emmanuel Macron in april en waaraan Borst heeft bijgedragen, concludeerde dat bepaalde algoritmische kenmerken als verslavend en verbannen moeten worden beschouwd en verbannen uit een app in Frankrijk. Het rapport riep ook op tot het beperken van de toegang tot sociale media voor minderjarigen jonger dan 15 in Frankrijk. Geen van beide maatregelen is aangenomen.
Tiktok, dat te maken kreeg met gesloten in de VS totdat president Donald Trump er een verbod op heeft geschorst, is ook wereldwijd onder de loep genomen.
De VS hebben soortgelijke juridische inspanningen van ouders gezien. Eén rechtszaak in Los Angeles County beschuldigt Meta en zijn platforms Instagram en Facebook, evenals Snapchat en Tiktok, van het ontwerpen van defecte producten die ernstig letsel veroorzaken. De rechtszaak somt drie tieners op die stierven door zelfmoord. In een andere klacht beschuldigen twee tribale landen grote sociale mediabedrijven, waaronder YouTube -eigenaar Alphabet, van het bijdragen aan hoge zelfmoordtarieven bij inheemse jongeren.
Meta CEO Mark Zuckerberg verontschuldigde zich bij ouders die kinderen verloren hadden terwijl ze vorig jaar in de Amerikaanse senaat getuigen.
In december voerde Australië een baanbrekende wet uit die sociale media -accounts verbiedt voor kinderen jonger dan 16 jaar.
In Frankrijk verwacht Boutron-Marmion Tiktok Limited Technologies, de dochteronderneming van de Europese Unie voor Bytedance-het Chinese bedrijf dat Tiktok bezit-om de aantijgingen in het eerste kwartaal van 2025 te beantwoorden. Autoriteiten zullen later beslissen of en wanneer een proces zou plaatsvinden.
In plaats daarvan benadrukte een woordvoerder van Tiktok bedrijfsrichtlijnen die inhoud verbieden die zelfmoord of zelfbeschadiging bevorderen.
Critici beweren dat de beweringen van Tiktok over robuuste moderatie tekortschieten.
Imran Ahmed, de CEO van het Centrum voor het tegengaan van digitale haat, verwierp de bewering van Tiktok dat meer dan 98,8% van de schadelijke video’s was gemarkeerd en verwijderd tussen april en juni.
Op de vraag naar de blinde vlekken van hun moderatie -inspanningen, beweren sociale mediaplatforms dat gebruikers in staat zijn om detectie te omzeilen door dubbelzinnige taal of toespelingen te gebruiken die algoritmen worstelen om te vlaggen, zei Ahmed.
De term “algospeak” is bedacht om technieken te beschrijven, zoals het gebruik van zebra- of gordeldieremoji’s om te praten over het snijden van jezelf, of de Zwitserse vlagemoji als een toespeling op zelfmoord.
Dergelijke codewoorden “zijn niet bijzonder verfijnd,” zei Ahmed. “De enige reden waarom Tiktok ze niet kan vinden wanneer onafhankelijke onderzoekers, journalisten en anderen dat kunnen, is omdat ze niet hard genoeg kijken,” zei Ahmed.
De organisatie van Ahmed voerde in 2022 een onderzoek uit met de ervaring van een 13-jarig meisje op Tiktok.
“Binnen 2,5 minuten kregen de rekeningen zelfbeschadigingsinhoud,” zei Ahmed. “Tegen acht minuten zagen ze de eetstoornissen inhoud. Gemiddeld, elke 39 seconden, duwde het algoritme schadelijk materiaal. ”
Het algoritme “weet dat de eetstoornis en de inhoud van het zelfbeschadiging vooral verslavend is” voor jonge meisjes.
Voor Mistre is het gevecht diep persoonlijk. Zittend in de kamer van haar dochter, waar ze het decor de afgelopen drie jaar onaangeroerd heeft gehouden, zei ze dat ouders moeten weten over de gevaren van sociale media.
Als ze wist dat de inhoud naar haar dochter werd gestuurd, zou ze haar nooit op Tiktok hebben toegestaan, zei ze. Haar stem breekt terwijl ze Marie beschrijft als een “zonnige, grappige” tiener die ervan droomde advocaat te worden.
“Ter nagedachtenis aan Marie zal ik vechten zolang ik de kracht heb,” zei ze. “Ouders moeten de waarheid kennen. We moeten deze platforms confronteren en verantwoordelijkheid eisen. ”