TikTok was zich ervan bewust dat de ontwerpkenmerken schadelijk zijn voor jonge gebruikers en dat publiekelijk aangeprezen tools die bedoeld waren om de tijd van kinderen op de site te beperken grotendeels ineffectief waren, blijkt uit interne documenten en communicatie die aan het licht kwamen in een rechtszaak aangespannen door de staat Kentucky.
De details behoren tot geredigeerde delen van de rechtszaak van Kentucky, die de interne communicatie en documenten bevat die zijn opgegraven tijdens een meer dan twee jaar durend onderzoek naar het bedrijf door verschillende staten in het hele land.
Aanbevolen video’s
De rechtszaak tegen Kentucky werd deze week ingediend, naast afzonderlijke klachten van procureurs-generaal in een tiental staten en het District of Columbia. TikTok wordt ook geconfronteerd met een nieuwe rechtszaak van het ministerie van Justitie en klaagt zelf het ministerie van Justitie aan vanwege een federale wet die het medio januari in de VS zou kunnen verbieden.
De geredigeerde informatie – die onbedoeld werd onthuld door het kantoor van de procureur-generaal van Kentucky en voor het eerst werd gerapporteerd door Kentucky Public Radio – raakt aan een reeks onderwerpen, vooral de mate waarin TikTok wist hoeveel tijd jonge gebruikers op het platform doorbrachten en hoe oprecht het was. was bij het uitrollen van instrumenten om overmatig gebruik tegen te gaan.
Naast het gebruik van TikTok onder minderjarigen wordt in de klacht beweerd dat de app voor het delen van korte video’s prioriteit heeft gegeven aan ‘mooie mensen’ op zijn platform en intern heeft opgemerkt dat sommige van de door het bedrijf gepubliceerde statistieken voor inhoudsmoderatie ‘grotendeels misleidend’ zijn.
“We hebben robuuste veiligheidsmaatregelen, waaronder het proactief verwijderen van vermoedelijke minderjarige gebruikers, en we hebben vrijwillig veiligheidsvoorzieningen gelanceerd, zoals standaard schermtijdlimieten, gezinsparen en standaardprivacy voor minderjarigen onder de 16 jaar”, zei Haurek in een voorbereide verklaring. “Wij staan achter deze inspanningen.”
TikTok-gebruik onder jonge gebruikers
De klacht beweert dat TikTok heeft gekwantificeerd hoe lang het duurt voordat jonge gebruikers verslaafd raken aan het platform, en de bevindingen intern heeft gedeeld in presentaties gericht op het verhogen van de gebruikersretentie. Het ‘gewoontemoment’, zoals TikTok het noemt, doet zich voor wanneer gebruikers 260 video’s of meer hebben bekeken tijdens de eerste week dat ze een TikTok-account hadden. Dit kan binnen 35 minuten gebeuren, aangezien sommige TikTok-video’s slechts 8 seconden duren, aldus de klacht.
De rechtszaak van Kentucky citeert ook een presentatie uit het voorjaar van 2020 van TikTok, waarin werd geconcludeerd dat het platform onder jonge gebruikers al “een plafond had bereikt”. Op dat moment bleek uit de schattingen van het bedrijf dat minstens 95% van de smartphonegebruikers onder de 17 jaar TikTok minstens maandelijks gebruikte, aldus de klacht.
TikTok houdt statistieken bij voor jonge gebruikers, waaronder hoe lang jonge gebruikers video’s bekijken en hoeveel van hen het platform elke dag gebruiken. Het bedrijf gebruikt de informatie die het uit deze beoordelingen haalt om zijn algoritme te voeden, dat de inhoud afstemt op de interesses van mensen en de betrokkenheid van gebruikers stimuleert, aldus de klacht.
TikTok doet zijn eigen interne onderzoeken om erachter te komen welke impact het platform heeft op gebruikers. De rechtszaak citeert een groep binnen het bedrijf, genaamd ‘TikTank’, die in een intern rapport opmerkte dat dwangmatig gebruik ‘welig tierend’ was op het platform. Het citeert ook een niet bij naam genoemde directeur die zei dat kinderen naar TikTok kijken omdat het algoritme ‘echt goed’ is.
“Maar ik denk dat we ons bewust moeten zijn van wat het zou kunnen betekenen voor andere kansen. En als ik andere mogelijkheden zeg, bedoel ik letterlijk slapen, eten, door de kamer bewegen en iemand in de ogen kijken”, aldus de niet bij naam genoemde directeur, volgens de klacht.
Hulpmiddelen voor tijdmanagement
TikTok heeft een dagelijkse schermtijdlimiet van 60 minuten voor minderjarigen, een functie die in maart 2023 werd uitgerold met als doel tieners te helpen hun tijd op het platform te beheren. Maar de klacht van Kentucky stelt dat de tijdslimiet – die gebruikers gemakkelijk kunnen omzeilen of uitschakelen – meer bedoeld was als public relations-instrument dan iets anders.
De rechtszaak zegt dat TikTok het succes van de tijdslimietfunctie niet heeft gemeten aan de hand van de vraag of het de tijd die tieners op het platform doorbrachten, verminderde, maar aan de hand van drie andere maatstaven – waarvan de eerste ‘het vergroten van het vertrouwen van het publiek in het TikTok-platform via berichtgeving in de media’ was.
Het verminderen van de schermtijd onder tieners was niet opgenomen als succesmaatstaf, aldus de rechtszaak. Er werd zelfs beweerd dat het bedrijf van plan was om “het ontwerp” van de functie opnieuw te bekijken als de tijdslimiet ervoor had gezorgd dat tieners hun TikTok-gebruik met meer dan 10% hadden verminderd.
TikTok voerde een experiment uit en ontdekte dat de tijdslimietmeldingen slechts anderhalve minuut verwijderd waren van de gemiddelde tijd die tieners aan de app besteedden – van 108,5 naar 107 minuten per dag, volgens de klacht. Maar ondanks het gebrek aan beweging heeft TikTok niet geprobeerd de functie effectiever te maken, zeggen functionarissen uit Kentucky. Ze beweren dat de ineffectiviteit van de functie in veel opzichten door het ontwerp was veroorzaakt.
De klacht zegt dat een TikTok-manager genaamd Zhu Wenjia de functie alleen goedkeurde als de impact ervan op de “kernstatistieken” van TikTok minimaal was.
TikTok – inclusief CEO Shou Chew – heeft gesproken over de verschillende tijdmanagementtools van de app, waaronder video’s die TikTok gebruikers stuurt om hen aan te moedigen het platform te verlaten. Maar een TikTok-manager zei tijdens een interne bijeenkomst dat deze video’s ‘nuttige’ gespreksonderwerpen zijn, maar ‘niet helemaal effectief’.
TikTok heeft ‘mooie mensen prioriteit gegeven’ op zijn platform
In een sectie waarin de negatieve gevolgen van de gezichtsfilters van TikTok op gebruikers worden beschreven, beweert Kentucky dat het algoritme van TikTok “voorrang heeft gegeven aan mooie mensen”, ondanks dat ze intern wisten dat de inhoud op het platform “een smalle schoonheidsnorm zou kunnen bestendigen.”
De klacht beweert dat TikTok zijn algoritme heeft gewijzigd nadat uit een intern rapport bleek dat de app een groot “volume van … niet aantrekkelijke onderwerpen” liet zien in de belangrijkste “For You” -feed van de app.
“Door het TikTok-algoritme te veranderen, zodat minder ‘niet-aantrekkelijke onderwerpen’ in de For You-feed worden getoond, hebben gedaagden actieve stappen ondernomen om een smalle schoonheidsnorm te promoten, ook al zou dit een negatieve impact kunnen hebben op hun jonge gebruikers”, aldus de klacht.
De ‘lekkage’-percentages van TikTok
De rechtszaak richt zich ook op de inhoudsmoderatiepraktijken van TikTok.
Het citeert interne communicatie waarin het bedrijf opmerkt dat de moderatiestatistieken “grotendeels misleidend” zijn omdat “we goed zijn in het modereren van de inhoud die we vastleggen, maar deze statistieken houden geen rekening met de inhoud die we missen.”
In de klacht wordt opgemerkt dat TikTok weet dat het aanzienlijke “lekkage”-percentages heeft, maar dit niet openbaar maakt, of dat er inhoud is die in strijd is met de communityrichtlijnen van de site, maar die niet wordt verwijderd of gemodereerd. Andere socialemediabedrijven worden ook met soortgelijke problemen geconfronteerd op hun platforms.
Voor TikTok wordt in de klacht opgemerkt dat de “lekkage”-percentages ongeveer 36% van de inhoud omvatten die pedofilie normaliseert en 50% van de inhoud die kleine aanrandingen verheerlijkt.
De rechtszaak beschuldigt het bedrijf er ook van het publiek te misleiden over zijn moderatie en het toestaan van een aantal populaire makers, die als “hoogwaardig” werden beschouwd, om inhoud te plaatsen die in strijd is met de richtlijnen van de site.