TikTok trekt kijkers nog sneller extreme rabbit holes in dan concurrenten

Van Facebook en YouTube is inmiddels wel bekend dat hun algoritmes mensen in diepe, extreme rabbit holes kunnen trekken. Maar nu blijkt uit onderzoek dat ook het TikTok-algoritme zich hier schuldig aan maakt. En het gaat nog eens veel sneller dan bij de concurrenten. Hoe zit dat?

Mijn TikTok-fyp (for you page) bestaat voor een groot deel uit grappige kattenfilmpjes, kookvideo’s en boekentips. Een vrolijk, rustgevend plekje waar ik me met gemak uren in kan verliezen. Bij mijn buurmeisje bestaat de fyp vooral uit dansfilmpjes en pranks van tieners.

Het is bij iedereen anders, omdat het algoritme snel leert welke video’s jou aanspreken. Door je interacties met die video’s – het kan gaan om kijktijd, reacties, en likes – leert het algoritme waar je meer van wil zien. Maar daar schuilt helaas ook een gevaar in.

Hoe het algoritme je in rabbit holes trekt

Ondanks de waarschuwingen en problemen met privacy, is TikTok inmiddels een geduchte concurrent voor Facebook en YouTube. Mensen besteden er meer tijd om video’s te kijken en het is momenteel de meest gedownloade app.

In juli kwam de The Wall Street Journal (WSJ) met een opzienbarend onderzoek, waaruit blijkt dat TikTok je razendsnel in rabbit holes kan trekken. En het hoeft eigenlijk alleen maar te weten wat je kijktijd bij video’s is om al je interesses (en zwaktes) te kennen.

Hoe pakten ze het onderzoek aan? De journalisten maakten meer dan 100 bots aan op TikTok. Ze hadden zo weinig mogelijk persoonlijke gegevens: alleen de accountnaam (onzijdig), IP-adres (locatie) en leeftijd waren voor TikTok bekend. Elke bot had een paar specifieke interesses voor het kijken van video’s (zoals yoga, extreme sport of depressie), maar dit vulden ze niet in TikTok in. Deze interesses uitten de bots puur door video’s die aansloten op deze interesses opnieuw te bekijken of te pauzeren. Bekijk de video voor meer uitleg en de resultaten.

Van mainstream naar niche

TikTok heeft een slimme en verslavende user interface. Je opent de app en de eerste video (van maximaal 3 minuten) begint meteen af te spelen. Je hoeft niet te zoeken (al kan dat wel) en vind je een video niet leuk? Dan swipe je met gemak door naar de volgende video. En zo door.

Als je nieuw bent op TikTok, krijg je eerst populaire (mainstream) video’s voorgeschoteld. The Wall Street Journal stelde vast dat op basis van het kijkgedrag van de bots bij bepaalde video’s, TikTok hen steeds vaker video’s voorschotelde die aansloten op die interesses. Oftewel, hoe langer je kijkt en hoe vaker je interacteert, hoe meer je bij niches terecht komt.

Dat is op zich niet zo schokkend. Maar wat wel zorgelijk is, is dat die niches mogelijk schadelijke video’s bevatten die niet aan de voorwaarden van TikTok voldoen, maar toch door de mazen van het net glippen.

Afbeelding: Het TikTok-universum weergegeven door WSJ. Het centrum van het universum bevat algemene, populaire video’s, de uitlopers zijn niches zoals onschuldige bulldog-video’s en video’s over depressie.

Van transfobie naar extreemrechts in 40 minuten

Deze week kwam ik – uitgerekend via een TikTok-filmpje – bij het onderzoek van Olivia Little en Abbie Richards terecht. Zij onderzochten hoe je op TikTok al snel naar homofobische, misogyne, racistische en extreemrechtse video’s wordt geleid.

Dit onderzoek onderschrijft de conclusies van het onderzoek van WSJ en laat daarnaast zien dat er ook verbanden te leggen zijn tussen verschillende ‘niches’. Als je eerst alleen maar met transfobische video’s interactie hebt, zal TikTok al gauw ook homofobische en misogyne video’s aan je voorleggen. Daarna volgen andere soorten schadelijke content (zoals het grafiekje hieronder laat zien).

Het verschil met YouTube

Eerder onderzocht de Volkskrant al hoe het algoritme van YouTube je in een rabbit hole kan trekken. Bij YouTube komt zo’n 70% van de views bij video’s terecht via de recommendation engine. Dit zijn de door het algoritme aanbevolen video’s die je ziet naast de video die je op dat moment bekijkt. Bij TikTok wordt het percentage views dat via het algoritme wordt gestuurd tussen de 90% en 95% ingeschat. TikToks algoritme heeft dus een nóg grotere invloed dan dat van YouTube.

Door de user interface van TikTok, waarbij je eenvoudig en vloeiend doorscrolt naar de volgende video, kun je je razendsnel dieper ingraven in de rabbit holes. Bij de bots van The Wall Street Journal kon dat binnen 2 uur, en soms al binnen 40 minuten gebeuren. Zo kwam een account dat een voorkeur had voor politiek getinte video’s al snel op Qanon-content uit.

The algorithm is able to find the piece of content that you’re vulnerable to. That will make you click, that will make you watch, but it doesn’t mean you really like it, or that it’s the content that you enjoy the most. It’s just the content that’s the most likely to make you stay on the platform. – Guillaume Chaslot.

Weerwoord van TikTok

Volgens TikTok zou zo’n 7% van de video’s die je aangeboden krijgt, ‘disruptive’ moeten zijn. Dit zijn video’s die bewust buiten je bubble (of rabbit hole) zitten om je uit te dagen nieuwe thema’s te ontdekken. Bij het onderzoek van WSJ bleek dat het om veel minder dan 7% gaat. Met name video-advertenties zaten bijvoorbeeld buiten de bubble van de ‘depressie-bot’. TikTok heeft als verweer dat de bots geen echt menselijk gedrag vertoonden en te beperkte interesses hadden, waardoor dit niet bij echte mensen voor zal komen. Maar The Wallstreet Journal geeft aan dat ook bots met meer diverse interesses in konijnenholen terechtkwamen.

De goede en slechte kant van algoritmes

Net als bij de andere grote socialmedia-platformen geldt ook voor TikTok dat ze je zo lang mogelijk op het platform willen houden. Meer tijd besteden = meer advertenties bekijken = meer geld. Het algoritme wil je daarom zoveel mogelijk relevante video’s bieden. Dat kan positief zijn, met bijvoorbeeld video’s waar je om moet lachen (zoals in mijn geval), maar er is ook een andere kant van de medaille. Extremere video’s kunnen namelijk ook meer kijktijd opleveren, omdat ze andere emoties opwekken (zoals woede). Wall Street Journal vat het goed samen:

While TikTok can draw out what makes you laugh, it can also make you wallow in your darkest thoughts without ever needing to eavesdrop on you or collect any personal information about you.

Guillaume Chaslot (oprichter van AlgoTransparency) stelt tegenover The Wall Street Journal dat we algoritmes moeten bestuderen om ze beter te begrijpen, en om te voorkomen dat ze schadelijk zijn voor onze maatschappij en voor bepaalde groepen mensen. Ik denk dat hij een punt heeft.

Wat vind jij van het TikTok-algoritme en de invloed die het op ons kan hebben? Ik lees het graag via de reactiemogelijkheid hieronder. 👇

Deze column verscheen eerst (in andere vorm) in de Frankwatching Weekly. Wil je ook deze zaterdageditie in de mailbox ontvangen? Schrijf je hier in.

Foto header door Lance Matthew Pahang op Unsplash.