Hoe The Social Dilemma op Netflix je aan het denken zet over manipulatie

Iedereen weet inmiddels wel dat de socialmediakanalen waarop wij dag en nacht scrollen, liken en posten profiteren van onze data. De kruimels die wij online achterlaten zijn belangrijk voor de adverteerders om ons weer terug te kunnen vinden en niet meer los te laten. En niet alleen de social-kanalen, maar heel Silicon Valley ‘werkt’ op onze data.

Hierdoor was ik eigenlijk meteen sceptisch over de nieuwe documentaire op Netflix: The Social Dilemma. ‘Weer een negatief verhaal met waarschuwingen over de socials, dat weten we inmiddels wel’. Maar door alle buzz rondom deze documentaire besloot ik hem toch te kijken. En ik moet zeggen: naast de soap-achtige stukjes tussendoor over een familie die kampt met social-verslaving, kon ik mijn aandacht er makkelijk bijhouden. Onder andere door de opzet en herkenbaarheid.

In anderhalf uur maakt deze documentaire je bewust van het verdienmodel van de grote techreuzen, zoals Google en Facebook. Of zoals ze het zelf omschrijven: ‘This documentary-drama hybrid reveals how social media is reprogramming civilization with tech experts sounding the alarm on their own creations.’

En dat is eigenlijk meteen het meest interessante aan deze documentaire: de informatie wordt gedeeld door ex-medewerkers van de grote techreuzen. Mensen die met hun neus bovenop de feiten hebben gezeten en zelf de keuze hebben gemaakt om vanwege ethische redenen het bedrijf te verlaten.

Manipulatie voor meer inkomsten

Een van de dilemma’s die wordt besproken, is het manipuleren van de gebruikers.

Never before have a handful of tech designers had such control over the way billions of us think, act, and live our lives.

En het is zó herkenbaar. Als ik een appje stuur aan iemand en ik zie dat deze persoon ‘online’ is, of zelfs ‘aan het typen…’ is, wacht ik op de reactie. Dan blijf ik dus in de app. Dit soort kleine nudges geven ons een zetje om te doen wat het platform wil.

Tot op zekere hoogte vind ik dit ‘oké’. Je besluit immers zelf om gebruik te maken van de platformen en te genieten van de voordelen. (Ja, die zijn er ook heus wel.) Maar het wordt een ander verhaal als wij (het product) worden gemanipuleerd om meer inkomsten te genereren voor de adverteerders. Daar greep de documentaire mijn aandacht.

If you’re not paying for the product, you are the product.

En ja, ook dit is bekend, maar zo’n documentaire maakt je hier toch weer wat meer bewust van. De meeste inkomsten worden gegenereerd door haatzaaien, polarisatie en het vergroten van (politieke) tegenstellingen. En dat komt door het verdienmodel.

Het verdienmodel van de socials

De gebruikers zo lang mogelijk vasthouden en zoveel mogelijk laten zien. Dat is de basis van het verdienmodel. En hoe doe je dat? Door het verslavend te maken met allerlei slimme trucjes. Zolang hier geen wetgeving of andere regulatie voor wordt ontwikkeld, zal dit model niet veranderen.

There are only two industries that call their customers ‘users’: illegal drugs and software – Edward Tufte.

Heeft social media eenmaal je aandacht gegrepen? Dan gaat het balletje rollen. Het algoritme bepaalt wat je voorgeschoteld krijgt en wanneer ze je het best kunnen storen met welke reclames. Is de kans het grootst dat jij op een advertentie klikt ná het zien van twee video’s en vijf foto’s? Dan is dat het moment. En dit is nog maar een simpel voorbeeld. Met AI worden de voorspellingen van want wat jou laat stoppen met scrollen steeds gedetailleerder.

We weten inmiddels dat Google onder andere je vragen ‘af maakt’ op basis van je locatie en je zoekgeschiedenis. Maar de socialmediakanalen doen dit ook. Gebaseerd op nog veel meer data. Verlies je je aandacht op het platform? Dan schotelen ze je een foto voor van je ex met nieuwe partner. Ben je volgens het platform vatbaar voor nepnieuws (laat dit je stoppen met scrollen)? Dan krijg je dit vaker te zien. Iedere timeline is uniek.

Politiek en polarisatie

In de documentaire gaan ze ook in op het verder ‘uit elkaar groeien’ van de Republikeinen en de Democraten in de VS. Hierbij werd gesteld dat, als gevolg van de ‘feiten’ waarin elke partij gelooft, de ruimte voor debat of constructieve gesprekken is verkleind. Dit kan bijvoorbeeld door bepaalde personen in een poel te stoppen en eenzijdige informatie te voeren. Hierdoor kunnen meningen worden versterkt.

Dat door deze algoritmes bijvoorbeeld de linkse en rechtse partijen steeds feller worden naar elkaar, is toch best verontrustend. Ongemerkt kunnen deze algoritmes je mening manipuleren.

En dat is, naar mijn mening, de belangrijkste boodschap uit deze documentaire. Als een platform zo veel invloed heeft op wat je koopt, wat je leest, maar ook op wat je ergens van vindt of op wie je stemt, heeft het dan niet te veel macht?

Alles over één kam

Het is natuurlijk niet zo dat social media de grote boeman is en alle problemen de wereld uit zijn als het verdienmodel wordt aangepast. The Social Dilemma laat dit wel zo lijken, omdat de documentaire voor 99% gaat over de negatieve impact. Het is dan ook interessant om het van de andere kant te bekijken, zoals Casey Newton doet in zijn column ‘What ‘The Social Dilemma’ misunderstands about social networks’.

Bovenstaand Twitter-draadje tussen Casey en een van de producers stelt het belang van Netflix ook aan de kaak. Netflix wil natuurlijk zoveel mogelijk mensen aanspreken en aangehaakt houden. Dat werkt beter met een eenduidig en negatief verhaal (‘shocking’) dan met een weloverwogen documentaire dat alle kanten van het verhaal laat zien.

Zullen initiatieven zoals deze documentaire de ogen openen van zowel de techgiganten als de gebruikers?