De catastrofe die Facebook heet

Ondernemingen als Facebook, Google en Amazon hebben hun businessplannen de afgelopen jaren op een briljante manier uitgevoerd. Via hun platforms kunnen miljarden mensen sneller en makkelijker dan voorheen contacten onderhouden, informatie vinden en producten kopen. De oprichters en aandeelhouders werden daar schathemeltje rijk van. Maar de platforms hebben vaak onbedoelde, ernstige neveneffecten: ze zijn slecht voor privacy, gezondheid, democratie en economie. Dat willen deze bedrijven meestal niet horen en ook niet oplossen. Wat doen we daaraan, individueel en als samenleving?

Dit is de strekking van het boek Zucked. Waking Up to the Facebook Catastrophe (aff.). Auteur Roger McNamee is al tientallen jaren actief als entrepreneur en investeerder in Silicon Valley en als coach en klankbord voor ondernemers en startups. Zo coachte hij ook Mark Zuckerberg en investeerde hij in Facebook. Hij had hoge verwachtingen van het platform, waarvan de meeste ook zijn bewaarheid. “Het probleem is echter”, aldus de auteur, “de onbedoelde gevolgen die talrijker en ernstiger zijn dan ik dacht”.

Welke problemen dat zijn, beschrijft McNamee uitgebreid in Zucked. De auteur werkt heel gedetailleerd uit hoe bepaalde zaken zo gekomen of gelopen zijn. Bijvoorbeeld hoe de wet van Moore (het aantal transistors in een geïntegreerde schakeling verdubbelt elke twee jaar) en de wet van Metcalfe (de waarde van een netwerk neemt kwadratisch toe met het aantal gebruikers) de internetplatforms geholpen hebben. Idem het gunstige investeringsklimaat voor en ook na de dotcombubbel begin jaren 2000, evenals (het gebrek aan) wet- en regelgeving. McNamee beschrijft op verschillende punten ook welke oplossingen hij voor ogen heeft.

De aandachtseconomie

McNamee gaat uitvoerig in op de methodieken die platforms als Facebook gebruiken om aandacht te trekken en vast te houden. Veel van die methodieken zijn terug te voeren op wat professor B.J. Fogg in de jaren 90 onderzocht, uitwerkte in het boek Persuasive technology, en jarenlang doceerde aan Stanford University, in het hart van Silicon Valley. De kern hiervan is wat Fogg ‘captologie’ noemde, namelijk “hoe computers gebruikt kunnen worden om mensen over te halen hun houding en gedrag te veranderen”.

De platforms van Facebook en Google leven van advertenties. McNamee beargumenteert dat er dan een afweging te maken is: “Aan de ene kant is het relatief eenvoudig om te zorgen dat de juiste persoon je advertentie ziet. Aan de andere kant is het een stuk moeilijker om ervoor te zorgen dat die persoon ook aandacht besteedt aan de advertentie. Voor de platforms is de oplossing voor dit laatste probleem het maximaliseren van de tijd die gebruikers op het platform doorbrengen.” Hierover zond PowNed recent een interessant (en soms heel grappig) programma uit.

En juist daarin zit het risico, want dit leidt tot “een race naar de onderkant van de hersenstam – waar de AI’s content presenteren die een beroep doet op de lagere emoties van het hagedissenbrein, dingen als instant beloningen, verontwaardiging en angst.” En het blijkt dat “de ruimte voor waarheid vast is, terwijl de ruimte voor leugens zich vrij in elke richting kan uitbreiden – leugens overtreffen waarheid.” Je zult weliswaar zeggen dat je de voorkeur geeft aan foto’s van puppy’s en feiten (en dat zal voor de meeste mensen ook zo zijn). Maar opruiende berichten werken beter bij het bereiken van een enorm publiek.

Met andere woorden: Facebook, Google en andere platforms hebben er belang bij negatieve en zelfs aantoonbaar onjuiste berichten voorrang te geven. De berichten zorgen voor hogere engagement. Mensen delen deze content meer en ze blijven langer op de platforms, wat voor de omzet uit advertentieverkoop geweldig is.

Filterbubbels

Een van de functionaliteiten van Facebook die dit effect nog versterken, is die van de groepen. “Iedereen op Facebook heeft vrienden en familie, maar velen zijn ook lid van groepen”, zegt McNamee hierover. “Facebook staat groepen toe voor bijna alles, inclusief hobby’s, entertainment, teams, gemeenschappen, kerken en beroemdheden. Er zijn veel groepen gewijd aan politiek, over het volledige spectrum. Facebook houdt van groepen omdat ze gemakkelijke targeting door adverteerders mogelijk maken. Om dezelfde reden vinden bad actors ze ook leuk.”

In zijn streven naar meer engagement bij gebruikers, voedt Facebook “ons allemaal een gestadig dieet van content vergelijkbaar met wat ons in het verleden het meest heeft geboeid”. Nu is dat op zich nog geen punt, maar het is gebleken dat groepen van “politiek betrokken gebruikers met een gedeelde set waarden zichzelf versterkt én gedeelde verontwaardiging over vermeende vijanden uitlokt”. Dat maakt mensen kwetsbaar voor manipulatie, want “slechts 1 of 2 procent van een groep kan het gesprek sturen” met bijvoorbeeld maar “één menselijke trol en een klein leger van digitale bots”. (In NRC Handelsblad schreven Sander Duivestein c.s. hier ook recentelijk over.)

Facebook houdt van groepen omdat ze gemakkelijke targeting door adverteerders mogelijk maken. Om dezelfde reden vinden bad actors ze ook leuk.

Voorkeursbubbels

Op deze manier worden de groepen de bekende filterbubbels. En McNamee doet daar zelfs nog een schepje bovenop en beschrijft wat hij preference bubbles of voorkeursbubbels noemt:

“Voorkeursbubbels kunnen allesomvattend worden, vooral als een platform als Facebook of Google ze versterkt met een gestage stroom van content. Net als filterbubbels verhogen voorkeursbubbels de tijd op de site, wat de omzet omhoog stuwt. In een voorkeursbubbel creëren gebruikers een alternatieve werkelijkheid rond gedeelde waarden [en] stoppen interactie met mensen met wie ze het niet eens zijn, waardoor de kracht van de bubbel wordt versterkt. Ze voeren strijd tegen elke bedreiging voor hun bubbel, wat voor sommige gebruikers betekent oorlog tegen democratie en wettelijke normen. Ze negeren expertise ten gunste van de stemmen in hun groep. Ze weigeren ongemakkelijke feiten te accepteren, zelfs onomstotelijke waarheden. […] De groep is het enige dat ertoe doet, en alles wat de groep vooruitgaat is legitiem.”

McNamee benadrukt dat hij niet wil zeggen dat filterbubbels en voorkeursbubbels polarisatie veroorzaken. Hij stipt aan dat die bubbels ook buiten de internetplatformen bestaan. Bovendien wijst recent onderzoek van het instituut More in Commons uit dat slechts 14 procent van de Amerikaanse bevolking in het politieke geharrewar is geïnteresseerd. Van deze groep zit de helft op de uiterst linkerflank van het politieke spectrum en de andere helft op de uiterst rechterflank. Maar McNamee vindt wel dat ze het openbaar debat negatief beïnvloeden, “omdat ze mensen in de bubbels isoleren”. En het enorme gebruik van Facebook en Google maakt dat hun filterbubbels veel grotere invloed hebben dan andere.

Steeds maar weer excuses

Waar McNamee zich de afgelopen jaren over verbaasd heeft, is de manier waarop met name Facebook stelselmatig heeft onderschat op welke manieren hun platform ook in negatieve zin invloed op de wereld heeft. En hoe ze op problemen, fouten, hacks en andere issues steeds weer op dezelfde manier reageerden.

Een voorbeeld dat de auteur aanhaalt is het manipulatieve experiment dat Facebook in 2014 deed. Dit zogenaamde Experimental Evidence of Massive-Scale Emotional Contagion Through Social Networks toonde aan dat “emoties zich over het platform kunnen verspreiden. Zonder vooraf toestemming te vragen of te waarschuwen, maakte Facebook mensen verdrietig alleen om te zien of het kon”.

Toen Facebook met kritiek werd geconfronteerd, stelde operationeel directeur Sheryl Sandberg dat het experiment normaal lopend onderzoek is dat bedrijven die verschillende producten testen nu eenmaal doen. “Het was slecht gecommuniceerd. En voor die communicatie verontschuldigen we ons. We hebben je nooit van streek willen maken.”

Kortom, Facebook biedt dus geen excuses aan voor het enorme psychologische experiment onder gebruikers. En Sandberg stelt impliciet dat dit soort onderzoek “zonder goedkeuring vooraf standaardpraktijk is bij Facebook”, aldus McNamee. Vervolgens lardeert de auteur zijn betoog met talloze voorbeelden van de excuuscultuur van Facebook, die teruggaat tot de oprichting op Harvard in 2004. Zijn conclusie is dat het motto van het platform beter zou kunnen zijn: ‘move fast, break things, apologize, and try again’.

De ‘kosten’ van platforms

Gebruik van de platforms van Facebook, Google en Twitter is gratis. Althans, zo lijkt het, want het bekende adagium gaat hier op: ‘als je niet betaalt, dan ben je het product’. Daarbij maakt McNamee het aannemelijk dat gebruik ook min of meer verborgen kosten met zich meebrengt. Dat relateert hij aan het Cambridge Analytica-schandaal rond de Amerikaanse presidentsverkiezingen van 2015.

“Facebook is niet zomaar een platform, maar heeft een centrale rol in ons leven gekregen. Als consumenten zijn we op zoek naar gemak. We verlangen naar verbinding. We houden van gratis. Facebook biedt ze alle drie in een overtuigend pakketje dat genoeg verrassing en genot biedt om ons dagelijks, zo niet vaker, te laten bezoeken. […] gemak en verbinding op Facebook hebben misschien geen prijskaartje, maar ze zijn niet gratis. De downstream-kosten zijn aanzienlijk, maar niet duidelijk totdat er iets misgaat, wat het sinds de oprichting van Facebook in 2014 met alarmerende frequentie heeft gedaan.”

Die kosten betalen gebruikers individueel en de samenleving als geheel op vier vlakken:

1. Privacy

Bij verschillende lekken en schandalen, waaronder Cambridge Analytica in 2015, zijn de persoonlijke gegevens van miljoenen gebruikers op straat komen te liggen en misbruikt. Bovendien claimen internetplatforms het eigenaarschap van zowel die persoonlijke informatie als ook de meta-informatie. (Kijk ook eens naar deze video van DuckDuckGo over Facebook en Google en privacy.)

2. (Psychische) gezondheid

Gebruikers raken verslaafd aan de platforms (denk aan ‘fear of missing out’). Ze worden in filterbubbels getrokken en daar gemanipuleerd met opruiende en leugenachtige content. Ze gebruiken de platforms minder bewust en ook langer dan ze misschien zouden willen, et cetera.

3. Democratie

De beïnvloeding met opruiende en soms ronduit leugenachtige content in de news feed en groepen op Facebook maakt dat mensen zich sterker en sterker met hun eigen groep verbinden ten koste van anderen. Dat laten ze vervolgens ook in het stemhokje blijken door óf niet te stemmen óf voor extremere opties te kiezen. Voorbeelden hiervan zouden de verkiezing van Trump en het Brexit-referendum zijn.

4. Economie

De enorme schaal van platformreuzen als Facebook en Google maakt dat ze mogelijke concurrentie eerst ontmoedigen en vervolgens de potentieel succesvolle opkopen (hoewel Facebook onlangs afzag van een overname van Houseparty). Hierdoor stokt innovatie en worden (inter)nationale economieën meer en meer afhankelijk van deze platforms.

(Harvard Business School werkt aan een manier om de impact van bedrijven die normaal gesproken niet in de jaarcijfers terechtkomen te meten en uit te drukken, stond recent in NRC Handelsblad.)

Risico’s voor kinderen

McNamee staat ook in het bijzonder stil bij de risico’s van het gebruik van deze platforms bij kinderen en tieners. “Waarom verlaten gebruikers het platform niet uit protest?” vraagt de schrijver zich af. En hij beantwoordt die vraag zelf: “Ze willen niet geloven dat de schermen die ze hun kinderen geven, permanente psychologische schade kunnen veroorzaken.” Denk onder meer aan de hyperstimulatie van virtuele ervaringen en de verslaving die daarbij komt kijken. En denk aan fear of missing out, online pestgedrag en bodyshaming, de onzekerheid en het negatieve zelfbeeld die daardoor ontstaan, enzovoort.

Recent nog erkende Facebook dat er een fout zat in de Messenger Kids-app waardoor kinderen zonder toestemming van hun ouders ook met niet-goedgekeurde gebruikers konden chatten. Dit terwijl de app juist bedoeld is als veilige omgeving waarin kinderen met een beperkte groep kunnen communiceren.

Verder schrijft hij dat “onderzoek erop wijst dat minder blootstelling aan apparaten en apps op alle leeftijden beter is, maar essentieel voor jongere kinderen. De American Academy of Pediatrics stelt voor dat ouders kinderen jonger dan twee jaar helemaal niet aan beeldschermen blootstellen. Er is een groeiend aantal onderzoeken dat aangeeft dat ouders de schermtijd voor kinderen jonger dan twaalf moeten beperken tot veel minder dan de huidige gemiddelden.”

Wat nu?

Gelukkig besluit McNamee zijn boek met een paar hoofdstukken over mogelijke oplossingen. Soms zijn die van het niveau van overheidsbemoeienis en regelgeving. En daar vragen Facebook en Google in de media ook om, hoewel Bits of Freedom daar recent doorheen prikte. Maar de schrijver geeft ook verschillende praktische tips.

De macht van gebruikers

Allereerst: “Als gebruikers hebben we meer macht dan we ons realiseren. Internetplatforms hebben ons nodig. Ze hebben onze aandacht nodig. Als we het geven, hebben ze een enorme – soms beslissende – invloed op ons leven.”

Met andere woorden, als we die aandacht niet geven, de platforms niet of in elk geval minder gebruiken, wordt de invloed van de platforms op ons als persoon en daarmee op de samenleving kleiner. Denk er dus over na of je Facebook, Instagram en Twitter écht nodig hebt. Zo nee, gebruik het dan minder, log uit of verwijder je account.

Prik de filterbubbels door

McNamee: “Als we filterbubbels en voorkeursbubbels willen doorprikken – online of offline – moeten we tijd investeren om onszelf beter te informeren. We moeten voldoende sceptisch zijn over wat we lezen, zien en horen, kritisch nadenken bij content uit alle bronnen, verschillende perspectieven zoeken en content checken voordat we die delen.”

Oftewel, gebruik meer en andere bronnen dan alleen Google, Facebook en Nu.nl. Lees een krant, desnoods alleen de weekendeditie of alleen online, en dan een beetje een goeie: NRC Handelsblad, Het Financieele Dagblad, de Volkskrant en Trouw worden doorgaans ‘kwaliteitskranten’ genoemd. Is dat nieuws dan neutraal? Nee, want neutrale journalistiek bestaat niet. Maar ze is wel beter dan de manipulatieve content uit de voorkeursbubbels van online platforms.

Wees sceptisch

“Wanneer een nieuw product of een nieuwe technologie op de markt komt, moeten we sceptisch zijn. Het is belangrijk om de drijfveren die ten grondslag liggen aan nieuwe producten te begrijpen en selectief te zijn bij acceptatie.”

Ren dus niet zomaar naar de winkel voor die nieuwe Google Home en koppel niet zonder meer een smart tv aan je netwerk. Vraag je af of je een commercieel bedrijf doorlopend wil laten meeluisteren naar alles wat je zegt. En: “We moeten in het bijzonder sceptisch zijn over kunstmatige intelligentie. Zoals die geïmplementeerd wordt door internetplatforms, is AI een technologie voor gedragsmanipulatie met veel meer na- dan voordelen.”

Apple of Android?

De auteur geeft verder aan Apple-apparaten te gebruiken in plaats van Android-producten. (Hoewel ik daaraan wil toevoegen dat ook Apple niet onschuldig is.) Dat heeft met name te maken met de manier waarop Apple-producten en -diensten met gebruikersgegevens omgaan. Zo worden bepaalde gegevens op het toestel zelf opgeslagen en niet in de (door Apple beheerde) cloud.

Kies voor andere software

Tot slot geeft McNamee nog wat praktische suggesties als het gaat om alternatieven voor software. Gebruik Safari of Firefox in plaats van Chrome. Sla wachtwoorden niet op in je browser, maar kies voor een oplossing als 1Password.

Zelf voeg ik daar graag aan toe dat je misschien niet altijd ingelogd moet zijn bij Facebook en Google als je ze wil (of moet) blijven gebruiken. En denk ook na over een privacybewuste alternatieve zoekmachine zoals Duck Duck Go.

Zucked

Zucked is een pittig boek. McNamee behandelt de soms complexe materie zeer uitvoerig. De impact van veel van wat hij vertelt, is behoorlijk. Daarmee is het geen boek dat je op een achternamiddag even uitleest. Maar het is in zekere zin wel een pageturner en zeer de moeite waard. Want het maakt je bewust(er) van hoe Facebook, Google en andere tech-reuzen zo succesvol zijn geworden, wat dit betekent voor privacy, psychische gezondheid, democratie en economie, en hoe je hier als individu én als samenleving iets tegen kunt doen.

Over het boek

Titel: Zucked. Waking Up to the Facebook Catastrophe
Auteur: Roger McNamee
Uitgever: Penguin Press, New York
Jaar: 2019
Nummer: 9781984877895
Mediatype: boek, 336 bladzijdes
Prijs: € 20,86
Bestellen: via Managementboek (aff.)