Het grootste gevaar van AI? Dat is niet de technologie

Laat ik maar gelijk met de deur in huis vallen. Dit artikel bevat geen enkele absolute waarheid. Het is een eerste poging om meer te begrijpen van de risico’s van AI in de wereld van aandeelhouderswaarde-gedreven-technologie-giganten (AGTG’S). Deze technologiebedrijven hebben een enorme invloed op onze maatschappij. En toch worden ze aangestuurd door een kleine groep bestuurders, die door de aandeelhouders maar op één ding écht worden afgerekend: de koers van het bedrijf.

De stelling die we verkennen is dan ook de volgende:

‘Met AI is niet de technologie, maar de belangen van de makers van deze technologie, het grootste gevaar.’

De big 5 aan het roer

Wanneer ik het heb over AGTG’s, heb ik het voor het gemak even over de Westerse big 5 in technologie:

• Apple
• Microsoft
• Alphabet (Google)
• Amazon
• Meta Platforms (Facebook, Instagram en WhatsApp)

Deze bedrijven hebben gecombineerd een marktwaarde van een slordige 9 biljoen dollar. Dat is een 9 met 12 nullen…! Dat is meer dan het bruto binnenlands product (BBP) van alle landen behalve de Verenigde Staten en China. Even ter vergelijking: Japan is de op twee na grootste economie ter wereld met ongeveer een BBP van 5 biljoen dollar.

Dat deze AGTG’s veel invloed hebben blijkt niet alleen uit hun financiële positie, maar ook hun langdurige en ingewikkelde dans met toezichthouders en overheden. Dit zijn eigenlijk de enige instanties die nog enigszins tegenwicht kunnen bieden aan deze mastodonten. Echter is het wel als de olifant en de berijder. De olifant (de AGTG) laat zich een beetje sturen door de berijder (toezichthouder of overheid), maar wanneer ze er geen zin meer in hebben stampen ze lekker zonder enige consequentie de andere kant op. En er is geen berijder die dat kan stoppen.

Boetes zijn een wassen neus

Hoe kom ik tot deze cynische vaststelling? Simpel… De grootste boete die ooit aan een AGTG is uitgedeeld was in 2018 en betrof ongeveer een bedrag van 5 miljard dollar. Dan denk je… best aardig. Maar dat bedrag vertegenwoordigde ongeveer 11 weken cashflow van het bedrijf dat dit moest betalen. Het is voor aandeelhouders, en in het verlengde daarvan de bestuurders, dus simpelweg té lucratief om niet te kiezen voor het geld.

Het is een beetje alsof parkeren in Amsterdam je voor de hele dag 100 euro kost maar je bij het overtreden van de wet slechts een boete van 0,25 cent moet betalen. Dan is de verleiding om de wet te breken héél groot. Vanuit het oogpunt van contextuele ethiek kun je het deze bestuurders dus ook bijna niet kwalijk nemen (ik zeg nadrukkelijk bijna) dat ze deze verleiding niet weerstaan.

De koers bepaalde de richting

Dat het de AGTG’s voornamelijk om de aandeelhouderswaarde gaat is de afgelopen jaren in verschillende hoorzittingen ook gebleken. Het meest schrijnende voorbeeld vonden we misschien wel het stelselmatig wegpoetsen van de effecten van Instagram op jonge meiden door Meta Platforms.

Enerzijds de PR-machine op gang brengen om hun reputatie te beschermen. Anderzijds elke vorm van onderzoek naar de vermeende relatie tussen social media en suïcide bij jonge meisjes frustreren. Het was de angst voor een zakkende koers die de richting bepaalde. En zo kom ik weer uit op mijn stelling. De financiële belangen van de AGTG’s zijn zo groot dat het reguleren van AI extreem zal worden gefrustreerd wanneer dit de aandeelhouderswaarde zelfs maar negatief zou kunnen beïnvloeden. Deze frustratie zal leiden tot vertraging, deze vertraging voor onnodige maatschappelijke schade.

Grote maatschappelijke risico’s zijn het gevolg

Zelf zie ik de grootste risico’s in het beïnvloeden van publieke informatievoorziening en het democratisch proces. Het ‘’Skynet (Terminator referentie) AI neemt de wereld over’’-scenario kunnen we misschien minder goed overzien, maar lijkt niet het grootste kortetermijn-probleem. De economische ontwrichting op micro- en macroniveau is ook aanwezig, maar dit zie je vaker met de introductie van impactvolle technologie. Het komt wat mij betreft echt neer op de aantasting van de instituten die ook nog eens dé partijen zijn die dit moeten reguleren.

Is er dan geen enkele oplossing? Jawel. Er zijn meerdere koerswijzigingen die ons naar een betere toekomst kunnen gidsen. Maar die zitten bijna allemaal op systeemniveau. De ontwikkeling van technologie kunnen we hooguit remmen, niet stoppen. De geest is uit de fles. Wij zien daarom twee belangrijke oplossingen voor ons.

‘De geest is uit de fles.’

2 koerswijzigingen als oplossing

Enerzijds begint het bij het versterken van onze instituten. Overheden en toezichthouders hebben het op dit moment behoorlijk lastig maar we mogen ze niet (laten) opgeven. Een sterke overheid (niet per se grote) met een duidelijke taak rondom het reguleren van technologieën zoals AI vraagt om transformatie. Deze transformatie zal vooral gericht moeten zijn op het bijbenen van het tempo waarin de ontwikkelingen plaatsvinden. De snelheid van handelen die nodig is om te kunnen vertragen moet beter! Daarnaast is er expertise nodig. Ik weet niet of een ministerie de oplossing is, maar een departement dat in samenwerking met de markt expertise kan opbouwen en voldoende autonomie krijgt om snel te handelen, lijkt me een eerste goede stap.

Anderzijds zullen we de beweging van enkel aandeelhouderswaarde, naar waarde voor meerdere belanghebbenden verder moeten doorzetten (van shareholder naar stakeholder). Ik werk zelf met het idee van waardelenzen. Het gaat hierbij om het toevoegen van meerdere perspectieven in de besturing van een organisatie. Je hebt een intern en extern perspectief waarin je medewerkers, aandeelhouders, klanten en de maatschappij allemaal een stem geeft.

Daarnaast neem je zowel het perspectief op de toekomst als het verleden nadrukkelijk mee in de besluitvorming. In de AGTG’s moeten we vooral een stem geven aan de klanten en maatschappij van de toekomst. Wat vinden zij waardevol? Wat denken we dat zij over de besluitvorming van vandaag zouden zeggen in 2030, 2040 of 2050? Het is een gekke gedachte maar mijn dochter gaat het jaar 2100 naar alle waarschijnlijkheid halen. De bestuurlijke horizon van een AGTG rijkt doorgaans niet verder dan het komende kwartaal. De enige manier om de AGTG’s in deze trend mee te krijgen is om de nadrukkelijke voordelen over de bühne te krijgen aangesterkt met regel en wetgeving. Beiden nemen tijd in beslag.

Kleine acties hebben grote effecten

Wij zullen ons op zeer lokaal niveau moeten blijven inzetten op het ondersteunen van beiden sporen. Dat begint bij dit soort beschouwingen die hopelijk leiden tot de juiste gedachten en gedragingen. Soms hebben kleine acties onevenredig grote effecten. Daar heb ik mijn hoop op gevestigd.

Dit artikel is 100% geschreven door een mens…

Bron header-afbeelding: Koshiro K / Shutterstock.com