De zelfrijdende auto: techniek leidt, ethiek volgt

Column – Eerder schreef ik over het trolleyprobleem. Het is een beroemd gedachte-experiment in de filosofie. Een tram (trolley) rijdt een heuvel af. Vijf mensen zijn vastgebonden op de route die de tram zal volgen. Vlak voor de plek waar de angstigen liggen, is een wissel; bij omzetting neemt de tram een ander spoor. Op dit spoor is één persoon vastgebonden op de rails. Jij staat bij de wissel en kent beide scenario’s. Wat zou je doen? Onderzoek toont aan dat de meeste mensen ervoor kiezen om de wissel om te zetten. Beter één slachtoffer dan vijf, is de redenering. Vervolgens wordt dit experiment uitgebreid.

Zelfrijdende auto’s zijn volop in het nieuws. Er gaat nauwelijks een dag voorbij of er is wel iets vermeldenswaardig. Google, Tesla, Apple, ze hebben allen de ambitie om binnen afzienbare tijd met een auto op de markt te komen. Tests in een publieke omgeving, op de openbare weg, trekken volop de aandacht.

Het gaat om de mens

Terug naar het trolleyprobleem. Daar is het een mens die – net als bij het Oekraïne-referendum overigens – drie keuzes heeft: ik doe niet mee, ik doe mee en doe niets met de wissel, ik doe mee en haal de wissel om.

De auto in de situatie van de trolley

Maar een zelfrijdende auto kan in precies dezelfde situatie als de trolley terechtkomen. Sterker nog, een zelfrijdende auto is zelf ook een sociaal betrokkene in de situatie, er zit immers iemand in de zelfrijdende auto.

De volgende situatie kan zich voordoen: volledig onverwacht steekt een groep van vijf oudere mensen over, vlak voor een zelfrijdende auto. Remmen lost het probleem niet op, zo heeft ook de software uitgerekend. De auto kan nu drie keuzes maken: toch remmen (mogelijk vijf ‘schuldige’ slachtoffers, zij veroorzaakten het gevaar), naar rechts uitwijken waar op de stoep twee mensen lopen (mogelijk twee onschuldige slachtoffers) of naar links uitwijken waar een dode muur is (mogelijk een slachtoffer, namelijk de inzittende van de auto). Welke beslissing wordt genomen?

Vragen die beantwoord moeten worden

Heel veel vragen dienen zich aan. Als dit niet een autonome auto is, maar een ouderwetse ongemodificeerd voertuig met een mens als bestuurder, welke beslissing zou dan in dat ene moment worden genomen? Is er tijd voor een afweging? Of is daar geen tijd voor en volgt er een impuls-reactie? Zou de bestuurder vertrouwen op de airbag?

Volgende vraag, terug naar de zelfrijdende auto. Stel dat al die camera’s en radars waarmee de auto in 360 graden is uitgerust feilloos en sneller dan een mens herkennen wat de situatie is. Dat het inderdaad vijf personen zijn vóór de auto, twee op rechts en een onbuigzame muur op links. Het systeem zou geprogrammeerd kunnen zijn op het minimaliseren van het totaal aantal mogelijke slachtoffers en dus kiezen voor de muur op links. Het is de altruïstische benadering.

Blijf binnen de lijnen

Het systeem zou misschien herkennen dat op de stoep een kind loopt (een kinderwagen is te herkennen). En in een fractie uitrekenen hoeveel potentiële jaren er verloren gaan wanneer naar rechts wordt gestuurd. Op basis van deze kennis zou een keuze kunnen worden gemaakt.

Het systeem zou geprogrammeerd kunnen zijn om in dit soort situaties niets anders te doen dan volop te remmen. Blijf binnen de lijnen. Nooit abrupte stuurbewegingen.

Welke benadering kiest de auto?

Het gaat over de algoritmes die gemaakt worden om dergelijke beslissingen te nemen. Een paar voorbeelden. Naast de altruïstische (doel: minimaliseren van het aantal slachtoffers in het hele systeem, het verkeer) heb je ook de egoïstische (maximale bescherming van de inzittende van de auto), de groene (rij altijd zo zuinig mogelijk zo lang het maar veilig blijft), de snelle (rij overal zo snel als het mag). En zo zijn er nog veel varianten te bedenken.

Volgende vraag: wie controleert de werkelijke intenties van dergelijke software? We hebben het hier over vergaande en ingewikkelde ethische dilemma’s. We hebben het niet over sjoemelsoftware, waarvan het steeds meer duidelijk wordt dat we daar zelfs al geen controle over hebben. Het is al lang geen voorrecht meer voor Volkswagen alleen. Geen enkel merk wast zijn handen in onschuld. Geen enkel merk houdt zich aan de gegevens uit de folder.

Geen enkel merk wast zijn handen in onschuld. Geen enkel merk houdt zich aan de gegevens uit de folder.”

En we zijn niet bij machte om er daadwerkelijk iets aan te doen. Let wel, dit is sjoemelsoftware: het is programmeren voor dummies in vergelijking met de veel ingewikkelder ethische dilemma’s die we moeten zien neer te slaan in regels code.

Techniek versus ethiek

Het is het bekende verhaal. De techniek heeft een grote voorsprong op de ethiek. Die zelfrijdende auto is straks het probleem niet meer. Die computergestuurde mechanica; het gaat het allemaal doen. De beeldherkenning rondom de auto, doorgetrokken streep of stippellijn, regen of zon, stoeprand of een uit een pick-up gevallen houten pallet; het wordt allemaal herkend. Het leger van sensoren, camera’s en radars in combinatie met beeldherkennende software; het nadert de graad van perfectie.

De mens en de uitzonderingen

De uitdaging zit in de uitzondering, zoals zo dikwijls. En het is juist in die uitzonderlijke situaties dat de mens het vermogen tot onderscheid moet maken. Dat geldt in de rechtspraak, in de spreekkamer van de huisarts, in de bestuursvergadering of in de cockpit van een Boeing.

De uitdaging zit in de uitzondering”

Het is net zo moeilijk een rechter, dokter, bestuurder of piloot te automatiseren als een chauffeur.