Wat betekent doodsangst voor een algoritme?

Column – Twee citaten uit dezelfde krant van vorig weekend. “Daarom pleit ik voor een psycholoog die zich bezig houdt met big data… Kunstmatige intelligentie wordt gedomineerd door mensen die goed zijn in wiskunde, maar nauwelijks iets weten over hoe menselijke intelligentie werkt.” En: “Wie bewaart het evenwicht en zorgt dat de maatschappij straks niet uit de bocht van de vooruitgang vliegt? Hier kan een rol liggen voor de sociale en geestwetenschappen.”

Beide citaten komen uit de NRC. Het eerste citaat is van Gary Marcus, hoogleraar psychologie aan de New York University. Het tweede is van Robbert Dijkgraaf, directeur van het Institute for Advanced Study in Princeton. Ze zijn aan het woord over kunstmatige intelligentie.

AlphaGo Zero

De artikelen noemen – zoals zo veel artikelen dat overigens doen – het recente succes van Google’s nieuwe Go-computer AlphaGo Zero. Deze briljant bleek in staat om haar voorganger AlphaGo – die zo succesvol wist te winnen van de grote menselijke Go-masters – vernietigend te verslaan. De computer verslaat de computer. Overtuigend. Het werd 100-0 voor het broekkie.

Het wordt als een van de grootste stappen vooruit in Artificial Intelligence gezien, het wordt beschouwd als een indrukwekkende overwinning van het deeplearning-algoritme. Nieuwkomer AlphaGo Zero heeft het spel Go geleerd vanuit het regelboek, en niet door miljoenen andere Go-partijen te bekijken en daar het beste van over te nemen. AlphaGo Zero begon met een leeg bord, zette daar een steen op, kreeg een antwoord, zette weer en zo ging het veertig dagen door met de snelheid van het licht. Toen was er een wereldspeler geboren.

Deep learning, zegt men. Het programma werd haar eigen leraar. Het speelde spelletjes tegen zichzelf. Iedereen weet dat dit bij schakers de kortste weg is naar totale gekte (Schachnovelle van Stefan Zweig). Zero probeerde telkens nieuwe zetten, wist diepere lagen met elkaar te verbinden, en in een korte tijd verzamelde Zero net zo veel kennis als door Go-spelers in eeuwen werd opgebouwd. Sterker nog, nieuwe kennis-lagen, nieuwe tactieken werden toegevoegd aan de enorme menselijke-ervaringsberg. A giant leap forward.

De wereld is meer dan een spelletje

Maar dit is het bordspelletje Go, zegt Gary Marcus in het NRC-verhaal. Hij staat bekend als een criticus in de discussies rond kunstmatige intelligentie. De wereld is meer dan een spelletje Go. Het Go-spel wordt gespeeld op een vast bord, met vaste regels. In principe is het aantal zetten een gesloten verzameling. Wel een heel grote verzameling, met naar gezegd wordt meer mogelijkheden dan het aantal zandkorrels op deze aarde. Maar gesloten blijft het, en computers weten wel raad met heel veel en grote getallen.

De regel is niet het probleem, de spelbreker is de uitzondering.

Ze worden pas zenuwachtig in ongestructureerde omgevingen. Daarom ook zal het nog wel even duren voordat een stad volledig bereden wordt door zelfrijdende auto’s, hoe wenselijk dat ook moge zijn, zeker in de wetenschap dat het tegen die tijd alleen maar elektrische auto’s zullen zijn. Het zal even duren voordat een stad een gesloten verzameling is van spelers die allemaal mee doen aan het spel, en allemaal eenzelfde spelregelboekje op zak hebben. De regel is niet het probleem, de spelbreker is de uitzondering.

Berggeiten

Weer naar Gary Marcus. Hij liet bij de lezing (ik was er overigens niet bij) op de World-Summit AI in Amsterdam een filmpje over berggeiten zien. Uit ervaring weet ik dat het Franse woord voor berggeiten bouquetins is. Bouquetins des Alpes, om precies te zijn. Kijk eens naar dit filmpje. Hoe een bouquetin op de steile wand van een stuwmeerdam loopt. Gevolgd door een kind-bouquetin.

Waarom kunnen bouquetins dit? Omdat ze het duizend keer gedaan hebben? Of duizend keer hebben gekeken hoe andere bouquetins dit doen? Marcus vraagt het zich af. Nee, ze kunnen het omdat het een aangeboren vaardigheid is, het zit in hun genen, het is evolutionair tot stand gekomen. Bouquetins die het niet konden, vielen naar beneden, gingen dood en konden zich niet voorplanten. Bouquetins die doodsangst hadden voor steile bergkammen, gingen niet mee naar de overkant, kregen te weinig voedsel, gingen dood en konden zich niet voortplanten.

Wat voelt een robot als hij valt?

In de laatste paar alinea’s gebruikte ik de woorden ‘gek’, ‘doodsangst’, ‘genen’, ‘aangeboren’, ‘evolutionair’. En dan ligt de logische vraag voor de hand: wat is de algoritmische vertaling van bijvoorbeeld ‘gek’, of van ‘doodsangst’?

Wat voelt een robot die bij een kleine oneffenheid in de ondergrond omvalt? Is hij in staat zichzelf aan te passen? Een robot kan kapot, kan stuk gaan, kan onherstelbaar beschadigd raken, maar is dat hetzelfde als doodgaan?

Andere vraag. De bouquetin op de wand van de stuwmeerdam, is het toeval dat hij voorop loopt, gevolgd door zijn kind?

Evolutie

Een paar dingen zijn zeker. Zowel in het mensen- als in het dierenrijk is er een grote bundel aan kennis en ervaring die gebruikt wordt in het dagelijks leven, vooral als gereageerd moet worden op abnormale gebeurtenissen, op ongekende veranderingen, op onvoorziene omstandigheden. Op verdriet. Op angst. Op onvoorspelbaar gedrag van een groep. Op de bedreiging van buiten door een grilligheid van de natuur.

Maar, zeggen de nuchteren, ook robots kennen een evolutie. De onverkoopbaren zullen uit de handel verdwijnen. De struikelaars die blijven struikelen, zullen uit de productie worden genomen. De bejaardenhulpjes die geen gesprekspartner blijken te zijn, zullen worden her-ijkt, maar als ze blijvend niet worden geaccepteerd, zullen ze uit het zorgbeeld verdwijnen.

Alleen, het is wat anders dan de biologische evolutie.

Het blijven data

Ethiek is meer dan keuzes maken op basis van heel veel data, filosofie is wat anders dan nadenken met en over heel veel data. Ieder euthanasie-geval is een uniek geval. Al was het alleen al omdat er telkens weer een uniek mens dood gaat. Data kunnen een aanbeveling doen, maar uiteindelijk zal het een mens zijn die de casus beoordeelt. En dan ook nog een tweede mens, een vertrouwensmens.

Kunstmatige intelligentie is de samenvoeging van een algoritme met data, met steeds meer data. En als de data uit onafhankelijke omgevingen komen, gaat het lijken op deep learning. Maar het blijven data. Bestaande metingen. Feiten.

Niet alles is in regels te vatten

Juist in het onbestaande ligt de uitdaging. Die metafoor met de centaur komt weer terug. Het paard-mens. Alles wat paard is, kan worden gevat in algoritmes, in kunstmatige intelligentie, in deep learning desnoods. Daar zitten de exacten. En in het mensenhoofd vinden de niet in regels vastgelegde overwegingen plaats. De rijke speeltuin voor onder andere de historici, filosofen, ethici en levensbeschouwers.

Ze zijn meer nodig dan ooit.