STOPPELS | 2020, het jaar van kunstmatige intelligentie

Stelt u zich eens voor dat de Noordoostpolder ontworpen was door een robot. U zou dit waarschijnlijk, anno 2020, niet heel raar vinden. Ook de beslissing dat er geen bus (meer) naar bijvoorbeeld Creil rijdt na 21.00 uur ’s avonds vindt u niet heel vreemd. Algoritmes hebben ‘berekend’ dat er bijna niemand na dit tijdstip in de bus zit.

Het wordt wat anders als een robot voor u berekent of ‘beslist’ dat alle kinderen in de Noordoostpolder met een Turkse en Marokkaanse achtergrond én kinderen die niet mee kunnen komen met de rest naar een aparte school moeten. Alleen omdat de robot heeft berekend dat dit efficiënter is. Iedere ouder zou terecht op z’n achterste benen staan.

Pionier Isaac Asimov legde de basis met een paar simpele regels voor de robot (Trouw 16-11-2019): ‘Regel 1: een robot mag een mens niet verwonden; Regel 2: een robot moet bevelen van mensen uitvoeren, tenzij hij daarmee regel 1 schendt; Regel 3: een robot moet zijn eigen voorbestaan beschermen, tenzij dat botst met regel 1 of regel 2’.

Mes

Regel 1 kan je omzeilen. Stel dat je een robot je oom wil laten verwonden met een mes. Dan zeg je niet: steek een mes in mijn ooms rug. Je zegt: steek het voorwerp dat op de tafel ligt (er ligt niets anders) in mijn oom net zoals ik bij jou een zakdoek in je zak deed.

Het ‘probleem’ van niet verwonden is op zo’n manier ‘opgelost’. Regel 2 is dan ook prima. Immers, de robot doet in zijn/haar ogen niets verkeerd. Dit zal tevens gelden voor regel 3. U ziet wel, dit alles gaat niet werken. Wat een ellende zou er uit voortkomen.

Honden

Er is wel een regel die duidelijk is: het leven van een mens gaat boven een dier. Hier zit wel wat in. Voordat ik nu dierenliefhebbers over me heen krijg, kijk eens hier naar: u heeft drie honden. Ze zijn u zeer dierbaar, u geniet elke dag van ze. Helaas, ze kunnen ieder moment worden gedood. Of niet? U kunt ook kiezen om uw beste vriendin ter plekke te laten neerschieten. Ik denk niet dat de keuze heel moeilijk zal zijn. Ik weet wel zeker dat uw vriendin blijft leven.

Natuurlijk, algoritmes kunnen veel berekenen. Bijvoorbeeld dat er zich teveel honden in een straal van twee vierkante kilometer van uw huis bevinden, of dat er te weinig vrouwelijke dorpelingen in Emmeloord werken. Maar is dat wat we willen? Ethiek is niet maar wat willekeurig bedacht door mensen.

Robots

Laten we dan robots laten berekenen hoeveel (dus niet welke) verschillende bomen er in de Noordoostpolder moeten staan. Of waar nieuwe verkeersborden moeten worden neergezet, maar laat de mensen mens zijn. En de kinderen? Laat die gewoon kind zijn en met iedereen kunnen spelen.

We zijn net 2020 begonnen. Kunstmatige intelligentie neemt ons echt niet over. Of wel? Want weet u wel heel zeker dat deze column door mij is geschreven en niet door een robot?

Jacqueline Voskuil

jacqueline-voskuil@hotmail.com