De strategische vraagstukken over de inzet van AI doen steeds meer haar intrede in de Nederlandse bestuurskamers. De algoritmes van grote IT-bedrijven zoals Google, Facebook en Instagram werken al jarenlang met AI en ‘snappen’ steeds beter hoe zij de gebruiker kunnen sturen op basis van eerder gedragingen en context informatie. Maar het toepassen is niet alleen weggelegd voor de ‘happy few’.
Menig organisatie is naarstig op zoek naar toepasbare AI voor zijn specifieke en veelal arbeidsintensieve werkprocessen. Terwijl vele bestuurders en managers zich verlustigen aan de kostenbesparende en vernieuwende mogelijkheden luiden wetenschappers, privacy-bewakers en oud-medewerkers tegelijkertijd steeds vaker en harder de noodklok over het corresponderend gevaar: ‘are we in control?’.
AI is door alle buzz erom heen, een wereld vol met hypes en algemeenheden geworden. Het is volgens mij goed om te beginnen met de vraag wat kunstmatige intelligentie nu eigenlijk is. En lijkt het op haar tegenhanger ‘de natuurlijke intelligentie’? Deze essentiële vraag werd al in 1950 door Turing in het prachtig iconisch artikel ‘Computing Machinery and Intelligence’ behandeld. Turing vraagt zich in dit artikel van zestig jaar geleden al af hoe wij in de toekomst zouden kunnen vaststellen of computers echt kunnen denken. Echt, zoals mensen.
Hij creëert daarvoor een test, die later bekend werd als ‘de Turing-test’ maar in zijn artikel ‘het imitatiespel’ wordt genoemd (net als de titel van de film uit 2014 over het leven van Turing). De test gaat als volgt: zet in een kamertje een man (A) en in een ander kamertje een vrouw (B). De tester moet door middel van vragen proberen te ontdekken wie de man is en wie de vrouw is. Een van de twee mag zijn uiterste best doen om de tester te misleiden, door bijvoorbeeld foute antwoorden te geven.
De ‘tester’ mag vragen stellen maar om te zorgen dat er geen handschriften noch stemmen hints geven over het antwoord moeten de twee personen hun antwoorden in afgezonderde kamers typen. Stel dat de vrouw de waarheid spreekt dan zal ze waarschijnlijk zo goed mogelijk proberen te antwoorden, zodat de vragensteller weet dat ze een vrouw is. Maar ja, de man die wil misleiden zal zichzelf ook als een vrouw voordoen in zijn antwoorden. Het percentage van de goede versus de foute antwoorden van de tester wordt in kaart gebracht.
De crux van Turing is dat als we de man of de vrouw kunnen vervangen door een computer zonder dat er een significant verschil is in het beoordelingsresultaat van de tester. Kan de tester bepalen wie van de twee de computer is?
Wij stellen nu de vraag: “Wat zal er gebeuren als een machine in dit spel de rol van A op zich neemt? Zal de ondervrager even vaak verkeerd beslissen als het spel zo wordt gespeeld als wanneer het spel wordt gespeeld tussen een man en een vrouw? Deze vragen vervangen onze oorspronkelijke vraag: “Kunnen machines denken?
Een generieke test in lijn met Turing’s aanpak en visie op automatisering. Logische stappen met logische testen. Hij heeft op dat moment nog geen enkel idee of en wanneer het mogelijk is en hij heeft zelfs geen aanpak in gedachten. Als schot voor de boeg eindigt hij zijn artikel met een wens en denkrichting:
We mogen hopen dat machines uiteindelijk op alle zuiver intellectuele gebieden de concurrentie met de mens zullen aangaan. Maar welke zijn de beste om mee te beginnen? Zelfs dit is een moeilijke beslissing. Veel mensen denken dat een zeer abstracte activiteit, zoals het schaakspel, het beste zou zijn. Men kan ook volhouden dat het het beste is de machine te voorzien van de beste zintuigen die men voor geld kan kopen, en haar dan leren Engels te verstaan en te spreken. Dit proces zou het normale onderwijs van een kind kunnen volgen. Dingen zouden worden aangewezen en benoemd, enz. Nogmaals, ik weet niet wat het juiste antwoord is, maar ik denk dat beide benaderingen moeten worden geprobeerd.
Nu, ruim 60 jaar later, onderwijzen we computers als kinderen. Met behulp van geavanceerde Machine Learning technologie, voeden wij hun algoritmes met data. Op deze manier laten wij steeds sneller wordende computers trainen, patronen herkennen en leren. Op basis van wat zij hebben geleerd, laten wij de algoritmes besluiten nemen en acties uitvoeren. We voeden ze met feedback en nieuwe resultaten zodat ze steeds intelligenter worden. Aan de hand van dergelijke AI algoritmes laat bijvoorbeeld Tesla auto’s autonoom rijden, stelt Spotify prachtige playlists voor, plakt Facebook die ene specifieke advertentie in jouw tijdslijn, schrijft Netflix vervolgafleveringen op basis van een succesvolle serie.
AI kan dus op basis van trainingsdata ‘intelligentie imiteren’. Leuk, aardig, betekenisvol maar waarom is het dan een strategisch vraagstuk? De vraag is in welke mate het bestuur in control is op moment dat zijn werkprocessen door AI-algortimes laat ondersteunen of vervangen. Een paar voorbeelden:
- Als een AI-werving & selectie-algoritme wordt ingezet bij hoge volumes sollicitanten, hoe voorkomt men dan een niet-inclusieve werving & selectie?
- Als een AI-risico-assessment-algoritme bij een hypotheek ervoor zorgt men op oneigenlijke gronden bepaalde groepen worden uitgesloten?
- Als een AI-pricings-algoritme bij een webshop ervoor zorgt dat er bepaalde mensen worden benadeeld?
Veel ethische en praktische vragen komen aan bod. Het gaat vaak om zij-effecten, die van uitsluiten van bepaalde groepen mensen, het trekken van de verkeerde conclusies, het op hol slaan in speficieke gevallen. Begrijpt het bestuur en haar toezichthouders de reikwijdte en diepgang van deze technologie? Wat zijn de denkrichtingen voor hun strategie en wat zijn de does and don’ts. Hoe monitoren zij de voortgang, bewaken zij dat de essentie van de organisatie overeind blijft staan en pakken zij tegelijkertijd ook de nieuwe kansen die AI wel degelijk biedt. Are we in control?
Niet dat er niet veelvuldig over wordt gediscussieerd en over wordt geschreven. Enkele richtinggevende artikelen:
- A history of machine learning
- Everyday Ethics for Artificial Intelligence, 2010
- Artificial Intelligence: the global landscape of ethics guidelines, 2019
Misschien moeten wij als mens intelligenter worden op het domein van AI? Op een manier die Turing voorzag voor computers om intelligent te worden? Met het voeden van relevante kennis en dan stap voor stap leren. Hongerig lezend en lerend als een schoolkind. Om vervolgens met alle kennis van dit domein het echte gesprek met elkaar aan de bestuurstafel aan te gaan. Het lijkt mij een goed begin.
Hilversum, 31 oktober 2021