Programmeren we straks zelf onze stoplichten?

“AI als burgemeester”, is dat mogelijk? Die vraag stond een paar weken geleden centraal in een door Oddstream georganseerde paneldiscussie waar ik aan deelnam. Al gauw werd duidelijk dat het antwoord ‘nee’ is als de vraag letterlijk wordt genomen. In het functieprofiel van een burgemeester zijn het juist de menselijke vaardigheden die er toe doen, zo merkte professor Pim Haselager direct op. Die kwaliteiten vervangen door een AI systeem kan niet, of het is niet wenselijk om dat te doen.

Toch is de AI burgemeester wel een goede insteek om te discussieeren over de invloed van Artificial Intelligence in ons eigen leven. Door ons een persoon in te beelden die gaat over beslissingen die in onze directe omgeving spelen, komt de discussie heel dichtbij. Dan gaat het niet over een algemene mening over AI, maar door het onderwerp lokaal te benaderen en erover na te denken aan de hand van concrete voorbeelden kan de kwestie ontleed worden in vragen als: in welke situaties is het wenselijk dat AI wordt ingezet? Hoe autonoom mag de AI z’n gang gaan? Welk soort AI zou geschikt zijn? En aan welke condities en eisen moet vervolgens worden voldaan?

Een vaak gestelde eis is dat AI zich moet kunnen verklaren. Een op regels gebaseerd systeem kan dat, maar de hooggespannen verwachtingen aangaande AI gaan juist over systemen die niet volledig en tot in detail en door mensen zijn ontworpen. Neurale netwerken worden ingesteld (getraind) op basis van grote datasets waarin de relatie tussen input en gewenste output staat aangegeven. De resulterende beslissingen die zo’n systeem neemt zijn theoretisch wel maar praktisch niet meer te traceren. Wel kan kan er gecontroleerd worden of de gegevens in de trainingset correct zijn vergaard en of de data een compleet en eerlijk beeld geeft. Maar of het acceptabel is om dergelijke systemen in te zetten, zal per toepassing of doeleinde moeten worden bepaald. Misschien is het onacceptabel dat zo’n systeem autonoom beslissingen gaat nemen, maar is het een geheel andere zaak als het wordt beschouwd als een hulpmiddel om door Big Data te struinen en daarin iets op te merken dat handmatig of met met het blote oog zou niet zijn opgevallen. AI vervloeken of bejubelen is erg context afhankelijk.

Behalve de vraag of bestaande taken efficienter en consequenter kunnen worden uitgevoerd door AI systemen, is het ook interessant om te kijken naar geheel nieuwe mogelijkheden. Daartoe nodigt de titel “AI als burgemeester” ook uit. Wat als niet alleen de burgemeester verandert in een geautomatiseerde cyborg, maar ook wij onderdanen semi-digitale wezens worden? Met de smartphone in onze hand zijn we dat al deels en met de toekomstige augmented reality bril op onze neus worden we het zeker. We belanden dan in een wereld die nog een stap verder gaat dan de situatie die je nu aantreft in sommige Chinese steden, waar stoplichten zijn voorzien van gezichtsherkenning en het lopen door rood automatisch wordt bestraft met puntenaftrek op je centrale profiel. Maar behalve een angstbeeld, biedt een volledig digitaal opererende wereld ook nieuwe mogelijkheden en voordelen. Er is een micromanagement van de burger mogelijk, met oog voor lokale details en wensen. Als plaatselijke beslissingen genomen worden door gedistribueerde systemen die volledig open en transparant zijn over de onderliggende regels, dan kunnen regels ook lokaal ‘getweakt’ worden. Wellicht dat een gemeenschap zelfs eigenhandig kan bepalen wat de beste configuratie aan regels is voor het stoplicht op de hoek, met oog voor lokale behoeften en wensen. Als we zelf aan de knoppen kunnen zitten dan kunnen we besluiten om te programmeren dat overtredingen buiten spitstijd minder zwaar tellen. Of wellicht dat ieder 3 credits krijgt per dag om te besteden aan lichte publieke ongehoorzaamheid?

In een geautomatiseerde wereld kan de controle van bovenaf worden opgelegd, maar ook biedt het de mogelijkheid om juist van onderaf input te ontvangen. Als we niet op een digitale manier discussieren en voor of tegen de komst van ‘smart’ stoplichten zijn maar als we zelf aan de knoppen kunnen zitten om te bepalen hoe de wereld om ons heen functioneert, is er een zeer verregaande vorm van directe democratie mogelijk. Met als enige vereiste dat een meerderheid van de bevolking gaat beschikken over programmeer-skills. Maar dat is uberhaupt een zinvolle vaardigheid in een semi-digitale toekomst waarin geldt “ program or be programmed”.

Met speculatieve augmented reality projecten doe ik hands-on onderzoek naar de manier waarop we in de toekomst met AR te maken gaan krijgen http://sndrv.nl

Met speculatieve augmented reality projecten doe ik hands-on onderzoek naar de manier waarop we in de toekomst met AR te maken gaan krijgen http://sndrv.nl