KPMG helpt Amsterdam met ontwikkeling van ethische algoritmes
De vierde industriële revolutie die zich momenteel voltrekt tovert onze wereld om tot een digitale samenleving. De gemeente Amsterdam realiseert zich dat deze ontwikkeling ook voor problemen kan zorgen. Vergaande digitalisering plaats onze normen en waarden in een ander daglicht, vooral omdat veel beslissingen in de toekomst zullen worden overgelaten aan zelflerende algoritmes, die niet zoals mensen over moreel besef beschikken. Om hier voortijdig grip op te krijgen, schakelde Amsterdam de experts van KPMG in.
Een digitale samenleving kent verschillende voordelen. In de bergen data die mensen creëren schuilt een schat aan informatie op basis waarvan zelflerende algoritmes processen efficiënter kunnen inrichten. Blind vertrouwen in de beslissingen van een computersysteem brengt echter ook gevaar met zich mee. Zo leerde het wervings- en selectiealgoritme van techgigant Amazon zichzelf aan dat mannelijke sollicitanten de voorkeur genoten boven vrouwelijke, wat uiteraard niet wenselijk en zelfs onethisch is.
Gemeente Amsterdam is op de hoogte te zijn van dergelijke risico's. Daarom wil Amsterdam onder leiding van Ger Baron – de Chief Technology Officer (CTO) van de gemeente – zorgen dat geen enkel algoritme binnen de stadsgrenzen wordt gebruikt dat discriminerende of andere onwenselijke beslissingen neemt. Hiertoe zal de gemeente zijn eigen technologie aan een onderzoek onderwerpen. De grondige screening heeft niet enkel betrekking op de zelflerende algoritmes van de gemeenteorganisatie zelf. Ook alle applicaties en webpagina’s van bijvoorbeeld winkels, taxi’s of restaurants uit de hoofdstad vallen volgens de plannen onder het gezag van de gemeente.
Stempelbrigade
Het is betwistbaar of de gemeente commerciële partijen (die binnen de stadsgrenzen actief zijn) kan dwingen mee te werken aan een algoritme-onderzoek. Het gaat immers om websites en apps, die niet zoals winkels een fysieke locatie kennen, waardoor het lastig is vast te stellen welke organisaties wel en welke niet onder de bevoegdheid van de gemeente Amsterdam vallen. Dit wil volgens Baron niet zeggen dat het plan bij voorbaat al gedoemd is te mislukken. Het idee dient echter wel verder uitgewerkt te worden, waartoe de gemeente de adviseurs van KPMG heeft ingeschakeld.
“Als gemeente worstelen we met een manier om ongewenste effecten van kunstmatige intelligentie te controleren. Een algoritme moet precies doen wat je beweert. Het mag ook geen strafbare dingen doen zoals mensen discrimineren”, zegt Baron tegenover het FD. De specialisten van het Big Four-kantoor zullen de komende tijd een methode gaan ontwikkelen waarmee apps en websites aan criteria onderworpen kunnen worden.
Baron vertelt dat het nog niet volledig bekend is hoe websites en apps van bedrijven zullen worden gescreend: “Dit is nieuw terrein. We hebben hier geen ervaring mee.” Het is echter al wel bekend wie zal bepalen of websites en apps van bedrijven voldoen aan de eisen van de gemeente Amsterdam, licht Baron toe: “De accountant moet hier in de toekomst een stempel voor kunnen afgeven. Net als bij de financiële verslaggeving van de gemeente.”
Praktijkervaring
Het afgelopen halfjaar voerde de gemeente Amsterdam in samenwerking met KPMG al experimenten uit met de automatische afhandeling van klachten, bijvoorbeeld over straat- en zwerfvuil. Dit leverde verschillende inzichten op, vertelt Baron in het FD: “In sommige buurten hebben mensen een grotere klachtvaardigheid. Denk aan het centrum of aan Oud-Zuid, waar een grote concentratie advocaten zit. Ik vertel geen geheim als ik zeg dat in die wijken veel sneller een klacht wordt gemeld dan bijvoorbeeld in Amsterdam-Noord. Voor een echte telefoniste is dat geen probleem. Die kan omgaan met ervaren mopperaars, en beoordeelt zelf wat een serieuze klacht is. De computer niet.”
Inmiddels zijn de fouten uit het schoonmaakalgoritme gehaald. De CTO van de gemeente Amsterdam stelt dat het belangrijk is dat ook andere algoritmen op vergelijkbare wijze onder de loep worden genomen. Volgens hem kan op die manier eventuele discriminatie worden voorkomen. “Omdat het systeem zelflerend is, leert het zichzelf ook om bij voorbaat bepaalde wijken vaker schoon te laten maken. Deze worden hierdoor schoner dan andere wijken. Dat is uiteraard niet de bedoeling”, zegt Baron, die hiermee nogmaals het belang van feedbackloops benadrukt.
Lees ook: Interne adviestak van gemeente Amsterdam krijgt ACP-keurmerk.
