KPMG helpt Amsterdam met ontwikkeling van ethische algoritmes

18 maart 2019 Consultancy.nl

De vierde industriële revolutie die zich momenteel voltrekt tovert onze wereld om tot een digitale samenleving. De gemeente Amsterdam realiseert zich dat deze ontwikkeling ook voor problemen kan zorgen. Vergaande digitalisering plaats onze normen en waarden in een ander daglicht, vooral omdat veel beslissingen in de toekomst zullen worden overgelaten aan zelflerende algoritmes, die niet zoals mensen over moreel besef beschikken. Om hier voortijdig grip op te krijgen, schakelde Amsterdam de experts van KPMG in. 

Een digitale samenleving kent verschillende voordelen. In de bergen data die mensen creëren schuilt een schat aan informatie op basis waarvan zelflerende algoritmes processen efficiënter kunnen inrichten. Blind vertrouwen in de beslissingen van een computersysteem brengt echter ook gevaar met zich mee. Zo leerde het wervings- en selectiealgoritme van techgigant Amazon zichzelf aan dat mannelijke sollicitanten de voorkeur genoten boven vrouwelijke, wat uiteraard niet wenselijk en zelfs onethisch is. 

Gemeente Amsterdam is op de hoogte te zijn van dergelijke risico's. Daarom wil Amsterdam onder leiding van Ger Baron – de Chief Technology Officer (CTO) van de gemeente – zorgen dat geen enkel algoritme binnen de stadsgrenzen wordt gebruikt dat discriminerende of andere onwenselijke beslissingen neemt. Hiertoe zal de gemeente zijn eigen technologie aan een onderzoek onderwerpen. De grondige screening heeft niet enkel betrekking op de zelflerende algoritmes van de gemeenteorganisatie zelf. Ook alle applicaties en webpagina’s van bijvoorbeeld winkels, taxi’s of restaurants uit de hoofdstad vallen volgens de plannen onder het gezag van de gemeente.

Stempelbrigade

Het is betwistbaar of de gemeente commerciële partijen (die binnen de stadsgrenzen actief zijn) kan dwingen mee te werken aan een algoritme-onderzoek. Het gaat immers om websites en apps, die niet zoals winkels een fysieke locatie kennen, waardoor het lastig is vast te stellen welke organisaties wel en welke niet onder de bevoegdheid van de gemeente Amsterdam vallen. Dit wil volgens Baron niet zeggen dat het plan bij voorbaat al gedoemd is te mislukken. Het idee dient echter wel verder uitgewerkt te worden, waartoe de gemeente de adviseurs van KPMG heeft ingeschakeld.

KPMG helpt Amsterdam met ontwikkeling van ethische algoritmes

“Als gemeente worstelen we met een manier om ongewenste effecten van kunstmatige intelligentie te controleren. Een algoritme moet precies doen wat je beweert. Het mag ook geen strafbare dingen doen zoals mensen discrimineren”, zegt Baron tegenover het FD. De specialisten van het Big Four-kantoor zullen de komende tijd een methode gaan ontwikkelen waarmee apps en websites aan criteria onderworpen kunnen worden. 

Baron vertelt dat het nog niet volledig bekend is hoe websites en apps van bedrijven zullen worden gescreend: “Dit is nieuw terrein. We hebben hier geen ervaring mee.” Het is echter al wel bekend wie zal bepalen of websites en apps van bedrijven voldoen aan de eisen van de gemeente Amsterdam, licht Baron toe: “De accountant moet hier in de toekomst een stempel voor kunnen afgeven. Net als bij de financiële verslaggeving van de gemeente.” 

Praktijkervaring

Het afgelopen halfjaar voerde de gemeente Amsterdam in samenwerking met KPMG al experimenten uit met de automatische afhandeling van klachten, bijvoorbeeld over straat- en zwerfvuil. Dit leverde verschillende inzichten op, vertelt Baron in het FD: “In sommige buurten hebben mensen een grotere klachtvaardigheid. Denk aan het centrum of aan Oud-Zuid, waar een grote concentratie advocaten zit. Ik vertel geen geheim als ik zeg dat in die wijken veel sneller een klacht wordt gemeld dan bijvoorbeeld in Amsterdam-Noord. Voor een echte telefoniste is dat geen probleem. Die kan omgaan met ervaren mopperaars, en beoordeelt zelf wat een serieuze klacht is. De computer niet.” 

Inmiddels zijn de fouten uit het schoonmaakalgoritme gehaald. De CTO van de gemeente Amsterdam stelt dat het belangrijk is dat ook andere algoritmen op vergelijkbare wijze onder de loep worden genomen. Volgens hem kan op die manier eventuele discriminatie worden voorkomen. “Omdat het systeem zelflerend is, leert het zichzelf ook om bij voorbaat bepaalde wijken vaker schoon te laten maken. Deze worden hierdoor schoner dan andere wijken. Dat is uiteraard niet de bedoeling”, zegt Baron, die hiermee nogmaals het belang van feedbackloops benadrukt.

Lees ook: Interne adviestak van gemeente Amsterdam krijgt ACP-keurmerk.


×
×
A.T. Kearney Accenture ACE Adaptif Adlasz Adviesgroep Novius Anderson MacGyver Andersson Elffers Felix Annalise Arthur D. Little AT Osborne Atos Consulting B&A Bain & Company Baker Tilly BCG Platinion BDO BearingPoint Berenschot Best Value Group Bisnez BlinkLane Consulting BluPoint BMC Boer & Croon Management Bolster Bostec Boston Consulting Group Bright & Company | People Strategy Buitenhuis Advies buro C5 Bvolve Capgemini Invent Centric Cmotions COMATCH Conclusion Connective Payments Count & Cooper De Kleine Consultant Deloitte Delta Capita Digital Power Dimensys Ecorys Eden McCallum Energyprofs Enigma Consulting EY EY-Parthenon Finavista Finext First Consulting Flowant flowresulting Galan Groep GalanNXT Grant Thornton Groenewout Gupta Strategists Gwynt Hamstra & Partners Hermes | Partners Hospitality Group Hot ITem House of Performance IG&H Consulting & Interim Improven InContext innergo INNOPAY Intermedius ITDS Business Consultants Itility JBR JBR Interim Executives Kirkman Company Korn Ferry KplusV KPMG KPN ICT Consulting Kruger KWINK groep Leeuwendaal M3 Consultancy Magnitude Consulting Magnus Marktlink Mazars McKinsey & Company Mercer Methis Consulting METRI Mitopics MLC Mobilee Möbius Monitor Deloitte Morgens MSR Consulting Group Oliver Wyman OrangeX Ordina Oxyma p2 PA Consulting Group Paul Postma Marketing Consultancy PBLQ People Change PNO Consultants Projective Protiviti Proven Partners PwC Qhuba Quantics Quint Wellington Redwood Quintop Raad van Toekomst RevelX RGP Rijnconsult Roland Berger Salvéos Schaekel & Partners Schuberg Philis SeederDeBoer Sia Partners Significant Simon-Kucher & Partners SiRM Solid Professionals SOLVE Consulting SparkOptimus Strategy Development Partners Strategy& Student Consultancy Group Summiteers Supply Value Symbol Synechron Business Consulting TEN HAVE Change Management The Next Organization Trevian Turner TWST Twynstra Gudde UMS Group UniPartners UPD Van Oers Corporate Finance Vanberkel Professionals Varrlyn Vasco Consult Vintura VODW Voogt Pijl & Partners Wielinq Willis Towers Watson WIN Yellowtail YGroup YNNO Young Advisory Group YourConnector Zanders Zestgroup