KPMG helpt Amsterdam met ontwikkeling van ethische algoritmes

18 maart 2019 Consultancy.nl

De vierde industriële revolutie die zich momenteel voltrekt tovert onze wereld om tot een digitale samenleving. De gemeente Amsterdam realiseert zich dat deze ontwikkeling ook voor problemen kan zorgen. Vergaande digitalisering plaats onze normen en waarden in een ander daglicht, vooral omdat veel beslissingen in de toekomst zullen worden overgelaten aan zelflerende algoritmes, die niet zoals mensen over moreel besef beschikken. Om hier voortijdig grip op te krijgen, schakelde Amsterdam de experts van KPMG in. 

Een digitale samenleving kent verschillende voordelen. In de bergen data die mensen creëren schuilt een schat aan informatie op basis waarvan zelflerende algoritmes processen efficiënter kunnen inrichten. Blind vertrouwen in de beslissingen van een computersysteem brengt echter ook gevaar met zich mee. Zo leerde het wervings- en selectiealgoritme van techgigant Amazon zichzelf aan dat mannelijke sollicitanten de voorkeur genoten boven vrouwelijke, wat uiteraard niet wenselijk en zelfs onethisch is. 

Gemeente Amsterdam is op de hoogte te zijn van dergelijke risico's. Daarom wil Amsterdam onder leiding van Ger Baron – de Chief Technology Officer (CTO) van de gemeente – zorgen dat geen enkel algoritme binnen de stadsgrenzen wordt gebruikt dat discriminerende of andere onwenselijke beslissingen neemt. Hiertoe zal de gemeente zijn eigen technologie aan een onderzoek onderwerpen. De grondige screening heeft niet enkel betrekking op de zelflerende algoritmes van de gemeenteorganisatie zelf. Ook alle applicaties en webpagina’s van bijvoorbeeld winkels, taxi’s of restaurants uit de hoofdstad vallen volgens de plannen onder het gezag van de gemeente.

Stempelbrigade

Het is betwistbaar of de gemeente commerciële partijen (die binnen de stadsgrenzen actief zijn) kan dwingen mee te werken aan een algoritme-onderzoek. Het gaat immers om websites en apps, die niet zoals winkels een fysieke locatie kennen, waardoor het lastig is vast te stellen welke organisaties wel en welke niet onder de bevoegdheid van de gemeente Amsterdam vallen. Dit wil volgens Baron niet zeggen dat het plan bij voorbaat al gedoemd is te mislukken. Het idee dient echter wel verder uitgewerkt te worden, waartoe de gemeente de adviseurs van KPMG heeft ingeschakeld.

KPMG helpt Amsterdam met ontwikkeling van ethische algoritmes

“Als gemeente worstelen we met een manier om ongewenste effecten van kunstmatige intelligentie te controleren. Een algoritme moet precies doen wat je beweert. Het mag ook geen strafbare dingen doen zoals mensen discrimineren”, zegt Baron tegenover het FD. De specialisten van het Big Four-kantoor zullen de komende tijd een methode gaan ontwikkelen waarmee apps en websites aan criteria onderworpen kunnen worden. 

Baron vertelt dat het nog niet volledig bekend is hoe websites en apps van bedrijven zullen worden gescreend: “Dit is nieuw terrein. We hebben hier geen ervaring mee.” Het is echter al wel bekend wie zal bepalen of websites en apps van bedrijven voldoen aan de eisen van de gemeente Amsterdam, licht Baron toe: “De accountant moet hier in de toekomst een stempel voor kunnen afgeven. Net als bij de financiële verslaggeving van de gemeente.” 

Praktijkervaring

Het afgelopen halfjaar voerde de gemeente Amsterdam in samenwerking met KPMG al experimenten uit met de automatische afhandeling van klachten, bijvoorbeeld over straat- en zwerfvuil. Dit leverde verschillende inzichten op, vertelt Baron in het FD: “In sommige buurten hebben mensen een grotere klachtvaardigheid. Denk aan het centrum of aan Oud-Zuid, waar een grote concentratie advocaten zit. Ik vertel geen geheim als ik zeg dat in die wijken veel sneller een klacht wordt gemeld dan bijvoorbeeld in Amsterdam-Noord. Voor een echte telefoniste is dat geen probleem. Die kan omgaan met ervaren mopperaars, en beoordeelt zelf wat een serieuze klacht is. De computer niet.” 

Inmiddels zijn de fouten uit het schoonmaakalgoritme gehaald. De CTO van de gemeente Amsterdam stelt dat het belangrijk is dat ook andere algoritmen op vergelijkbare wijze onder de loep worden genomen. Volgens hem kan op die manier eventuele discriminatie worden voorkomen. “Omdat het systeem zelflerend is, leert het zichzelf ook om bij voorbaat bepaalde wijken vaker schoon te laten maken. Deze worden hierdoor schoner dan andere wijken. Dat is uiteraard niet de bedoeling”, zegt Baron, die hiermee nogmaals het belang van feedbackloops benadrukt.

Lees ook: Interne adviestak van gemeente Amsterdam krijgt ACP-keurmerk.


×
×
Accenture ACE Company Adaptif Adlasz Adviesgroep Novius AevesBenefit Anderson MacGyver Andersson Elffers Felix Annalise Arlande Arthur D. Little AT Osborne Atos Consulting Bain & Company Baker Tilly BDO BearingPoint Berenschot Best Value Group Bewegin Bisnez BlinkLane Consulting BluPoint BMC Boer & Croon Management BOLD Bolster Bostec Boston Consulting Group Bright & Company | People Strategy Buitenhuis Advies buro C5 Bvolve Capgemini Invent Cegeka Consulting Cmotions COMATCH Conclusion Count & Cooper CPMview De Issuemakers De Kleine Consultant Deloitte Delta Capita Digital Power Dimensys Ecorys Eden McCallum Energyprofs Enigma Consulting Eurekon EY EY-Parthenon Finext First Consulting Flowant flowresulting Fronteer FTE Groep FTE Improvery Galan Groep GalanNXT Grant Thornton Groenewout Gupta Strategists Gwynt Hamstra & Partners Hogenhouck m&a Hospitality Group Hot ITem House of Performance IG&H Improven innergo INNOPAY Intermedius ITDS Business Consultants Itility JBR JBR Interim Executives Kearney Kirkman Company Korn Ferry KplusV KPMG Kruger Kurtosis KWINK groep Leeuwendaal M3 Consultancy Magnus Marktlink Mazars McKinsey & Company Mercer METRI MLC Mobilee Möbius Monitor Deloitte Morgens MSR Consulting Group NEWCRAFT Ngenious Node1 Oliver Wyman OrangeX Ordina Organize Agile p2 PA Consulting Group Paul Postma Marketing Consultancy People Change PNO Consultants Projective Protiviti Proven Partners Prowareness PwC Quint Quintop Raad van Toekomst RedFoxBlue ResidentieProfs Rijnconsult Riverwise Roland Berger Salvéos Schaekel & Partners SeederDeBoer Sia Partners Significant Groep Simon-Kucher & Partners SiRM Solid Professionals SOLVE Consulting SparkOptimus Staffing MS Strategy& Student Consultancy Group Summiteers Supply Value Symbol Synechron The Next Organization TIC Advisory Trevian Turner TWST TwynstraGudde UMS Group UniPartners UPD Van Oers Corporate Finance Vanberkel Professionals Varrlyn Vasco Consult Vintura VODW Volt Strategy Voogt Pijl & Partners WIN Xebia Yellowtail YGroup YNNO Young Advisory Group YourConnector Zanders Zestgroup