Meer controle en regelgeving nodig voor kunstmatige intelligentie

14 december 2016 Consultancy.nl

Veel beslissingen en keuzes die we in dit digitale tijdperk nemen en maken – of die voor ons worden genomen of gemaakt – zijn niet louter mensenwerk meer. Zij worden voorgerekend door algoritmes. Daarbij mogen we niet zonder meer afgaan op wat algoritmes ons als gewogen informatie presenteren. Vaak is er bias – systematische fouten – in de selectie en zijn uitkomsten gekleurd door een eenzijdig data-aanbod. Maar daarmee is nog niet het gehele probleem van een ongebreideld gebruik van algoritmes benoemd.

Met algoritmes wordt bijvoorbeeld vastgesteld of we voor leningen en hypotheken in aanmerking komen, waar we in beleggen, hoe groot ons betalingsrisico en onze zelfredzaamheid is. De mens doet in zulke standaardbesluitvormingsprocessen meestal wat de computer hem of haar voorschrijft. Terecht wordt er her en der gewaarschuwd voor blind vertrouwen.

De wiskundige berekeningen, op grond waarvan algoritmes selecteren en kiezen, zijn zo complex dat niemand meer met honderd procent zekerheid kan zeggen of ze kloppen. Bovendien houdt het in- en externe toezicht op juistheid, integriteit en operationele doelmatigheid van algoritmes (en van de zuiverheid en representativiteit van de datasets waarmee ze worden gevoed en getraind) geen gelijke tred met de steeds bredere inzet van algoritmes in de maatschappelijke en bedrijfsmatige keuze- en besluitvormingsprocessen.

Zie daar het zwarte gat van de kunstmatige intelligentie in zijn volle omvang. De voorbeelden van schade door onregelmatigheden in algoritmes stapelen zich op. De risico’s worden groter en onoverzichtelijker. Rekenfouten en het gebruik van niet-representatieve data zorgen voor een slechte en onbetrouwbare algoritmische besluitvorming. Dat heeft zowel een grote maatschappelijke als economische impact. Aan de maatschappelijke kant zorgt het voor onterechte uitsluiting en discriminatie, en in het geval van bedrijven en instellingen voor onbetrouwbare rapportages, een grotere fraudekans en foute beslissingen.

Kunstmatige Intelligentie

De opkomst van nieuwe technologieën vergroot de kans op ontsporingen. Door het intensieve gebruik van big data en de introductie van blockchaintechnologie, smart contracts en het internet der dingen, wordt onze afhankelijkheid groter en neemt de complexiteit van onderliggende rekensommen en data-aanbod verder toe. 

Dit roept vragen op die dringend moeten worden beantwoord, zoals hoe goed onze algoritmes bestand zijn tegen manipulatie. Hoe zuiver en representatief de data zijn waarmee algoritmes worden gevoed en getraind. Van welke aannames de ontwikkelaars bij hun berekeningen zijn uitgegaan. Zijn deze wiskundig juist verwerkt en hoeveel ruis is sindsdien ontstaan? Worden algoritmes aangepast aan veranderingen in markt- en omgevingsfactoren en zo ja, hoe? En: hoe kunnen we de kwaliteitscontrole en de verantwoording op een niveau brengen passend bij het groeiende belang van kunstmatige intelligentie?

Wet- en regelgeving

Feit is dat er in onze wet- en regelgeving en controle- en toezichtprocessen nog onvoldoende aandacht is voor deze vraagstukken. Er bestaat geen verplichting om software te testen, laat staan om algoritmes te (laten) checken. Wel schrijft de Wet persoonsbescherming voor dat bij algoritmische besluitvorming altijd mensen moeten zijn betrokken, en per 2018 verplicht de Algemene Verordening Gegevensbescherming organisaties die aan algoritmische besluitvorming doen de logica ervan te kunnen uitleggen. 

Maar dat alleen is niet genoeg. Bij de volgende actualiseringsronde van de wet- en regelgeving rond cybersecurity en privacyvraagstukken moet dit thema breed geadresseerd worden. Er moeten snel internationaal geldende afspraken komen over verantwoordings- en ontwikkeleisen voor algoritmes.

Dit biedt Nederland Dataland ook kansen. Door het goede voorbeeld te geven op het gebied van algoritme-security en algoritme-governance, versterken we onze ambities als mondiaal platform voor databeheer, datatransport en cyberveiligheidsvraagstukken. Bovendien opent het een extra deur naar een perspectiefvolle groeimarkt: de wereldwijde kosten voor de controle op softwarefouten werd onlangs door Cambridge-onderzoekers op €285 miljard per jaar geschat.

Een artikel van Andre Mikkers (voortrekker van de big datapraktijk van PwC) en Jeroen Goudsmit (digital expert bij PwC).

Nieuws

×
A.T. Kearney Accenture ACE Adaptif Adlasz Adviesgroep Novius Anderson MacGyver Andersson Elffers Felix Annalise Arthur D. Little AT Osborne Atos Consulting Avantage Reply B&A Bain & Company Baker Tilly BCG Platinion BDO BearingPoint Berenschot Best Value Group Bisnez BlinkLane Consulting BluPoint BMC Boer & Croon Corporate Finance Boer & Croon Management Bostec Boston Consulting Group Bright & Company | People Strategy buro C5 Bvolve Capgemini Invent Centric Cmotions COMATCH Conclusion Considerati Count & Cooper De Kleine Consultant Deloitte Delta Capita Dimensys Ecorys Eden McCallum Energyprofs Enigma Consulting EY EY-Parthenon Finavista Finext First Consulting flowresulting Front Consulting Galan Groep GalanNXT Grant Thornton Groenewout Gupta Strategists Gwynt Hamstra & Partners Hermes | Partners Hospitality Group Hot ITem House of Performance IG&H Consulting & Interim Improven InContext innergo innogy Consulting INNOPAY Intermedius ITDS Business Consultants JBR JBR Interim Executives Kirkman Company KplusV KPMG Kruger KWINK groep Leeuwendaal M3 Consultancy Magnitude Consulting Magnus Marktlink McKinsey & Company Mercer Methis Consulting METRI Mitopics MLC Mobilee Möbius Monitor Deloitte Morgens MSR Consulting Group OrangeX Ordina Oxyma p2 PA Consulting Group Paul Postma Marketing Consultancy PBLQ PNO Consultants Projective Protiviti Proven Partners PwC Qhuba Quint Wellington Redwood Quintop Raad van Toekomst RevelX RGP Rijnconsult Roland Berger Scenter Schaekel & Partners Schuberg Philis SeederDeBoer Sia Partners Significant Simon-Kucher & Partners SiRM Solid Professionals SOLVE Consulting SparkOptimus Strategy Development Partners Strategy& Student Consultancy Group Summiteers Supply Value Symbol Synechron Business Consulting TEN HAVE Change Management The Next Organization Turner TWST Twynstra Gudde UMS Group UniPartners UPD Vanberkel Professionals Varrlyn Vasco Consult Vintura VODW Voogt Pijl & Partners Wielinq Willis Towers Watson WIN Yellowtail YGroup Young Advisory Group Zestgroup