Onafhankelijk toezicht nodig op toepassen van data in systemen

06 april 2017 Consultancy.nl

De dataficatie van de samenleving gaat samen met veel aandacht voor aspecten als privacy en veiligheid. Veel minder aandacht gaat uit naar de vraag of systemen onder de motorkap wel deugen en ons eerlijke en objectieve diensten leveren. Dat vraagstuk wordt steeds belangrijker en vraagt om een nieuw model voor het borgen van vertrouwen. Onafhankelijke, betrouwbare partijen moeten hierin een essentiële rol gaan vervullen.

De samenleving raakt verslaafd aan het analyseren van data en dat is niet verwonderlijk. Data-analyses maken ons leven immers elke dag mooier en gemakkelijker. Voorwaarde is wel dat er voldoende oog is voor een zorgvuldige toepassing van die analyses. Daarbij gaat het niet alleen om privacy en veiligheid. We willen immers ook dat de analyses voldoen aan onze normen en waarden.

Dat dit meer is dan een nuanceverschil laat het gebruik van een navigatiesysteem zien. Om je als gebruiker op een snelle manier van A naar B te brengen is het essentieel dat het systeem aan de volgende voorwaarden voldoet. De kwaliteit van de (kaart)data moet deugen, het algoritme – de instructies die worden meegegeven – moet onder alle omstandigheden tot een goed routeadvies komen en het routeadvies moet het belang van de bestuurder dienen. Van dat laatste is bijvoorbeeld geen sprake als het algoritme een voorkeur heeft voor routes langs een bepaald merk tankstation.

De laatste voorwaarde krijgt op dit moment relatief weinig aandacht, maar wordt met de week belangrijker nu wij in vrijwel alle facetten van ons leven steeds afhankelijker worden van algoritmes. Voorbeelden te over. Huisartsen bijvoorbeeld laten zich ondersteunen door beslissingsondersteunende systemen waarin algoritmes worden losgelaten op diverse databronnen. En dan hoop je maar dat deze daadwerkelijk in het belang van je gezondheid handelen. En recruiters laten algoritmes op zoek gaan naar de beste kandidaat voor een functie. In dit geval is het maar te hopen dat het algoritme daarbij niet discrimineert. De zelfrijdende auto die eraan komt is straks eigenlijk één groot algoritme. Het voertuig zal in situaties terechtkomen waarin wij als mensen regelmatig ethische afwegingen moeten maken.

Onafhankelijk-toezicht nodig op toepassen van data in systemen

Burgers moeten er kortom op kunnen vertrouwen dat het onder de motorkap – waar de data-analyse plaatsvindt – deugt. Zij kunnen dat immers in veel gevallen niet zelf vaststellen. En dus is er een nieuw model nodig om ons vertrouwen daarin te borgen, een model waarin onafhankelijke, betrouwbare partijen – de custodians – de vertrouwensrol op zich nemen.

Deze custodians bewaken niet alleen de wijze waarop wordt omgegaan met gemeenschappelijke toegang tot data en de daaraan gerelateerde controleerbare processen, maar ook of analyses voldoen aan onze normen en waarden. Niet alleen voor individuele organisaties, maar ook of misschien wel juist voor netwerken van organisaties die data delen. Vertrouwen is hierbij essentieel en we weten hoe snel vertrouwen kan verdampen in geval van incidenten.

Accountants weten als geen ander hoe ingewikkeld die rol is. Het vereist een organisatie waarbij het maatschappelijk belang bovenaan staat en de maatschappelijke vertrouwenspositie onder geen enkel beding geschaad mag worden. Dat betekent een vergaande bereidheid als custodian om transparant te zijn, nauw samen te werken met nationale en internationale toezichthouders en publiekelijk verantwoording af te leggen.

Het vergt daarnaast vertrouwen van zowel de overheid als primaire hoeder van verantwoorde analyse als het bedrijfsleven dat bereid moet zijn data en daaraan gerelateerde processen controleerbaar te maken en te delen. En het vergt tenslotte aanzienlijke investeringen en de bereidheid om langjarige verplichtingen aan te gaan in een snel veranderende omgeving. Het behoud van maatschappelijk vertrouwen in de slimme samenleving is de winst die op deze manier gemaakt kan worden en deze winst is onschatbaar.

Een artikel van Albert Röell, bestuursvoorzitter van KPMG, en Sander Klous, partner bij KPMG en hoofd van de Data & Analytics praktijk van het accountants- en advieskantoor. Dit artikel is door Röell en Klous eerder geplaatst in het Financieele Dagblad (FD).

Nieuws