Handvatten voor een digitaal ethisch raamwerk

27 maart 2019 Consultancy.nl

De vierde industriële revolutie, die zich momenteel voltrekt, tovert de maatschappij om tot een digitale samenleving. Deze ontwikkeling ontwricht niet enkel het zakenleven, maar plaatst ook onze normen en waarden in een ander daglicht. Pim Menkveld van The Next Organization stelt dat technologie ons dwingt tot het opstellen van een digitaal ethisch raamwerk. De redactie van consultancy.nl sprak met Menkveld over mogelijke handvatten voor zo’n raamwerk. 

Een digitale maatschappij kent verschillende voordelen. In de bergen data die Nederlanders verorberen en creëren schuilt een schat aan informatie, op basis waarvan processen efficiënter kunnen worden ingericht. Ondanks deze plezierige consequenties, moeten de risico’s hier niet worden onderschat, stelt Pim Menkveld, consultant bij The Next Organization: “Stel je een snackautomaat voor die je ervan weerhoudt een tussendoortje te kopen, omdat je zorgverzekeraar aan de hand van data heeft bepaald dat je daarmee het risico op een hartaanval vergroot. Een eenvoudig voorbeeld, maar met verstrekkende gevolgen. Dit brengt een ethische discussie naar voren die betrekking heeft op politici, het zakenleven en feitelijk op onze hele samenleving.” 

Digitale ethiek

Ethiek – of: moraalfilosofie – bestaat sinds mensenheugenis en probeert criteria vast te stellen waarmee een handeling als goed of fout kan worden gekwalificeerd. Met de verandering van de maatschappij de afgelopen eeuwen, verschoven ook de menselijke normen en waarden. Tegenstanders van het verbod op kinderarbeid stelden eind negentiende eeuw dat de economie zou instorten door het Kinderwetje van Van Houten (1874), terwijl dit standpunt momenteel als onethisch wordt beschouwd. Met andere woorden: ethiek is contextafhankelijk.

Onze samenleving ontwikkelt zich op dit moment naar een digitale maatschappij, wat nieuwe vraagstukken oplevert en dus vraagt om een nieuw ethisch raamwerk. Menkveld definieert digitale ethiek aan de hand van Frank Buytendijk van onderzoeksbureau Gartner: “Digitale ethiek omvat de waardensystemen en morele principes voor het uitvoeren van elektronische interacties tussen mensen, bedrijven en dingen. Dit raamwerk zorgt er bijvoorbeeld voor dat technologie die wordt aangestuurd door AI op ethische wijze ten aanzien van levende wezens zal handelen.”Handvatten voor een digitaal ethisch raamwerkVanwege het tempo waarin de technologische en maatschappelijke veranderingen plaatsvinden, zijn verschillende initiatieven in gang gezet om de implementatie van digitale ethiek te stimuleren, zegt Menkveld: “Denk onder andere aan AI4People, dat door het Europese Parlement is opgezet, aan OpenAI, waaraan Elon Musk en Peter Thiel zich hebben verbonden, maar ook aan IEEE, een wereldwijd initiatief rondom de ethiek van autonome en intelligente systemen.” 

Roep om raamwerk

Dat er een noodzaak is om na te denken over digitale ethiek blijkt wel uit een voorbeeld over nepnieuws, vertelt Menkveld: “Het voorbeeld is gecreëerd door de Universiteit van Washington, die Barack Obama een nep-toespraak liet houden.” De onderzoekers van de Amerikaanse universiteit ontwikkelde technologie om mondbewegingen in video zeer realistisch na te bootsen. Eerdere vastgelegde woorden van de voormalig president werden vervolgens uit hun verband getrokken en zorgvuldig achter elkaar geplakt. Hierdoor konden de wetenschappers Obama in hun video allerlei opmerkelijk uitspraken laten doen. 

Zulke trucage kan uiteraard gevaarlijke gevolgen hebben. Verschillende partijen kunnen immers misbruik maken van deze technologie. Zo kunnen commerciële instellingen bijvoorbeeld experts of bekende landgenoten in video’s hun organisaties laten aanprijzen, waardoor consumenten op valse gronden kiezen om een product of dienst al dan niet aan te schaffen. 

Daarnaast kan de inzet van technologie ook in andere gevallen leiden tot problematiek. Zo deed techgigant Amazon een paar jaar een beroep op AI en machine learning om nieuwe werknemers te werven en te selecteren. Amazon’s computermodellen waren getraind om sollicitanten aan de hand van interne data – lees: cv’s van medewerkers – te analyseren en te beoordelen. Omdat de technologiesector wordt gedomineerd door mannen, leerde Amazon’s computersysteem zichzelf aan dat mannelijke kandidaten de voorkeur hadden, wat uiteraard onwenselijk en zelfs onethisch is.  

Handvatten voor een ethisch raamwerk

Volgens Menkveld is het daarom van belang dat bedrijven zich bewust zijn van de gevolgen van technologie. Organisaties kunnen hun bewustzijn op dit gebied vergroten door een digitaal ethisch raamwerk op te stellen. Menkveld laat weten dat het bij het ontwikkelen van zo’n raamwerk van belang is om de volgende zes punten in gedachten te houden. Deze kunnen volgens hem dienen als handvatten.

“Organisaties moeten voldoende tijd besteden aan het monitoren van hun processen door middel van feedbackmomenten, waarmee onbedoelde gevolgen snel uit hun processen verdwijnen.”
– Pim Menkveld

“Allereerst moeten organisaties alle persoonlijke data identificeren waarvoor ze verantwoordelijk zijn”, zegt Menkveld, die ons voor zijn tweede punt herinnert aan het voorbeeld van Amazon: “Organisaties moeten voldoende tijd besteden aan het monitoren van hun processen door middel van feedbackmomenten, waarmee onbedoelde gevolgen snel uit hun processen zullen verdwijnen.” 

Ten derde, zo stelt de adviseur van The Next Organization, dienen organisaties en bedrijven zichzelf een spiegel voor te houden: “Vraag u als organisatie af hoe transparant u bent. Als u het idee hebt dat uw organisatie niet wil dat klanten weten dat u hun gedrag volgt om data-redenen, dan kan dit een aanwijzing zijn dat uw processen in de toekomst een ethische discussie op gang zullen brengen indien klanten hier op een of andere manier achterkomen. Bovendien kunt u uzelf eveneens de vraag stellen of u op die manier wel data wil generen.” 

Het vierde en het vijfde punt sluiten aan bij het derde punt, vertelt Menkveld: “Ga als organisatie na of u data op een toegestane manier verkrijgt en verwerkt. Dat is in overeenstemming met GDPR. Als er een derde partij bij in het spel is, ga dan na of deze op dezelfde manier de wet- en regelgeving naleeft.” Het zesde punt draait om een oud gezegde: “Wat gij niet wilt dat u geschiedt doe dat ook een ander niet”, vertelt Menkveld, die hiermee de zogeheten ‘gouden regel’ aanhaalt: “Vraag uzelf af hoe u behandeld zou willen worden als mens, burger of klant.” 

Aan de slag

Nadat organisaties de zojuist besproken zes punten hebben doorgenomen, kan dat verschillende inzichten opleveren. Zo kan blijken dat sommige data waarover organisaties beschikken vanuit een ethisch (of zelfs juridisch) oogpunt niet moet (of mag) worden opgeslagen. Daarnaast kan blijken dat bepaalde gegevens juist wel mogen worden gebruikt, terwijl men hier eerst anders over dacht. 

Bij het opstellen van een digitaal ethisch raamwerk zijn er zijn twee nauw verwante concepten die organisaties bij het afwerken van de bovengenoemde zes punten te allen tijde in hun achterhoofd moeten hebben, zegt Menkveld: “Het gaat dan over ‘privacy by design’ en ‘design ethics’. Het eerste concept stelt dat privacy een integraal onderdeel moet zijn van organisatorische prioriteiten, projectdoelstellingen, ontwerpprocessen en planningsactiviteiten van alle producten en diensten.” 

Het concept ‘design ethics’ is van vergelijkbare aard. Door technologische ontwikkelingen wordt steeds meer producten en diensten die we dagelijks gebruiken slimmer, en raken ze dieper verweven in ons leven: “Het is voor organisaties dus van groot belang dat zij zichzelf continu afvragen wat ze ontwerpen en hoe ze dat precies doen”, besluit Menkveld.  

Lees ook: Ethische bedrijfscultuur een belangrijke factor voor talent management.


×
×
A.T. Kearney Accenture ACE Adaptif Adlasz Adviesgroep Novius Anderson MacGyver Andersson Elffers Felix Annalise Arthur D. Little AT Osborne Atos Consulting B&A Bain & Company Baker Tilly BCG Platinion BDO BearingPoint Berenschot Best Value Group Bisnez BlinkLane Consulting BluPoint BMC Boer & Croon Management Bolster Bostec Boston Consulting Group Bright & Company | People Strategy Buitenhuis Advies buro C5 Bvolve Capgemini Invent Centric Cmotions COMATCH Conclusion Connective Payments Count & Cooper De Kleine Consultant Deloitte Delta Capita Digital Power Dimensys Ecorys Eden McCallum Energyprofs Enigma Consulting EY EY-Parthenon Finavista Finext First Consulting Flowant flowresulting Galan Groep GalanNXT Grant Thornton Groenewout Gupta Strategists Gwynt Hamstra & Partners Hermes | Partners Hospitality Group Hot ITem House of Performance IG&H Consulting & Interim Improven InContext innergo INNOPAY Intermedius ITDS Business Consultants Itility JBR JBR Interim Executives Kirkman Company Korn Ferry KplusV KPMG KPN ICT Consulting Kruger KWINK groep Leeuwendaal M3 Consultancy Magnitude Consulting Magnus Marktlink Mazars McKinsey & Company Mercer Methis Consulting METRI Mitopics MLC Mobilee Möbius Monitor Deloitte Morgens MSR Consulting Group Oliver Wyman OrangeX Ordina Oxyma p2 PA Consulting Group Paul Postma Marketing Consultancy PBLQ People Change PNO Consultants Projective Protiviti Proven Partners PwC Qhuba Quantics Quint Wellington Redwood Quintop Raad van Toekomst RevelX RGP Rijnconsult Roland Berger Salvéos Schaekel & Partners Schuberg Philis SeederDeBoer Sia Partners Significant Simon-Kucher & Partners SiRM Solid Professionals SOLVE Consulting SparkOptimus Strategy Development Partners Strategy& Student Consultancy Group Summiteers Supply Value Symbol Synechron Business Consulting TEN HAVE Change Management The Next Organization Trevian Turner TWST Twynstra Gudde UMS Group UniPartners UPD Van Oers Corporate Finance Vanberkel Professionals Varrlyn Vasco Consult Vintura VODW Voogt Pijl & Partners Wielinq Willis Towers Watson WIN Yellowtail YGroup YNNO Young Advisory Group Zanders Zestgroup