Het gebruik van algoritmes: extreem waardevol, of juist gevaarlijk?
Big data-analysetechnieken leveren waarde en transparantie op, maar hebben zeker ook een keerzijde. Dat zegt marketingexpert Paul Postma. De redactie van Consultancy.nl ging hierover met hem in gesprek.
Algoritmes worden de afgelopen jaren steeds belangrijker. Voor verschillende gecompliceerde bedrijfsprocessen zijn ze inmiddels onmisbaar geworden. Een algoritme is niets meer of minder dan een rekenmodel dat de kans aangeeft op een specifieke gebeurtenis. Binnen verschillende sectoren hebben algoritmes uiteenlopende toegevoegde waardes. Denk onder meer aan verzekeraars die dergelijke computermodellen inzetten om risico’s te verlagen.
Een recent voorbeeld komt van Albert Heijn. De supermarktketen houdt een proef met algoritmes op basis waarvan minder voedsel wordt verspild. Het algoritme berekent optimale afprijzingsbedragen aan de hand van onder andere de verkoophistorie, het weer, de voorraad en de houdbaarheidsdatum. Het computermodel maakt een paar keer per dag zo’n berekening. De verkooprijzen worden vervolgens dynamisch afgeprijsd, vertelt Paul Postma, oprichter van adviesbureau PPMC: “En de eerste testen wijzen er inderdaad op dat er minder voedsel wordt verspild. Dat is goed nieuws.”
Ook de politie maakt gebruik van artificial intelligence (AI) en algoritmes en identificeert daarmee wijken waar de kans op inbraak het grootst is, zegt Postma: “De politie kan op die manier zijn bezetting stukken beter afstemmen.” Verschillende Nederlandse gemeentes zetten eveneens algoritmes in, bijvoorbeeld om uitkeringsfraude op te sporen, vertelt Postma: “Creditcardmaatschappijen passen ze ook toe. Fraudegevallen hebben een afwijkend patroon. Maar dat patroon is nauwelijks door het menselijke brein te herkennen, terwijl algoritmes het wel herkennen. Dan gaat de alarmbel gelijk af om te checken of het inderdaad om fraude gaat. Gelukkig maar dat er zulke rekenmodellen zijn: zo had VISA tot twee keer toe eerder door dan ikzelf dat met mijn kaart werd gefraudeerd. Leve de algoritmes!”
Onderdeel van de big data-familie
Terwijl momenteel veel aandacht uitgaat naar AI, is het belangrijk om te onthouden dat dit slechts één technologie is die behoort tot de familie der analysetools, benadrukt Postma: “Een algoritme is één van de methoden, maar er zijn er veel meer. Denk naast AI ook aan machine learning, neurale netwerken of aan correlatieanalyses. Ze zijn allemaal onderdeel van de big data-familie van datagestuurde bedrijfsprocessen.”
Bij iedere tool moet een gebruiker beginnen met het identificeren van een gebeurtenis die onderdeel is van het beleid van zijn of haar organisatie, vertelt Postma: “Dat kan een gebeurtenis zijn die je wilt vermijden – zoals schade, fraude, opzegging, ziekteverzuim, aanslagen, bedrijfsongevallen of wachttijden – of een gebeurtenis die je als organisatie juist zoveel mogelijk wil laten plaatsvinden – denk aan orders, nieuwe klanten, bestsellers, succesvolle medewerkers of aan misdadigers opsporen.” Als een organisatie het proces en de gebeurtenis heeft gekozen, moet deze zoeken welke relevante data al beschikbaar zijn: “Vervolgens zoek je in de gereedschapskist van analysetools welk instrument voor jouw organisatie het meest geschikt is”, licht Postma toe.
Keerzijde?
Waar de bovenstaande voorbeelden anders doen vermoeden, zijn juist de negatieve gevolgen van algoritmes de afgelopen maanden flink in het nieuws geweest. Dat is volgens Postma ten dele een terechte ontwikkeling: “Critici van algoritmes hebben gelijk wanneer de gebruikte data niet blijkt te zijn geactualiseerd. Datasets waar jaren terug sterke voorspellingen uit rolden, kunnen inmiddels van minder hoge kwaliteit zijn geworden. Het kan in zo’n geval zomaar zo zijn dat het algoritme – op basis van verouderde data – verkeerde keuzes maakt. Organisaties moeten hierom periodiek checken of een algoritme nog altijd de juiste keuzes maakt door hun datasets te controleren.”
Algoritmes die vaststellen wat iemand het liefste leest, ziet of hoort, en daarop zijn of haar aanbod vaststellen, worden door vrijwel niemand onheus bejegend. Toch schuilt daarin wel een gevaar volgens Postma: “Door dergelijke algoritmes wordt je kennis beperkt. Voor boeken, muziek en films is dat nog tot daar aan toe, maar als het over standpunten gaat, krijg je bij uitstek het nieuws voorgeschoteld waarin je visie steeds wordt bevestigd.” Zo dompelen mensen zich onbewust helemaal onder in hun eigen standpunten, waardoor discussies verharden, legt Postma uit: “Wie vindt dat klimaatverandering een complot van socialisten is, krijgt via de sociale media artikelen van mensen voor zich die dat ook vinden. En zij versterken daardoor elkaars visie weer. Meer data leidt op die manier juist tot minder inzicht. En dat is zorgelijk.”
“Wie vindt dat klimaatverandering een complot van socialisten is, krijgt via de sociale media artikelen van mensen voor zich die dat ook vinden. En zij versterken daardoor elkaars visie weer. Meer data leidt op die manier juist tot minder inzicht. En dat is zorgelijk.”
– Paul Postma
Daarnaast is er volgens Postma nog een ander probleem waar men zich bewust van zou moeten zijn: “Sensatiebeluste aandachtstrekkers op clickbaitsites krijgen meer reacties dan berichten van de serieuze media. Zo verdringt pulp het echte nieuws.” Een duidelijk voorbeeld hiervan – lees: hoe mensen zijn te manipuleren dankzij hun Facebook-verslaving – is breed uitgemeten in de media. Postma: “De briljante finetuning door Cambridge Analytica op sociale profielen, haarfijn afgeleid uit Facebook-data, droeg bij aan de volstrekt onverwachte Brexit-uitslag.”
“Je mag je absoluut afvragen of de democratie op die manier wordt beschadigd”, vervolgt Postma. “In elk geval heeft het voorval wel geleid tot het einde van referenda; dat zijn inmiddels wedstrijden geworden tussen trollenfabrieken om iemands voorkeur er doorheen te drukken. D66 had dat wat duidelijker mogen zeggen. Want leugens die inspelen op vooroordelen zijn krachtige wapens. Een rekenmodel is daar niet schuldig aan, maar met big data zijn mensen dat wel.”
Hoewel de bovenstaande ontwikkelingen stof tot nadenken geven over de rol van algoritmes, kan het volgens Postma nog erger: “Echt gortig wordt het pas als algoritmes het enige aanspreekpunt voor medewerkers zijn. En de eigenaren hun rekenmodel sturen op maximale macht en geld voor zichzelf. Uber wordt wel gezien als de uitvinder van dit soort ‘algoritme management’. Het maakt de rijken rijker en de armen armer. Als de strategie van Uber is om het stadsleven te domineren, dan heeft dat zeker bedenkelijke kanten. Zo zijn algoritmes naar mijn smaak nooit bedoeld. Ik zie liever een geavanceerd computermodel dat de Mona Lisa laat praten.”
