Steeds meer mensen weten wat algoritmes zijn, steeds minder mensen vertrouwen ze
Nu algoritmes een steeds belangrijkere rol spelen in onze samenleving, zijn steeds meer Nederlanders bekend met de technologie, zo blijkt uit de jaarlijkse AI-monitor ‘Vertrouwen in algoritmes’ van KPMG. Met dat vertrouwen gaat het echter minder goed: een kwart van de respondenten is sceptischer over algoritmes dan een jaar geleden.
Sinds KPMG zijn onderzoek voor het eerst hield, in 2019, is de bekendheid met algoritmes jaar op jaar gestegen. Was in 2019 nog maar 46% van de respondenten ermee bekend, is dat nu al 63%. Met name tussen 2020 en 2021 steeg de bekendheid flink: met 10 procentpunten.
De onderzoekers vermoeden dat de stijging samenhangt met de sterk gestegen inzet van algoritmes en de toegenomen aandacht voor het onderwerp in de media.
Media-aandacht is vaak echter weinig positief, en dit zou eraan kunnen bijdragen dat de gestegen bekendheid van algoritmes gepaard gaat met een stijgend wantrouwen. In het bijzonder zou de toeslagenaffaire hierin een rol kunnen spelen, zo denkt KPMG.
Lees ook: PwC: Belastingdienst plaatste mensen op basis van uiterlijk en nationaliteit op zwarte lijst.
De mediastorm rond het schandaal ging samen met de sterke stijging in bekendheid tussen 2020 en 2021, en heeft vanzelfsprekend niet bijgedragen aan het vertrouwen in algoritmes. Bij een kwart van de respondenten (24%) nam het vertrouwen sinds vorig jaar af, terwijl het slechts bij 6% toenam.
Een deel van de Nederlanders ziet wel in dat algoritmes ook toegevoegde waarde kunnen hebben. Zo vinden ruim vier op de tien respondenten dat ze bijdragen aan technologische vooruitgang en economische groei. Nog geen vijfde vindt echter dat ze bijdragen aan een eerlijke en rechtvaardige wereld.
Alomtegenwoordige algoritmes zelden vertrouwd
Ondertussen kun je vandaag de dag nauwelijks meer om algoritmes heen. Of het nou gaat om social media, solliciteren of online shoppen: overal kom je ze (ongezien) tegen. De beslissingen die deze algoritmes nemen hebben op de ene plek wel meer impact dan op de ander.
Niet geheel verrassend blijken de respondenten algoritmes eerder weinig ingrijpende beslissingen toe te vertrouwen dan beslissingen die grote gevolgen kunnen hebben: het selecteren van de media of potentiële datingkandidaten gaat nog wel, maar het bepalen of een openhartoperatie nodig is of het beoordelen van iemands functioneren gaat de overgrote meerderheid te ver.
Opvallend is dat bij elk van de voorgelegde beslissingen de groep mensen die géén vertrouwen heeft in algoritmes groter is dan de groep die er wel vertrouwen in heeft – zelfs dus als het gaat om alledaagse beslissingen.
Beangstigende overheid
Ook zijn er maar weinig organisaties en instellingen die het gebruik van algoritmes wordt toevertrouwd. Alleen ten aanzien van de politie wint het vertrouwen het (nipt) van het wantrouwen – met 29% om 28%. Ook retailers en zorginstellingen genieten relatief veel vertrouwen, terwijl banken en techbedrijven op weinig vertrouwen kunnen rekenen.
Ernstiger nog is wellicht het gebrek aan vertrouwen in de overheid, die tenslotte als taak heeft te zorgen voor al haar burgers. Desondanks bungelen uitvoeringsorganisaties en zelfstandige bestuursorganen (zoals de Belastingdienst) samen met de banken en techbedrijven onderaan de vertrouwensmeter.
Op de meeste thema’s geassocieerd met algoritmes scoort de overheid ronduit negatief. Meer dan de helft van de respondenten beoordeelt de overheid negatief op het gebied van veiligheid, angst en privacy. Het enige criterium waar relatief positief naar wordt gekeken is ‘nuttig’.
Nepnieuws
Naast de overheid spelen ook de social media vandaag de dag een grote rol in de levens van vele Nederlanders. Steeds meer mensen nemen nieuws tot zich via social mediaplatforms, die algoritmes inzetten om te voorspellen welk nieuws bepaalde gebruikers graag willen zien.
Het probleem is dat de kwaliteit of betrouwbaarheid van nieuws daar een beperkte rol in speelt – content wordt eerder veel gedeeld als deze bijvoorbeeld schokkend of provocerend is. Daardoor is het aan de informatieconsument zelf om te checken of het geen nepnieuws betreft.
37% van de respondenten geeft aan dat het onderscheid tussen nep- en echt nieuws op sociale media hen duidelijk is, en 59% zegt goed in staat te zijn om te beoordelen welke informatie waar en niet waar is. Bij bijna de helft (47%) heeft de opkomst van nepnieuws het social mediagedrag veranderd. Een net iets grotere groep (49%) zegt dat hun gedrag onveranderd is gebleven.
Transparantie en toezicht
Al met al blijkt het niet best gesteld met het vertrouwen in algoritmes. Met de verdere digitalisering en automatisering van de samenleving zal het gebruik ervan echter alleen maar toenemen. Wat kan er worden gedaan om te zorgen dat het vertrouwen onder Nederlanders toeneemt?
Veruit het belangrijkste middel is volgens de respondenten meer transparantie (42%). “Transparantie zou onder andere (deels) geborgd kunnen worden door middel van publieke algoritmeregisters, met als doel dat voor iedereen overzichtelijk is welke algoritmes worden gebruikt binnen een bepaalde organisatie”, aldus KPMG.
Andere mogelijke oplossingen zijn een focus op het verbeteren van de samenleving, het voorkomen van incidenten en het werken aan de reputatie van de organisatie die de algoritmes inzet.
Daarnaast vindt de overgrote meerderheid (80%) dat er toezicht moet zijn op algoritmes. Waar in 2019 nog 41% van de respondenten vond dat deze verantwoordelijkheid bij de overheid moest liggen, is dat nu nog maar 12%. Nu vinden de respondenten vooral dat deze taak moet worden toevertrouwd aan (onafhankelijke) derde partijen, zoals accountants en toezichthouders.
Realistisch over de impact
Frank van Praat, Director Trusted Analytics van KPMG Nederland, vindt dat Nederlanders “realistisch” zijn over de impact die algoritmes op ze kunnen hebben. “Dit blijkt wel uit het feit dat de meerderheid van de ondervraagden aangeeft het moeilijk te vinden om nepnieuws te herkennen.”
Dit nepnieuws draagt volgens Van Praat ook bij aan het stijgende wantrouwen in algoritmes en de groeiende vraag naar monitoring. Te midden van het toenemende wantrouwen benadrukt hij dat algoritmes ook “ontzettend waardevol” kunnen zijn, “bijvoorbeeld in de financiële sector”.
In dit verband schaart hij zich achter de roep om meer transparantie. “Mensen willen vooral uitleg waarom ze wel of geen hypotheek of uitkering krijgen. Dat kan alleen als van begin af duidelijk is of gebruikte algoritmes deugen. Transparantie in de algoritmes die dat bepalen is daarom steeds belangrijker.”
Voor de 2022-editie van de AI-monitor hield onderzoeksbureau Motivaction namens KPMG een enquête onder 1.037 Nederlanders van 18 t/m 75 jaar, van laag- tot hoogopgeleiden met een gelijke verdeling mannen en vrouwen.