‘AI zonder ethiek herhaalt de fouten van het internet’: Waarom naleving van de AI-verordening niet genoeg is
Zonder ethiek zijn we geneigd om bij elke baanbrekende technologie dezelfde fouten te herhalen, zo waarschuwt Leon Dohmen, registerinformaticus, gecertificeerd AI compliance officer en consultant bij DiVetro. Nu organisaties de AI-verordening langzaamaan op de agenda zetten, pleit Dohmen voor een aanpak die verder gaat dan wettelijke naleving alleen.
De AI-verordening staat bij veel Nederlandse organisaties op de radar, maar de vertaalslag naar de praktijk laat nog te wensen over. “We zien urgentie, maar nog weinig grip”, begint Dohmen.
Grote organisaties zijn verder dan het mkb, maar ook bij hen blijft de voorbereiding beperkt. De focus ligt voornamelijk op privacy en compliance, terwijl technische en organisatorische aspecten – zoals architectuur, beveiliging en governance – achterblijven.
Tegelijkertijd groeit het enthousiasme voor AI onder medewerkers sneller dan de AI-geletterdheid. Dohmen verwijst naar de juridische sector, die regelmatig negatief in het nieuws komt door AI-gerelateerde fouten. De verordening vraagt volgens hem om een integrale aanpak: “Wetgeving, techniek, organisatie en mens moeten samenkomen.”
Ethiek verschilt per sector en toepassing
Dohmen staat daarbij eerst stil bij ethiek, een begrip dat volgens hem vaak te abstract wordt gebruikt. Met ethiek verwijst hij niet zozeer naar een abstracte filosofische discussie, maar doelt hij vooral op het bewust afwegen welke gevolgen technologie heeft voor mensen, organisaties en de samenleving. Welke belangen worden gediend? Wie profiteert ervan? En welke risico’s of ongewenste neveneffecten kunnen ontstaan?
“Juist die vragen worden steeds belangrijker nu AI een grotere rol krijgt in besluitvorming en dienstverlening”, zegt Dohmen.
“Kijk waar we nu staan: machtsmisbruik, verslavingstechnieken in apps, profilering en discriminatie. Het is totaal uit de hand gelopen.”
Hij benadrukt dat er niet één universele invulling van ethische AI bestaat. “Wat verantwoord is, hangt af van de sector en de toepassing. Bij een AI-systeem voor medische diagnostiek draait de afweging bijvoorbeeld om het verbeteren van de kwaliteit van diagnoses en het beperken van foutieve uitkomsten, terwijl bij toepassingen in de juridische sector juist transparantie, uitlegbaarheid en gelijke behandeling centraal staan.”
Vergelijk AI niet met de perfecte mens
Daarom moeten organisaties AI niet vergelijken met een theoretisch perfecte mens, maar met de manier waarop dezelfde taak vandaag de dag wordt uitgevoerd.
“De relevante vraag is niet of AI foutloos is, maar of een toepassing in de praktijk beter presteert dan bestaande werkwijzen, zonder daarbij fundamentele waarden uit het oog te verliezen”, legt Dohmen uit. “Ethiek gaat daarbij niet alleen over het beperken van risico’s, maar ook over het bewust afwegen welke maatschappelijke effecten een toepassing mag hebben.”
De grootste uitdaging is mentaal
Juist die bredere afweging blijkt in de praktijk voor veel organisaties lastig, los van tal van overige uitdagingen. De voornaamste knelpunten liggen volgens Dohmen niet in de techniek. Bij kennissessies die DiVetro organiseert – waaronder oefeningen met de Moral Design Game – ziet hij hoe architecten en engineers worstelen met de ethische en wetgevingsaspecten van de verordening.
“Het is een lastige opgave om ervoor te zorgen dat een AI-toepassing niet discrimineert. De grootste uitdaging is niet technisch – die is mentaal. Vakbekwaamheid en competenties moeten grondig veranderen.”
Die observatie sluit aan bij de kritiek van Autoriteit Persoonsgegevens-voorzitter Aleid Wolfsen, die eerder stelde dat de problematiek een kwestie is van naïviteit en het wegzetten van AI-vakkennis als ‘iets voor techneuten alleen’, terwijl de programmeur zich vaak van geen kwaad bewust is.
De les van het internet
Dohmen trekt een expliciete parallel met de beginjaren van het internet. “Niemand wilde regels of overheidsbemoeienis. En kijk eens waar we nu staan: machtsmisbruik, verslavingstechnieken in apps, profilering en discriminatie. Het is totaal uit de hand gelopen.”
“Compliance is de vloer; beschaafd digitaliseren is het plafond.”
Die geschiedenis dreigt zich te herhalen met AI, tenzij organisaties nu fundamenteel andere keuzes maken. De AI-verordening is volgens Dohmen precies die correctie: het antwoord van de wetgever op wat er bij het internet misging. Beschaafd digitaliseren sluit daar naadloos op aan, maar gaat verder.
“Apps die zowel het nut als het ethisch perspectief verbinden zijn een noodzakelijke vereiste – producten die waarde opleveren én het risico op misbruik, uitsluiting en schending zo klein mogelijk maken.”
Vertrouwen als concurrentievoordeel
Organisaties die structureel verder gaan dan compliance bouwen aan iets wat geen checklist kan afdwingen: vertrouwen. Dohmen ziet daarin ook een strategisch argument. Door proactief te handelen, kunnen Nederlandse en Europese organisaties niet alleen voldoen aan de wet, maar ook leiderschap tonen in verantwoorde AI-ontwikkeling – wat op lange termijn hun concurrentiepositie versterkt.
De vergelijking die hij maakt is scherp: kijk naar wat het internet zonder ethisch fundament heeft voortgebracht. Algoritmes die verkiezingen beïnvloeden, overheden die afhankelijk zijn van technologie die ze nauwelijks kunnen reguleren, en boetes die Big Tech tot nog toe weinig hebben bijgestuurd. “Compliance is de vloer; beschaafd digitaliseren is het plafond.”
Bouwen wat maatschappelijk verantwoord is
Uiteindelijk is het een kwestie van professionele verantwoordelijkheid. IT-architecten en engineers moeten andere keuzes durven maken, stelt Dohmen. “Niet bouwen wat technisch kan, maar wat maatschappelijk verantwoord is. Wie een systeem ontwerpt dat mensen manipuleert of uitsluit, draagt daar medeverantwoordelijkheid voor – ook als de opdrachtgever erom vraagt.”
De vraag is daarmee niet óf een bepaalde innovatie zijn intrede doet in de samenleving, maar hoe beschaafd we die willen. “Ethiek is daarbij geen vinkje, maar een professionele houding.”
