Verantwoorde AI: Waarom de menselijke regisseur onmisbaar is
Met generatieve kunstmatige intelligentie breekt een nieuw tijdperk aan in de digitale transformatie. Tegelijkertijd brengt het serieuze ethische en veiligheidsrisico’s met zich mee, vooral voor overheidsorganisaties. In een nieuwe whitepaper benadrukt adviesbureau Supply Value dat de oplossing niet in de technologie zit, maar in de mens.
AI biedt grote kansen voor overheidsorganisaties. Maar ze moeten ook extra voorzichtig zijn met de inzet van AI: overheden handelen met een grote maatschappelijke verantwoordelijkheid én werken vaak met gevoelige persoonsgegevens. Fouten of vooroordelen in algoritmen kunnen directe gevolgen hebben voor burgers – denk aan oneerlijke behandeling of schending van privacy.
Bovendien is transparantie bij besluiten essentieel voor het publieke vertrouwen, terwijl AI-systemen niet altijd uitlegbaar zijn. Overheden moeten dan ook zorgvuldig afwegen waar en hoe AI wordt ingezet.
Regie organiseren
De kern van een verantwoorde aanpak, zo stelt de whitepaper van Supply Value, is het organiseren van ‘regie’. Dit betekent dat managers, beleidsmakers en IT-verantwoordelijken actief sturing geven door een “moreel en bestuurlijk kader” vast te stellen waarbinnen AI mag opereren. Deze regie is geen luxe, maar pure noodzaak.
Zonder duidelijke kaders kunnen medewerkers onbedoeld gevoelige informatie – zoals persoonsgegevens – in een AI-systeem invoeren, met datalekken als gevolg. Het behouden van controle over de data is dan ook cruciaal.
In dit kader wijst Supply Value op twee belangrijke randvoorwaarden die overheidsorganisaties moeten inrichten. Ten eerste “duidelijke kaders en instructies voor correct gebruik” en ten tweede “AI-modellen die lokaal draaien binnen eigen beveiligde infrastructuur”.
Naast datalekken brengt AI nog tal van andere risico’s met zich mee. Zo kunnen AI-modellen, getraind op data met historische vooroordelen, leiden tot discriminatie, bijvoorbeeld door vrouwelijke kandidaten in een wervingsprocedure te benadelen.
Een ander kwaliteitsrisico is de betrouwbaarheid van de output zelf. Generatieve AI-systemen kunnen fictieve feiten genereren, verkeerde conclusies trekken of verouderde informatie verkiezen boven actuele. Zo zijn er verschillende manieren waarop AI op de proppen kan komen met onjuiste informatie, ook wel ‘hallucinaties’ genoemd.
“Bij maatschappelijk impactvolle beslissingen kunnen dit soort kwaliteitsfouten grote schade veroorzaken”, waarschuwt Supply Value.
Wie is eindverantwoordelijk?
De vraag die hieruit volgt, is onvermijdelijk: wie is aansprakelijk als het misgaat? Supply Value legt de verantwoordelijkheid bij de organisatie die de AI inzet. De technologie is een hulpmiddel; de leiders die de governance moeten inrichten, dragen de eindverantwoordelijkheid.
“Generatieve AI-systemen blind gebruiken bij besluitvorming kan stakeholders hun vertrouwen beschadigen, bemoeilijkt verantwoordelijkheid en riskeert de kwaliteit”, aldus de onderzoekers.
“Daarom is ‘human oversight’ over AI-systemen essentieel om intern en extern vertrouwen te waarborgen.”
De opkomst van generatieve AI maakt de mens dus niet overbodig, benadrukt Supply Value, maar zorgt voor een verschuiving van de rol van de mens – naar die van regisseur, kwaliteitsbewaker en ethisch kompas. De menselijke maat moet de doorslag blijven geven.
Zoals de onderzoekers in de whitepaper concluderen, is het cruciaal dat generatieve AI-systemen “niet de autoriteit worden”.
