Van Dam Datapartners: ‘AI legt extra bestuurlijke druk op gemeentesecretaris’
AI maakt de rol van de gemeentesecretaris bestuurlijk zwaarder. Dat komt onder meer doordat kunstmatige intelligentie steeds vaker raakt aan politieke afwegingen, publieke waarden en juridische verantwoordelijkheid, schrijft Van Dam Datapartners in een nieuwe whitepaper.
De gemeentesecretaris is algemeen directeur van de ambtelijke organisatie van een gemeente én eerste adviseur van het college van burgemeester en wethouders. Daarmee bevindt hij of zij zich op het snijvlak van bestuur, uitvoering en samenleving.
Van het bewaken van de kwaliteit van de ambtelijke advisering tot het organiseren van samenwerking tussen afdelingen en het begeleiden van organisatieverandering: de functie draait om het verbinden van uiteenlopende belangen en ervoor zorgen dat bestuurlijke keuzes ook uitvoerbaar zijn.
Die verantwoordelijkheid wordt volgens Van Dam Datapartners alleen maar groter nu gemeenten steeds vaker experimenteren met AI. Niet omdat de gemeentesecretaris zelf verstand moet hebben van algoritmen of programmeertalen, maar omdat de inzet van de technologie nieuwe bestuurlijke vragen oproept over verantwoordelijkheid, rechtmatigheid en publieke waarden.
AI is geen ICT-project
Veel gemeenten onderzoeken momenteel hoe AI kan bijdragen aan efficiëntere dienstverlening en bedrijfsvoering. Zo sprak Enschede eerder dit jaar de ambitie uit om met AI en digitalisering tientallen banen en miljoenen euro’s te besparen.
Tegelijkertijd blijkt uit landelijk onderzoek dat gemeentelijke chatbots eenvoudige vragen regelmatig onjuist beantwoorden, niet voldoen aan toegankelijkheidseisen en soms zelfs privacyrisico’s met zich meebrengen.
Juist die spanning tussen ambitie en praktijk maakt volgens Van Dam Datapartners duidelijk dat AI niet uitsluitend een vraagstuk is voor de ICT-afdeling. De centrale vraag is immers niet welke techniek beschikbaar is, maar welke toepassingen maatschappelijk verantwoord zijn en passen bij de publieke taak van een gemeente.
In zijn paper verwijst het adviesbureau hierbij naar de Amsterdamse wethouder Alexander Scholtes, die AI omschrijft als een technologie die tegelijkertijd nog onvolwassen én te krachtig is om te negeren. Gemeenten doen er daarom verstandig aan nuchter te blijven en niet uit te gaan van het beeld van een alleswetende vorm van kunstmatige intelligentie.
Drie nieuwe bestuurlijke opgaven
Volgens Van Dam Datapartners verandert AI in het bijzonder drie kerntaken van de gemeentesecretaris.
De eerste is het geven van richting. Niet iedere AI-toepassing is wenselijk of levert maatschappelijke meerwaarde op. Gemeenten moeten daarom expliciet bepalen waar AI wel en juist niet wordt ingezet. Dat vraagt om bestuurlijke keuzes over prioriteiten en risico’s. Ook rijst de vraag of verdere automatisering daadwerkelijk bijdraagt aan betere dienstverlening.
Ten tweede krijgt governance een grotere rol. AI-initiatieven ontstaan vaak verspreid binnen organisaties: een experiment bij een beleidsafdeling, een proef binnen dienstverlening of een toepassing vanuit ICT.
“Juist nu systemen slimmer worden, wordt bestuurlijke afweging belangrijker dan ooit.”
Zonder duidelijke afspraken dreigt volgens Van Dam Datapartners een lappendeken van losse projecten te ontstaan. Dat verhoogt het risico op zogenoemde shadow AI, waarbij medewerkers zelfstandig tools gebruiken buiten het zicht van de organisatie.
Lees ook: Hooghiemstra & Partners onderzoekt datalek in gemeente Eindhoven.
De derde opgave is het bewaken van publieke waarden. AI kan processen versnellen, maar kent ook risico’s zoals discriminatie, gebrek aan transparantie en onduidelijke besluitvorming. Ter illustratie wordt in de paper een voorbeeld aangehaald over een Rotterdams algoritme dat werd gebruikt om mogelijke bijstandsfraude op te sporen.
Journalistiek onderzoek liet zien dat bepaalde groepen relatief vaak werden geselecteerd voor controle, waarna de gemeente stopte met het gebruik van het systeem. Zulke voorbeelden onderstrepen volgens Van Dam Datapartners dat AI nooit los kan worden gezien van rechtvaardigheid, zorgvuldigheid en gelijke behandeling.
Juridische kwesties vragen om bestuurlijke regie
Daar komt bij dat ook de juridische complexiteit toeneemt. Europese regelgeving, zoals de AI Act, stelt nieuwe eisen aan het gebruik van AI. Voor bepaalde hoogrisicosystemen wordt onder meer een grondrechteneffectbeoordeling verplicht. Ook moeten organisaties zorgen voor voldoende AI-geletterdheid onder medewerkers.
De gemeentesecretaris hoeft volgens het adviesbureau geen specialist in AI-recht te worden. Wel moet hij of zij ervoor zorgen dat de juiste vragen tijdig op tafel komen.
Wie is verantwoordelijk als AI invloed heeft op een besluit? Kan achteraf worden uitgelegd hoe een advies of besluit tot stand is gekomen? En welke afdelingen moeten worden betrokken bij de beoordeling van risico’s? Dat zijn bestuurlijke vragen die niet kunnen worden overgelaten aan techniek alleen.
Ook afhankelijkheid van Big Tech vraagt aandacht
Van Dam Datapartners wijst daarnaast op een minder zichtbaar vraagstuk: digitale soevereiniteit. Veel generatieve AI-toepassingen zijn afkomstig van een klein aantal Amerikaanse technologiebedrijven. Daardoor ontstaat niet alleen afhankelijkheid van hun technologie, maar ook van de keuzes die deze leveranciers maken over de ontwikkeling van hun modellen.
Volgens de onderzoekers verdient ook dat onderwerp een plek op de bestuurlijke agenda. Gemeenten moeten zich afvragen hoeveel invloed ze willen behouden op de technologie die ze gebruiken en in hoeverre publieke waarden ook gelden voor leveranciers van AI-systemen.
Verandering organiseren
In zijn whitepaper doet het adviesbureau drie aanbevelingen. Gemeenten zouden ten eerste de regie op AI integraal moeten organiseren en niet uitsluitend bij ICT moeten beleggen.
Daarnaast is het belangrijk transparant te maken waar AI bewust wel en niet wordt ingezet. Tot slot pleiten de onderzoekers ervoor eerst te investeren in de basis: een goede informatiehuishouding en voldoende AI-kennis binnen de organisatie.
Daarmee verschuift de rol van de gemeentesecretaris volgens Van Dam Datapartners steeds verder van procesbewaker naar veranderleider. De grootste uitdaging ligt niet in de technologie zelf, maar in het organiseren van de voorwaarden waaronder AI verantwoord kan worden toegepast. “Juist nu systemen slimmer worden, wordt bestuurlijke afweging belangrijker dan ooit”, aldus de onderzoekers.
