Regieorganisatie zorgt voor grip op verantwoorde inzet van generatieve AI
Hoe ga je als overheidsorganisatie op een verantwoorde manier om met generatieve AI? Supply Value ziet hierin een centrale rol weggelegd voor de regieorganisatie. In een whitepaper gaan adviseurs van het bureau in op de verschillende risico’s rond gen AI en de wijze waarop de regieorganisatie hier grip op biedt.
Met generatieve AI is een nieuw tijdperk aangebroken. In tegenstelling tot eerdere technologieën, die vooral data analyseerden, zijn gen AI-systemen in staat tot het zelfstandig creëren van onder meer teksten, afbeeldingen en video’s.
Gen AI biedt talloze nieuwe mogelijkheden, maar brengt tegelijkertijd ook allerlei risico’s met zich mee. “Deze zijn doorgaans stukken complexer dan de risico’s van eerdere vormen van automatisering”, schrijft Supply Value in zijn whitepaper.
Regie organiseren
Die risico’s wegen soms nog zwaarder bij overheidsorganisaties, die een belangrijke maatschappelijke functie vervullen. Een verantwoorde aanpak is hier dan ook cruciaal. De kern hiervan, zo stelt de whitepaper van Supply Value, is het organiseren van ‘regie’ – dit onder meer om te voldoen aan de geldende wet- en regelgeving zoals de AVG en de Europese AI Act.
Managers, beleidsmakers en IT-verantwoordelijken spelen hier een sleutelrol. Zij moeten de risico’s van generatieve AI-oplossingen signaleren en actief beheren, zodat de technologie op een verantwoorde manier kan worden gebruikt en gecontroleerd.
“Het is noodzakelijk dat organisaties een regierol innemen”, aldus de auteurs. “Het is namelijk niet voldoende dat een organisatie zich enkel bewust is van de risico’s: men moet ook weten hoe deze risico’s kunnen worden vermeden en geminimaliseerd.”
Regieorganisatie
Die regierol wordt vervuld door de regieorganisatie. Deze afdeling fungeert als de verbindende schakel tussen de ‘vraagkant’ (wat de organisatie nodig heeft) en de ‘aanbodkant’ (de partijen die het werk uitvoeren).
“De regieorganisatie stuurt de uitvoering aan, stelt richtlijnen op en bewaakt de governance.”
De regieorganisatie verbindt met andere woorden strategie, uitvoering en technologie met elkaar en speelt een centrale rol bij het integreren van AI binnen de bedrijfsdoelstellingen. Zo worden de ambities van een organisatie vertaald naar praktische AI-toepassingen.
Ook ziet de afdeling erop toe dat IT-architectuur en datakwaliteit in orde zijn en dat de ethische en wettelijke kaders worden nageleefd. “De regieorganisatie stuurt de uitvoering aan, stelt richtlijnen op en bewaakt de governance”, aldus Supply Value.
Denk daarbij onder meer aan het continu monitoren van de impact van AI, het stimuleren van kennisdeling en het toezien op een controleerbare, flexibele en kwalitatieve doorontwikkeling. Op deze manier waarborgt de regieorganisatie de schaalbare en verantwoorde inzet van AI.
Veiligheidsrisico’s
Overheidsinstellingen die niet beschikken over een regieorganisatie lopen volgens Supply Value allerlei soorten veiligheidsrisico’s.
Generatieve AI leert onder meer van de input van gebruikers. Wanneer medewerkers onbedoeld gevoelige informatie invoeren, zoals namen, adresgegevens of medische gegevens, bestaat er het risico dat deze informatie wordt opgeslagen en hergebruikt door AI-tools.
Om dit te voorkomen, kunnen medewerkers – op aandringen van de regieorganisatie – worden bijgeschoold op het gebied van AI. Organisaties kunnen daarnaast investeren in AI-modellen die lokaal draaien binnen een eigen, beveiligde infrastructuur, zodat de controle over de data behouden blijft.
Gevoelige interne informatie kan ook op een andere manier ontsnappen. Wanneer gen AI-systemen niet correct geïntegreerd zijn binnen de bestaande beveiligingsstructuren, kunnen deze systemen toegang krijgen tot interne datasets, processen of vertrouwelijke beleidsstukken.
Dit risico kan worden geminimaliseerd door AI expliciet op te nemen in het informatiebeveiligingsbeleid. Dat zorgt voor controle op de informatiehuishouding – geen overbodige luxe, gezien de toenemende verwikkeling van generatieve AI met dagelijkse bedrijfsvoering.
Ethische risico’s
Naast veiligheidsrisico’s liggen ook allerlei ethische risico’s op de loer. Datasets waarop een AI-tool is getraind zijn meer dan eens onvolledig of eenzijdig. Ook bevatten ze vaak historische vooroordelen. Dat heeft doorgaans effect op de output van zo’n tool en kan dus leiden tot slechte antwoorden of zelfs discriminatie.
“De ecologische voetafdruk van gen AI-systemen moet worden meegenomen in besluitvorming.”
Bij maatschappelijk impactvolle beslissingen kunnen dit soort fouten grote schade veroorzaken. Het toetsen van AI-systemen – waar de regieorganisatie op toeziet – is daarom essentieel.
“Technische validatie moet worden gecombineerd met structurele menselijke kwaliteitscontroles”, schrijven de auteurs. “Zo neemt een generatief AI-systeem nooit een impactvolle beslissing zonder tussenkomst van een menselijk deskundige.”
Ook transparantie blijft een belangrijk aandachtspunt. Denk hierbij onder meer aan het zichtbaar maken van AI-toepassingen, bijvoorbeeld door ze te vermelden op een website. “Het laten opnemen van AI-systemen in een algoritmeregister, wat de overheid aanbeveelt, draagt ook bij aan meer transparantie”, stelt Supply Value.
Dan is er nog de duurzaamheidskwestie. Voor het trainen en inzetten van grote generatieve AI-systemen is een aanzienlijke hoeveelheid energie en water nodig, wat kan bijdragen aan een grote ecologische voetafdruk.
“Organisaties moeten focussen op een verantwoorde inzet van generatieve AI-systemen door ook te letten op de duurzaamheid ervan”, aldus de auteurs. “De ecologische voetafdruk van zulke systemen moet dus worden meegenomen in besluitvorming.”
Verantwoord innoveren
Door het neerzetten van een sterke regieorganisatie kunnen overheden deze en andere risico’s zoveel mogelijk minimaliseren – allemaal zodat ze de kracht van gen AI kunnen inzetten om hun maatschappelijke taak zo goed en efficiënt mogelijk uit te voeren.
“Organisaties die over deze risico’s regie creëren, versterken aspecten zoals hun juridische compliance, draagvlak bij stakeholders en interne veerkracht om op verantwoorde manier te innoveren”, besluit Supply Value.
