Verantwoord gebruik van ChatGPT binnen maatschappelijke organisaties
Veel maatschappelijke organisaties verkennen momenteel het gebruik van ChatGPT, dat tal van kansen biedt voor inwoners, bedrijven, overheden en de samenleving. Er kleven echter ook aanzienlijke risico’s aan de technologie, concludeert Van Dam Datapartners in een nieuw rapport. Experts van het bureau zetten de belangrijkste bevindingen uiteen, waarmee ze maatschappelijke organisaties de nodige handvatten bieden om verantwoord met ChatGPT om te gaan.
Zoals inmiddels algemeen bekend, kan generatieve AI enorme voordelen bieden. Deze technologie biedt niet alleen waardevolle mogelijkheden voor bedrijven en overheden om hun processen te optimaliseren, maar kan ook van grote betekenis zijn voor maatschappelijke organisaties.
Denk bijvoorbeeld aan het gebruik van chatbots voor het beantwoorden van vragen van inwoners, het opstellen van gerichte communicatiecampagnes of het analyseren van gegevens om de behoeften van kwetsbare groepen in kaart te brengen. Allemaal voorbeelden waarmee maatschappelijke organisaties hun dienstverlening kunnen verbeteren, de communicatie kunnen versterken of de efficiëntie binnen hun operaties kunnen verhogen.
Generatieve AI is gebaseerd op deep learning-technologie. Dit is een methode waarbij computers zelfstandig leren en beslissingen nemen, zonder dat ze expliciet geprogrammeerd hoeven te worden. Er zijn inmiddels veel verschillende generatieve AI-tools op de markt, waarvan de bekendste zonder twijfel ChatGPT is. Dit is een prompt-tool die teksten genereert op basis van een large language model (LLM).
Sinds de lancering in november 2022 heeft ChatGPT een snelle groei doorgemaakt, met inmiddels meer dan 100 miljoen gebruikers wereldwijd.
Gebruik binnen de overheid?
Binnen de Rijksoverheid wordt het gebruik van ChatGPT sterk afgeraden, onder meer omdat niet-gecontracteerde generatieve AI-toepassingen (zoals ChatGPT) over het algemeen niet aantoonbaar voldoen aan de geldende privacy- en auteursrechtelijke wetgeving. Toch blijkt uit een rondvraag van EenVandaag dat ambtenaren zich hier weinig van aantrekken: 74% geeft aan ChatGPT in hun werk te gebruiken.
“De waarde van ChatGPT is simpelweg te groot om te negeren.”
Ook wijzen diverse IT-riskexperts van de overheid op andere gevaren, zoals antwoorden die onjuiste informatie verstrekken (ook wel bekend als ‘hallucinaties’), het risico op privacy- en datalekken of het overnemen van vooroordelen (bias) en discriminatie uit de trainingsdata. Maar ook bijvoorbeeld het gebrek aan transparantie over hoe AI tot bepaalde beslissingen komt, waardoor het moeilijk is om de uitkomsten te verifiëren, is een zorgpunt.
We kunnen niet om de waarde van Gen AI heen
In hun whitepaper: ‘Verantwoord en nuttig gebruik van generatieve AI’, duiken experts van Van Dam Datapartners dieper in het onderwerp en concluderen dat het verantwoord inzetten van ChatGPT, met duidelijke randvoorwaarden, de weg voorwaarts is voor maatschappelijke organisaties: “De waarde van ChatGPT is simpelweg te groot om te negeren.”
Onder het motto: ‘Laat generatieve AI niet tegen je werken, maar werk er juist mee samen’, adviseren de experts om ChatGPT op een verstandige en gereguleerde manier te omarmen. In hun onderzoek delen ze zes tips voor beleidsmakers die verantwoordelijk zijn voor de invoering van ChatGPT binnen de bedrijfsvoering.
1: Zorg voor duidelijke regels en processen voor dataverwerking
Wanneer ChatGPT wordt gebruikt als een belangrijk onderdeel van de dagelijkse activiteiten waarbij belangrijke of zelfs vertrouwelijke informatie wordt ingevoerd, komt de gegevensbeveiliging in gevaar. “Het is essentieel om duidelijke regels en processen voor gegevensverwerking vast te stellen”, betogen de experts van Van Dam Datapartners.
Organisaties dienen richtlijnen op te stellen die duidelijk definiëren welke soorten gegevens als gevoelig worden beschouwd en welke niet in ChatGPT mogen worden ingevoerd. Dit omvat het implementeren van processen voor het vooraf beoordelen van invoerdata op gevoelige informatie, zoals persoonsgegevens, financiële gegevens en andere vertrouwelijke informatie, bijvoorbeeld informatie over de eigen bedrijfsvoering, evenals het instellen van procedures voor het registreren en monitoren van dataverwerkingen.
“Het regelmatig evalueren en bijwerken van deze regels is cruciaal om te voldoen aan wet- en regelgeving en om de gegevensbeveiliging continu te waarborgen.”
2: Denk goed na over privacy...
Een specifiek risico van het gebruik van de gratis versie van ChatGPT is dat alles wat door gebruikers wordt ingevoerd, als trainingsmateriaal wordt gebruikt. Dit betekent dat er een kans bestaat dat persoonsgegevens opzettelijk of onopzettelijk aan een breder publiek worden doorgegeven dan bedoeld.
“Het waarborgen van privacy is cruciaal om de integriteit en het vertrouwen in de organisatie te behouden.”
“Dit vormt niet alleen een risico voor individuele gebruikers, maar ook voor bedrijven en overheidsinstanties”, waarschuwen de experts. Het is daarom zaak om extra alert te zijn en geen persoonsgegevens in te voeren, vooral wanneer ChatGPT vanuit een maatschappelijke organisatie wordt ingezet. “Het waarborgen van privacy is cruciaal om de integriteit en het vertrouwen in de organisatie te behouden.”
3: …en meer specifiek over de risico’s
De Autoriteit Persoonsgegevens benoemt daarnaast dat de trainingsdata van generatieve AI mogelijk onterecht verkregen zijn. Deze trainingsdata kunnen persoonlijke gegevens of auteursrechtelijk beschermd materiaal bevatten. Omdat het niet mogelijk is om die persoonsgegevens vervolgens te laten verwijderen, voldoet ChatGPT niet aan de privacywet AVG.
“Bij het gebruik van ChatGPT en het invoeren van prompts moet men zich bewust zijn van deze privacyrisico’s en dienovereenkomstig handelen”, leggen de auteurs uit.
Zo dienen gebruikers geen persoonsgegevens in te voeren en moeten zij zich de vraag stellen: zou ik deze gegevens openbaar op het internet delen? Als het antwoord op deze vraag nee is, dan dienen deze gegevens niet met ChatGPT te worden gedeeld.
4: Crosscheck de output op nauwkeurigheid
Ook belangrijk om in het achterhoofd te houden is dat de huidige versie van ChatGPT (op het moment van schrijven) getraind is op data tot en met september 2023. Het kan daarom voorkomen dat wanneer informatie wordt opgevraagd over een onderwerp na 2023, dat de gebruiker geen of foutieve informatie krijgt.
“ChatGPT is immers niet ontwikkeld als een up-to-date zoekmachine, maar meer als een modern taalmiddel”, aldus de experts.
“Een belangrijk gevaar van hallucinaties is de verspreiding van desinformatie.”
Het feit dat ChatGPT zeer mensachtige antwoorden kan geven, heeft helaas ook een keerzijde. Ook wanneer de chatbot het antwoord op een vraag niet weet, zal het een antwoord genereren. Het kan dus een verhaal verzinnen, zonder aan te geven dat het eigenlijk geen idee heeft. Zulke verschijnselen staan bekend als ‘hallucinaties’.
“Een belangrijk gevaar van hallucinaties is de verspreiding van desinformatie. In de toekomst zullen algoritmen verbeterd moeten worden om hallucinaties te voorkomen.”
Het is daarom cruciaal dat ChatGPT ondersteunend is, maar dat mensen altijd ‘in charge’ blijven. Deze zogeheten ‘human in the loop’-benadering zorgt ervoor dat menselijke deskundigheid en oordeel de uiteindelijke beslissingen begeleiden, waardoor de risico’s van desinformatie en hallucinaties effectief worden gemitigeerd.
5: Voorkom en vermijd vooroordelen (‘bias’)
AI brengt ook (maatschappelijke) uitdagingen met zich mee. ChatGPT wordt getraind op enorme hoeveelheden data. In sommige gevallen is deze data niet representatief voor de diversiteit van de samenleving. “De output die ChatGPT genereert, kan vervolgens vooroordelen bevatten en discriminerend zijn.”
“Het is essentieel om een mensgerichte benadering te hanteren.”
OpenAI, de ontwikkelaar van ChatGPT, zet menselijke controle en filters in om de meest duidelijke onwaarheden en ergste vooroordelen eruit te halen. Echter, dit blijft volgens de adviseurs een belangrijke beperking van ChatGPT. “Onderzoek heeft aangetoond dat mensen geneigd zijn om vooroordelen en onwaarheden over te nemen.”
Er is hier sprake van een feedbackloop: de AI wordt niet alleen gevoed door menselijke vooroordelen, maar AI voedt ook de mens met vooroordelen. Zeker voor opdrachtgevers die werken aan het versterken van inclusiviteit en representatie vormt dit een belangrijk risico.
6: Zorg voor inclusiviteit
Het gebruik van generatieve AI kan een versterkend effect hebben op de zogenaamde digitale kloof, vooral op het gebied van internetvaardigheden. Zo kan de snelle technologische ontwikkeling, voor mensen die moeite hebben met het bedienen van tools zoals ChatGPT, de afstand tot digitale tools vergroten.
Deze kloof kan ook specifiek gebruikers uit minderheidsculturen treffen. “Wanneer generatieve AI onvoldoende is getraind op data die representatief is voor diverse culturele achtergronden, kunnen deze gebruikers taal- of culturele barrières ervaren bij het gebruik van ChatGPT”, aldus de experts.
Dit onderstreept de noodzaak om inclusiviteit te waarborgen in de ontwikkeling en implementatie van generatieve AI, zodat iedereen gelijke toegang heeft tot technologie en de voordelen ervan.
Conclusie
De auteurs van Van Dam Datapartners vatten samen: “Voor het gebruik van generatieve AI binnen maatschappelijke organisaties is het essentieel om een mensgerichte benadering te hanteren. Ethiek en transparantie moeten centraal staan in alle processen, en organisaties dienen zich voortdurend bewust te zijn van de vertrouwelijke informatie die zij bezitten.”
“Dit zorgt niet alleen voor een verantwoord gebruik van technologie, maar versterkt ook het vertrouwen van gebruikers en de samenleving in de organisatie.”
