Lotte Hart (SeederDeBoer) over de noodzaak van AI-geletterdheid
Zo’n half jaar geleden trad de AI Act (ten dele) in werking – Europese wetgeving om het gebruik van kunstmatige intelligentie te reguleren. De AI Act verplicht organisaties sinds deze maand om AI-geletterdheid te stimuleren. Maar wat houdt dat precies in? AI-expert Lotte Hart van SeederDeBoer geeft uitleg.
Maart vorig jaar stemde het Europese Parlement voor de invoering van de AI Act. Twee maanden later gaf de Europese Raad het definitieve groen licht. De AI Act treedt sinds afgelopen augustus gefaseerd in werking.
De nieuwe wetgeving regelt onder meer wat op het gebied van AI verboden is en welke toepassingen wel zijn toegestaan. Sinds deze maand verplicht de wet organisaties die “AI-systemen ontwikkelen, inzetten of exploiteren” ook om te zorgen voor voldoende AI-geletterdheid.
“Volgens de wetgeving gaat AI-geletterdheid over de vaardigheden en kennis die nodig zijn om op een geïnformeerde manier om te gaan met AI-systemen”, zegt Lotte Hart, partner bij SeederDeBoer.
Let wel: een simpele handeling als gebruikmaken van ChatGPT bij het opstellen van een e-mail valt al onder wetgeving. Daarmee heeft de AI Act grote maatschappelijke gevolgen. “Talloze organisaties moeten gaan investeren in het bevorderen van AI-geletterdheid”, zegt Hart.
Meer dan lezen en schrijven
Maar wat is AI-geletterdheid precies? “Meestal denken we bij geletterdheid aan kunnen lezen en schrijven, maar het begrip is veel breder”, schetst Hart. “Historisch gezien betekent geletterdheid – afgeleid van het Latijnse litteratus – ‘in staat zijn om informatie te verwerven, begrijpen en gebruiken’.”
“AI-geletterdheid stelt medewerkers in staat om AI-systemen te begrijpen en kritisch te beoordelen”
Dat komt al dichter in de buurt van de betekenis die geletterdheid vandaag de dag meer heeft gekregen. “Zeker de afgelopen jaren wordt de term vooral gebruikt bij het beschrijven van vaardigheden die gaan over het omgaan met ICT en cijfermatige en grafische gegevens”, aldus Hart.
“Neem mediageletterdheid, volgens de Europese Unie een ‘cruciale vaardigheid’ voor burgers in dit tijdperk van desinformatiecampagnes en nepnieuws”, let ze uit. “Of datageletterdheid, een belangrijke vaardigheid voor medewerkers in organisaties die meer datagedreven willen werken.”
Vaardigheid én bewustzijn
Aan dat rijtje kan nu AI-geletterdheid worden toegevoegd. “Net zoals datageletterdheid organisaties helpt om data te interpreteren en toe te passen, stelt AI-geletterdheid medewerkers in staat om AI-systemen te begrijpen en kritisch te beoordelen”, legt Hart uit.
Ze benadrukt dat dit verder gaat dan alleen de technische werking van AI-systemen. “Misschien nog wel belangrijker zijn de ethische en maatschappelijke implicaties van AI-toepassingen. Denk aan vragen zoals: Hoe wordt data verzameld? Welke risico’s brengt een AI-beslissing met zich mee? En hoe garanderen we eerlijkheid en transparantie?”
In die zin is AI-geletterdheid meer dan simpelweg een vaardigheid. “Het is een vorm van bewustzijn. Als je AI-geletterd bent, kun je de mogelijkheden, beperkingen en risico’s van AI beoordelen. Je kunt een kritische mening vormen over AI en weet wanneer en hoe je het kan gebruiken.”
Deze gelaagde betekenis komt ook terug in de definitie die de AI Act hanteert. “Daarin wordt AI-geletterdheid gedefinieerd als de vaardigheid, kennis en begrip die je in staat stelt geïnformeerd AI-systemen in te zetten. Daarnaast noemt de AI Act ook bewustwording van kansen en risico’s van AI en de mogelijke schade die AI kan veroorzaken als belangrijke elementen van AI-geletterdheid.”
Het belang van AI-geletterdheid
Want dat AI naast potentiële waarde ook de nodige risico’s en schade met zich mee kan brengen, moge inmiddels duidelijk zijn. “Helder begrip van de beperkingen van AI-toepassingen is dus uiterst relevant”, geeft Hart aan.
Dat komt onder meer doordat de output van generatieve AI-modellen lang niet altijd betrouwbaar is. Zo onthulde nieuwsplatform The Markup zo’n jaar geleden dat AI-chatbot MyCity (van de overheid van New York) lokale ondernemers zou aanzetten tot het overtreden van de wet door bijvoorbeeld werknemers hun fooi niet uit te betalen.
“AI-modellen zijn in staat razendsnel patronen te herkennen en te voorspellen”, vertelt Hart. “Dat doen ze op basis van bestaande data. Als de input vooroordelen bevat of niet representatief is, worden dit soort bestaande vooroordelen versterkt door het AI-model. Zonder AI-geletterdheid mis je de kennis om dergelijke risico’s te herkennen.”
Verschil per rol en sector
De mate waarin AI-geletterdheid reeds aanwezig is binnen een organisatie of zou moeten zijn, verschilt per sector, rol en per organisatie. Het is bijvoorbeeld niet onwaarschijnlijk dat ICT-medewerkers gemiddeld genomen meer voorkennis hebben van de technologie dan horecapersoneel.
“AI-geletterdheid is een vaardigheid die continu getraind moet worden.”
“Maar realiseer je wel dat kennis over de technische werking van AI-systemen niet automatisch zorgt voor begrip van de ethische implicaties”, benadrukt Hart. En die ethische implicaties verschillen ook weer sterk per rol en toepassing, geeft ze aan.
“Wie bijvoorbeeld AI gebruikt bij het opstellen van e-mails of een opzetje voor een artikel heeft vooral basiskennis nodig. Maar een arts die AI gebruikt bij het beoordelen van een ziektebeeld of een HR-officer die AI gebruikt bij het screenen van cv’s heeft veel dieper begrip nodig van hoe de onderliggende AI-modellen werken, hoe deze worden getraind en welke mogelijke bias door het algoritme geïntroduceerd worden.”
Aan de slag
Organisaties die de AI-geletterdheid van hun medewerkers willen opkrikken, doen er volgens Hart verstandig aan om te beginnen met het investeren in bewustwording. “Organiseer workshops en trainingen waarin medewerkers kennismaken met de basisprincipes van AI.”
Vanwege de snelle ontwikkelingen binnen het vakgebied, is een eenmalige cursus niet voldoende. “AI-geletterdheid is een vaardigheid die continu getraind moet worden.”
Daarnaast is het belangrijk om AI-geletterdheid in te bedden in de dagelijkse praktijk. Dit kan door het stimuleren van een datagedreven cultuur waarbinnen het normaal is om kritische vragen te stellen over de werking van AI-systemen.
“Investeren in AI-geletterdheid is geen luxe, maar een noodzaak voor organisaties die willen blijven voldoen aan de wetgeving en die relevant willen blijven in deze digitale wereld”, aldus Hart. “Zo leg je de basis voor een toekomst waarin AI efficiënt én verantwoord wordt ingezet.”
Meer weten over AI en hoe je als organisatie de eerste stappen kunt zetten richting het verantwoord benutten van de kansen die de technologie biedt? Kijk op de Artificial Intelligence-pagina van SeederDeBoer.
