AI-geletterdheid-pijler van EU AI Act treedt in werking
De EU AI Act wordt sinds augustus 2024 gefaseerd ingevoerd. Vanaf deze week wordt weer een nieuwe set aan compliancevereisten van kracht, gericht op AI-geletterdheid. Casper Rutjes, Chief Technology Officer bij ADC, vertelt wat organisaties moeten doen om hieraan te voldoen.
Met de AI Act wil de Europese Unie zorgen voor meer transparantie en betere risicobeheersing rondom kunstmatige intelligentie. De wet legt strikte regels op om misbruik te voorkomen, terwijl innovatie binnen veilige kaders wordt gestimuleerd. Sinds augustus van vorig jaar wordt de nieuwe wet stapsgewijs ingevoerd.
De focus van de AI Act lag tot nu toe vooral op de zogeheten ‘prohibited practices’ – AI-toepassingen die onder de wetgeving verboden zijn. Ten eerste gaat het om schadelijke subliminale, manipulatieve en misleidende technieken. Ook is de schadelijke exploitatie van kwetsbaarheden op basis van leeftijd, handicap of een specifieke sociale of economische situatie verboden.
Daarnaast is sociale scoring, waarbij individuen worden beoordeeld op basis van hun gedrag of voorspelde kenmerken, niet toegestaan. Het voorspellen van misdaad op basis van individuele risico-inschatting is uitsluitend toegestaan in enkele uitzonderingen.
Ook is de ongeselecteerde scraping van internet- of CCTV-materiaal om gezichtsherkenningsdatabases op te bouwen verboden. Emotieherkenning op de werkplek en in het onderwijs, evenals biometrische categorisatie om bijvoorbeeld ras, religieuze overtuigingen of seksuele geaardheid te raden, zijn eveneens verboden, met enkele uitzonderingen.
Tot slot mogen realtime biometrische identificatiesystemen in openbare ruimtes voor wetshandhaving alleen onder strikte voorwaarden worden toegepast.
Compliancerisico voor organisaties
Organisaties zijn volop bezig met de implementatie van maatregelen om deze prohibited practices te voorkomen. Hierbij is het volgens Casper Rutjes, Chief Technology Officer bij ADC, van belang dat ze naast de processen ook kijken naar (mogelijk) onbewuste toepassing van verboden AI-praktijken.
“Het opbouwen van AI-geletterdheid is niet langer optioneel; het is noodzakelijk om compliant en relevant te blijven.”
“Vaak beschikken organisaties niet over de nodige controlesystemen en richtlijnen om het verantwoord gebruik van AI-praktijken te waarborgen en het risicomanagement optimaal uit te voeren”, legt hij uit, “zeker omdat steeds meer software geleidelijk AI-functionaliteiten uitrolt in updates en het niet duidelijk of, waar en in hoeverre AI wordt ingezet. Dit leidt tot risico’s, zoals non-compliance, potentieel hoge boetes of heeft zelfs reputatieschade tot gevolg.”
Meer privacy en veiligheid voor burgers
Voor burgers pakt het verbod op specifieke AI-praktijken positief uit, benadrukt Rutjes.
“AI-praktijken die de autonomie, privacy of veiligheid van burgers in gevaar brengen, zijn vanaf nu verboden. In de verordening is een specifieke lijst opgesteld wat niet meer mag. Dit komt neer op een verbod op discriminatie, uitbuiting van kwetsbaarheden, bedreigingen voor de persoonlijke veiligheid en het veroorzaken van machts-, hulpbronnen- of invloedsonbalans.”
“De EU AI Act verhoogt dus de privacy en veiligheid van burgers”, geeft hij aan.
AI-geletterdheid
Sinds deze week moeten organisaties ook voldoen aan de AI-geletterdheid-pijler van de EU AI Act. Deze pijler schrijft voor dat organisaties ervoor moeten zorgen dat hun medewerkers voldoende kennis hebben over het gebruik van AI, de risico’s ervan en hoe ze AI effectief en verantwoord kunnen toepassen.
Rutjes benadrukt hoe belangrijk het is dat de maatregelen voor het voldoen aan deze nieuwe vereisten (evenals de overige vereisten) organisatiebreed worden uitgerold.
“Vaak laten organisaties hun AI-geletterdheid alleen door specialisten verankeren, zoals data scientists. Maar omdat steeds meer werknemers AI gebruiken, is het cruciaal dat zij ook weten hoe ze AI effectief gebruiken en wat de risico’s zijn. Het opbouwen van AI-geletterdheid is niet langer optioneel; het is noodzakelijk om compliant en relevant te blijven.”
De volgende stap: hoogrisico AI-systemen
De volgende implementatiefase van de EU AI Act, die over enkele maanden plaatsvindt, is volgens velen nog belangrijker: het adresseren van de maatregelen die bij hoogrisico AI-systemen komen kijken.
“Deze AI-praktijken zijn niet verboden, maar brengen wel aanzienlijke risico’s met zich mee. Ze hebben een directe impact op onze fundamentele rechten, en dus op de burgers. Daarom is het uiterst belangrijk om het risicomanagement hiervoor optimaal in te richten”, aldus Rutjes.
