De EU AI Act komt eraan: Waar moeten bedrijven op letten?
De nieuwe EU AI Act geldt voor elk bedrijf dat zich bezighoudt met het ontwikkelen of gebruiken van AI-systemen. Arun Ramchandran, President en Global Head van GenAI Consulting bij Hexaware, legt uit wat de gevolgen zijn voor bedrijven.
Toen de Europese Commissie in 2021 de eerste EU-regelgeving voor AI voorstelde, hadden weinigen zich kunnen voorstellen hoe snel deze systemen zich in drie jaar tijd zouden ontwikkelen.
Volgens de Stanford AI Index van 2024 zijn alleen chatbots het afgelopen jaar al gestegen van een score van zo’n 30-40% op de Graduate-Level Google-Proof Q&A Benchmark (GPQA)-test naar 60%. Dit betekent dat chatbots niet meer marginaal beter scoren dan verwacht zou worden met het willekeurig raden van antwoorden, maar nu al bijna net zo goed zijn als de gemiddelde promovendus.
De toepassingsmogelijkheden en voordelen van dergelijke technologie zijn ongekend, maar dat geldt ook voor de ethische, praktische en veiligheidsaspecten.
De EU AI Act wetgeving is in maart van dit jaar aangenomen in een poging om de zorgen bij mensen weg te nemen. Onder andere door te regelen dat alle systemen die in de Europese Unie worden gebruikt veilig, transparant en niet-discriminerend zijn. Het biedt namelijk een raamwerk voor het vaststellen van:
- Regels om te zorgen dat AI-technologie op een verantwoorde en eerlijke manier wordt gebruikt.
- Waarborgen om te voorkomen dat individuen worden beïnvloed door beslissingen van AI.
- Mechanismen om te verifiëren of de beslissingen van AI correct zijn.
- Mogelijkheden om ervoor te zorgen dat individuen verantwoordelijk kunnen worden gehouden voor onjuiste beslissingen van AI.
- Benaderingen voor het afdwingen van governance-, ethiek- en veiligheidseisen voor AI.
De nieuwe EU-regelgeving geldt voor elk bedrijf dat zich bezighoudt met het ontwikkelen of gebruiken van AI-systemen, ongeacht de branche. Gezien het nut en de voorspelde alomtegenwoordigheid van AI betekent dit dat vrijwel elke grote organisatie moet gaan kijken naar de gevolgen van de AI-wetgeving voor hun business en wat er moet gebeuren om naleving ervan te garanderen.
Intelligente benadering van regelgeving
Het reguleren van nieuwe technologie is altijd moeilijk, laat staan een technologie die zich zo snel ontwikkelt als AI. Het is zelfs al lastig om te definiëren wat als een AI-systeem geldt, laat staan te ontleden welke elementen moeten worden gereguleerd en hoe.
Tevens zijn AI-systemen, in tegenstelling tot andere tools en technologieën, zeer onvoorspelbaar, omdat de modellen bij elke interactie evolueren. Dit betekent dat zelfs de ontwikkelaars die ze bouwen vaak niet zeker weten hoe hun AI zich in een bepaalde situatie zal (blijven) gedragen.
Niettemin is regelgeving belangrijk en het is bemoedigend dat zoveel belanghebbenden in zowel de publieke als de private sector het eens zijn over de noodzaak van effectieve vangnetten. Tegelijkertijd kan te strikte regelgeving de ontwikkeling van belangrijke innovaties tegenhouden. Daarom is het nodig dat AI-regelgeving de juiste balans vindt tussen het beperken van potentiële schade en misbruik, en tegelijkertijd bedrijven in staat stelt de vruchten ervan te plukken, zoals verbeterde R&D.
Gelukkig kan de EU AI Act voorkomen dat organisaties worden onderworpen aan te belastende administratieve rompslomp, terwijl er toch effectieve waarborgen worden geboden. Namelijk door te kiezen voor een resultaat- en use-case-gebaseerde benadering van regelgeving, in plaats van een procesgebaseerde aanpak.
Nieuwe vaardigheden
Maar zelfs goed bedachte regelgeving legt bedrijven een aantal verplichtingen op, en de EU AI Act zal van alle betrokken organisaties eisen dat ze veel transparanter worden over hun gebruik van AI. In juni 2026 moeten organisaties hun AI-modellen hebben geclassificeerd en geregistreerd op basis van vier door de EU geschetste risicocategorieën.
Ze moeten ook processen voor data-, risico- en kwaliteitsbeheer en incidentrapportage opzetten, die nodig zijn om de nauwkeurigheid, robuustheid en veiligheid van hun AI-systemen te garanderen. Ten slotte moeten ze de instrumenten inbouwen om menselijk toezicht op AI-systemen te houden, en de technische documentatie opbouwen die nodig is om naleving van de regelgeving te beoordelen en aan te tonen.
Organisaties moeten daarvoor een aantal nieuwe workflows creëren, maar ook bestaande workflows herontwerpen. Helaas is dit geen eenvoudig proces. Nieuwe rollen, zoals Chief AI Officer, moeten worden gecreëerd en geïntegreerd in bestaande managementteams, terwijl de functies voor contentcreatie en visueel ontwerp nieuwe verantwoordelijkheden erbij gaan krijgen. Daarvoor zijn nieuwe vaardigheden en diepgaande training nodig.
AI-ecosysteem
Het managen van zo’n belangrijke organisatieverandering binnen enkele maanden is een uitdaging voor elke organisatie, vooral de grotere. Het is zelfs nog moeilijker door de steeds groter wordende kloof in AI-vaardigheden. De EU AI Act is nog niet eens van kracht, terwijl de vraag naar AI-professionals nu al veel groter is dan het aanbod.
Als duizenden organisaties statistieken, modellen en rapporten moeten gaan presenteren om naleving aan te tonen, kan de kloof in AI-vaardigheden uitmonden in een acute crisis.
De eerste stap bij de voorbereiding op de EU AI Act is daarom het ontwikkelen van een strategie die organisaties helpt hun eigen vaardigheidslacunes te identificeren en aan te pakken. Aangezien amper één op de tien bedrijven nu een Chief AI Officer heeft, zal de ontwikkeling en uitvoering van deze strategie waarschijnlijk worden aangestuurd door andere technologiemanagers, in samenwerking met AI-experts.
Als die inhoudelijke expertise intern niet aanwezig is, kunnen bedrijven zich ook tot externe partners wenden om te borgen dat zij slechte besluitvorming, verkeerd op elkaar afgestemde verwachtingen en niet-naleving van de regelgeving voorkomen.
Naar een AI aangedreven wereld
De potentiële voordelen van AI-toepassingen in vrijwel elke branche zijn enorm, variërend van de medische wetenschap en duurzame technologie, tot communicatie en contentcreatie. Elke technologie die zo krachtig is als AI brengt echter ook zorgwekkende risico's met zich mee. Daarom is het bemoedigend dat de EU zo snel actie onderneemt om robuuste maar flexibele wetgeving in te voeren om haar burgers te beschermen zonder de innovatie te belemmeren.
Het naleven van alle verplichtingen is belangrijk, maar bedrijven moeten hiervoor zorgvuldig plannen en verstandig investeren. Daarin staan ze echter niet alleen. De snelle ontwikkeling van AI betekent dat organisaties meer moeten samenwerken en kennis en expertise moeten delen om de transitie succesvol te doorlopen.
Door samen te werken met experts die over de inzichten en kennis beschikken om succesvolle projecten te realiseren op een wijze die in overeenstemming is met de nieuwe regelgeving, kunnen bedrijven zichzelf positioneren als dominante spelers in de toekomstige AI aangedreven wereld.
