Deepfake-technologie in het bedrijfsleven: Risico’s en preventie
De risico’s van deepfake-technologie nemen met de opkomst van AI steeds serieuzere vormen aan, ook voor bedrijven. Experts van Symbol nemen ons mee in de wereld van deepfakes. Ze leggen uit wat de technologie omvat, welke risico’s erin schuilen en welke maatregelen genomen kunnen worden om deze risico’s zo goed mogelijk in te perken.
Deepfakes zijn digitale manipulaties van beeld- en geluidsopnamen, waarbij (steeds vaker) geavanceerde kunstmatige intelligentie (AI) wordt gebruikt om mensen in video’s of audio realistisch te vervangen door andere personen of karakters. Het resultaat lijkt levensecht, maar is in werkelijkheid volledig gegenereerd door computersoftware.
Moderne deepfake-technologie maakt gebruik van zogenaamde generative adversarial networks (GAN), die in 2014 werden ontwikkeld door onderzoekers. Deze GAN’s leren gezichtsuitdrukkingen, stemmen en bewegingen van mensen te imiteren door enorme hoeveelheden data te analyseren.
In 2017 heeft NVIDIA grote stappen gezet in de ontwikkeling van GAN-technologie, waardoor deepfakes nog realistischer en toegankelijker werden voor gebruikers.
De technologie achter deepfakes is tegenwoordig wijdverspreid en gemakkelijk toegankelijk voor iedereen. Zo komen er steeds meer online platforms beschikbaar waar gebruikers gratis of betaald deepfakes kunnen maken, zoals de bovenstaande. Bovendien kunnen mensen met minimale technische kennis, dankzij gebruiksvriendelijke tools en tutorials, zelf deepfakes creëren (bijvoorbeeld met apps in de appstore).
Voor het algemene publiek zijn dit veelal vermakelijke taferelen, waarbij mensen elkaar voor de gek kunnen houden met grappige deepfake-creaties. Helaas zijn de afgelopen jaren ook kwaadwillenden met de technologie aan de slag gegaan. Voor hen is inmiddels kinderlijk eenvoudig om zelf deepfake-video’s te creëren, waarin het lijkt alsof echte personen dingen zeggen of doen die ze nooit hebben gedaan.
Een belangrijke vraag die vrijwel meteen oprijst is: Wat zijn eigenlijk de risico’s voor bedrijven? Experts van Symbol, een adviesbureau gespecialiseerd in continu verbeteren en daaraan gerelateerde organisatieontwikkeling en verandermanagement, hebben zich over deze vraag gebogen.
Zij wijzen drie belangrijke risicogebieden voor organisaties aan:
Financiële risico’s, reputatieschade, procesverstoring
Allereerst financiële risico’s, als gevolg van pogingen tot fraude en oplichting. Zo worden deepfakes (nu al) gebruikt door criminelen om mensen te simuleren die vervolgens betalingen goedkeuren of collega’s aanzetten tot (in werkelijkheid) frauduleuze transacties.
Een recent voorbeeld hiervan is een financiële medewerker bij een organisatie in Hongkong, die €24 miljoen overmaakte omdat hij dacht dat hij in een videocall zat met echte collega’s die hun goedkeuring verleenden voor de transactie. Van de diverse collega’s was niet alleen qua beeld een deepfake gemaakt, ook de stemmen waren dusdanig vervormd dat deze voor de medewerkers niet van echt te onderscheiden vielen.
Een vergelijkbaar scenario overkwam ook neobank bunq. Oplichters maakten een deepfake van bunq-oprichter Ali Niknam. In deze zaak werden medewerkers van bunq misleid om geld over te maken naar de rekening van de criminelen. Gelukkig voor bunq slaagden de criminelen niet in hun opzet, de door de online bank ingezette beveiligingsmaatregelen wierpen roet in het eten.
Daarnaast is er het risico van reputatieschade. Deepfakes kunnen worden gebruikt om nepvideo’s te maken van bedrijfsleiders, die vervolgens bijvoorbeeld schokkende uitspraken doen of handelingen lijken te verrichten. Deze gesimuleerde acties kunnen ernstige reputatieschade opleveren voor het bedrijf.
Ook kunnen deepfakes gebruikt worden om influencers op social media negatieve uitspraken te laten doen over een organisatie of personen. Zo doken de afgelopen tijd op sociale media diverse deepfakes op rondom de Amerikaanse presidentsverkiezingen, onder meer met het doel om kiezers te misleiden, bijvoorbeeld door politici dingen te laten zeggen die ze nooit hebben gezegd. Microsoft en Facebook kondigden reeds maatregelen aan om de digitale strijd aan te gaan met deepfakes.
Ten slotte is er het risico op verstoring van de bedrijfsprocessen. Hackers kunnen deepfakes gebruiken om valse instructies te geven aan medewerkers, waarna de productie of logistiek van een bedrijf wordt verstoord, met alle mogelijke gevolgen van dien.
Preventie en risico’s beperken: Vier aspecten
Kortom: flinke risico’s, óók voor het bedrijfsleven. De vaag is dan ook wat organisaties kunnen doen tegen de gevaren van deepfakes. Hoe voorkomen ze dat ze slachtoffer worden van de opkomende technologie?
De experts van Symbol hebben vier essentiële aspecten geïdentificeerd om organisaties te helpen bij het omgaan met de risico’s van deepfakes:
1: Bewustwording
Allereerst benadrukken ze het belang van bewustwording binnen de organisatie. “Het is essentieel dat alle medewerkers goed geïnformeerd zijn over deepfakes, hoe ze worden gemaakt en welke potentiële schade ze kunnen veroorzaken.”
Zo moet medewerkers aangeleerd worden hoe deepfakes eruit zouden kunnen zien en welke vormen er bestaan. Deepfakes kunnen variëren van gemanipuleerde stemmen tot video’s waarin het gezicht van een persoon is vervangen door dat van een ander. Soms worden ze zelfs gebruikt tijdens een online meeting.
“Door regelmatige trainingen en bewustmakingscampagnes kunnen organisaties een cultuur van waakzaamheid en proactieve bescherming tegen deepfakes bevorderen”, aldus de experts.
2: Veiligheidsmaatregelen
Ten tweede is het raadzaam om strikte veiligheidsmaatregelen te implementeren. Dit omvat het instellen van multi-factor authenticatie voor belangrijke financiële transacties, het beperken van toegang tot gevoelige data en het samenwerken met externe cybersecurity-experts voor waardevolle inzichten en ondersteuning.
“Met de inzet van de juiste tools voor de detectie van deepfakes kunnen verdachte activiteiten snel geïdentificeerd en aangepakt worden”, stelt Symbol.
3: Controle en verificatie
Ook het belang van controle en verificatie wordt door de consultants benadrukt. Zo moeten organisaties de bronnen van informatie zorgvuldig controleren en de afzenders verifiëren, vooral via digitale kanalen. “Door regelmatig audits uit te voeren en een strikt verificatiebeleid in te stellen voor belangrijke beslissingen, kunnen organisaties de risico's van deepfakes effectief beheersen en minimaliseren.”
4: Rapportagecultuur instellen
Tot slot wordt aanbevolen om een rapportagecultuur binnen de organisatie in te stellen. “Het is cruciaal dat alle verdachte activiteiten onmiddellijk worden gemeld aan de IT-afdeling en dat er samenwerking plaatsvindt binnen de industrie om gezamenlijk beter bestand te zijn tegen deepfakes.”
Door deze vier aspecten serieus te nemen en proactieve maatregelen te nemen, kunnen organisaties zich “effectief wapenen tegen de groeiende dreiging van deepfaketechnologie”, stellen de experts van Symbol,
Opgewassen tegen toenemende dreiging
Tot slot een waarschuwing van Symbol: het bureau benadrukt de razendsnelle ontwikkeling van de deepfake-technologie. Kwaadwillenden zullen dan ook steeds ingenieuzer te werk gaan. En waar het aantal incidenten in Nederland vooralsnog beperkt is, is het naïef om te denken dat dit zo zal blijven.
Wat ook meespeelt is dat in China, Rusland en India regeringen echt niet achter die criminelen aangaan. Bovendien hebben tal van criminelen reeds successen behaald met de inzet van deepfakes, en dat zal weer nieuwe criminelen aantrekken.
Over een tijdje zullen er volgens Symbol sowieso meer incidenten komen, vooral in combinatie met ‘pig butchering’. Hierbij leggen criminelen online contact met mensen met als eerste doel ‘bevriend’ te raken. Zodra het vertrouwen is gewekt oefenen ze na verloop van tijd (dit kan soms weken of maanden duren) meer en meer invloed en krijgen ze de slachtoffers bijvoorbeeld zo ver om geslaagde beleggingsverhalen te geloven en zelf geld te investeren.
Kortom, in een tijdperk waarin deepfake-technologie steeds geavanceerder wordt, is het essentieel voor bedrijven om nu al proactieve maatregelen te nemen om zichzelf te beschermen tegen de risico’s.
“Door bewustwording, educatie en techbeveiliging centraal te stellen, zijn bedrijven beter opgewassen tegen de dreiging van deepfakes en kunnen ze hun activiteiten richting de toekomst veilig voortzetten”, aldus de Symbol-experts.