Dawn Technology ontwikkelt oplossing tegen AI-desinformatie in media
Dawn Technology heeft een oplossing ontwikkeld om nieuwsredacties te wapenen tegen AI-desinformatie. De bijbehorende technische paper is geschreven in samenwerking met omroep VPRO en accelerator Media Campus NL. De technologie wordt de komende tijd in de praktijk getoetst via een pilot bij de VPRO.
Jaarlijks veroorzaken desinformatie en online scams maar liefst $1 biljoen aan schade, zo is te lezen in de technische paper. Denk onder meer aan deepfake-fraude waarbij criminelen zich voordoen als bekenden om betalingen los te krijgen.
Daarnaast is AI-desinformatie een groot probleem in de mediawereld. Nepcontent is steeds moeilijker van echte te onderscheiden. Hierdoor trappen journalisten soms in misleidende berichten. Dat kan op zijn beurt het vertrouwen in de journalistiek onder druk zetten.
Herkomst en authenticiteit verifiëren
In de paper wordt een concrete technologische oplossing beschreven waarmee mediaorganisaties de herkomst en authenticiteit van beeld- en geluidsfragmenten cryptografisch kunnen verifiëren.
De methode van Dawn Technology maakt gebruik van de open C2PA-standaard en digitale identiteitsbewijzen (CAWG). Daarmee kunnen nieuwsredacties controleren waar beeld en geluid vandaan komen en of het onderweg is aangepast. Ook wordt het mogelijk om vast te stellen wie de afzender is.
De technologie wordt volledig als open source gedeeld via ontwikkelplatform GitHub. Daardoor kunnen ook andere nieuwsorganisaties de oplossing gebruiken en waar nodig zelfs verbeteren. Zo moet het voor redacties makkelijker worden om gemanipuleerde content te herkennen.
“Waar bestaande verificatietools vaak complex of gesloten zijn, richt dit project zich juist op een werkbare integratie in bestaande redactieworkflows”, zegt Maurits Kool, Director Media & Entertainment bij Dawn Technology.
Pilot bij de VPRO
De pilot vindt plaats binnen de buitenlandredactie van de VPRO. Het doel is om de impact van de technologie op de dagelijkse workflow rondom content te testen.
Om daarnaast ook het publiek een tool in handen te geven, is het onafhankelijke platform www.verifieermij.nl ontwikkeld. Via deze website kunnen consumenten zelf de herkomst en betrouwbaarheid van mediabestanden controleren.
“Zolang de authenticiteit van digitale content niet direct aantoonbaar is, blijft de onafhankelijke informatievoorziening kwetsbaar”, zegt Kool. “Met onze oplossing en de pilot bij de VPRO laten we zien hoe redacties stap voor stap kunnen beginnen met structurele bronverificatie, zonder dat ze direct hun hele IT-infrastructuur hoeven om te gooien.”
International Broadcasting Convention
Tijdens de aankomende International Broadcasting Convention (IBC) op zondag 13 september in Amsterdam presenteert Dawn Technology samen met de VPRO en Media Campus NL de technische paper en de achterliggende architectuur.
Op vrijdag 11 september bespreekt Dawn Technology tijdens de IBC-inspiratielunch hoe omroepen en mediabedrijven deze nieuwe open source-technologieën direct binnen hun eigen redactie kunnen inzetten om de journalistieke integriteit te beschermen.
