Het probleem
Waarom deepfakes een systemische bedreiging vormen
Concrete risico's
Politieke desinformatie
Vervalste video's van politieke figuren kunnen verkiezingen beïnvloeden, paniek zaaien of diplomatieke crises veroorzaken. Desinformatiecampagnes op basis van deepfakes zijn de afgelopen jaren bij elke grote verkiezing toegenomen.
Identiteitsdiefstal
Gewone mensen zien hun gezicht en stem zonder toestemming gebruikt voor fraude, intimidatie of niet-consensuele pornografie. Generatieve AI heeft deze aanvallen voor iedereen toegankelijk gemaakt.
Financiële fraude
Audiovisuele deepfakes van bedrijfsleiders worden gebruikt om frauduleuze overboekingen te autoriseren. Verschillende gedocumenteerde gevallen hebben geleid tot verliezen van miljoenen euro's.
Wat er vandaag gebeurt
Er bestaan verschillende deepfake-detectietools, maar ze falen regelmatig bij gecomprimeerde, bewerkte of met de nieuwste modellen gegenereerde inhoud. De wedloop tussen generatie en detectie is structureel onevenwichtig: generatieve modellen evolueren sneller dan detectoren.
Het platformprobleem
Wanneer een video op een platform wordt gepubliceerd, wordt deze gecomprimeerd en opnieuw gecodeerd, waardoor de oorspronkelijke metadata — inclusief eventuele herkomstmerktekens — vaak verloren gaan. Als de wet platforms niet verplicht deze informatie te bewaren en weer te geven, wordt elke aan de bron aangebrachte etikettering nutteloos.
Waarom detectie alleen niet volstaat
Wachten tot een automatische tool deepfakes detecteert, betekent altijd achteraf ingrijpen, op inhoud die al verspreid is. Verplichte etikettering aan de bron is de enige preventieve en op lange termijn robuuste aanpak.
Bronnen: Europol, AFP Fact Check, MIT Media Lab, Centre for Emerging Technology Policy.