Le problème
Pourquoi les deepfakes représentent une menace systémique
Les risques concrets
Désinformation politique
Des vidéos falsifiées de responsables politiques peuvent influencer des élections, semer la panique ou déclencher des crises diplomatiques. Les campagnes de désinformation à base de deepfakes se sont multipliées lors de chaque scrutin majeur ces dernières années.
Usurpation d'identité
Des personnes ordinaires voient leur visage et leur voix utilisés sans consentement pour des fraudes, du harcèlement ou de la pornographie non consentie. L'IA générative a rendu ces attaques accessibles à n'importe qui.
Fraude financière
Des deepfakes audio-visuels de dirigeants d'entreprise sont utilisés pour autoriser des virements frauduleux. Plusieurs cas documentés impliquent des pertes de millions d'euros.
Ce qui se passe aujourd'hui
Plusieurs outils de détection de deepfakes existent, mais ils échouent régulièrement face à des contenus compressés, retouchés ou générés avec les modèles les plus récents. La course entre génération et détection est structurellement déséquilibrée : les modèles génératifs progressent plus vite que les détecteurs.
Le problème des plateformes
Lorsqu'une vidéo est publiée sur une plateforme, celle-ci la compresse et la ré-encode, supprimant souvent les métadonnées d'origine — y compris les éventuels marqueurs de provenance. Si la loi n'oblige pas les plateformes à conserver et afficher ces informations, tout étiquetage effectué à la source devient inutile.
Pourquoi la détection seule ne suffit pas
Attendre qu'un outil détecte automatiquement les deepfakes, c'est toujours intervenir après coup, sur un contenu déjà diffusé. L'étiquetage obligatoire à la source est la seule approche préventive et robuste à long terme.
Sources : Europol, AFP Factuel, MIT Media Lab, Centre for Emerging Technology Policy.