La solution proposée
Une norme technique couplée à une obligation légale
Obligations côté IA génératrice
- Apposer un symbole visuel standardisé sur tout contenu généré par IA
- Intégrer des métadonnées de provenance signées (type C2PA)
- Horodatage et signature cryptographique du contenu à la source
- Identification de l'outil ou du modèle ayant généré le contenu
Obligations côté plateformes
- Afficher le marqueur IA de manière visible sur l'interface utilisateur
- Conserver les métadonnées de provenance sans les altérer ni les supprimer
- Proposer une API publique de vérification de provenance
- Rejeter ou remarquer les re-uploads de contenus IA sans marqueur
Obligations côté créateur et diffuseur
- Ne pas supprimer ni altérer les marqueurs et métadonnées de provenance d'un contenu IA
- Ne pas diffuser un contenu IA en le présentant explicitement ou implicitement comme authentique
- Ne pas republier un contenu dont le marqueur a été délibérément effacé
- Responsabilité aggravée en contexte électoral, financier ou d'usurpation d'identité
Sanctions
En cas de diffusion délibérément trompeuse d'un contenu IA non marqué : sanctions financières significatives pour les plateformes et les outils de génération défaillants, responsabilité pénale pour les utilisateurs malveillants.
Base technique : un standard ouvert et souverain
La traçabilité des contenus IA repose sur des métadonnées signées cryptographiquement, intégrées au fichier à la source. Plusieurs initiatives existent déjà, dont la Coalition for Content Provenance and Authenticity (C2PA), adoptée volontairement par Adobe, Microsoft et Google. Mais une obligation légale européenne ne peut pas reposer exclusivement sur un standard gouverné par des acteurs privés.
- Ouvert et auditable — code source public, documentation complète, sans verrou propriétaire
- Gouverné démocratiquement — sous l'égide d'un organisme public ou d'une instance multipartite indépendante (W3C, ISO, ou organisme européen dédié)
- Interopérable — compatible avec les implémentations existantes comme C2PA, sans en dépendre exclusivement
- Souverain — la définition du standard ne doit pas appartenir à des entreprises ayant des intérêts commerciaux directs dans son application
C2PA peut servir de base de travail et d'inspiration. Il ne peut pas être la réponse définitive.