La solución propuesta
Un estándar técnico unido a una obligación legal
Obligaciones para los generadores de IA
- Aplicar un símbolo visual estandarizado a todo el contenido generado por IA
- Incrustar metadatos de procedencia firmados (estándar de tipo C2PA)
- Marca de tiempo y firma criptográfica del contenido en el origen
- Identificación de la herramienta o modelo que generó el contenido
Obligaciones para las plataformas
- Mostrar visiblemente la marca de IA en la interfaz de usuario
- Conservar los metadatos de procedencia sin alteración ni eliminación
- Proporcionar una API pública de verificación de procedencia
- Rechazar o reetiquetas las resubidas de contenido de IA sin marca
Obligaciones para creadores y editores
- No eliminar ni alterar las marcas de procedencia y los metadatos del contenido generado por IA
- No distribuir contenido generado por IA presentándolo explícita o implícitamente como auténtico
- No republicar contenido cuya marca haya sido deliberadamente eliminada
- Responsabilidad agravada en contextos electorales, financieros o de robo de identidad
Sanciones
En casos de distribución deliberadamente engañosa de contenido de IA sin etiquetar: multas económicas significativas para plataformas y herramientas de generación no conformes, responsabilidad penal para usuarios malintencionados.
Base técnica: un estándar abierto y soberano
La trazabilidad del contenido de IA se basa en metadatos firmados criptográficamente incrustados en el archivo en el origen. Ya existen varias iniciativas, incluida la Coalition for Content Provenance and Authenticity (C2PA), adoptada voluntariamente por Adobe, Microsoft y Google. Pero una obligación legal europea no puede depender exclusivamente de un estándar gobernado por actores privados.
- Abierto y auditable — código fuente público, documentación completa, sin dependencia propietaria
- Gobernado democráticamente — bajo los auspicios de un organismo público o una instancia independiente de múltiples partes interesadas (W3C, ISO o un organismo europeo dedicado)
- Interoperable — compatible con implementaciones existentes como C2PA, sin depender exclusivamente de ellas
- Soberano — la definición del estándar no debe pertenecer a empresas con intereses comerciales directos en su aplicación
C2PA puede servir como base de trabajo e inspiración. No puede ser la respuesta definitiva.