A solução proposta
Uma norma técnica aliada a uma obrigação legal
Obrigações para os geradores de IA
- Apor um símbolo visual padronizado em todos os conteúdos gerados por IA
- Integrar metadados de proveniência assinados (norma tipo C2PA)
- Carimbo de data/hora e assinatura criptográfica do conteúdo na fonte
- Identificação da ferramenta ou modelo que gerou o conteúdo
Obrigações para as plataformas
- Exibir o marcador de IA de forma visível na interface do utilizador
- Conservar os metadados de proveniência sem os alterar nem suprimir
- Disponibilizar uma API pública de verificação de proveniência
- Recusar ou reidentificar os re-uploads de conteúdos de IA sem marcador
Obrigações para criadores e difusores
- Não suprimir nem alterar os marcadores e metadados de proveniência de um conteúdo de IA
- Não difundir um conteúdo de IA apresentando-o explícita ou implicitamente como autêntico
- Não republicar um conteúdo cujo marcador tenha sido deliberadamente apagado
- Responsabilidade agravada em contexto eleitoral, financeiro ou de usurpação de identidade
Sanções
Em caso de difusão deliberadamente enganosa de conteúdo de IA não rotulado: sanções financeiras significativas para as plataformas e as ferramentas de geração não conformes, responsabilidade penal para os utilizadores maliciosos.
Base técnica: uma norma aberta e soberana
A rastreabilidade dos conteúdos de IA assenta em metadados assinados criptograficamente, integrados no ficheiro na fonte. Já existem várias iniciativas, entre as quais a Coalition for Content Provenance and Authenticity (C2PA), adotada voluntariamente pela Adobe, Microsoft e Google. Mas uma obrigação legal europeia não pode assentar exclusivamente numa norma governada por atores privados.
- Aberta e auditável — código fonte público, documentação completa, sem bloqueio proprietário
- Governada democraticamente — sob a égide de um organismo público ou de uma instância multi-partes independente (W3C, ISO, ou organismo europeu dedicado)
- Interoperável — compatível com implementações existentes como C2PA, sem delas depender exclusivamente
- Soberana — a definição da norma não deve pertencer a empresas com interesses comerciais diretos na sua aplicação
A C2PA pode servir de base de trabalho e inspiração. Não pode ser a resposta definitiva.