O problema
Porque os deepfakes representam uma ameaça sistémica
Os riscos concretos
Desinformação política
Vídeos falsificados de figuras políticas podem influenciar eleições, semear pânico ou desencadear crises diplomáticas. As campanhas de desinformação baseadas em deepfakes multiplicaram-se em cada grande eleição nos últimos anos.
Usurpação de identidade
Pessoas comuns veem o seu rosto e a sua voz utilizados sem consentimento para fraudes, assédio ou pornografia não consentida. A IA generativa tornou estes ataques acessíveis a qualquer pessoa.
Fraude financeira
Deepfakes audiovisuais de dirigentes empresariais são utilizados para autorizar transferências fraudulentas. Vários casos documentados envolveram perdas de milhões de euros.
O que acontece hoje
Existem várias ferramentas de deteção de deepfakes, mas falham regularmente perante conteúdos comprimidos, retocados ou gerados com os modelos mais recentes. A corrida entre geração e deteção é estruturalmente desequilibrada: os modelos generativos avançam mais rapidamente do que os detetores.
O problema das plataformas
Quando um vídeo é publicado numa plataforma, esta comprime-o e recodifica-o, suprimindo frequentemente os metadados originais — incluindo os eventuais marcadores de proveniência. Se a lei não obrigar as plataformas a conservar e exibir estas informações, qualquer rotulagem efetuada na fonte torna-se inútil.
Porque a deteção sozinha não é suficiente
Esperar que uma ferramenta automatizada detete deepfakes significa sempre intervir depois dos factos, sobre um conteúdo já difundido. A rotulagem obrigatória na fonte é a única abordagem preventiva e robusta a longo prazo.
Fontes: Europol, AFP Fact Check, MIT Media Lab, Centre for Emerging Technology Policy.