Il problema
Perché i deepfake rappresentano una minaccia sistemica
I rischi concreti
Disinformazione politica
Video falsificati di figure politiche possono influenzare elezioni, seminare panico o scatenare crisi diplomatiche. Le campagne di disinformazione basate su deepfake si sono moltiplicate in occasione di ogni grande consultazione elettorale degli ultimi anni.
Furto d'identità
Persone comuni vedono il proprio volto e la propria voce utilizzati senza consenso per frodi, molestie o pornografia non consensuale. L'IA generativa ha reso questi attacchi accessibili a chiunque.
Frode finanziaria
Deepfake audiovisivi di dirigenti aziendali vengono utilizzati per autorizzare bonifici fraudolenti. Diversi casi documentati hanno comportato perdite di milioni di euro.
Cosa succede oggi
Esistono diversi strumenti di rilevamento dei deepfake, ma falliscono regolarmente di fronte a contenuti compressi, modificati o generati con i modelli più recenti. La corsa tra generazione e rilevamento è strutturalmente squilibrata: i modelli generativi avanzano più velocemente dei rilevatori.
Il problema delle piattaforme
Quando un video viene pubblicato su una piattaforma, questa lo comprime e lo ricodifica, eliminando spesso i metadati originali — compresi gli eventuali marcatori di provenienza. Se la legge non obbliga le piattaforme a conservare e visualizzare queste informazioni, qualsiasi etichettatura effettuata alla fonte diventa inutile.
Perché il rilevamento da solo non basta
Aspettare che uno strumento automatico rilevi i deepfake significa sempre intervenire dopo i fatti, su un contenuto già diffuso. L'etichettatura obbligatoria alla fonte è l'unico approccio preventivo e robusto nel lungo periodo.
Fonti: Europol, AFP Fact Check, MIT Media Lab, Centre for Emerging Technology Policy.