Das Problem
Warum Deepfakes eine systemische Bedrohung darstellen
Konkrete Risiken
Politische Desinformation
Gefälschte Videos politischer Persönlichkeiten können Wahlen beeinflussen, Panik auslösen oder diplomatische Krisen provozieren. Deepfake-gestützte Desinformationskampagnen haben bei jeder großen Wahl der letzten Jahre zugenommen.
Identitätsdiebstahl
Gewöhnliche Menschen sehen ihr Gesicht und ihre Stimme ohne Einwilligung für Betrug, Belästigung oder nicht-konsensuelle Pornografie verwendet. Generative KI hat diese Angriffe für jedermann zugänglich gemacht.
Finanzbetrug
Audio-visuelle Deepfakes von Unternehmensführern werden genutzt, um betrügerische Überweisungen zu autorisieren. Mehrere dokumentierte Fälle haben Verluste in Millionenhöhe verursacht.
Was heute passiert
Verschiedene Deepfake-Erkennungstools existieren, scheitern aber regelmäßig an komprimierten, bearbeiteten oder neuartigen Inhalten. Das Wettrüsten zwischen Erzeugung und Erkennung ist strukturell unausgeglichen: Generative Modelle entwickeln sich schneller als Detektoren.
Das Plattform-Problem
Wenn ein Video auf einer Plattform veröffentlicht wird, wird es komprimiert und neu kodiert, wobei oft die ursprünglichen Metadaten — einschließlich Herkunftsmarkierungen — entfernt werden. Wenn das Gesetz Plattformen nicht verpflichtet, diese Informationen zu erhalten und anzuzeigen, wird jede Kennzeichnung an der Quelle nutzlos.
Warum Erkennung allein nicht ausreicht
Auf ein automatisiertes Tool zu warten, das Deepfakes erkennt, bedeutet immer, nachträglich einzugreifen, wenn der Inhalt bereits geteilt wurde. Verpflichtende Kennzeichnung an der Quelle ist der einzige präventive und langfristig robuste Ansatz.
Quellen: Europol, AFP Fact Check, MIT Media Lab, Centre for Emerging Technology Policy.