Problem
Dlaczego deepfake'i stanowią zagrożenie systemowe
Konkretne zagrożenia
Dezinformacja polityczna
Sfałszowane filmy z politykami mogą wpływać na wyniki wyborów, siać panikę lub wywoływać kryzysy dyplomatyczne. Kampanie dezinformacyjne oparte na deepfake'ach nasiliły się przy każdych większych wyborach w ostatnich latach.
Kradzież tożsamości
Zwykli ludzie widzą swoje twarze i głosy używane bez zgody do oszustw, nękania lub pornografii bez zgody. Generatywna AI sprawiła, że te ataki są dostępne dla każdego.
Oszustwa finansowe
Audiowizualne deepfake'i kadry kierowniczej firm są wykorzystywane do autoryzowania fałszywych przelewów. Kilka udokumentowanych przypadków dotyczyło strat rzędu milionów euro.
Co dzieje się dzisiaj
Istnieje kilka narzędzi do wykrywania deepfake'ów, ale regularnie zawodzą w przypadku treści skompresowanych, zretuszowanych lub wygenerowanych przy użyciu najnowszych modeli. Wyścig między generowaniem a wykrywaniem jest strukturalnie niezrównoważony: modele generatywne rozwijają się szybciej niż detektory.
Problem platform
Gdy film jest publikowany na platformie, jest kompresowany i ponownie kodowany, często usuwając oryginalne metadane — w tym ewentualne znaczniki pochodzenia. Jeśli prawo nie zobowiązuje platform do przechowywania i wyświetlania tych informacji, wszelkie oznaczanie dokonane u źródła staje się bezużyteczne.
Dlaczego samo wykrywanie nie wystarczy
Czekanie, aż automatyczne narzędzie wykryje deepfake'i, oznacza zawsze interwencję po fakcie, na treści już rozpowszechnionej. Obowiązkowe oznaczanie u źródła to jedyne prewencyjne i długoterminowo skuteczne podejście.
Źródła: Europol, AFP Fact Check, MIT Media Lab, Centre for Emerging Technology Policy.