Der Lösungsvorschlag
Ein technischer Standard verbunden mit einer gesetzlichen Verpflichtung
Pflichten für KI-Erzeuger
- Anbringung eines standardisierten visuellen Symbols auf allen KI-generierten Inhalten
- Einbettung signierter Herkunftsmetadaten (Standard vom Typ C2PA)
- Zeitstempel und kryptographische Signatur des Inhalts an der Quelle
- Identifikation des Tools oder Modells, das den Inhalt erzeugt hat
Pflichten für Plattformen
- Sichtbare Anzeige des KI-Kennzeichens in der Benutzeroberfläche
- Bewahrung der Herkunftsmetadaten ohne Änderung oder Löschung
- Bereitstellung einer öffentlichen Herkunfts-Verifizierungs-API
- Ablehnung oder Neukennzeichnung von Re-Uploads KI-generierter Inhalte ohne Kennzeichen
Pflichten für Ersteller und Verleger
- Keine Entfernung oder Änderung von Herkunftsmarkierungen und Metadaten aus KI-generierten Inhalten
- Keine Verbreitung KI-generierter Inhalte, die explizit oder implizit als authentisch dargestellt werden
- Keine Weitergabe von Inhalten, deren Kennzeichen absichtlich entfernt wurde
- Verschärfte Haftung in Wahlkampf-, Finanz- oder Identitätsdiebstahlkontexten
Sanktionen
Bei absichtlich täuschender Verbreitung nicht gekennzeichneter KI-Inhalte: erhebliche Geldstrafen für nicht konforme Plattformen und Generierungstools, strafrechtliche Haftung für böswillige Nutzer.
Technische Grundlage: ein offener und souveräner Standard
Die Rückverfolgbarkeit von KI-Inhalten beruht auf kryptographisch signierten Metadaten, die an der Quelle in die Datei eingebettet werden. Verschiedene Initiativen existieren bereits, darunter die Coalition for Content Provenance and Authenticity (C2PA), freiwillig übernommen von Adobe, Microsoft und Google. Eine europäische gesetzliche Verpflichtung kann sich jedoch nicht ausschließlich auf einen Standard stützen, der von privaten Akteuren verwaltet wird.
- Offen und prüfbar — öffentlicher Quellcode, vollständige Dokumentation, kein proprietärer Lock-in
- Demokratisch verwaltet — unter der Schirmherrschaft eines öffentlichen Organs oder einer unabhängigen Multi-Stakeholder-Instanz (W3C, ISO oder dediziertes europäisches Gremium)
- Interoperabel — kompatibel mit bestehenden Implementierungen wie C2PA, ohne ausschließlich von ihnen abhängig zu sein
- Souverän — die Definition des Standards darf nicht Unternehmen mit direkten kommerziellen Interessen an seiner Anwendung gehören
C2PA kann als Arbeitsgrundlage und Inspiration dienen. Es kann nicht die endgültige Antwort sein.