Deepfakes: Definition, Beispiele und Kennzeichnungspflicht

Nicht jedes mit Künstlicher Intelligenz erstellte Bild unterliegt automatisch der sichtbaren Kennzeichnungspflicht für Anwender. Dies ist eines der häufigsten Missverständnisse rund um die EU-KI-Verordnung (AI Act). Nach Art. 50 Abs. 4 AI Act müssen Betreiber (Deployer) explizit nur sogenannte Deepfakes für den Betrachter offenlegen. Dieser Guide erklärt die rechtlichen Grenzen und Definitionen.

Die rechtliche Definition eines Deepfakes

Gemäß Art. 3 in Verbindung mit Art. 50 Abs. 4 AI Act ist ein Deepfake ein KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt, der einer echten Person, einem echten Ort, einem echten Objekt oder einem echten Ereignis derart ähnelt, dass er von einer durchschnittlichen Person fälschlicherweise für authentisch und wahrheitsgemäß gehalten werden könnte. Das rechtlich entscheidende Kriterium ist demnach nicht der bloße Einsatz von KI, sondern die Täuschungseignung – also die Frage, ob der Inhalt fälschlicherweise als reales Foto oder Video durchgehen könnte.

Was als Deepfake gilt (Kennzeichnungspflichtig)

• Ein fotorealistisches Bild einer realen oder fiktiven Person in einer Situation, die in der Realität so nie stattgefunden hat.
• Ein Foto oder Video, bei dem das Gesicht einer echten Person mittels KI ausgetauscht oder manipuliert wurde (z. B. Face-Swap).
• Ein KI-generiertes, realitätsnahes Abbild eines Ereignisses (z. B. ein Unfall oder ein Protest), das fälschlicherweise als echtes Dokumentarfoto wahrgenommen werden kann.

Was rechtlich nicht als Deepfake gilt (Keine Pflicht nach Art. 50 Abs. 4)

• Erkennbar surreale, fantastische oder abstrakte Kunst, bei der für den Durchschnittsbetrachter offensichtlich ist, dass es sich nicht um eine reale Fotografie handelt.
• Ein KI-generierter, rein fiktiver Hintergrund ohne täuschend echten Bezug zu einer real existierenden Person oder einem realen Ort (sofern die Gesamtwirkung nicht als authentisch missverstanden wird).
• Klassische, rein technische Bildbearbeitungen wie Belichtungsänderungen, Kontrastanpassungen, simples Retuschieren oder Farbkorrekturen ("Colorgrading"), die den Inhalt nicht grundlegend neu generieren oder manipulativ verfälschen.

Wer ist zur Kennzeichnung verpflichtet?

Die Pflicht zur menschenlesbaren, sichtbaren Offenlegung nach Art. 50 Abs. 4 AI Act trifft den Betreiber (Deployer) – also die Person oder das Unternehmen, die den Deepfake unter eigener Verantwortung erstellt oder bearbeitet und anschließend veröffentlicht. Die Pflichten der KI-Anbieter (also der Hersteller der Bildgenerierungs-Tools) zur maschinenlesbaren Markierung im Hintergrund (Art. 50 Abs. 2) sind davon rechtlich strikt zu trennen. Details zu den Rollen und zur Ausnahme für die rein private Nutzung liefert der Guide Anbieter, Betreiber & private Nutzung.

Warum die korrekte Einordnung wichtig ist

Wer das Gesetz zu restriktiv auslegt, versieht erkennbar künstlerische oder offensichtlich fiktive Inhalte unnötig mit Warnhinweisen. Wer den Begriff jedoch zu eng fasst und täuschend echte KI-Bilder als Unternehmen ungekennzeichnet veröffentlicht, riskiert empfindliche Bußgelder nach Art. 99 AI Act von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes (Details: Bußgelder nach Art. 50 AI Act). Im Zweifel empfiehlt sich stets eine vorsichtige Einschätzung oder die Rücksprache mit einer rechtskundigen Person.

Praxistipp: Unser kostenloses Tool hilft Ihnen bei der rechtlichen Ersteinschätzung in der Praxis. Durch die Beantwortung von drei gezielten Fragen ermittelt die Software automatisch, ob Ihr Bild unter die Deepfake-Definition fällt.

Rechtlicher Hinweis: Die Inhalte dieses Ratgebers dienen ausschließlich der allgemeinen Information und stellen keine verbindliche Rechtsberatung dar. Für die Richtigkeit, Vollständigkeit und Aktualität der Angaben wird keine Gewähr übernommen. Bei konkreten rechtlichen Fragen im Einzelfall empfiehlt sich stets die Rücksprache mit einer rechtskundigen Person.