Anbieter, Betreiber & private Nutzung: Wer muss nach Art. 50 kennzeichnen?

Die EU-KI-Verordnung (AI Act, Verordnung (EU) 2024/1689) unterscheidet bei den Transparenzpflichten nach Art. 50 primär zwischen zwei Rollen: dem Anbieter (Provider) eines KI-Systems und dem Betreiber (Deployer), der es einsetzt. Wer diese Website und unser Tool nutzt, handelt in der Regel als Betreiber. Dieser Guide erklärt, was diese Einstufung konkret bedeutet und welche Ausnahmen bei einer rein privaten Nutzung greifen.

Anbieter vs. Betreiber

Anbieter ist, wer ein KI-System entwickelt (oder entwickeln lässt) und es unter eigenem Namen oder eigener Marke in Verkehr bringt – also beispielsweise die Unternehmen hinter Midjourney, DALL-E oder vergleichbaren generativen KI-Modellen. Nach Art. 50 Abs. 2 AI Act müssen Anbieter sicherstellen, dass die Ausgaben ihrer Systeme maschinenlesbar als künstlich erzeugt oder manipuliert markiert werden, soweit dies technisch machbar ist. Das passiert im Hintergrund, etwa über eingebettete Metadaten wie C2PA-Content-Credentials oder Wasserzeichen, und betrifft primär die Tool-Hersteller, nicht die Endnutzer:innen.

Betreiber ist, wer ein KI-System unter eigener Verantwortung einsetzt – also ein Bild erstellt oder bearbeitet und es anschließend verwendet bzw. veröffentlicht. Nach Art. 50 Abs. 4 AI Act müssen Betreiber offenlegen, wenn es sich bei dem Ergebnis um einen sogenannten Deepfake (generierte oder manipulierte Bild-, Audio- oder Videoinhalte) handelt. Diese Kennzeichnung muss klar, menschenlesbar und direkt am oder im Inhalt erfolgen. Genau darum geht es auf dieser Website und in unserem Tool (mehr zur rechtlichen Definition eines Deepfakes im Guide Deepfakes: Definition & Beispiele).

Für die allermeisten Nutzer:innen dieses Tools heißt das: Die technischen Markierungspflichten der Anbieter laufen im Hintergrund bei den KI-Herstellern ab. Als Betreiber müssen Sie sich lediglich um die eigene, sichtbare Kennzeichnung Ihrer veröffentlichten Deepfakes kümmern.

Die Ausnahme für die private Nutzung

Nach Art. 2 Abs. 10 AI Act fällt die Nutzung von KI-Systemen durch natürliche Personen im Rahmen einer „rein persönlichen, nicht-beruflichen Tätigkeit“ komplett aus dem Anwendungsbereich der Verordnung. Wenn jemand also rein privat einen Deepfake erstellt und ihn in ausschließlich persönlicher Eigenschaft (z. B. im engsten Kreis auf Social Media) postet, entstehen keine Pflichten nach Art. 50 AI Act.

Diese Ausnahme wird juristisch jedoch eng ausgelegt und hat zwei wesentliche Grenzen:

1. Wirtschaftlicher Vorteil oder berufliche Tätigkeit: Wer durch die KI-Nutzung regelmäßig einen wirtschaftlichen Vorteil erzielt oder im Rahmen einer gewerblichen, beruflichen oder freiberuflichen Tätigkeit handelt (zum Beispiel über einen monetarisierten Social-Media-Account), gilt nicht mehr als Privatperson, sondern als regulärer Betreiber im Sinne des Gesetzes.
2. Öffentlicher Diskurs: Laut den Leitlinien der EU-Kommission greift die Ausnahme für „rein persönliche“ Tätigkeiten nicht, wenn der Inhalt geeignet ist, den öffentlichen Diskurs zu beeinflussen. Ein klassisches Beispiel ist ein Deepfake einer politischen Persönlichkeit, der zur Kritik an deren Entscheidungen oder zur politischen Meinungsbildung auf Social Media verbreitet wird. Solche Fälle gelten rechtlich nicht mehr als rein privat, wodurch die Kennzeichnungspflicht nach Art. 50 Abs. 4 AI Act vollumfänglich greift.

Wichtiger rechtlicher Hinweis: Der Umstand, dass eine private Handlung nicht unter den AI Act fällt und somit keine Bußgelder nach dieser Verordnung nach sich zieht, bedeutet nicht, dass sie rechtlich folgenlos ist. Andere gesetzliche Bestimmungen gelten unabhängig davon weiter – etwa das Recht am eigenen Bild der abgebildeten Person, der strafrechtliche Schutz vor übler Nachrede und Verleumdung sowie das allgemeine Persönlichkeitsrecht. Ob im Einzelfall tatsächlich keine rechtlichen Risiken bestehen, lässt sich pauschal nicht zusichern. Bei Unsicherheiten empfiehlt sich stets die Rücksprache mit einer rechtskundigen Person.

Rechtlicher Hinweis: Die Inhalte dieses Ratgebers dienen ausschließlich der allgemeinen Information und stellen keine verbindliche Rechtsberatung dar. Für die Richtigkeit, Vollständigkeit und Aktualität der Angaben wird keine Gewähr übernommen. Bei konkreten rechtlichen Fragen im Einzelfall empfiehlt sich stets die Rücksprache mit einer rechtskundigen Person.