Seit dem 2. August 2026 gelten auch die Transparenzpflichten der KI-Verordnung nach Artikel 50, zu denen beispielsweise die Informationspflichten bei Interaktion mit einer KI sowie die besonderen Kennzeichnungspflichten für sogenannte Deepfakes gehören.

Wir beantworten hierzu einige Fragen zu diesem Thema und verweisen für weitere Details auf den entsprechenden Gesetzestext der KI-Verordnung.

Für wen gilt die KI-Verordnung eigentlich?

Sie gilt für alle privaten Organisationen und Behörden in der EU, die KI-Systeme oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen oder in Betrieb nehmen. Somit gilt die KI-Verordnung auch für Unternehmen aus Nicht-EU-Staaten. Es werden folgende Nutzergruppen unterschieden:

• Anbieter,
• Betreiber,
• Einführer und Händler,
• Produkthersteller und
• betroffene Personen.

Ein Betreiber ist eine natürliche oder juristische Person, die ein KI-System nutzt (wir empfehlen zur Vereinfachung, immer von „Nutzer” zu sprechen). Ein Anbieter ist eine natürliche oder juristische Person, die ein KI-System oder KI-Modell entwickelt und in den Verkehr bringt. Somit betrifft die KI-Verordnung fast jedes Unternehmen und jeden gewerblich Tätigen, der in der EU Produkte oder Dienstleistungen anbietet. Die private Nutzung ist von den Kennzeichnungspflichten ausgenommen.

Was sind Deepfakes

Deepfakes sind Bild-, Video- oder Audioinhalte, die mithilfe von KI erzeugt oder verändert wurden. Sie vermitteln den Eindruck, reale Personen, Orte, Gegenstände, Ereignisse etc. abzubilden. Die Ergebnisse wirken dabei so realistisch, dass sie als täuschend echt wahrgenommen werden könnten. Beispielsweise könnte es sich um die Darstellung an einem Ort handeln, an dem die dargestellte Person tatsächlich nie gewesen ist.

Was sind die Kennzeichnungspflichten?

Folgende Kennzeichnungspflichten nach Artikel 50 KI-VO gelten ab dem 2.8.2026:

1. Anbieter müssen sicherstellen, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Dies betrifft beispielsweise auch KI-gestützte Telefonzentralen, die Anrufe entgegennehmen, klassifizieren und weiterverarbeiten.
2. Anbieter müssen sicherstellen, dass Bild-, Video-, Audio- und Textinhalte, die durch eine KI erzeugt wurden, zukünftig maschinenlesbar gekennzeichnet werden, was auch durch Metadaten oder Wasserzeichen erfolgen kann.
3. Betreiber von Emotionserkennungssystemen oder Systemen zur biometrischen Kategorisierung müssen betroffene Personen über den Betrieb des Systems informieren. Hierzu zählen beispielsweise Systeme, die durch Gesichts-, Sprach- oder Textanalysen Rückschlüsse auf die Emotionen des Urhebers ziehen.
4. Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Das Gleiche gilt für veröffentlichte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren.
5. Alle Informationen müssen den betroffenen natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion in klarer und eindeutiger Weise bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen.

Sind auch KI-generierte Ergebniss vor dem 2.August 2026 betroffen?

Die KI-VO regelt eine Kennzeichnungspflicht erst ab dem 2. August 2026. Bilder oder Videos, die vor diesem Datum erzeugt wurden, sind von der Kennzeichnungspflicht nicht betroffen. Bei Texten ist neben dem Datum der Erzeugung auch das Datum der Veröffentlichung entscheidend. Liegen beide vor dem 2. August 2026, trifft keine Kennzeichnungspflicht zu. Bei allen Varianten sollte stets die Frage gestellt werden, wie sich der Zeitpunkt der Erzeugung oder Veröffentlichung im Bedarfsfall nachweisen lässt. Wenn dies nicht möglich scheint, sollte im Zweifelsfall auch eine nachträgliche Kennzeichnung vorgesehen werden.

Welche Strafen oder Folgen bei Nichtbeachtung können drohen?

Bei Verstößen können Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes verhängt werden. Ebenso ist es möglich, dass eine Abmahnung mit Berufung auf unlauteren Wettbewerb durch Wettbewerber oder andere Dritte erfolgt. Darüber hinaus besteht die Gefahr von Schadenersatzforderungen durch Betroffene. In allen Fällen ist der Klärungsaufwand erheblich, sodass eine sorgfältige Kennzeichnung immer zu empfehlen ist.

Plattformen können Nutzer auch sperren, wenn diese ihre Inhalte nicht als KI-Inhalte kennzeichnen. Hier sollten unbedingt die Regeln des jeweiligen Plattformbetreibers beachtet werden.

Welche Inhalte sind vom Nutzer zu kennzeichnen?

KI-generierte oder modifizierte Bilder, Videos und Audioaufnahmen, die den Eindruck von realen Personen, Orten oder Gegenständen vermitteln, müssen gekennzeichnet werden.

Das Gleiche gilt für KI-generierte oder modifizierte Texte, die der Information der Öffentlichkeit dienen und nicht redaktionell durch eine natürliche Person kontrolliert wurden.

Wenn Inhalte auf einer Plattform veröffentlicht werden, müssen unbedingt die Regeln der Plattform zur Kennzeichnung von KI-generierten Inhalten berücksichtigt werden.

Wie soll gekennzeichnet werden?

Die Kennzeichnung soll maschinenlesbar und barrierefrei sein. Bezüglich der Barrierefreiheit verweisen wir auf das Barrierefreiheitsstärkungsgesetz.

Die Kennzeichnung soll nach Vorgaben der EU folgende Arten unterscheiden:

• KI-generierte Inhalte,
• KI-modifizierte Inhalte.

Die EU schlägt dazu eigene  Symbole vor. Es können aber auch eigene Texte und Symbole verwendet werden, solange die betroffene Person erkennen kann, dass es sich um  KI-erzeugte oder KI-modifizierte Daten handeln kann.

Welche KI-Modifikationen sind nicht kennzeichnungspflichtig?

Bildoptimierungen mit KI-Unterstützung sind in der Regel nicht kennzeichnungspflichtig. Das Gleiche gilt für Rechtschreibkorrekturen oder Grammatikprüfungen. Solange der Inhalt nicht wesentlich verändert wird, ist eine kennzeichnungsfreie KI-Nutzung möglich. Bei Texten kann die redaktionelle Prüfung (inklusive Verantwortung) durch eine natürliche oder juristische Person das Vermeiden einer Kennzeichnung ermöglichen. In der Regel wird empfohlen, jeden Fall einzeln sorgfältig zu prüfen.