geschrieben von Julia Jeromin vom Felde, LL.M., Dr. Oliver Lampe und Ref. Bastian Brosius

Künstliche Intelligenz (KI) ist längst fester Bestandteil der Content-Erstellung für Social Media. Egal, welche KI man nutzt, wie beispielsweise Midjourney, Runway, Nano Banana, ChatGPT, Claude oder Gemini – KI spart Zeit, eröffnet kreative Möglichkeiten und verändert die Art, wie Inhalte entstehen.

Ab dem 02. August 2026 gelten nach der KI-Verordnung der EU neue Transparenzpflichten. Nutzer sollen durch eine transparente KI-Kennzeichnung erkennen können, wenn Inhalte vollständig oder teilweise künstlich erzeugt oder modifiziert wurden.

Das Wichtigste auf einen Blick:

• Die EU führt ab dem 02.08.2026 Transparenzpflichten für bestimmte KI-generierte oder -modifizierte Inhalte ein.
  • Betroffen sind unter anderem Content Creator, Agenturen und Unternehmen.
  • Besonders relevant sind realistisch wirkende KI-Bilder, -Videos und -Audios.
  • Die KI-Kennzeichnung ersetzt keine Werbekennzeichnung, sodass sowohl die Kennzeichnung von Werbung als auch eines KI-Einsatzes erforderlich sein kann.
  • Der Einsatz von KI sollte dokumentiert werden.
  • Agenturen und Unternehmen sollten interne Leitlinien für die KI-Kennzeichnung aufstellen.
  • Es sollten konkrete Vereinbarungen zwischen Agenturen, Content Creatorn und Unternehmen zum Einsatz von KI getroffen werden. Empfehlenswert sind Regelungen zur Offenlegung des KI-Einsatzes, zu Kennzeichnungspflichten und zur Haftungsverteilung.

Wen betrifft die KI-Kennzeichnung?

Die Verordnung betrifft die Betreiber, das heißt alle Personen, Unternehmen, Behörden und Einrichtungen, die KI-Anwendungen in eigener Verantwortung verwenden. Verwenden meint, dass sie KI-generierte Inhalte erstellen, verbreiten und veröffentlichen. Daher betrifft die KI-Verordnung auch Content Creator, Marketing- und Kreativagenturen, Unternehmen mit eigenen Social-Media-Kanälen und grundsätzlich Werbetreibende.

Welche Inhalte müssen gekennzeichnet werden

Nicht jeder Einsatz von KI führt automatisch zu einer Kennzeichnungspflicht. Vielmehr ist der Übergang zwischen kennzeichnungspflichtigen Inhalten und Inhalten, die der KI-Kennzeichnungspflicht nicht unterliegen fließend und vom konkreten Einzelfall abhängig.

Bilder, Töne, Videos

In der Regel löst der Einsatz von KI-Werkzeugen bei der typischen Bild- oder Videobearbeitung keine Kennzeichnungspflicht aus, da der Inhalt im Kern echt bleibt und es sich lediglich um eine Fehlerkorrektur (Colour Grading, Pickel wegretuschieren etc.) handelt.

Anderes gilt für Deepfakes. Darunter versteht man KI-generierte oder KI-manipulierte Bilder, Töne und Videos, wenn sie wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen. Kennzeichnungspflichten können insbesondere bei realistisch wirkenden KI-Inhalten entstehen, die vom Publikum für echte Personen, Gegenstände, Orte oder Ereignisse gehalten werden könnten.

Somit dürfte davon ausgegangen werden, dass ein Deepfake nicht vorliegt, wenn es sich um klar erkennbare Skizzen, Zeichnungen, Illustrationen, Comics, Animes oder Zeichentrickfilme im 2D-Stil, handelt. Hier wird ein eindeutiger Phantasiebezug hergestellt, der der Annahme der Echtheit entgegensteht.

Beispiele für KI-kennzeichnungspflichtige Bilder

• realistische Porträts oder Gruppenbilder (z.B.: ein Gruppenfoto am Strand, an dem die Gruppe aber nie war) oder KI-generierte Landschaften bzw. Ereignisse
• künstlich erzeugte Personen, z.B. ein Avatar wie z. B.: Sienna Rose, Lil Miquela etc.
• Produktbilder ohne reales Fotoshooting (Rendering)
• mit KI modifizierte Bilder (z. B.: durch Filter Darstellung als älterer Mensch)

Beispiele für KI-kennzeichnungspflichtige Töne und Audios

• real klingende Stimmen, (z. B.: Sienna Rose; eine Erzählerstimme)
• Nachbildung realistischer Stimmen (Voice Cloning)
• mit KI modifizierte Stimmen (z. B. durch Filter Erzeugung Stimme eines betagten Mannes)

Beispiele für KI-kennzeichnungspflichtige Videos

• KI-generierte Szenen, Personen oder Gegenstände
• realistische Manipulationen bereits vorhandener Videoaufnahmen durch Verändern oder Hinzufügen von Personen, Gegenstände

Texte

Ein Blogbeitrag, Social-Media-Post oder Newsletter muss nicht allein deshalb gekennzeichnet werden, weil KI beim Schreiben, Formulieren und Strukturieren geholfen hat. Für eine Kennzeichnungspflicht von Texten muss der Text veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Öffentliche Interessen im Sinnne der KI-Verordnung sind vor allem Gesundheit, Sicherheit, Grundrechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz.

Das bedeutet vor allem für Content Creator und Agenturen: in aller Regel werden rein werbliche Texte z. B. für Newsletter, Produktbeschreibungen, Social-Media-Posts, in Portfolios von Agenturen etc. keine Angelegenheiten von öffentlichem Interesse betreffen.

Aber auch wenn eine Angelegenheit von öffentlichem Interesse betroffen sein sollte, muss keine KI-Kennzeichnung erfolgen, wenn die durch KI erzeugten Texte

• menschlich oder redaktionell überprüft wurden

UND

• eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt („Human in the Loop“-Ansatz).

Um über die menschliche Kontrolle einen Nachweis zu haben, empfiehlt es sich diese Kontrolle und Abnahme zu dokumentieren.

Einzelheiten zur KI-Kennzeichnungspflicht

Nachdem nun feststeht, welche Inhalte zu kennzeichnen sind, stellen sich nun die Fragen Wann, Wo und Wie eine solche Kennzeichnung zu erfolgen hat.

Wann muss die Kennzeichnung erfolgen?

Die Kennzeichnung muss sichtbar sein; spätestens wenn man den Inhalt wahrnehmen kann. Sie darf nicht versteckt werden. Die KI-Verordnung spricht von der Interaktion oder Aussetzung und meint damit den Moment, in dem man z. B. in seinem Feed über die Bild-, Ton- und Videoinhalte hinweg scrollt, sie automatisch abgespielt werden oder man auf Play drückt. Ein Hinweis im unsichtbaren Teil einer Website (z. B. im Quellcode für SEO-Angaben) reicht nicht.

Wo muss die Kennzeichnung erfolgen?

Die Kennzeichnung erfolgt am besten unmittelbar auf dem bzw. im Inhalt selbst und muss sichtbar sein, wenn die Inhalte erneut geteilt oder heruntergeladen werden. Zumindest ist dies aus Gründen der Rechtssicherheit zu empfehlen.

Die KI-Kennzeichnung in der unmittelbar sichtbaren Bild- oder Videobeschreibung bzw. in den Shownotes ist möglich. Das gilt aber nicht, wenn man die Beschreibung zum Sehen der KI-Kennzeichnung aufklappen muss. Zumal die Beschreibungen oft nicht heruntergeladen werden kann und somit die KI-Kennzeichnung verloren geht.

Auch eine Overlay-Funktion, wie z.B. bei YouTube, oder ein automatischer Plattformhinweis als Icon unter dem Video bzw. als textlicher Hinweis in der Videobeschreibung ist möglich. Die KI-Kennzeichnung darf aber nicht durch andere Overlay-Elemente verdeckt sein. Zudem besteht die Möglichkeit, dass die Hinweise auf unterschiedlichen Endgeräten anders dargestellt sein können, sodass die Kennzeichnungen den Nutzer nicht immer unmittelbar erreichen.

Grundsätzlich ist bei der Gestaltung darauf zu achten, dass die Hinweise auf verschiedenen Endgeräten sichtbar sind.

Wie muss die Kennzeichnung erfolgen?

Die Kennzeichnung muss klar, eindeutig und weitgehend barrierefrei sein. Regelmäßig ist es sinnvoll kontrastreiche Symbole, Schriftarten und -farben in deutlich sichtbarer Größe zu verwenden. Begleitende Hinweise sollten eine einfache Sprache und keine verwirrenden Formulierungen und andere Abkürzungen als „KI“ („AI“ ist kritisch zu hinterfragen) verwenden.

Die EU verwendet die Wörter „generiert“ und „erzeugt“ synonym, genauso wie „manipuliert“ und „modifiziert“. Im deutschen Sprachraum ist eher davon abzuraten das negativ konnotierte Wort „manipuliert“ zu nutzen, sondern man sollte eher das Wort „modifiziert“ verwenden.

Es empfiehlt sich so genau wie möglich zu kennzeichnen:

• Wenn der Inhalt vollständig von der KI erstellt worden ist, schreibt man am besten „generiert“ oder „erzeugt“:
  • z. B.: „Bild/Ton/Video/Text mit KI generiert bzw. erzeugt.“

• Wenn nur Teile von der KI verändert worden sind, schreibt man am besten „modifiziert“:
  • z. B: „Bild/Ton/Video/Text mit KI modifiziert.“

Die europäische Kommission hat einen Verhaltenskodex zur Kennzeichnung von KI-generierten Inhalten erstellt. Dieser ist hier abrufbar: https://digital-strategy.ec.europa.eu/de/faqs/code-practice-transparency-ai-generated-content. Des Weiteren bietet die EU lizenzfreie und freiwillig nutzbare EU-Icons zum Download an, die hier abrufbar sind: https://digital-strategy.ec.europa.eu/de/policies/eu-icons-labelling-ai-generated-content. Ebenfalls findet sich unter der vorgenannten URL eine Anleitung zur Verwendung der Icons.

Die Verwendung der EU-Icons führt jedoch nicht automatisch zur Rechtskonformität, sondern man ist stets selbst dafür verantwortlich, sicherzustellen, dass die KI-Kennzeichnung mit der EU-Verordnung im Einklang steht und keine Rechte und Pflichten verletzt werden.

Ob und wie auf die Icons der EU zurückgegriffen werden kann bzw. sollte, ist am besten im Einzelfall zu prüfen und abzustimmen.

Anwendungsbeispiele

Zur besseren Verständlichkeit werden nachfolgend einige Anwendungsbeispiele erläutert. Die rechtliche Einordnung der Beispiele kann jedoch keine rechtliche Einzelfall-Prüfung durch eine Rechtsanwältin oder einen Rechtsanwalt ersetzen.

Anwendungsbeispiel 1:

Ein Content Creator veröffentlicht eine bezahlte Kooperation in Form einer Produktplatzierung und verwendet dabei vollständig KI-generierte Bilder, Videos oder Audios. Weder das Produkt noch der Content Creator sind real abgelichtet oder vertont worden.

In diesem Fall muss sowohl eine Werbe- als auch eine KI-Kennzeichnung erfolgen. Am besten platziert der Influencer hierzu ein kontrastreiches KI-Icon auf dem Bild oder dem Video mit dem Hinweis „generiert“. Dieses muss groß genug sein, um auf den ersten Blick ins Auge zu springen. Es darf nicht in Kleinstschrift, fast schon unsichtbar in einer Ecke oder dem Bildrand, platziert werden. Bei Audios erfolgt am besten ein gesprochener Hinweis vor und nach dem Inhalt, dass der Audio-Inhalt mittels KI generiert worden ist. Ggf. kann auch eine Overlay-Funktion genutzt werden.

Ein zusätzlicher Hinweis in der unmittelbar sichtbaren Beschreibung bzw. den Shownotes (z. B.: „Dieses Bild/Video/Audio wurde mit KI erzeugt.“) ist möglich und ratsam.

Die Werbekennzeichnung erfolgt nach den bekannten Maßstäben.

Anwendungsbeispiel 2:

Ein Content Creator erstellt ein Video und lässt eine mit KI erzeugte Erzählstimme, an bestimmten Stellen, darüber laufen.

Es empfiehlt sich eine KI-Kennzeichnung in dem Video selbst mittels eines KI-Icons mit dem Hinweis „Erzählstimme generiert“ in den entsprechenden Sequenzen vorzunehmen. Eine Platzierung sollte in den Sequenzen erfolgen, in denen die Erzählstimme spricht.

Anwendungsbeispiel 3:

Ein Content Creator veröffentlicht eine bezahlte Kooperation und lässt sich hierfür von einer KI das zu bewerbende Produkt (bspw. ein Softgetränk) in das Bild oder das Video einfügen, obwohl das Produkt real nicht vorhanden war. Oder er lässt ein Audio so verändern, dass der Content Creator klingt wie ein anderer Mensch.

Die KI-Kennzeichnung sollte mittels KI-Icon und dem Hinweis „modifiziert“ erfolgen, da hier nur ein bestehendes Bild oder Video durch KI modifiziert wird. Für Audios bietet sich ein gesprochener Hinweis vor und nach dem Inhalt an, dass die Sequenz mittels KI modifiziert worden ist (z. B.: „Diese Sequenz ist mittels einer KI modifiziert.“). Ein zusätzlicher Hinweis in den Shownotes ist ratsam.

Die Werbekennzeichnung erfolgt nach den bekannten Maßstäben.

Verantwortung bei Publizierendem

Die Verantwortung trifft regelmäßig denjenigen, der den Inhalt veröffentlicht oder veröffentlichen lässt. Unternehmen sollten deshalb vertraglich mit Agenturen und Content Creatorn festlegen, ob und in welchem Umfang KI eingesetzt wird und wer für die rechtssichere Kennzeichnung verantwortlich ist. Das gilt ebenfalls im Verhältnis zwischen Content Creatorn und Agenturen.

KI wird die Content-Produktion dauerhaft verändern. Gleichzeitig steigen die Anforderungen an Transparenz und Nachvollziehbarkeit. Für Creator und Agenturen bedeutet das vor allem: Wer KI einsetzt, sollte sich frühzeitig mit den neuen Kennzeichnungspflichten beschäftigen und Prozesse schaffen, die eine rechtssichere Veröffentlichung ermöglichen.

So lassen sich rechtliche Risiken reduzieren und gleichzeitig Vertrauen bei den Nutzern stärken. Zumal ein Verstoß gegen die Kennzeichnungspflicht zu empfindlichen Bußgeldern führen kann und ggf. können Verstöße – je nach Einzelfall – auch wettbewerbsrechtliche Folgen haben

Unser Praxistipp:

Unternehmen, Agenturen und Content Creator sollten ihre Prozesse und Vertragsmuster rechtzeitig überprüfen. Gerade bei KI-generierten Bildern, Videos und Audios empfiehlt sich eine frühzeitige rechtliche Bewertung der Kennzeichnungsanforderungen.

BROST CLAẞEN unterstützt Sie gerne bei der rechtssicheren Umsetzung der neuen Transparenzpflichten und bei der Anpassung Ihrer Verträge und Social-Media-Prozesse.

Titelbild: KI-generiert mit Google Gemini.