Seit Anfang August 2026 gilt Artikel 50 der KI-Verordnung des EU AI Acts. Darin heißt es: „Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“ Dazu kommt, dass „Betreiber eines KI‑Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“, offenlegen müssen, dass der Text generiert oder mit KI verändert wurde.
Als Betreiber gelten dabei alle, die KI nutzen, um Inhalte zu generieren. Diese Information, dass KI zum Einsatz kam, muss dabei „spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt“ werden. Der reine Text der Verordnung kann dabei noch einige Fragen offenlassen. Wir zeigen dir, was du zur KI-Kennzeichnungspflicht wissen musst und wie du richtig kennzeichnest.
Warum gibt es die KI-Kennzeichnungspflicht überhaupt?
Empfohlene redaktionelle Inhalte
Hier findest du externe Inhalte von X Corp.,
die unser redaktionelles Angebot auf t3n.de ergänzen.
Mit dem Klick auf „Inhalte anzeigen“ erklärst du dich einverstanden,
dass wir dir jetzt und in Zukunft Inhalte von X Corp. auf unseren Seiten anzeigen dürfen.
Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.
Inhalte anzeigen
Leider ist etwas schief gelaufen…
An dieser Stelle findest du normalerweise externe Inhalte von X Corp.,
jedoch konnten wir deine Consent-Einstellungen nicht abrufen.
Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.
Datenschutzeinstellungen verwalten
Laut der EU-Kommission dient die Kennzeichnungspflicht primär der Information. So heißt es, dass die neuen Regelungen „Menschen dabei helfen, zu erkennen, wann sie mit KI interagieren oder KI-generierten Inhalten ausgesetzt sind.“ Durch diese Informationen sollen Nutzer:innen besser in der Lage sein, bewusste Entscheidungen bezüglich des Contents zu treffen oder sich vor Falschinformationen zu schützen.
Ein Beispiel: Ein Onlineshop nutzt ein KI-generiertes Video, um ein Produkt zu bewerben. Vor der Kennzeichnungspflicht war für Verbraucher:innen nicht ersichtlich, ob die gezeigten Leistungen im Clip wirklich der Wahrheit entsprachen. Künftig sollen Verbraucher:innen durch das Label erkennen, dass KI womöglich genutzt wurde, um das Produkt besser erscheinen zu lassen. Was Händler:innen bei der KI-Kennzeichnungspflicht sonst noch beachten müssen, liest du im verlinkten Ratgeber.
Wann greift die KI-Kennzeichnungspflicht?
Die KI-Kennzeichnungspflicht gilt grundsätzlich für vier Bereiche. Der erste Bereich sind Deepfakes. Die EU-Verordnung sammelt darunter alle Bilder, Videos und Audioaufnahmen, die von KI generiert oder manipuliert wurden. Die Inhalte stellen dabei „existierende Personen, Objekte, Orte, Entitäten oder Events dar, die Personen fälschlicherweise als authentisch oder echt ansehen könnten.“
Empfohlene redaktionelle Inhalte
Hier findest du externe Inhalte von TargetVideo GmbH,
die unser redaktionelles Angebot auf t3n.de ergänzen.
Mit dem Klick auf „Inhalte anzeigen“ erklärst du dich einverstanden,
dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen.
Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.
Inhalte anzeigen
Leider ist etwas schief gelaufen…
An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH,
jedoch konnten wir deine Consent-Einstellungen nicht abrufen.
Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.
Datenschutzeinstellungen verwalten
Der zweite Bereich betrifft Texte, die mit KI generiert oder zumindest verändert wurden. Wichtig ist hierbei, dass die Texte „von öffentlichem Interesse“ sein müssen, um unter die KI-Kennzeichnungspflicht zu fallen. Dazu zählen etwa Themenbereiche wie Politik oder öffentliche Sicherheit und der Gesundheitssektor. Die Kennzeichnungspflicht entfällt dabei allerdings, wenn der Text vor dem Veröffentlichen von einem Menschen überprüft wurde und jemand dafür eine redaktionelle Verantwortung trägt.
Ferner müssen Chatbots und KI-Agenten explizit sagen, dass sie keine Menschen sind, wenn sie mit Nutzer:innen agieren. Hier soll verhindert werden, dass User:innen etwa in einem Chat-Support denken, sie würden mit echten Mitarbeiter:innen schreiben. Zu guter Letzt müssen Nutzer:innen informiert werden, wenn KI-Systeme sie aktiv analysieren – etwa für Biometrik oder für das Tracken von Emotionen.
Empfohlene redaktionelle Inhalte
Hier findest du externe Inhalte von YouTube Video,
die unser redaktionelles Angebot auf t3n.de ergänzen.
Mit dem Klick auf „Inhalte anzeigen“ erklärst du dich einverstanden,
dass wir dir jetzt und in Zukunft Inhalte von YouTube Video auf unseren Seiten anzeigen dürfen.
Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.
Inhalte anzeigen
Leider ist etwas schief gelaufen…
An dieser Stelle findest du normalerweise externe Inhalte von YouTube Video,
jedoch konnten wir deine Consent-Einstellungen nicht abrufen.
Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.
Datenschutzeinstellungen verwalten
Welche KI-Inhalte müssen nicht gekennzeichnet werden?
Für Privatpersonen greift die KI-Kennzeichnungspflicht nur in den seltensten Fällen. Wer per ChatGPT oder Gemini ein Bild erstellt und es anschließend im Messenger mit anderen teilt, muss in der Regel keine Kennzeichnung anbringen. Wer allerdings als Influencer:in Werbeeinnahmen über KI-generierte Postings erzielt, ist zur Kennzeichnung verpflichtet. Selbiges gilt für Unternehmen, Vereine und andere Institutionen, die sich mit KI-Postings an die Öffentlichkeit wenden.
Auch beim Bearbeiten existierender Bilder mit KI gibt es Ausnahmen. Wer bei einem Foto lediglich per KI Anpassungen wie Farbkorrekturen vornimmt oder kleinere Fehler im Bild entfernen lässt, muss die Änderungen nicht extra durch eine Kennzeichnung öffentlich machen. Werden hingegen Gesichter oder komplette Objekte entfernt oder ausgetauscht, greift die Kennzeichnungspflicht wieder.
Teilweise ausgenommen sind Werke, die „offensichtlich Teil von künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werken oder Programmen“ sind. Hier reicht es laut der EU-Kommission aus, einen Deepfake-Hinweis so zu platzieren, dass er nicht das Werk an sich beeinträchtigt, aber die Konsument:innen trotzdem über die KI-Beteiligung informiert.
Wie werden KI-Inhalte richtig gekennzeichnet?
Empfohlene redaktionelle Inhalte
Hier findest du externe Inhalte von X Corp.,
die unser redaktionelles Angebot auf t3n.de ergänzen.
Mit dem Klick auf „Inhalte anzeigen“ erklärst du dich einverstanden,
dass wir dir jetzt und in Zukunft Inhalte von X Corp. auf unseren Seiten anzeigen dürfen.
Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.
Inhalte anzeigen
Leider ist etwas schief gelaufen…
An dieser Stelle findest du normalerweise externe Inhalte von X Corp.,
jedoch konnten wir deine Consent-Einstellungen nicht abrufen.
Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.
Datenschutzeinstellungen verwalten
Die EU stellt für die Kennzeichnung von KI-Werken drei Icons bereit. Das erste Icon zeigt die Buchstaben „AI“ in einem Kreis. Laut der Kommission soll es immer dann zum Einsatz kommen, wenn KI an der Erstellung von Deepfakes – egal, ob Video, Audio, Bild oder Text – beteiligt war. Als Beispiel nennt die EU-Kommission ein Deepfake-Video mit veränderter Stimme. Dort sollte stehen „Stimme generiert mit“, gefolgt von dem Icon.
Daneben gibt es noch zwei Icons für spezialisierte Fälle. „AI Generated“ zeigt, dass Inhalte komplett mit KI erstellt wurden, während „AI Modified“ eine teilweise Bearbeitung mit den Tools kenntlich macht. Laut EU müssen nicht zwangsläufig diese Icons genutzt werden, um KI-Inhalte zu kennzeichnen. So heißt es: „Die Nutzung der EU-Icons ist optional, aber die Kennzeichnungspflichten durch Artikel 50 sind es nicht“. Am Ende müssen die Verantwortlichen selbst entscheiden, wie sie die Inhalte ausreichend kennzeichnen.
Empfohlene redaktionelle Inhalte
Hier findest du externe Inhalte von Podigee GmbH,
die unser redaktionelles Angebot auf t3n.de ergänzen.
Mit dem Klick auf „Inhalte anzeigen“ erklärst du dich einverstanden,
dass wir dir jetzt und in Zukunft Inhalte von Podigee GmbH auf unseren Seiten anzeigen dürfen.
Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.
Inhalte anzeigen
Leider ist etwas schief gelaufen…
An dieser Stelle findest du normalerweise externe Inhalte von Podigee GmbH,
jedoch konnten wir deine Consent-Einstellungen nicht abrufen.
Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.
Datenschutzeinstellungen verwalten
Dafür gibt die EU aber immerhin Richtlinien. Ein Icon sollte laut EU immer deutlich sichtbar und direkt beim ersten Aufeinandertreffen mit dem Inhalt für Konsument:innen erkenntlich sein. Die Kennzeichnung sollte zudem nicht von anderen Inhalten verdeckt und direkt in den generierten Inhalt implementiert werden. Das soll sicherstellen, dass der Inhalt auch dann als KI-generiert gekennzeichnet ist, wenn er heruntergeladen oder auf anderen Plattformen geteilt wird.
Bei Texten muss ein entsprechender Hinweis am Anfang des generierten Inhalts stehen, um Leser:innen über die KI zu informieren. Bei Audioinhalten muss ein akustischer Hinweis eingebaut werden. Ferner müssen KI-Chatbots direkt am Anfang eines Gesprächs kenntlich machen, dass sie keine echten Menschen sind.
Welche Strafen drohen bei Verstößen?
Wer gegen die KI-Kennzeichnungspflicht verstößt, riskiert hohe Strafen. Für große Unternehmen stehen Geldstrafen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes im Raum – je nachdem, welcher Betrag höher ist. Für Institutionen und Behörden, die in der EU ansässig sind, drohen bei einem Verstoß Geldstrafen von bis zu 750.000 Euro. Die EU-Kommission sieht aber auch vor, den Betrag entsprechend nach unten zu senken, sollte es sich etwa um kleinere Unternehmen und Einrichtungen handeln.
Die Kennzeichnungspflicht für KI ist zwar seit dem 2. August 2026 in Kraft, doch gibt es aktuell noch eine Gnadenfrist. Für KI-Systeme, die vor dem Inkrafttreten auf den Markt gekommen sind, müssen Inhalte erst ab dem 2. Dezember 2026 verpflichtend gekennzeichnet werden. Selbiges gilt für Deepfakes, die vor dem 2. August entstanden sind. Die EU-Kommission hält dennoch alle Unternehmen dazu an, die Kennzeichnung schon jetzt ernst zu nehmen, um sich an der Erfüllung der „Ziele, die Artikel 50 des AI Acts verfolgt“, zu beteiligen.
Mit diesen Tools funktioniert KI auch lokal
Lokale KI: Mit diesen 6 Tools kein Problem
