Das EU-KI-Gesetz bringt neue Kennzeichnungspflichten

Wichtiger Hinweis: Dieser Beitrag dient ausschließlich der allgemeinen Information und stellt keine juristische Beratung dar.

Laut Eigenaussage der EU-Kommission ist die „Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ der weltweit erste umfassende Rechtsrahmen für Künstliche Intelligenz. Mit den Vorschriften wollen die Regulierer eine vertrauenswürdige KI in Europa fördern. Das sogenannte KI-Gesetz trat am 2. August 2026 in Kraft.

Auch wenn der AI-Act sich nicht vordringlich an Unternehmen der Wertschöpfungskette der Verpackung richtet, beinhaltet vor allem Artikel 50 der unter dem Titel „Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme“ Vorschriften, die jedes öffentlich tätige Unternehmen der Branche zumindest für sich prüfen sollte. 

Generierte oder bearbeitete Inhalte

Dabei geht es um die neuen Kennzeichnungspflichten für Inhalte, die mit Hilfe von KI generiert oder verändert wurden. Diese Medieninhalte müssen künftig in vielen Fällen transparent markiert werden. Bei den Pflichten wird zwischen Anbieter (Provider) und Betreiber (Deployer) unterschieden. Verkürzt gesagt, schaffen Anbieter die technischen Voraussetzungen, entwickeln also KI-Systeme, während Betreiber als Nutzer agieren.

Am häufigsten dürften Unternehmen als Nutzer von KI-Tools bei der Erstellung von Materialien für Werbung und Marketing, für Social-Media- oder die Pressearbeit, für Produktvisualisierungen oder Unternehmenspräsentationen sowie -videos auf die neuen Transparenzpflichten stoßen. 

Transparenzpflichten

Zu den wichtigsten Transparenzpflichten für Betreiber gehören:

• Die Kennzeichnung der Inhalte: Hier spricht die Verordnung erst einmal nur von Texten und nicht von anderen Medienformaten. Im Wortlaut heißt es: „Betreiber eines KI Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.“ (Absatz 4)
• Medienübergreifend gilt die Kennzeichnungspflicht für Betreiber jedoch bei Deepfakes. Als Deepfakes gelten realistisch wirkende Bild-, Ton- oder Videoinhalte, die existierende Personen, Gegenstände, Orte oder Ereignisse darstellen und fälschlicherweise als echt wahrgenommen werden könnten. Absatz 4 stellt klar: „Betreiber eines KI Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“ 
  (Absatz 4)

Wichtig sind bei allen Kennzeichnungspflichten auch der Zeitpunkt und die Form der zu leistenden Hinweise. Die Information muss spätestens bei der ersten Interaktion bzw. Exposition der Nutzerinnen und Nutzer mit den entsprechenden Inhalten klar, eindeutig und barrierefrei erfolgen.

Einschränkungen

• In Bezug auf erstellte oder bearbeitete Medieninhalte gilt die Kennzeichnungspflicht nicht, „…wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.“ 
  (Absatz 4)
• Einschränkungen gibt es auch, wenn „der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms“ ist. Hier „beschränken sich die … festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.“ (Absatz 4)

Was ist mit internen Kommunikationsformaten?

Da die Pflichten der Verordnung weitgehend adressatenneutral formuliert sind, gelten sie prinzipiell mit Blick auf jede natürliche Person, also auch für die unternehmensinterne Kommunikation. Gleichzeitig wird jedoch in Absatz 4 von einem KI-erzeugten oder -manipuliertem Text gesprochen, der „veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“. Das legt nahe, dass interne Newsletter, Intranet-Artikel oder Berichte ausgenommen sind, sofern sie nicht öffentlich zugänglich sind oder keine öffentliche Wirkung entfalten.

Handlungsoptionen

Da der AI-Act am 2. August 2026 in Kraft getreten ist, sollten Unternehmen zeitnah prüfen, wo und in welchem Umfang sie KI-generierte oder KI-bearbeitete Bild-, Ton- oder Videoinhalte einsetzen, um die erforderlichen Kennzeichnungen umzusetzen. Empfehlenswert erscheint beispielsweise, den Einsatz KI-generierter Bild-, Audio- und Videoinhalte im Unternehmen zu erfassen und die Verantwortlichkeiten und Freigabeprozesse der betroffenen Inhalte zu klären. Die EU-Kommission stellt geeignete Kennzeichnungshinweise (Icons) bereit und gibt Empfehlungen über deren Platzierung (siehe unten). Auch externe Agenturen und Dienstleister sollten auf die neuen Anforderungen hingewiesen werden.

Empfehlungen, Verhaltenskodex und Materialien der EU-Kommission

Neben dem reinen Gesetzestext stellt die EU-Kommission auch einen Verhaltenskodex für die Transparenz von KI-generierten Inhalten, die in Artikel 50 Absätze 2, 4 und 5 des KI-Gesetzes erwähnt werden, bereit.

Der Kodex enthält Verpflichtungen und Maßnahmen, die Betreiber von KI-Systemen, die Deepfakes und bestimmte Texte generieren, einhalten können, um ihre Einhaltung nachzuweisen. Hier finden sich auch die erwähnten Platzierungshinweise zur Erfüllung der Transparenzpflichten.

Der Kodex ist hier verfügbar (nur auf Englisch).

Das KI-Gesetz selbst finden Sie hier.

Außerdem stellt die EU Icons zur Kennzeichnung von KI-generierten Inhalten zur Verfügung.

Autor: Christian Nink, Freier Journalist