ChatGPT formuliert Texte, Microsoft Copilot fasst Dokumente zusammen und KI-Bildgeneratoren erstellen Motive für Websites, Werbung oder Social Media. Für Unternehmen stellt sich damit zunehmend die Frage, wann die KI-Kennzeichnungspflicht greift.
Unternehmen können Künstliche Intelligenz in vielen Bereichen rechtssicher einsetzen. Dieser Beitrag zeigt, wann die Transparenzpflichten des EU AI Acts gelten und wann keine KI-Kennzeichnung erforderlich ist.
Sie kann insbesondere gelten, wenn
Die KI-Kennzeichnungspflicht verpflichtet Anbieter und Betreiber bestimmter KI-Systeme dazu, Menschen darüber zu informieren, wenn sie mit KI interagieren oder KI-generierte beziehungsweise KI-manipulierte Inhalte konsumieren. Ziel ist es, Transparenz zu schaffen und Täuschungen zu vermeiden.
Die KI-Kennzeichnung ist Teil der Transparenzpflichten des EU AI Acts. Das Ziel ist einfach: Menschen sollen klar erkennen können, wenn sie mit einer Künstlichen Intelligenz interagieren oder wenn Inhalte mithilfe von KI erstellt beziehungsweise wesentlich verändert wurden.
Der Gesetzgeber verfolgt damit mehrere Ziele:
Je realistischer KI-Inhalte werden, desto schwieriger wird es für Nutzer, echte von künstlich erzeugten Inhalten zu unterscheiden. Deshalb verpflichtet der EU AI Act Unternehmen in bestimmten Fällen dazu, auf den Einsatz von KI hinzuweisen.
Der EU AI Act regelt die Transparenz- und Kennzeichnungspflichten für KI, bildet aber nicht den gesamten rechtlichen Rahmen ab. Je nach Einsatzgebiet und Anwendungsfall können weitere Rechtsvorschriften zu beachten sein.
Wer beispielsweise KI-generierte Werbebilder verwendet, virtuelle Influencer einsetzt oder mit synthetischen Stimmen arbeitet, muss unter Umständen neben der Transparenzpflicht des EU AI Acts zusätzliche wettbewerbs- oder persönlichkeitsrechtliche Vorgaben erfüllen. Gerade bei Deepfakes können mehrere Rechtsgebiete gleichzeitig relevant werden.
Die KI-Kennzeichnungspflichten werden oft deutlich strenger wahrgenommen, als sie tatsächlich sind. Entscheidend ist, den konkreten Anwendungsfall richtig einzuordnen.
KI-generierte Inhalte müssen nach dem EU AI Act von den Anbietern oder Betreibern bestimmter KI-Systeme gekennzeichnet werden, sofern einer der gesetzlichen KI-Anwendungen nach Artikel 50 vorliegen. Welche Pflichten gelten, richtet sich nach der Art des KI-Systems, der Rolle als Anbieter oder Betreiber des KI-Systems und dem konkreten Anwendungsfall.
Der EU AI Act unterscheidet zwei Akteure innerhalb der KI-Wertschöpfungskette. Für Unternehmen sind vor allem zwei Rollen relevant: Anbieter und Betreiber. Die meisten Unternehmen sind als Betreiber einzuordnen, insbesondere dann, wenn sie bestehende KI-Systeme wie ChatGPT oder Microsoft Copilot nutzen.
| Was sind Anbieter? | Was sind Betreiber? |
Als Anbieter gilt, wer ein KI-System entwickelt oder entwickeln lässt und dieses unter eigenem Namen oder eigener Marke auf dem europäischen Markt bereitstellt. Dabei ist nicht entscheidend, ob das Unternehmen die KI selbst programmiert hat. Maßgeblich ist vielmehr, unter welchem Namen das System angeboten wird und wer tatsächlich wirtschaftliche Entscheidungen über das System trifft. | Die meisten Unternehmen treten als Betreiber auf. Denn Betreiber nutzen ein bereits vorhandenes KI-System im Rahmen ihrer beruflichen Tätigkeit (z. B. ChatGPT, Microsoft Copilot, Midjourney, Claude oder Adobe Firefly). |
Wichtig: Anbieter müssen bestimmte KI-Ausgaben technisch kennzeichnen. Betreiber müssen dagegen nur in bestimmten Anwendungsfällen einen für Menschen sichtbaren Hinweis anbringen. Beide Pflichten sind voneinander zu unterscheiden.
Je größer die Gefahr ist, dass Menschen einen KI-Inhalt für echt halten oder sich dadurch beeinflussen lassen, desto größer ist auch das öffentliche Interesse an Transparenz. Deshalb konzentriert sich die Verordnung vor allem auf Inhalte, bei denen eine Verwechslungsgefahr mit echten Personen oder authentischen Informationen besteht oder eine Gefahr der Täuschung droht. Die Kennzeichnungspflicht betrifft insbesondere folgende Anwendungen:
KI-generierte und KI-manipulierte Bilder müssen nach dem EU AI Act in bestimmten Fällen gekennzeichnet werden. Über die Kennzeichnungspflicht entscheidet vor allem, wie das Bild genutzt und veröffentlicht wird.
Diese Frage beschäftigt derzeit viele Unternehmen, und die Antwort dürfte einige überraschen: Nein, nicht jedes KI-generierte Bild muss automatisch gekennzeichnet werden.
Wer beispielsweise Midjourney, DALL·E, Adobe Firefly oder ein anderes Bild-KI-Tool nutzt, muss nicht jedes erzeugte Motiv mit einem Hinweis versehen. Entscheidend ist vielmehr, welche Art von Bild veröffentlicht wird und welche Transparenzpflichten im konkreten Fall greifen.
Hier lohnt sich ein Blick in die KI-Verordnung. Sie unterscheidet zwischen
Während Anbieter von KI-Systemen in Bezug auf KI-generierte Inhalte technische Kennzeichnungspflichten erfüllen müssen, treffen Betreiber (also die meisten Unternehmen) vorrangig bei Deepfakes eigene Transparenzpflichten. Für Marketingabteilungen bedeutet das: Ein mit KI erstelltes Produktbild oder eine Illustration muss nicht unbedingt gekennzeichnet werden. Anders sieht es aus, wenn Inhalte täuschend echt wirken und geeignet sind, Nutzer über deren Echtheit zu täuschen.
Die KI-Verordnung definiert Deepfakes als KI-generierte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise echt oder wahrheitsgemäß erscheinen können.
Voraussetzung für einen Deepfake ist eine erkennbare Ähnlichkeit mit realistischem Motiv und die Eignung, den Betrachter hinsichtlich der Echtheit oder dem Wahrheitsgehalt zu täuschen.
Der Inhalt muss Personen, Gegenständen, Orten, Tieren bzw. anderen Lebewesen oder Ereignissen also deutlich ähneln, er muss aber nicht zwingend konkret existierende Personen zeigen. Es genügt, dass das Dargestellte real existiert, realistisch existieren oder plausibel existiert haben könnte und bei Personen fälschlich den Eindruck erwecken kann, authentisch oder wahr zu sein. Eine Täuschungsabsicht des Betreibers ist nicht erforderlich.
Nicht immer.
Für Anbieter gelten Ausnahmen, wenn die KI nur in unterstützender Funktion eingesetzt, z.B. um Flecken zu entfernen oder unwesentliche Bildbearbeitungen vorzunehmen.
KI-generierte Bilder, die als Deepfakes zu qualifizieren sind, müssen hingegen immer gekennzeichnet werden. An die Kennzeichnung werden allerdings geringere Anforderungen gestellt, wenn sie erkennbar Fiktion, Kunst oder Satire darstellen. Typischerweise kann dies etwa für folgende Darstellungen gelten:
Ein Einhorn mit Regenbogenmähne wird niemand für ein echtes Foto halten. Entsprechend besteht hier keine Gefahr einer Täuschung.
Die folgenden Praxisbeispiele zeigen, wann eine Kennzeichnung eher erforderlich ist und wann nicht.
Beispiel 1: KI-generierte Stockfotos
Ein Unternehmen erstellt mit Midjourney ein realistisches Foto einer angeblichen Mitarbeiterin für die Teamseite.
Beispiel 2: Produktvisualisierung
Ein Möbelhersteller nutzt KI, um verschiedene Wohnstile zu visualisieren.
Beispiel 3: Comicillustration
Ein Blogbeitrag enthält eine stilisierte Comicgrafik, die mit KI erstellt wurde.
Neben der Kennzeichnung sollten Unternehmen auch mögliche Rechte Dritter im Blick behalten. Welche finanziellen Folgen etwa Verletzungen von Bild-, Marken- oder Persönlichkeitsrechten haben können, zeigen typische Schadenfälle von Bloggern und Content Creators.
Nicht jedes fotorealistische KI-Bild ist automatisch kennzeichnungspflichtig. Entscheidend ist, ob für Betrachter der Eindruck entstehen kann, es handle sich um einen echten Inhalt.
KI-generierte Texte müssen nach dem EU AI Act von Anbietern immer, von Betreibern von KI-Tools nur in bestimmten Fällen gekennzeichnet werden. Eine Kennzeichnungspflicht für Unternehmen, die KI-Tools zur Texterstellung nutzen, besteht nur dann, wenn Texte zu Themen von öffentlichem Interesse veröffentlicht werden.
Die KI-Kennzeichnungspflicht für Betreiber greift insbesondere dann, wenn ein KI-System einen Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Ob ein Blogbeitrag, eine Pressemitteilung oder eine Informationsseite darunterfällt, ist anhand des konkreten Inhalts und Veröffentlichungszwecks zu beurteilen.
Beispiel 1: Blogartikel mit ChatGPT
Ein Unternehmen erstellt mit ChatGPT einen ersten Entwurf. Anschließend überarbeitet die Redaktion den Text vollständig, ergänzt Fachwissen und gibt den Beitrag frei.
Beispiel 2: KI veröffentlicht automatisch Nachrichten
Ein Unternehmen betreibt ein Portal, auf dem KI ohne menschliche Prüfung automatisch Meldungen veröffentlicht.
Beispiel 3: KI formuliert interne E-Mails
Mitarbeitende lassen sich Antwortentwürfe oder Meeting-Zusammenfassungen von ChatGPT schreiben.
Unabhängig von der Kennzeichnungspflicht können fehlerhafte oder rechtsverletzende KI-Texte zu Schadenersatzforderungen führen. Welche weiteren Berufsfehler hohe finanzielle Risiken sind, zeigt der Überblick zu haftungsrelevanten Fehlerquellen in verschiedenen Berufen.
Die Kennzeichnungspflicht kann entfallen, wenn ein KI-generierter Text vor der Veröffentlichung menschlich geprüft oder redaktionell kontrolliert wurde und eine natürliche oder juristische Person die Verantwortung für den Inhalt übernimmt. Diesen Prozess sollten Unternehmen dokumentieren.
Eine KI-Kennzeichnung ist in der Regel nicht erforderlich, wenn Inhalte intern genutzt, redaktionell geprüft oder offensichtlich künstlich dargestellt werden und keine besondere Transparenzpflicht des EU AI Acts greift.
| Anwendungsfall | Kennzeichnung erforderlich? |
| Interne E-Mails, Protokolle oder Zusammenfassungen | Nein |
| Mit ChatGPT oder Copilot erstellte und redaktionell geprüfte Texte | Nein |
| LinkedIn-Posts mit menschlicher Prüfung und redaktioneller Verantwortung | Nein |
| Offensichtlich künstliche Illustrationen oder Comicgrafiken | Nein |
| KI-generierte Produktvisualisierungen | abhängig von der Eignung den Betrachter zu täuschen* |
* Ob tatsächlich eine Kennzeichnungspflicht besteht, richtet sich nach dem konkreten Anwendungsfall und den Transparenzpflichten nach Artikel 50 des EU AI Acts.
Anbieter von KI-Systemen, mit denen KI-generierte Inhalte erstellt werden, müssen diese maschinenlesbar und sichtbar kennzeichnen.
Die KI-Kennzeichnung für Deepfakes und Texte für die Öffentlichkeit müssen nach dem EU AI Act klar, eindeutig und für die betroffenen Personen leicht erkennbar sein.
Steht fest, dass ein Inhalt kennzeichnungspflichtig ist, stellt sich für Betreiber die nächste Frage: Wie muss die KI-Kennzeichnung konkret erfolgen?
Der EU AI Act schreibt kein bestimmtes Design oder einen festen Wortlaut vor. Unternehmen können die Formulierung grundsätzlich frei wählen. Entscheidend ist, dass der Hinweis eindeutig, leicht verständlich und unmittelbar am Inhalt angebracht wird. Das bedeutet, dass Nutzer sofort erkennen können, dass sie es mit einem KI-generierten oder KI-manipulierten Inhalt zu tun haben, ohne erst danach suchen zu müssen.
Die Europäische Kommission hat hierzu einen Praxisleitfaden sowie eine Konkretisierung dazu veröffentlicht. Darin wird unter anderem empfohlen, eindeutige und leicht erkennbare Labels zu verwenden, die unmittelbar am jeweiligen Inhalt zu platzieren und nicht in allgemeinen Rechtstexten oder an anderer Stelle auf der Website zu verstecken sind.
Die KI-Verordnung schreibt keinen bestimmten Hinweis vor. Wichtig ist vor allem, dass die Kennzeichnung verständlich und eindeutig ist.
Folgende Formulierungen kommen beispielsweise infrage:
Bilder
Videos
Audioinhalte
Texte
Dabei gilt: Je transparenter und verständlicher die Formulierung ist, desto besser erfüllt sie den Zweck der Verordnung.
Die offiziellen EU-Icons zur Kennzeichnung von KI-generierten Inhalte finden Sie hier.
Mindestens genauso wichtig wie der Wortlaut der Kennzeichnung ist die Platzierung. Nach den Empfehlungen der Europäischen Kommission sollte sie unmittelbar am jeweiligen Inhalt erscheinen. Nutzer sollen den Hinweis sehen können, ohne scrollen, klicken oder suchen zu müssen.
Bei Bildern
| Bei Blogartikeln
|
Bei Videos
| Bei Podcasts
|
Wichtiger Hinweis: Ein allgemeiner Hinweis im Impressum oder in den Nutzungsbedingungen genügt nicht.
Verstöße gegen die KI-Kennzeichnungspflicht können Sanktionen nach dem EU AI Act sowie weitere rechtliche Folgen auslösen, etwa nach dem Datenschutz-, Wettbewerbs-, Urheber-, Persönlichkeits- oder Medienrecht.
Die Kennzeichnungspflichten sollen Transparenz schaffen und verhindern, dass Menschen durch KI-generierte oder KI-manipulierte Inhalte getäuscht werden. Welche Konsequenzen ein Verstoß hat, hängt vom konkreten Anwendungsfall ab. Neben der KI-Verordnung können insbesondere folgende Rechtsgebiete betroffen sein:
Unternehmen aus kreativen Branchen wie Werbeagenturen sind durch den häufigen Einsatz Künstlicher Intelligenz mit zusätzlichen Haftungsrisiken konfrontiert. Welche Schäden entstehen können und wie sich Agenturen finanziell absichern können, zeigt der Beitrag Welche Haftungsrisiken entstehen durch KI für Agenturen?
Vor jeder Veröffentlichung lohnt sich ein kurzer Check:
Wer diese Fragen systematisch beantwortet, kann viele Unsicherheiten bereits im Vorfeld vermeiden.
Je nach Berufsgruppe stehen unterschiedliche spezialisierte Versicherungslösungen zur Verfügung. Die zentrale Grundlage für die Absicherung von KI-Risiken bildet in der Regel die Berufshaftpflichtversicherung beziehungsweise Vermögensschadenhaftpflicht.
Verletzen Unternehmen durch den Einsatz von KI Rechte Dritter oder verursachen einen Vermögensschaden, können Schadenersatzforderungen entstehen. Gegen solche Vermögensschäden schützt eine Berufshaftpflichtversicherung.
Ansprüche Dritter aus der Nutzung oder dem Bereitstellen von KI-Anwendungen sind bei den Hiscox Berufshaftpflichtversicherungen grundsätzlich automatisch mitversichert. Dazu können etwa Schadenersatzforderungen wegen fehlerhafter KI-Inhalte, Datenschutzverstößen oder Verletzungen von Urheber-, Marken- und Persönlichkeitsrechten gehören.
Welche Leistungen und branchenspezifischen Unterschiede dabei wichtig sind, zeigt der Vergleich der Berufshaftpflichtversicherungen.
Wie unterstützt die Berufshaftpflicht im Schadenfall?
Die Berufshaftpflicht prüft, ob ein Anspruch berechtigt ist, wehrt unbegründete Forderungen ab und übernimmt berechtigte Schadenersatzansprüche im vereinbarten Umfang.
Die KI-Verordnung verlangt keine generelle Kennzeichnung aller KI-generierten Inhalte. Für die Kennzeichnungspflicht zählen vor allem der konkrete Anwendungsfall, die Rolle als Anbieter oder Betreiber, die Art des Inhalts und mögliche gesetzliche Ausnahmen.
Für viele Unternehmen ist vor allem eine Erkenntnis beruhigend: Wer KI verantwortungsvoll einsetzt, Inhalte prüft und die Transparenzpflichten kennt, kann die Vorteile Künstlicher Intelligenz rechtssicher nutzen.
Nicht jedes KI-generierte Bild muss durch den Betreiber sichtbar gekennzeichnet werden. Eine Kennzeichnung ist jedoch erforderlich, wenn das Bild als Deepfake einzustufen ist und fälschlicherweise echt oder wahr erscheinen kann. Bei erkennbar fiktionalen, künstlerischen oder satirischen Deepfakes gelten geringere Anforderungen an die Kennzeichnung, sie entfällt aber nicht automatisch.
Für Anbieter von KI-Systemen gelten technische Kennzeichnungspflichten für KI-generierte oder KI-manipulierte Texte. Unternehmen, die ein KI-Tool lediglich als Betreiber nutzen, müssen Texte insbesondere dann sichtbar kennzeichnen, wenn sie damit die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Die Pflicht kann entfallen, wenn der Text menschlich geprüft oder redaktionell kontrolliert wurde und eine natürliche oder juristische Person die Verantwortung übernimmt.
Rein unterstützende oder unwesentliche KI-Bearbeitungen müssen in der Regel nicht gekennzeichnet werden. Dazu zählen beispielsweise das Entfernen von Flecken sowie einfache Farb-, Schärfe- oder Belichtungskorrekturen. Verändert die KI wesentliche Bildinhalte oder entsteht eine täuschend echt wirkende Darstellung, können dagegen Kennzeichnungspflichten greifen.
Der EU AI Act schreibt für sichtbare Hinweise keinen festen Wortlaut vor. Die Formulierung muss verständlich, eindeutig und leicht wahrnehmbar sein und den tatsächlichen KI-Einsatz zutreffend beschreiben. Je nach Fall kann der Hinweis deutlich machen, ob ein Inhalt vollständig mit KI erstellt wurde, KI-generierte Bestandteile enthält oder lediglich mithilfe von KI bearbeitet wurde.
Die Nutzung von ChatGPT allein muss nicht gekennzeichnet werden. Maßgeblich ist, wie der erstellte Inhalt verwendet wird. Wird ein Text fachlich geprüft, redaktionell bearbeitet und von einer Person oder einem Unternehmen verantwortet, kann die Kennzeichnungspflicht entfallen. Bei einer automatisierten Veröffentlichung ohne menschliche Kontrolle kann dagegen eine Kennzeichnung erforderlich sein.
Unternehmen müssen ein mit Midjourney erstelltes Bild nicht allein deshalb sichtbar kennzeichnen, weil ein KI-Tool verwendet wurde. Als Betreiber müssen sie jedoch prüfen, ob das Bild als Deepfake einzustufen ist und fälschlicherweise echt oder wahr erscheinen kann. In diesem Fall ist ein für Menschen erkennbarer Hinweis erforderlich.
KI-Bilder auf Social Media müssen nicht automatisch sichtbar gekennzeichnet werden. Ein Hinweis ist jedoch erforderlich, wenn das veröffentlichte Bild als Deepfake einzustufen ist und fälschlicherweise echt oder wahr erscheinen kann. Bei erkennbar fiktionalen, künstlerischen oder satirischen Deepfakes kann die Kennzeichnung so gestaltet werden, dass sie die Darstellung nicht unangemessen beeinträchtigt.
Für KI-generierte Werbung besteht keine allgemeine sichtbare Kennzeichnungspflicht. Ein Hinweis kann jedoch erforderlich sein, wenn die Werbung einen Deepfake enthält oder KI-generierte beziehungsweise bearbeitete Produktdarstellungen geeignet sind, das Publikum über das tatsächliche Erscheinungsbild zu täuschen. Zusätzlich können wettbewerbs-, urheber-, medien- oder persönlichkeitsrechtliche Vorgaben greifen.
Intern genutzte KI-Inhalte sind in der Regel nicht kennzeichnungspflichtig. Dazu zählen beispielsweise interne E-Mails, Protokolle oder Meeting-Zusammenfassungen, sofern sie nicht veröffentlicht oder der Öffentlichkeit zugänglich gemacht werden.
Die KI-Kennzeichnungspflicht kann auch kleine Unternehmen betreffen. Die Unternehmensgröße ist grundsätzlich nicht ausschlaggebend. Entscheidend sind die Rolle des Unternehmens, das eingesetzte KI-System sowie die Art der Nutzung oder Veröffentlichung.
Verstöße gegen die KI-Kennzeichnungspflicht können rechtliche und finanzielle Folgen auslösen. Neben Sanktionen nach dem EU AI Act können je nach Sachverhalt auch das Datenschutz-, Wettbewerbs-, Urheber-, Medien- oder Persönlichkeitsrecht betroffen sein.
Die Transparenzpflichten nach Artikel 50 des EU AI Acts gelten ab dem 2. August 2026. Unternehmen sollten deshalb prüfen, welche KI-Systeme sie einsetzen, welche KI-generierten oder KI-manipulierten Inhalte sie veröffentlichen und ob dafür eine Informations- oder Kennzeichnungspflicht besteht.
Wir blicken auf über 125 Jahre Erfahrung bei der Absicherung von Spezialrisiken zurück und sind von Anfang an Innovator mit vielfach ausgezeichneten Versicherungslösungen.
Unsere Kunden empfehlen unseren schnellen und professionellen Schadenservice mit 4,7 von 5 Sternen weiter (lt. Umfrage 2023) – das ist uns Lob und Ansporn gleichermaßen.
Unsere Prävention und Leistung bereits ab Tag 1 – profitieren Sie von unserem exklusiven Support, z.B. mit E-Learning, Checklisten, Vorlagen in unserer exklusiven Wissensplattform.
