Was sind Watermarks für KI-generierten Content und wann sind sie Pflicht?

Watermarks für KI-generierten Content sind digitale oder visuelle Kennzeichnungen, die darauf hinweisen, dass ein Inhalt maschinell erzeugt wurde. Seit der EU AI Act verpflichtend in Kraft getreten ist, müssen bestimmte KI-generierte Inhalte in der EU zwingend gekennzeichnet werden, insbesondere synthetische Medien wie Deepfakes und KI-generierte Audio- oder Videoinhalte. Dieser Artikel beantwortet die wichtigsten Fragen rund um Technik, Rechtspflichten und praktische Umsetzung.

Wie funktionieren Watermarks für KI-Inhalte technisch?

Watermarks für KI-Inhalte sind technische Mechanismen, die Metadaten oder unsichtbare Signale in einen Inhalt einbetten, um dessen maschinellen Ursprung nachweisbar zu machen. Sie existieren in zwei grundlegenden Formen: sichtbare Markierungen, die direkt im Inhalt erscheinen, und unsichtbare, steganografische Einbettungen, die für das menschliche Auge nicht erkennbar sind, aber maschinell ausgelesen werden können.

Unsichtbare Watermarks funktionieren, indem sie statistische Muster in den Ausgaben eines KI-Modells hinterlassen, etwa durch minimale Veränderungen in der Pixelstruktur eines Bildes oder in der Wortwahl eines Textes. Diese Muster sind für Lesende nicht wahrnehmbar, können aber von speziellen Detektionstools zuverlässig identifiziert werden.

Ein weiterer Ansatz ist die Nutzung von Metadaten-Standards wie dem C2PA-Standard (Coalition for Content Provenance and Authenticity). Dieser offene Standard bettet Herkunftsinformationen direkt in die Datei ein und dokumentiert, welches Modell den Inhalt erzeugt hat, wann und mit welchen Parametern. Viele große KI-Anbieter integrieren diesen Standard bereits in ihre Werkzeuge.

Wichtig zu verstehen: Kein Watermarking-Verfahren ist vollständig manipulationssicher. Komprimierung, Formatkonvertierung oder gezielte Angriffe können Markierungen beschädigen oder entfernen. Deshalb diskutieren Standardisierungsgremien und Regulatoren heute mehrschichtige Ansätze, die Watermarks mit Provenienz-Metadaten kombinieren.

Welche gesetzlichen Pflichten gelten laut EU AI Act?

Der EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen, bestimmte KI-generierte Inhalte eindeutig zu kennzeichnen. Die Kennzeichnungspflicht gilt insbesondere für synthetische Audio-, Video- und Bildinhalte sowie für Text, der von KI erzeugt wurde und als menschlich verfasst erscheinen könnte. Anbieter von KI-Systemen, die solche Inhalte erzeugen, müssen technisch sicherstellen, dass die Inhalte als KI-generiert erkennbar sind.

Konkret unterscheidet der EU AI Act zwischen verschiedenen Risikostufen. Für sogenannte Hochrisiko-KI-Systeme gelten deutlich strengere Anforderungen an Transparenz und Nachvollziehbarkeit. Systeme, die synthetische Medien erzeugen, fallen in eine eigene Kategorie mit spezifischen Offenlegungspflichten.

Die relevantesten Anforderungen im Überblick:

• KI-generierte Audio- und Videoinhalte müssen maschinenlesbar als solche markiert sein
• Deepfakes, also täuschend echte synthetische Darstellungen realer Personen, unterliegen zusätzlichen Offenlegungspflichten gegenüber den dargestellten Personen
• KI-Chatbots müssen sich gegenüber Nutzenden als KI zu erkennen geben, sofern dies nicht offensichtlich ist
• Anbieter von General-Purpose-AI-Modellen (GPAI) müssen Trainingsdaten und Fähigkeiten ihrer Modelle dokumentieren

Die Pflichten richten sich in erster Linie an Anbieter, also Unternehmen, die KI-Systeme entwickeln und auf den Markt bringen. Betreiber, die diese Systeme einsetzen, tragen jedoch ebenfalls Verantwortung dafür, dass die Kennzeichnungspflichten im konkreten Einsatzkontext erfüllt werden.

Für welche Inhaltstypen sind Watermarks verpflichtend?

Verpflichtend sind Watermarks und Kennzeichnungen laut EU AI Act vor allem für synthetische Medieninhalte: KI-generierte Videos, Bilder und Audiodateien, die täuschend echt wirken oder reale Personen darstellen. Für reinen KI-generierten Text gilt die Pflicht differenzierter und hängt stark vom Kontext ab.

Synthetische Medien: Bilder, Video und Audio

Hier ist die Rechtslage am klarsten. Inhalte, die Personen in Situationen zeigen oder hören lassen, die nicht stattgefunden haben, müssen zwingend als KI-generiert gekennzeichnet sein. Das betrifft Werbematerial mit synthetischen Personen ebenso wie politische Inhalte, Nachrichtenformate oder Unterhaltungsmedien. Die Kennzeichnung muss sichtbar und verständlich sein.

KI-generierter Text

Für Texte gilt die Kennzeichnungspflicht nicht pauschal, sondern kontextabhängig. Marketingtexte, Produktbeschreibungen oder interne Dokumente unterliegen in der Regel keiner gesetzlichen Kennzeichnungspflicht, solange sie nicht täuschen sollen. Anders verhält es sich bei journalistischen Inhalten, politischer Kommunikation oder Inhalten, die bewusst als menschlich verfasst erscheinen sollen. Hier greifen Transparenzpflichten aus dem AI Act und ergänzende nationale Regelungen.

Was passiert bei Verstößen gegen die Kennzeichnungspflicht?

Verstöße gegen die Kennzeichnungspflichten des EU AI Act können empfindliche Bußgelder nach sich ziehen. Für Verstöße gegen spezifische Transparenz- und Kennzeichnungsanforderungen sieht der AI Act Sanktionen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist.

Neben den direkten Bußgeldern drohen weitere Konsequenzen:

• Reputationsschäden: Öffentlich bekannt gewordene Verstöße beschädigen das Vertrauen von Kundschaft und Partnern nachhaltig
• Marktausschluss: Produkte oder Dienste, die nicht konform sind, können vom europäischen Markt ausgeschlossen werden
• Zivilrechtliche Haftung: Geschädigte Personen, etwa durch nicht gekennzeichnete Deepfakes, können Schadensersatzansprüche geltend machen
• Aufsichtsmaßnahmen: Nationale Marktaufsichtsbehörden können Untersuchungen einleiten und Auflagen erteilen

Besonders relevant für Unternehmen: Die Verantwortung liegt nicht nur beim KI-Anbieter. Wer ein KI-System in eigene Produkte oder Prozesse integriert und dabei Kennzeichnungspflichten verletzt, trägt als Betreiber ebenfalls Haftungsrisiken.

Welche technischen Standards und Tools setzen Unternehmen ein?

In der Praxis setzen Unternehmen heute vor allem auf den C2PA-Standard und auf modellseitige Watermarking-Funktionen der großen KI-Anbieter. Beide Ansätze ergänzen sich und bilden zusammen eine robuste Basis für die Kennzeichnung KI-generierter Inhalte.

Die wichtigsten Standards und Werkzeuge im Überblick:

• C2PA (Coalition for Content Provenance and Authenticity): Offener Standard, der Herkunftsmetadaten direkt in Dateien einbettet. Unterstützt von Adobe, Microsoft, Google und anderen großen Anbietern
• SynthID (Google DeepMind): Unsichtbares Watermarking für Bilder, Audio und Text, das direkt im Generierungsprozess eingebettet wird und robust gegenüber Komprimierung ist
• Adobe Content Credentials: Auf C2PA basierendes System, das Provenienzinformationen in Creative-Cloud-Inhalten speichert und über den Verify-Dienst überprüfbar macht
• Microsoft Azure AI Content Safety: Bietet Funktionen zur Erkennung und Markierung KI-generierter Inhalte im Microsoft-Ökosystem
• Unabhängige Detektionstools: Dienste wie Hive Moderation oder Illuminarty ermöglichen die nachträgliche Erkennung KI-generierter Inhalte

Für Unternehmen, die im Microsoft-Umfeld arbeiten, lohnt sich ein genauer Blick auf die integrierten Governance-Funktionen. Im Rahmen einer strukturierten Copilot-Einführung lassen sich Richtlinien für KI-generierte Inhalte direkt in bestehende Compliance-Strukturen einbetten.

Wie sollten Unternehmen ihre KI-Content-Strategie anpassen?

Unternehmen sollten ihre KI-Content-Strategie so ausrichten, dass Kennzeichnung und Governance von Anfang an mitgedacht werden, nicht als nachträgliche Compliance-Aufgabe. Das bedeutet: klare interne Richtlinien für den Einsatz generativer KI, technische Maßnahmen zur Kennzeichnung und eine transparente Kommunikation nach außen.

Konkret empfehlen sich folgende Schritte:

1. Bestandsaufnahme: Welche KI-Werkzeuge werden im Unternehmen eingesetzt? Welche Inhalte werden damit erstellt? Welche davon fallen unter die Kennzeichnungspflicht?
2. Richtlinien definieren: Interne Guidelines festlegen, die regeln, wann und wie KI-generierte Inhalte gekennzeichnet werden, auch dort, wo keine gesetzliche Pflicht besteht
3. Technische Infrastruktur aufbauen: Watermarking-Funktionen der eingesetzten KI-Plattformen aktivieren und C2PA-konforme Workflows einrichten
4. Verantwortlichkeiten klären: Wer im Unternehmen ist für die Einhaltung der Kennzeichnungspflichten zuständig? IT, Legal oder Marketing?
5. Schulungen durchführen: Mitarbeitende, die KI-Werkzeuge nutzen, müssen die relevanten Pflichten kennen und verstehen
6. Regelmäßige Überprüfung: Der EU AI Act und begleitende Regelungen entwickeln sich weiter. Compliance-Prozesse müssen aktuell gehalten werden

Ein wichtiger strategischer Aspekt: Freiwillige Kennzeichnung über das gesetzlich Geforderte hinaus kann ein Vertrauenssignal sein. Unternehmen, die offen kommunizieren, wo und wie sie KI einsetzen, positionieren sich als verantwortungsvolle Akteure, was besonders in regulierten Branchen und gegenüber kritischer Kundschaft ein echter Vorteil ist. Wer außerdem KI-Agenten einsetzt, sollte auch deren Ausgaben in die Kennzeichnungsstrategie einbeziehen.

Communardo Smart Work unterstützt Unternehmen dabei, eine tragfähige KI-Content-Strategie aufzubauen, die technische Umsetzung, rechtliche Anforderungen und interne Governance zusammendenkt. Die Angebote umfassen:

• Einen Copilot Readiness und Governance Health Check, der den Status quo in Bezug auf Daten, Berechtigungen, Compliance und KI-Betriebsfähigkeit bewertet
• Einen KI-Strategie- und Use-Case-Workshop, in dem gemeinsam ein Zielbild und eine konkrete Roadmap für den verantwortungsvollen KI-Einsatz entwickelt werden
• Copilot Enablement und Adoption mit zielgruppenspezifischen Trainings, die Mitarbeitende befähigen, KI-Werkzeuge regelkonform und effektiv einzusetzen

Du möchtest wissen, wie gut dein Unternehmen für die Anforderungen des EU AI Act aufgestellt ist? Meld dich bei Communardo Smart Work und lass uns gemeinsam den nächsten Schritt planen.