Ob fotorealistische Bilder, KI-geschriebene Blogartikel, synthetische Stimmen oder automatisch generierte Videos: Künstliche Intelligenz und KI-Inhalte sind im Marketing, bei der Content-Erstellung und im Webdesign längst Alltag.
Mit dem schrittweisen Inkrafttreten des EU-AI-Acts (dem Gesetz über Künstliche Intelligenz der Europäischen Union) wächst jedoch die Unsicherheit bei Unternehmen, Freelancern und Creatorn: Wann bin ich verpflichtet, KI-Inhalte, die KI-generiert sind, als solche zu kennzeichnen?
Der Gesetzgeber unterscheidet sehr genau zwischen harmlosen Designelementen und potenziell täuschenden Medien. In diesem Leitfaden erfährst du klar und verständlich, wo die Transparenzpflicht gilt, wo Ausnahmen greifen und was du in der Praxis beachten musst.
Die Grundregel: Transparenz nach Artikel 50 EU-AI-Act
Das Hauptziel des EU-AI-Acts beim Thema Content ist der Schutz vor Täuschung, Desinformation und Falschinformationen. Verbraucher sollen wissen, wenn sie mit einer KI interagieren oder wenn ihnen synthetische Medien präsentiert werden, die wie die Realität wirken.
Der Act unterscheidet dabei grundsätzlich zwei Ebenen der Kennzeichnung:
- Information der Nutzer: Der Konsument muss sehen oder wissen, dass der Inhalt von einer KI stammt.
- Technische Kennzeichnung (Wasserzeichen): KI-Systeme müssen so gestaltet sein, dass generierte Inhalte in maschinenlesbaren Formaten (wie C2PA-Metadaten) als synthetisch markiert sind.
Wann eine Kennzeichnungspflicht GILT
In folgenden Szenarien schreibt der EU-AI-Act eine Kennzeichnung von KI-Inhalten zwingend vor:
1. Deepfakes & Fotorealismus (Bilder & Video)
Wenn KI-generierte oder manipulierte Bild- und Videodateien echte Personen, reale Orte oder tatsächliche Ereignisse darstellen und fälschlicherweise als echt wahrgenommen werden könnten, gilt eine strenge Offenlegungspflicht.
- Beispiel: Ein KI-Foto eines bekannten Politikers in einer erfundenen Situation oder ein fotorealistisches Bild eines angeblichen Naturereignisses.
2. Synthetische Audioinhalte (Voice Cloning)
Stimmen, die per KI geklont oder synthetisch erzeugt wurden und wie echte Menschen klingen, müssen als KI-generiert offengelegt werden.
- Beispiel: Ein Radio-Spot oder Podcast-Intro, das mit einer geklonten Prominenten- oder Sprecherstimme arbeitet.
3. KI-Texte zur öffentlichen Information
Texte, die von KI generiert oder überarbeitet wurden und der Information der Öffentlichkeit zu Themen von öffentlichem Interesse dienen (z. B. politische Berichterstattung, Nachrichten, gesellschaftliche Debatten), müssen als KI-Erzeugnis gekennzeichnet werden.
4. Direkte KI-Interaktion (Chatbots)
Wenn Nutzer direkt mit einem KI-System interagieren (z. B. einem Kundenservice-Chatbot), muss von Anfang an klar kommuniziert werden, dass sie mit einer KI und nicht mit einem Menschen sprechen.
Wann KEINE Kennzeichnungspflicht gilt (Ausnahmen)
Nicht jeder Einsatz von KI muss mit einem Warnhinweis versehen werden. Der Gesetzgeber hat wichtige Ausnahmen definiert:
1. Reines Editing & Standard-Werkzeuge
Wenn KI lediglich als Hilfsmittel zur Bearbeitung genutzt wird, ohne den eigentlichen Wahrheitsgehalt oder Kern des Bildes/Mediums zu verändern, besteht keine Pflicht.
- Beispiele: Automatische Rauschunterdrückung, Zuschnitt, Schärfen, einfache Farbkorrekturen oder das Entfernen kleiner Störobjekte im Hintergrund eines echten Fotos.
2. Offensichtlich fiktive & dekorative Medien
Grafiken, Illustrationen, Vektoren, Icons, 3D-Renderings oder abstrakte Kunstwerke erwecken beim Betrachter von vornherein keine Erwartung von Realität.
- Beispiele: Ein stilisiertes KI-Icon auf einer Website, eine Comic-Illustration für ein Kinderbuch oder ein Sci-Fi-Banner.
3. Freie Kunst und Satire (mit Einschränkungen)
Bei künstlerischen Werken oder Satire gilt die Pflicht eingeschränkt: Eine Kennzeichnung ist so vorzunehmen, dass sie das künstlerische Werk nicht zerstört, aber dennoch Verwechslungen ausschließt.
Übersicht: Was muss wie gekennzeichnet werden?
| Medientyp | Beispiel | Kennzeichnungspflicht? |
| Fotorealistische Personen/Orte | KI-Foto eines angeblichen Unfalls | Ja (deutlicher Hinweis erforderlich) |
| Voice Cloning / Synthetisches Audio | KI-generierter Podcast-Sprecher | Ja (audiovisueller Hinweis) |
| Journalistische KI-Texte | Nachrichtenartikel über Wahlen | Ja (Autoren-Hinweis auf KI) |
| Standard-Blogartikel / SEO-Texte | Allgemeine Ratgeber-Texte | Nein (sofern reine Sachinformation ohne Täuschung) |
| Icons, Logos & Illustrationen | UI-Elemente, Vektorgrafiken | Nein (Ausnahme für dekorative Grafik) |
| Foto-Korrekturen | Beleuchtung im echten Foto optimiert | Nein (bloße Bearbeitung) |
3 Praxistipps für Content-Creator und Unternehmen
- Achte auf die AGB der KI-Tools: Auch wenn der EU-AI-Act deine Inhalte nicht sperrt, musst du die kommerziellen Nutzungsrechte des jeweiligen Anbieters (Midjourney, ChatGPT, ElevenLabs etc.) einhalten.
- Setze auf Transparenz bei Zweifeln: Im B2B-Bereich oder im Journalismus schafft ein freiwilliger, kurzer Hinweis („Grafik/Text erstellt mit Unterstützung von KI“) Vertrauen bei Kunden und Lesern.
- Metadaten nicht belassen: Moderne KI-Generatoren betten C2PA-Standard-Metadaten ein. Entferne diese technischen Markierungen nicht mutwillig aus den Dateien.
Fazit
Der EU-AI-Act will Täuschung verhindern, nicht Kreativität blockieren. Für alltägliche Designelemente, Illustrationen oder unterstützende Bearbeitungen gibt es Entwarnung. Wer jedoch fotorealistische Medien, Voice-Cloning oder öffentliche Meinungstexte einsetzt, muss Transparenz schaffen.
