Kennzeichnungspflicht für KI-Inhalte? Was Art. 50 AI Act tatsächlich verlangt
Ab dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 EU AI Act. Ziel ist es, Nutzerinnen und Nutzer vor Täuschung durch bestimmte KI-Systeme und KI-generierte Inhalte zu schützen. Eine pauschale Kennzeichnungspflicht für sämtliche mit ChatGPT oder anderen KI-Systemen erstellten Texte oder Bilder usw. führt die Verordnung jedoch nicht ein. Was gilt tatsächlich? Welche Unternehmen sind betroffen? Und welche Inhalte müssen künftig transparent gemacht werden? Im Beitrag vom TÜV Thüringen werden die häufigsten Missverständnisse aufgezeigt, worauf Unternehmen jetzt achten sollten. Auch die Tagesschau hat am 01.08.2026 darüber berichtet https://www.tagesschau.de/tagesthemen/video-1624616.html.
Was ändert sich ab dem 2. August 2026?
Ab diesem Datum gelten die Transparenzpflichten des Artikels 50 AI Act. Ergänzend hat die Europäische Kommission Leitlinien in einem Code of Practice on Transparency of AI-Generated Content (Verhaltenskodex zur Transparenz von KI-generierten Inhalten) veröffentlicht, die Unternehmen bei der praktischen Umsetzung unterstützen sollen. Der Code ist freiwillig, die festgeschriebenen Pflichten des AI Acts sind hingegen verbindlich. Für bestimmte, bereits vor dem 2. August 2026 in Verkehr gebrachte Systeme, gilt eine Übergangsregelung bis zum 2. Dezember 2026. Siehe TÜV Akademie Thüringen: https://die-tuev-akademie.de/blog/kennzeichnungspflicht-fuer-ki-inhalte-was-art-50-ai-act-tatsaechlich-verlangt#:~:text=Nein.%20Das%20ist%20wahrscheinlich%20das%20gr%C3%B6%C3%9Fte%20Missverst%C3%A4ndnis.,KI%20als%20Schreibassistenz%20f%C3%A4llt%20nicht%20automatisch%20darunter.
Der AI Act verfolgt ein anderes Ziel. Er soll verhindern, dass Menschen über den Ursprung oder die Echtheit bestimmter Inhalte getäuscht werden. Deshalb knüpfen die Transparenzpflichten an konkrete Anwendungsfälle an und unterscheiden zwischen verschiedenen Rollen – etwa Anbietern und Betreibern von KI-Systemen. Nicht jede Nutzung eines Sprachmodells löst automatisch eine Kennzeichnungspflicht aus.
Wird die Nutzung künftig für alle Anwender Geld kosten?
Der EU AI Act ist ein Regulierungsrahmen für Sicherheit, Transparenz und Grundrechte – er schreibt keine Marktpreise oder verpflichtenden Gebühren für die Nutzung vor. Ob ein KI-Modell kostenlos (z. B. Open Source, Free-Tiers) oder kostenpflichtig angeboten wird, liegt weiterhin allein im Ermessen der jeweiligen Softwareanbieter und Entwickler. Allerdings steigen für die Entwickler die Compliance- und Dokumentationskosten, was sich indirekt auf B2B-Preise auswirken kann.
Der Anbieter (Provider) sowie der Entwickler/Hersteller der KI (z.B.OpenAi, Google) ist verantwortlich für die technische Sicherheit, das Risikomanagement sowie dafür, dass generierte Medien technisch (z.B. per Wasserzeichen/Metadaten) als KI-Inhalte markiert werden können. Der Betreiber/Anwender (Deployer), also Unternehmen, Journalisten sowie Privatpersonen tragen die Verantwortung für die konkrete Verwendung und Veröffentlichung der Inhalte. Wer KI-Texte oder KI-Bilder veröffentlicht, haftet weiterhin für Urheberrechtsverletzungen, Falschinformationen oder Persönlichkeitsverletzungen.
Transparenzpflichten nach Artikel 50 und Angaben zur Qualität und Verlässlichkeit der KI
Keine pauschale Kennzeichnungspflicht für alles: Der KI-Einsatz als reine Schreibassistenz oder Formulierungshilfe erfordert kein Label. Pflicht zur Offenlegung: Pflicht zur Kennzeichnung besteht insbesondere bei Deepfakes (fotorealistische Manipulationen) sowie bei KI-Generaten, die ohne menschliche Kontrolle direkt zur Information der Öffentlichkeit publiziert werden. Der „Human-in-the-Loop“: Wenn ein Mensch den Inhalt vor der Veröffentlichung prüft, korrigiert und die redaktionelle Verantwortung übernimmt, bleibt die freie Nutzung im gewohnten Rahmen.
Die Angaben zur Qualität und Funktionsweise werden auf drei Ebenen geregelt: Der Hersteller / Anbieter: Anbieter von KI-Modellen sind gesetzlich verpflichtet, transparente Dokumentationen (z. B. Model Cards) bereitzustellen. Darin muss offengelegt werden, wofür das Modell geeignet ist, wo dessen Leistungsgrenzen liegen und mit welchen Daten trainiert wurde. Für Hochrisiko-Systeme müssen Anbieter ein Qualitätsmanagementsystem betreiben und Konformitätsbewertungen durchführen (inkl. CE-Kennzeichnung), siehe Info: https://ai-act-service-desk.ec.europa.eu/de/ai-act/article-16#:~:text=Anbieter%20von%20Hochrisiko%2DKI%2DSystemen%20m%C3%BCssen%20sicherstellen%2C%20dass%20ihre,anbringen%20und%20den%20Registrierungspflichten%20und%20Barrierefreiheitsanforderungen%20nachkommen.
Behörden und EU-Aufsicht
Das neu geschaffene EU AI Office (Büro für KI) sowie nationale Aufsichtsbehörden prüfen die Einhaltung der Vorgaben und erarbeiten technische Verhaltenskodizes (Codes of Practice) für Qualitätsstandards. Der Anwender selbst (Qualitätskontrolle): Die finale Inhalts- und Faktenprüfung verbleibt beim Anwender/Publisher. Die KI gilt rechtlich nicht als Autor, weshalb Angaben zur Qualität der Ausgabe immer durch menschliche Nachprüfung abgesichert werden müssen.
Fazit
Die Transparenzpflichten des AI Acts bringen weder eine pauschale Kennzeichnungspflicht für alle KI-generierten Inhalte noch einen grundsätzlichen Paradigmenwechsel für jede Form der KI-Nutzung. Sie verlangen jedoch einen bewussteren und transparenteren Umgang mit bestimmten KI-Anwendungen und veröffentlichten KI-Inhalten.
Unternehmen, die ihre KI-Anwendungen kennen, Verantwortlichkeiten festlegen und interne Regeln schaffen, sind gut auf die neuen Anforderungen vorbereitet. Denn auch beim Einsatz von Künstlicher Intelligenz gilt: Nicht möglichst viel Transparenz ist das Ziel, sondern die gesetzlich geforderte Transparenz an der richtigen Stelle.
Foto: KI erstellt (WIKIPEDIA, https://www.weights.com/create)
