EU AI Act Art. 50 – Transparenzpflicht

Update Stichtag 2. August 2026 – KI-Kompetenz bleibt, Transparenzpflicht kommt hinzu.

Ab dem 2. August 2026 gelten zusätzlich die Transparenzpflichten nach Artikel 50. Sie betreffen allerdings nicht jeden Einsatz von KI und auch nicht jedes KI-generierte Ergebnis. Entscheidend ist, ob ein Unternehmen als Anbieter oder Betreiber eines KI-Systems handelt und welcher der gesetzlich geregelten Anwendungsfälle vorliegt. EU-Kommission: Leitlinien zu Artikel 50

Der EU AI Act trat am 1. August 2024 in Kraft und wird schrittweise anwendbar. Seit dem 2. Februar 2025 gilt Artikel 4 zur KI-Kompetenz. Danach müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihrer Mitarbeitenden und weiterer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen arbeiten.

Im Juli 2026 wurde Artikel 4 durch den Digital Omnibus angepasst: Die Pflicht zur Förderung der KI-Kompetenz bleibt bestehen, ein bestimmtes oder einheitliches Kompetenzniveau ist jedoch vorgeschrieben. Eine bloße allgemeine Sensibilisierung genügt nicht automatisch; die Maßnahmen sollten sich an den eingesetzten Systemen, ihren Risiken, dem Nutzungskontext und den Vorkenntnissen der betroffenen Personen orientieren. EU-Kommission: Fragen und Antworten zu AI Literacy

(WICHTIG: Der freiwillige EU Code of Practice zur Transparenz KI-generierter Inhalte und die optionalen EU-Kennzeichnungsicons können bei der Umsetzung helfen. Die Verwendung eines Icons allein garantiert allerdings noch keine rechtskonforme Kennzeichnung.)

Checkliste: Die wichtigsten Transparenzpflichten ab 2. August 2026

Hinweis bei direkter KI-Interaktion:

Anbieter müssen KI-Systeme, die unmittelbar mit natürlichen Personen interagieren – beispielsweise Chatbots, KI-Agenten oder virtuelle Avatare –, so gestalten, dass die betroffenen Personen zu Beginn der ersten Interaktion klar und zugänglich darüber informiert werden, dass sie mit einem KI-System kommunizieren. Die Pflicht entfällt, wenn klar erkennbar ist, dass es sich um ein KI-System handelt (z. B. humanoide Roboter mit deutlich synthetischen Stimmen).

Maschinenlesbare Markierung synthetischer Inhalte:
Anbieter von KI-Systemen müssen sicherstellen, dass KI-generierte Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format gekennzeichnet sind. Wichtig: Die konkrete technische Umsetzung (Wasserzeichen, Metadaten) ist nicht detailliert geregelt, gefordert wird lediglich eine „klare und eindeutige Information“. Für Anbieter bestimmter generativer KI-Systeme, die bereits vor dem Stichtag auf dem Markt waren, besteht für die technische Kennzeichnung synthetischer Inhalte eine Nachfrist bis zum 2. Dezember 2026. Die Nutzer-sichtbaren Hinweise müssen jedoch bereits ab 2. August 2026 erfolgen. Ausnahmen bestehen unter anderem für bestimmte Standardbearbeitungen und für Systeme, die Eingabedaten oder deren Bedeutung nicht wesentlich verändern.

Offenlegung von Deepfakes:
Wer Deepfakes veröffentlicht oder KI-Texte nutzt, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren, müssen deren künstliche Erzeugung oder Manipulation klar offenlegen. Eine Ausnahme für Texte besteht nur, wenn eine menschliche Überprüfung UND redaktionelle Kontrolle stattgefunden hat. Als Deepfake gelten Inhalte, die bestehenden oder plausibel existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich authentisch oder wahr erscheinen können.

Die Offenlegung muss spätestens bei der ersten Wahrnehmung klar und für Menschen erkennbar sein. Eine lediglich im Hintergrund eingebettete maschinenlesbare Markierung reicht hierfür nicht aus.

Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken entfällt die Pflicht nicht vollständig. Die Offenlegung darf jedoch so erfolgen, dass sie die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Emotionserkennung und biometrische Kategorisierung:

Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen die davon betroffenen Personen über den Betrieb des Systems informieren. Zusätzlich müssen sie die datenschutzrechtlichen Vorgaben einhalten.

Die Informationspflicht bedeutet jedoch nicht, dass jede solche Anwendung erlaubt wäre. So ist beispielsweise die KI-gestützte Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen grundsätzlich verboten, sofern sie nicht aus medizinischen oder sicherheitsbezogenen Gründen erfolgt. Auch bestimmte biometrische Kategorisierungen nach besonders sensiblen Merkmalen sind verboten. AI Act Service Desk: Verbotene KI-Praktiken

Kennzeichnung bestimmter Texte von öffentlichem Interesse:

Betreiber müssen KI-generierte oder KI-manipulierte Texte offenlegen, wenn diese veröffentlicht werden, die Öffentlichkeit informieren sollen und Angelegenheiten von öffentlichem Interesse betreffen.

Die Offenlegung kann entfallen, wenn der Text einer substanziellen menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für seine Veröffentlichung trägt. Reine Rechtschreib-, Grammatik- oder Formatkontrollen reichen nach den Leitlinien der EU-Kommission nicht aus.

KI-Kompetenz stärken: Was bedeutet der EU AI Act Art. 4 für Unternehmen?

Seit dem 02.02.2025 ist Artikel 4 des EU AI ACT unter dem Schlagwort „AI Literacy“ in Kraft und stellt einige Anforderungen an Unternehmen, wenn es um den Umgang mit Künstlicher Intelligenz (KI) geht. Wir sind durch unsere AI-Forschung immer Up-to-Date und teilen gerne unser Wissen, damit die unternehmen ihre KI-Kompetenz stärken können.

Artikel 4 verpflichtet Unternehmen dazu, nach besten Kräften hinreichend KI-Kompetenz zu fördern, z.B. durch innterne Schulungen. Diese Schulungen sind nicht nur rechtlich notwendig, sondern auch unternehmerisch sinnvoll. Mit unserem Experten Valentin Mayer vom Fraunhofer FIT Generative AI Lab werfen wir einen genaueren Blick auf die Anforderungen des EU AI-Acts und beantworten die Frage, was Unternehmen nun tun können.

„Es reicht nicht aus, eine Art von KI-Kompetenz über das komplette Unternehmen zu schulen, sondern man muss sich überlegen, welche Abteilungen welche KI-Kompetenzen benötigen, um dann spezifische KI-Kompetenzen zu schulen“, Valentin Mayer, Fraunhofer FIT Generative AI Lab

AI Literacy beschreibt die Kompetenz, KI-Systeme zu verstehen, zu nutzen und kritisch zu hinterfragen. Der EU AI-Act Art. 4 verlangt von Unternehmen, dass alle Mitarbeitenden, die mit KI in Berührung kommen, über ein hinreichendes Maß an KI-Kompetenz verfügen. Diese muss individuell auf die Erfahrung, die Abteilung sowie den Kontext angepasst werden.

Was können Unternehmen tun?

Ein unternehmensweit einheitliches Grundlagenangebot zur KI-Kompetenz kann sinnvoll sein, reicht jedoch nicht in jedem Fall aus. Unternehmen sollten den Kompetenzbedarf rollen-, tätigkeits- und anwendungsbezogen ermitteln. Dazu ist zu prüfen, welche KI-Systeme in den einzelnen Unternehmensbereichen eingesetzt werden, zu welchen Zwecken sie genutzt werden, welche Personen mit ihnen arbeiten oder für ihren Einsatz verantwortlich sind und welche Kenntnisse und Fähigkeiten diese Personen benötigen. Dabei sind insbesondere ihre Aufgaben, Vorkenntnisse, Nutzungskontexte und die mit den jeweiligen KI-Systemen verbundenen Risiken zu berücksichtigen. Auf dieser Grundlage sollten allgemeine Grundlagenangebote durch zielgruppen- und anwendungsspezifische Lern-, Informations- oder Unterstützungsmaßnahmen ergänzt werden.

AI Literacy Assessment und maßgeschneiderte Schulungen
Das Angebot vom Fraunhofer FIT Generative AI Lab basiert auf einem mehrstufigen Ansatz:

Erfassung der relevanten KI-Kompetenzen
Fraunhofer FIT unterstützt Unternehmen zunächst dabei, ein klares Verständnis für die verschiedenen Dimensionen der KI-Kompetenzen zu entwickeln – von der Technologie über das Management bis hin zur kritischen Reflexion.

Individuelle Bedarfsanalyse
Durch ein „AI Literacy Assessment“ wird analysiert, welche Mitarbeitenden in welchen Abteilungen welche spezifischen Kompetenzen benötigen. Dabei wird auch der Kontext berücksichtigt, in dem die KI-Systeme eingesetzt werden.

Entwicklung eines Maßnahmenkatalogs
Auf Basis der Analyse wird ein individueller Maßnahmenkatalog erstellt. Dieser definiert, wie die notwendigen Schulungen effizient und zielgerichtet umgesetzt werden können.

Checkliste Nachweis KI-Kompetenzen

• Rollen & Systeme dokumentieren (Anbieter/Betreiber; Systeme & Kontexte).
• Kompetenzprofil je Rolle (Technik, Risiko/Ethik/DSGVO, Prozess/SOP).
• Assessment & Lernpfad (Micro‑Learning + Live‑Briefing + Praxis‑SOP).
• Nachweise sammeln (Teilnahme, Quiz/Badge, „Last Trained“, Policy‑Read&Sign).
• Wirksamkeit messen & erneuern (KPI: Nutzung, Fehlerraten, Audit‑Readiness, jährliche Re‑Zertifizierung).

Um welche KI-Kompetenzen geht es?

Fazit

Die Implementierung des EU AI-Act Art. 4 „AI Literacy“ stellt Unternehmen vor neue Herausforderungen. Durch gezielte Schulungen und den Aufbau von KI-Kompetenzen eröffnen sich aber Chancen, einen Wettbewerbsvorteil zu sichern. „AI Literacy ist mehr als eine gesetzliche Verpflichtung – sie ist eine Chance, Unternehmen zukunftssicher zu machen. Mitarbeitende, die den Umgang mit KI verstehen, sind besser in der Lage, deren Potenziale zu nutzen und Risiken zu minimieren“, So Valentin Mayer.

Unser Experte

Valentin Mayer, M. Sc. beschäftigt sich überwiegend mit dem Management und der Governance von Künstlicher Intelligenz. Besonders interessieren ihn dabei die Herausforderungen von Unternehmen bei der KI-Transformation. Zudem unterstützt und befähigt er als Trainer Firmen und Organisationen durch unternehmens- und branchenspezifische KI-Schulungen.

FAQ

FAQ zu Artikel 50

Was ändert sich für Unternehmen in Deutschland und der EU ab dem 2. August 2026?

Ab dem 2. August 2026 werden Artikel 50 und zahlreiche weitere Bestimmungen des AI Act anwendbar. Unternehmen müssen zunächst feststellen, ob sie in einem konkreten Anwendungsfall Anbieter oder Betreiber eines KI-Systems sind.

Anbieter treffen insbesondere Pflichten zur Gestaltung interaktiver Systeme und zur maschinenlesbaren Markierung synthetischer Outputs. Betreiber müssen unter anderem Personen über Emotionserkennung oder biometrische Kategorisierung informieren und Deepfakes sowie bestimmte KI-generierte Texte deutlich offenlegen.

Da es sich um eine EU-Verordnung handelt, gelten diese Vorgaben grundsätzlich unmittelbar auch in Deutschland. Nicht sämtliche Regelungen für Hochrisiko-KI-Systeme beginnen jedoch bereits im August 2026; hierfür gelten teilweise spätere Termine.

Muss jeder mit ChatGPT erstellte Text als „KI-generiert“ gekennzeichnet werden?

Nein. Für Unternehmen als Betreiber besteht keine pauschale Pflicht, jeden mit ChatGPT erstellten Text sichtbar zu kennzeichnen.

Die Offenlegungspflicht betrifft vor allem veröffentlichte KI-generierte oder KI-manipulierte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen. Der Begriff kann beispielsweise politische, wirtschaftliche, wissenschaftliche, gesundheitliche, ökologische oder kulturelle Entwicklungen umfassen, die Gegenstand öffentlicher Debatten sind.

Auch in diesen Fällen kann die Kennzeichnung entfallen, wenn der Inhalt substanziell von fachkundigen Personen überprüft oder redaktionell kontrolliert wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Was bedeutet „maschinenlesbare Kennzeichnung“?

Eine maschinenlesbare Kennzeichnung ist eine technische Information, anhand der Systeme oder Plattformen erkennen können, dass ein Inhalt vollständig oder teilweise mit KI erzeugt oder manipuliert wurde.

Dafür kommen beispielsweise Herkunftsmetadaten, digitale Provenienzsignale oder robuste Wasserzeichentechniken infrage. Der AI Act schreibt jedoch keine bestimmte Technologie verbindlich vor. Entscheidend ist, dass die Lösung – soweit technisch machbar – wirksam, interoperabel, robust und zuverlässig ist. Diese Pflicht trifft grundsätzlich den Anbieter des generativen KI-Systems, nicht automatisch jedes Unternehmen, das einen solchen Dienst nutzt.

Gibt es Ausnahmen von den Transparenzpflichten?

Ja, allerdings unterscheiden sich die Ausnahmen je nach Verpflichtung:

• Bei einer KI-Interaktion entfällt der Hinweis, wenn für eine durchschnittlich informierte Person offensichtlich ist, dass sie mit KI interagiert.
• Bei der maschinenlesbaren Markierung bestehen Ausnahmen insbesondere für Standardbearbeitungen und nicht wesentliche Veränderungen.
• Für bestimmte gesetzlich autorisierte Anwendungen zur Verhütung, Ermittlung oder Verfolgung von Straftaten gelten Ausnahmen.
• Bei künstlerischen, kreativen, satirischen oder fiktionalen Deepfakes gilt eine erleichterte, aber grundsätzlich weiterhin erforderliche Offenlegung.
• Bestimmte Texte von öffentlichem Interesse müssen nach substanzieller menschlicher Prüfung oder redaktioneller Kontrolle nicht gekennzeichnet werden, sofern eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Wie hängen AI Literacy nach Artikel 4 und die Transparenzpflichten nach Artikel 50 zusammen?

Beide Pflichten ergänzen sich, sind rechtlich aber voneinander unabhängig. Artikel 4 verlangt Maßnahmen zur Förderung der KI-Kompetenz der mit KI-Systemen befassten Personen. Artikel 50 regelt konkrete Informations-, Markierungs- und Offenlegungspflichten.

KI-kompetente Mitarbeitende können besser beurteilen, wann Inhalte als Deepfake gelten, wann eine Veröffentlichung ein Thema von öffentlichem Interesse betrifft und welche Form der Kennzeichnung erforderlich ist. Die Einhaltung von Artikel 4 ersetzt jedoch nicht die Erfüllung von Artikel 50 und umgekehrt.

Fraunhofer Academy