Art. 50 AI Act einfach erklärt: Alle Kennzeichnungspflichten im Überblick

Art. 50 der EU-KI-Verordnung (AI Act) regelt die Transparenzpflichten für KI-Systeme, die mit Menschen interagieren oder Inhalte erzeugen. Die Vorschrift wird am 2. August 2026 anwendbar und betrifft praktisch jedes Unternehmen, das KI-Werkzeuge für veröffentlichte Inhalte einsetzt. Hier sind alle vier Pflichten im Überblick, in Agentursprache statt Juristendeutsch.

Pflicht 1: Chatbots müssen sich zu erkennen geben (Abs. 1)

Wer ein KI-System einsetzt, das direkt mit Menschen interagiert, muss dafür sorgen, dass die Betroffenen wissen, dass sie mit einer KI sprechen. Das gilt für den Support-Chatbot auf der Website genauso wie für KI-Telefonassistenten. Die Information muss bei der ersten Interaktion klar erkennbar sein. Ein versteckter Hinweis in den AGB reicht nicht.

Ausnahme: Wenn es aus den Umständen offensichtlich ist, dass eine KI antwortet, entfällt der Hinweis. Darauf verlassen solltet ihr euch nicht; die Schwelle ist hoch.

Pflicht 2: KI-Dateien maschinenlesbar markieren (Abs. 2)

Anbieter von generativen KI-Systemen müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format als KI-generiert markiert sind, etwa über Metadaten (C2PA Content Credentials) oder unsichtbare Wasserzeichen. Diese Pflicht trifft primär die Tool-Anbieter wie OpenAI, Adobe oder Suno, nicht deren Nutzer.

Wichtig für die Praxis: Wer ein fremdes Tool nur nutzt, ist hier meist aus dem Schneider. Wer aber ein eigenes Modell betreibt oder ein System unter eigenem Namen anbietet, wird selbst zum Anbieter. Für Systeme, die vor dem 2. August 2026 auf dem Markt waren, gilt für diese technische Markierung eine Übergangsfrist bis zum 2. Dezember 2026.

Pflicht 3: Deepfakes offenlegen (Abs. 4 Satz 1)

Wer KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte veröffentlicht, die echten Personen, Orten oder Ereignissen ähneln und fälschlich als echt wirken könnten, muss offenlegen, dass der Inhalt künstlich erzeugt wurde. Die Definition ist breiter als viele denken: Nach den Leitlinien der Kommission zählen auch fotorealistische Produktbilder und erfundene, aber natürlich wirkende Personen dazu. Auf eine Täuschungsabsicht kommt es nicht an.

Eine Ausnahme gibt es für offensichtlich künstlerische, kreative oder satirische Inhalte: Hier reicht eine Offenlegung, die den Genuss des Werks nicht beeinträchtigt.

Pflicht 4: KI-Texte zu Themen öffentlichen Interesses kennzeichnen (Abs. 4 Satz 2)

KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen als KI-generiert gekennzeichnet werden. Das betrifft etwa Blogartikel zu Gesundheits-, Finanz- oder Politikthemen.

Die wichtigste Ausnahme: Wenn eine namentlich benannte Person den Text inhaltlich geprüft hat und die redaktionelle Verantwortung trägt, entfällt die Kennzeichnung. Drüberlesen genügt nicht; die Prüfung muss echt sein und dokumentiert werden. Reine Produktwerbung fällt gar nicht erst unter diese Pflicht.

Was droht bei Verstößen?

Verstöße gegen Art. 50 können mit Bußgeldern bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Mindestens so wichtig wie das Bußgeldrisiko ist die Nachweispflicht: Im Prüfungsfall musst du belegen können, was du wann wie geprüft und gekennzeichnet hast. Genau dafür gibt es das revisionssichere Register in ActWerk.