Transparenzpflichten für Betreiber generativer KI ab August 2025

Mit der fortschreitenden Verwendung generativer KI-Systeme (GPAI) steigen auch die Risiken – etwa durch Deepfakes, Identitätsbetrug oder manipulative Inhalte. Deshalb treten am 2. August 2025 die neuen Transparenzpflichten für Betreiber generativer KI in Kraft. Ziel ist es, Nutzerinnen und Nutzer besser zu schützen, die Herkunft von Inhalten klar zu kennzeichnen und Missbrauch vorzubeugen.

Wer ist betroffen?

Die neuen Vorgaben gelten für Anbieter und Betreiber von GPAI-Systemen. Betreiber sind natürliche oder juristische Personen, die ein KI-System eigenverantwortlich im Rahmen einer beruflichen Tätigkeit einsetzen.

Welche Pflichten haben Betreiber generativer KI?

Betreiber müssen künftig sicherstellen, dass KI-generierte oder manipulierte Inhalte als solche eindeutig erkennbar sind. Diese Kennzeichnungspflicht greift spätestens mit der ersten öffentlichen Interaktion oder Veröffentlichung. Dabei gilt:

• Die Kennzeichnung muss klar, eindeutig und barrierefrei erfolgen.
• Schutzbedürftige Gruppen – etwa Menschen mit Behinderung oder Kinder – sind besonders zu berücksichtigen, wenn sie angesprochen werden.
• Inhalte müssen auch dann gekennzeichnet werden, wenn sie nicht direkt an eine bestimmte Person gerichtet sind, sondern etwa online veröffentlicht werden.

Deepfakes und mediale Inhalte

Sobald ein KI-System Bild-, Ton- oder Videomaterial erzeugt oder verändert, das den Charakter eines Deepfakes trägt, muss eine Offenlegung erfolgen. Diese Pflicht entfällt nur, wenn der Inhalt eindeutig künstlerisch, satirisch oder fiktional ist. In diesen Fällen muss die Transparenz jedoch die Wirkung des Werkes nicht beeinträchtigen.

Texte zu öffentlichen Themen

Erzeugt ein GPAI-System Texte, die zur Information der Öffentlichkeit über politische, gesellschaftliche oder wissenschaftliche Themen dienen, müssen sie klar als KI-generiert oder -verändert gekennzeichnet werden. Als öffentlich gelten Inhalte, die für eine unbestimmte Anzahl an Personen zugänglich sind – etwa über Webseiten, soziale Medien oder Newsletter.

Wichtig: Keine Kennzeichnungspflicht besteht, wenn ein Text nachweislich redaktionell geprüft wurde und eine natürliche oder juristische Person die Verantwortung für die Veröffentlichung übernimmt – vergleichbar § 18 Medienstaatsvertrag (MStV).

Transparenzpflichten für Anbieter generativer KI

Damit die Transparenzpflichten durchgängig wirken, dürften Anbieter ihre Kunden – also die Betreiber – verpflichten, die Offenlegung konsequent umzusetzen. So wird der Empfänger der Inhalte sowohl über die Quelle als auch über die Art der Erzeugung informiert.

Beispiel: Anbieter von KI-Bots müssen sicherstellen, dass der Bot eindeutig als solcher erkennbar ist. Dasselbe gilt für synthetisch erzeugte Texte, Bilder, Videos oder Audiodateien.

Bereits jetzt setzen erste soziale Netzwerke Richtlinien um, die Nutzer zur Kennzeichnung von KI-Inhalten verpflichten. Die Regulierung dürfte künftig noch schärfer ausfallen.

Fazit: Handlungsbedarf für Unternehmen und Organisationen

Die neuen Transparenzpflichten für Betreiber generativer KI schaffen mehr Klarheit – sowohl für Anwender als auch für Rezipientinnen und Rezipienten. Wer KI-Systeme beruflich einsetzt, muss sich rechtzeitig mit den Anforderungen auseinandersetzen. Technische, organisatorische und rechtliche Maßnahmen sollten jetzt vorbereitet werden, um zum Stichtag compliant zu sein.

 

Gern berate ich Sie zu rechtlichen insbesondere datenschutzrechtlichen Fragen beim Einsatz von KI-Systemen

RA Christof Kolyvas

Datenschutz für Unternehmen, Selbständige und Vereine

Tel: +49 234 29831858

Mail: anwalt@kolyvas.legal