Seit gestern, Sonntag, den 2. August, ist eine neue EU-Richtlinie zu KI in Kraft getreten. Sie soll mehr Transparenz schaffen und dafür sorgen, dass Verbraucher*innen wissen, wann eine Abbilung KI-generierte Inhalte enthält und wann nicht. Im privaten Bereich greift sie nicht – weshalb die Person in der Karikatur von Mirco Tomicek noch Glück hatte. Die Dame, mit der er auf ein Date geht, hätte ihr mit KI erstelltes Profilbild nicht als solches kennzeichnen müssen. Aber in Ruhe und der Reihe nach:

Was besagt die neue KI-Richtlinie der EU?

Die neue Richtlinie ist Teil des „EU AI Act“. In Kapitel 4 (IV), Artikel 50, steht zu den „Transparenzverpflichtungen für Anbieter und Betreiber von bestimmten KI-Systemen“ geschrieben:

Die Anbieter stellen sicher, dass KI-Systeme, die für eine direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus der Sicht einer natürlichen Person, die unter Berücksichtigung der Umstände und des Nutzungskontexts angemessen informiert, aufmerksam und umsichtig ist, offensichtlich. (…)

Die Anbieter von KI-Systemen, einschließlich KI-Systemen für allgemeine Zwecke, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können.

AI Act, Artikel 50, aus den Abschnitten 1 und 2

Heißt im Klartext:

• KI-Systeme zur Kundeninteraktion, wie Chat-Bots bei Krankenkassen, im Servicebereich oder Kundendienst, müssen ausdrücklich als solche gekennzeichnet sein.
• Die Bilder, Texte oder Audio-Dateien, die eine KI ausgibt, müssen mindestens im Quellcode oder den Metadaten einen KI-Verweis hinterlegt haben, der maschinell ausgelesen werden kann. Besser noch: Sie sind im Quellcode und sichtbar bzw. hörbar, z.B. der Bildunterschrift oder im Text, Bild und der Audio-Datei selbst, als KI-generierte Inhalte gekennzeichnet.

Was ändert sich durch die Verordnung?

Alle Bilder, die öffentlichkeitswirksam veröffentlicht werden und eine realistische Szene darstellen, müssen als von einer KI generiert gekennzeichnet werden. Bei klar erkennbaren Fantasie-Szenarien ist das nicht notwendig (wobei man hier nun diskutieren könnte, was als Fantasie-Darstellung gilt und was nicht).

Die Änderung betrifft vor allem Unternehmen, Agenturen, Redaktionen und Selbstständige – alle, die KI-generierte Inhalte zu kommerziellen Zwecken einsetzen, zum Beispiel zur Werbung. Das betrifft auch Influencer auf Instagram, TikTok und Co., die mit ihren Inhalten Geld verdienen. Sie müssen den Hinweis setzen, den Menschen tatsächlich sehen oder hören können. Bei Verstößen drohen Bußgelder bis zu 15 Millionen Euro.

Auch sogenannte Deepfakes – also realistisch veränderte Bilder, Audios und Videos von echten Personen – müssen sichtbar oder hörbar gekennzeichnet werden. Das gilt für öffentlich relevante, also zum Beispiel politische Inhalte, sowie auch die zuletzt viel diskutierten sexualisierten Deepfakes. In Deepfake-Videos sollten die Kennzeichnungen laut einem EU-Leitfaden direkt zu Beginn erscheinen, dort bleiben oder zumindest in regelmäßigen Abständen wieder eingeblendet werden.

Muss ich meine privaten KI-Bilder und Texte jetzt auch kennzeichnen?

Nein, die neue KI-Verordnung betrifft in erster Linie die kommerzielle Nutzung von KI. Die rein persönliche, nicht berufliche Nutzung nimmt die Verordnung ausdrücklich aus. Die Ankündigung für den Benefiz-Flohmarkt des Kirchenkreises oder für das private Sommerfest mit KI-generierten Bildern brauchen also keine Kennzeichnung. Auch das private Teilen eines KI-Bildes auf dem eigenen Profil bleibt nach den finalen Leitlinien der EU-Kommission vom 20. Juli „rein persönlich“.

Der pragmatische Rat: Was im geschlossenen Kreis landet, braucht keinen Hinweis. Was auf die Vereinsseite bei Facebook, in den Newsletter oder auf ein Plakat wandert, kennzeichnest du besser. Das kostet drei Wörter und erspart Diskussionen.

Digitalexperte Jörg Schieb beim WDR

Natürlich gelten aber weiterhin das Strafrecht und Persönlichkeitsrechte. Wer also beispielsweise auch nur privat ein Deepfake-Video oder -Bild veröffentlicht, das die Ehre verletzt, jemanden verleumdet oder in Verruf bringt, dem hilft auch eine Kennzeichnung als „KI-generiert“ nicht – hier gelten andere Gesetze.

Und genau aus diesen Gründen greift die von der EU verabschiedete Richtlinie nicht weit genug, findet zum Beispiel der Autor Marc-Uwe Kling. Er hat eine Petition auf WeAct gestartet, der Petitionsplattform von Campact, die fordert: Das Erstellen von Deepfakes echter Menschen ohne deren Einwilligung muss generell verboten werden! Über 430.000 Menschen unterstützen diese Forderung bereits. Ließ hier die komplette Erläuterung und schließe Dich der Petition an: