Neue EU-Regeln: KI-Inhalte müssen jetzt gekennzeichnet werden
Ab Sonntag müssen Deepfakes und andere KI-generierte Inhalte gekennzeichnet werden. Dann treten die neuen Transparenzregeln der Europäischen Union für künstliche Intelligenz in Kraft.
Das Ziel: Europäer sollen sofort erkennen können, ob ein Inhalt im Netz echt ist oder künstlich erzeugt.
Das umfassende KI-Gesetz der EU tritt schrittweise in Kraft. Ab Sonntag müssen Unternehmen bei Systemen wie Chatbots klar erkennbar machen, dass es sich um KI handelt. Werden Bilder oder Texte mithilfe von KI erstellt, müssen sie entsprechend gekennzeichnet werden.
Möglich ist das etwa durch Wasserzeichen oder andere Kennzeichnungen, die KI-Inhalte leichter erkennbar machen. Firmen drohen hohe Geldstrafen, wenn sie sich nicht daran halten.
Die Leitlinien verlangen außerdem, dass Betreiber von KI-Systemen Menschen informieren, wenn sie folgenden Technologien ausgesetzt sind:
Systeme zur Emotionserkennung und biometrischen Kategorisierung
Deepfakes
Texte zu Themen von öffentlichem Interesse, die ohne menschliche Prüfung oder redaktionelle Kontrolle erstellt werden
Deepfakes im Fokus
„Generative KI ermöglicht Desinformation in bislang unbekanntem Ausmaß. Sie lässt sich auf bestimmte Zielgruppen zuschneiden und mit enormer Geschwindigkeit verbreiten“, sagte ein EU-Vertreter.
KI mache es „für uns alle zunehmend schwieriger zu unterscheiden, was real ist und was künstlich erzeugt wurde“, so der EU-Vertreter. Die EU-Regeln sollen „die Fähigkeit der Bürger bewahren, dem zu vertrauen, was sie sehen, hören und lesen“.
Besondere Sorgen bereiten der EU Deepfakes: Texte, Bilder, Videos und Tonaufnahmen, die echt wirken, aber von KI erzeugt oder manipuliert sind.
Die Vorschriften gelten für Inhalte, die im beruflichen oder geschäftlichen Kontext erstellt werden. Personen, die KI nur privat nutzen, sollen nach EU-Angaben nicht betroffen sein.
Texte, die die Öffentlichkeit über Themen von allgemeinem Interesse informieren sollen, müssen ebenfalls gekennzeichnet werden, wenn sie ohne menschliche Redaktion mit KI erstellt wurden.
Bestehende KI-Systeme haben noch bis zum zweiten Dezember 2026 Zeit, sich an die neuen Regeln anzupassen. Für „künstlerische, kreative, satirische und fiktionale“ Werke gelten Ausnahmen.
Wirtschaft kritisiert neue Transparenzpflichten
Die EU steht in der Kritik. Unternehmen werfen ihr vor, immer neue Auflagen zu machen und letztlich eine Kennzeichnung sämtlicher Inhalte zu erzwingen, da KI in Europa rasant Einzug in den Alltag hält.
„Wir haben gehört, dass es sehr, sehr schwierig werden wird, das umzusetzen. Aber so etwas hören wir bei Compliance-Vorgaben häufig. Und trotzdem dreht sich die Welt weiter und wir finden diese Dinge heraus“, sagte Ashley Casovan von der International Association of Privacy Professionals.
Die großen Technologiekonzerne versehen ihre Angebote bereits mit eigenen Hinweisen, um den Regeln voraus zu sein.
So verlangt TikTok von Content-Erstellern seit mehreren Jahren, KI-generierte Bilder, Audios und Videos zu kennzeichnen. Laut dem Unternehmen tragen bereits mehr als drei Milliarden Inhalte entsprechende Labels, unterstützt durch eigene Werkzeuge und Erkennungstechnologien.
Auch Meta nutzt auf Instagram und Facebook den Hinweis „AI Info“ für Beiträge, die auf der Technologie beruhen.
Google hat den EU-Verhaltenskodex zur Transparenz bei KI unterzeichnet und arbeitet nach eigenen Angaben mit anderen Unternehmen wie Nvidia, OpenAI und Apple an digitalen Kennzeichnungstools.
Karen Massin von Google warnt jedoch vor einer „regulatorischen Komplexität“, die am Ende kontraproduktiv sein könnte und „das Risiko birgt, jene Menschen zu verwirren, denen die Regeln eigentlich helfen sollen“.
„Wenn Online-Inhalte mit sich überschneidenden KI-Hinweisen und juristischen Pflichtangaben überfrachtet werden, wird es für die Menschen schwieriger, den klaren Kontext zu erkennen, den sie brauchen“, so Massin.