EU-Richtlinie in Kraft: Wie sich die EU gegen KI-Gefahren wappnet

Stand: 02.08.2026 • 03:13 Uhr

Ein Vorfall bei OpenAI hat es kürzlich gezeigt: Künstliche Intelligenz kann sich selbstständig machen. Von heute an gelten in Europa neue Regeln für Unternehmen. Dabei geht es auch um KI-generierte Bilder, Videos und Audios.

Wo steht Künstliche Intelligenz eigentlich aktuell? So zumindest sieht es der reichste Mann der Welt: KI hat den Menschen in fünf Jahren überholt, sagt Unternehmer Elon Musk nach dem spektakulären Vorfall, bei dem erstmals ein KI-Agent bei einem Sicherheitstest ausgebrochen ist und eigenständig ein anderes Unternehmen gehackt hat.

Diese KI außer Rand und Band gehört OpenAI-Chef Sam Altman. "Wir haben Singularität bereits erreicht", sagt er - also den Moment, wo KI die menschliche Intelligenz übertrifft. Und wie um das zu bestätigen, meldet nun auch die US-Firma Antrophic, dass ihr KI-Modell bei Tests ungeplant in Systeme von Unternehmen eingebrochen ist.

Härtere Durchgriffsrechte

In Europa wiederum soll das KI-Gesetz solche Fälle verhindern, so zumindest die Theorie. In der Praxis beobachtet das KI-Büro der Kommission die in der EU tätigen Modelle, abgestuft nach Risikoklassen. Die nächste Stufe der Gesetzgebung gibt ihnen nun härtere Durchgriffsrechte, wenn die Risikoanalyse der KI-Firmen nicht ausreicht.

Den größten nächsten Schritt allerdings geht Europa jetzt in Sachen Transparenz. Eine gute Nachricht für viele User, die sich nicht wirklich fit fühlen darin, echte Bilder von KI-Material zu unterscheiden. So geht es zum Beispiel Befragten in Köln: "Ich fühle mich einfach nicht fit genug!", sagt eine Frau. Ein anderer Mann: "Die KI-Bilder sind meistens zu schön, zu ideal - und das macht mich schon misstrauisch." Ein weiterer Passant meint: "Manchmal bin ich schon verwundert, wie schnell sich das entwickelt hat, dass man es quasi immer hinterfragen muss, ob es KI ist."

Deepfakes müssen gekennzeichnet werden

Mit der nächsten Stufe des KI-Gesetzes gilt jetzt: Deepfakes - also veränderte Bilder, Audios und Videos - müssen sichtbar oder hörbar gekennzeichnet werden. Das gilt für öffentlich relevante, also zum Beispiel politische Inhalte, wie auch die zuletzt viel diskutierten sexualisierten Deepfakes.

Und dazu ist zum Beispiel der Hinweis: "Ich bin ein KI-Chatbot" - zum Beispiel beim Dialog mit Kunden im Chat oder am Telefon, wenn Bild und Content-Generatoren eingesetzt werden oder synthetische Stimmen - nun keine Kür mehr, sondern Pflicht.

Gut so, sagt Daniel Graewe, Professor für Wirtschaftsrecht:

Man muss sagen, fairerweise hat die KI-Verordnung am Anfang ziemlich stark negatives Feedback bekommen. Man hatte gesagt, die EU reguliert dann ein neues Wirtschaftsfeld tot, bevor es überhaupt angefangen hat zu wachsen. Jetzt, wenn man sieht, wohin sich das mit der KI alles entwickelt, können wir schon dankbar sein, vor allen Dingen von dem Hintergrund der zunehmenden Desinformation durch KI.

Daniel Graewe

Handelsstreit hat Folgen

Problem aber bleibt weiterhin, dass vor allem die US-amerikanischen Tech-Konzerne nicht besonders gewillt sind, sich auf die europäische Regeln einzulassen und jede Bewegung in den großen Handelsstreit zwischen EU und USA mit einfließt. Doch von nun an drohen den Firmen auf dem Europäischen Markt Geldbußen von bis 15 Millionen Euro oder drei Prozent ihres weltweiten Jahresumsatzes.

Wirtschaftsrechtler Graewe glaubt jedoch nicht, dass die amerikanischen Unternehmen sich durch die EU-KI-Verordnung im Wesentlichen eingeschüchtert fühlen. "Da wird sich sicherlich nicht viel tun", sagt er im ARD Europa-Podcast punktEU. "Der ewige Widerspruch: In Europa haben wir bestimmte Regeln, die aber im Internet global nicht gelten. Den werden wir auch durch diese Transparenzregeln nicht aus der Welt schaffen."

Dennoch mache das KI-Gesetz den wesentlichen Unterschied und trage überhaupt erst dazu bei, dass sich Europa auf den Weg machen kann - zur angestrebten Unabhängigkeit gegenüber Big Tech.