Nach OpenAI-Warnung: Forderungen nach Regulierung und "guter" KI

Reaktionen auf OpenAI-Warnung

Forderungen nach mehr Regulierung und "guter" KI

Stand: 17.09.2026 • 14:18 Uhr

Angesichts immer neuer Zwischenfälle mit Künstlicher Intelligenz wollen mehrere große Firmen die Entwicklung verlangsamen. Es werden aber auch Rufe nach mehr Regulierung laut - und im Hintergrund wird an "guter" KI gebaut.

Immer wieder melden die großen Entwicklerfirmen Probleme mit Künstlicher Intelligenz (KI). Gerade erst informierte der ChatGPT-Entwickler OpenAI über neue Zwischenfälle. Teilweise warnen die Firmengründer sogar schon selbst vor den Risiken - wie beispielsweise der Anthropic-Gründer Dario Amodei, laut dem KI in sechs bis zwölf Monaten das ganze Internet kontrollieren könnte.

Bedenken, die man nach Ansicht des CDU-Europaabgeordneten Axel Voss ernst nehmen muss. Voss gilt als einer der profiliertesten deutschen Digitalpolitiker in Brüssel. So gibt es seiner Ansicht nach "ernsthafte Risiken" neben den damit einhergehenden Chancen. Und diese Risiken könnten zu Kontrollverlusten führen und "Ziele auf unerwartete Weise verfolgen". "Ob das Sicherheitsvorkehrungen sind oder auch Finanztransaktionen - alles kann davon betroffen sein", erklärte er im Gespräch mit NDR Info.

"Wir müssen umsichtig regulieren. Ich glaube aber auch, dass wir bestimmte Möglichkeiten haben, um in die Kontrolle von Algorithmen reinzugehen oder Haftungsfragen auszulösen." So könne man Unternehmen zwingen, vorsichtiger zu agieren, erklärte Voss weiter.

Im Moment sei Regulierung jedoch sehr schwer, weshalb man diese Instrumente brauche, um Überwachung überhaupt durchzuführen. Laut Voss gibt es aber auch schon Firmen, die eine KI entwickeln, um KI zu überprüfen: "Nicht jede KI kann die Leistung erbringen, um auszuarten." Da müsse man Grenzen setzen - dann lasse sich KI beherrschbar machen. "Also es gibt durchaus Möglichkeiten. Man muss nur den politischen Willen haben, strikter vorzugehen", sagte Voss.

Bundesdigitalministerium sieht keine einfache Lösung

Das Bundesdigitalministerium dämpfte jedoch die Erwartung, es könne einfache Lösungen bei Gefahren durch KI geben. Im rbb24Inforadio sagte Thomas Jarzombek, der parlamentarische Staatssekretär im Bundesdigitalministerium (CDU), es gebe nicht die eine und einfache Lösung: "Sollte es in den USA eine Super-Intelligenz geben, die das ganze Internet übernimmt, wie schon gewarnt wurde, dann wird sicherlich kein europäisches Gesetz das tatsächlich irgendwie ändern können oder diese Super-Intelligenz abhalten."

Bundesdigitalminister Carsten Wildberger (CDU) habe sich aber sehr dafür eingesetzt, dass es eine internationale Überwachung und Regulierung gegen die großen Bedrohungsfragen gebe: "Und gerade gestern haben wir gemeinsam mit Kanada jeweils 100 Millionen Euro in das Unternehmen Law Zero investiert, das eine Art KI schafft, die die anderen KIs überwachen soll und die Werte und Moral hat und darüber wacht, dass Regeln eingehalten werden." Das sei ein konkreter deutscher Beitrag gegen die Bedrohung durch KI, betonte Jarzombek.

"Maschinenherrschaft hat schon begonnen"

Der Chaos Computer Club (CCC) sieht die größten Gefahren Künstlicher Intelligenz nicht in einer unmittelbar bevorstehenden Maschinenherrschaft. Problematisch sei vielmehr, dass Menschen Verantwortung an Systeme abgäben, deren Ergebnisse sie weder verstünden noch zuverlässig kontrollieren könnten. Das erklärte Jochim Selzer vom CCC der Nachrichtenagentur epd. Selzer ist zusätzlich Datenschutzbeauftragter mehrerer Einrichtungen der Evangelischen Kirche im Rheinland.

"Die Herrschaft der Maschinen hat schon vor Jahrzehnten begonnen. Sie geschah ganz ohne großen Knall, ganz leise, und wir Menschen haben uns ohne jeden Kampf unterworfen." Selzer warnte davor, die aktuellen dramatischen Warnungen der KI-Unternehmen einfach zu übernehmen.

Auch Charles III. meldet Bedenken an

In die Debatte über die Gefahren schaltete sich auch der britische König Charles III. ein: Die Technologie müsse "im Dienst der Menschheit" bleiben, hieß es in einer vorab veröffentlichten Rede des Monarchen für ein Treffen mit Branchenvertretern. Aufgabe der KI-Konzerne sei nicht nur, "die Technologie voranzubringen, sondern auch dafür zu sorgen, dass sie fest im Dienste der Menschheit, der Gemeinschaften und der Natur steht".

Anthropic-Chef Amodei hatte am Wochenende dazu aufgerufen, die KI-Entwicklung weltweit zu drosseln. Er bekam Unterstützung von mehreren Konkurrenten, darunter OpenAI-Chef Sam Altman, dem Tech-Unternehmer Elon Musk, der hinter dem KI-Assistenten Grok steht, Microsoft-Chef Satya Nadella sowie DeepMind-Chef Demis Hassabis. US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg lehnen ein Drosseln der Entwicklung hingegen ab.