Forscher zur KI-Entwicklung: Risiken ernst nehmen, aber nicht dramatisieren

Stand: 17.09.2026 • 17:11 Uhr

Öffentlichkeitswirksam haben zuletzt große KI-Entwickler für mehr Regulierung der eigenen Technologie plädiert. Forscher in Deutschland relativieren die Warnungen, trotz aller Risiken - und nehmen die Entwickler in die Pflicht.

Von Sven Kästner, ARD-Wissenschaftsredaktion

Es kommt selten vor, dass die Gründer internationaler Konzerne vor den eigenen Produkten warnen. Die großen KI-Firmen aus den USA haben genau das jetzt getan: OpenAI hat seinen Börsengang verschoben und das mit Risiken bei der Entwicklung seiner Künstlichen Intelligenz begründet. Der Gründer von Anthropic, der Firma hinter Claude, warnte in einem Essay davor, KI könne in sechs bis zwölf Monaten das ganze Internet kontrollieren.

Einer seiner Entwickler kündigte mit der Begründung, die ganze Menschheit sei in Gefahr. Wollen uns die KI-Firmen nur auf besonders laute Weise mitteilen, wie leistungsfähig ihre Modelle mittlerweile sind - oder sind das alles reale Risiken?

Neues Werkzeug für Böses - und für Gutes

Die Warnungen der großen KI-Firmen haben eine breite Diskussion über die Risiken der Künstlichen Intelligenz ausgelöst. Deutsche IT-Forschende relativieren allerdings: Das mächtige Werkzeug KI werde nicht von selbst zur Gefahr, sagt Konrad Rieck vom Fachgebiet für maschinelles Lernen und IT-Sicherheit an der Technischen Universität Berlin: "Ich sehe zurzeit überhaupt gar keinen Grund daran zu glauben, dass unfassbar böse Dinge passieren."

Der Grund für Riecks Gelassenheit ist, "dass bisher eigentlich immer ein Mensch diese Modelle befehligt." Zu den bislang bekannten Zwischenfällen sagt er: "Ich weiß von keinem Fall, wo ein Modell mal wirklich etwas ganz eigenständig gemacht hat."

Dass KI Risiken berge, sei unbestreitbar - bislang aber vor allem, "wenn Menschen Böses tun wollen". Diese hätten ein neues Werkzeug. "Genauso aber haben sie, wenn sie Gutes tun wollen, auch ein Werkzeug", sagt Rieck.

Informatiker spricht von menschlichen Nachlässigkeiten

In den vergangenen Monaten sind mehrere Fälle bekannt geworden, in denen neue Versionen von ChatGPT, Claude oder der Meta-KI in fremde Systeme eingedrungen sind. Konrad Rieck sieht als Ursache allerdings Nachlässigkeiten bei den großen KI-Firmen. Die Entwickler hätten ihren Modellen genau die Aufgabe gestellt, andere Systeme zu hacken.

Eigentlich in einer geschützten und vom Internet getrennten Umgebung - aber diese Vorkehrungen schätzt der Informatik-Professor als unzureichend an: "In einem Fall bei Anthropic weiß ich, dass sie dann am Ende aus Versehen doch Internetzugang ermöglicht haben." Für Rieck liegt diesem Fehler "eine große Nachlässigkeit" zugrunde. "Und die zweite Idee ist, dass sie den Modellen gesagt haben: Wenn ihr im echten Internet seid, hört auf. Und das finde ich auch ein bisschen nachlässig."

Wie soll so ein Agent jetzt wissen, ob das eine Simulation ist oder das echte Internet.

Konrad Rieck, Professor für Informatik an der TU Berlin

Der Forscher der TU Berlin sieht die Hauptfehler also "bei den Leuten, die diese Experimente ausgeführt haben".

Stecker ziehen, wenn es zu riskant wird

Weil die KI-Modelle in rasantem Tempo leistungsfähiger werden, können sie Schwachstellen in Computersystemen immer schneller finden. Deshalb überwachen die KI-Firmen mittlerweile, wofür Anwender ihre Werkzeuge einsetzen.

Im Notfall greifen sie ein, beschreibt Thorsten Eisenhofer vom Cispa Helmholtz-Zentrum für Informationssicherheit: "Die Modelle laufen auf Servern von den Unternehmen. Die gucken von außen dann auch: Was produziert das Modell gerade?"

Wenn die Gefahr bestehe, dass ein Modell "irgendwie einen Angriff oder so plant, dann wird einfach der 'Kill Switch' ausgelöst und dann wird die Kommunikation abgebrochen". Eine andere Möglichkeit sei es, ein Modell auf eine frühere Generation herunterzustufen - das Verständnis der Entwickler des Modells sei dann größer und die Fähigkeiten des Modells noch nicht so ausgeprägt.

KI nutzt "menschliche Kommunikationsmuster"

Auch hier bestimmen die Nutzenden, wofür die KI eingesetzt wird. Die Modelle basieren zwar auf künstlichen neuronalen Netzwerken. Ein eigenes Bewusstsein aber haben sie nicht, stellt Eisenhofer klar: "Die Modelle werden auf menschlichen Texten trainiert", was den Austausch in natürlicher Sprache mit Assistenten wie beispielsweise ChatGPT ermögliche. Das sorge dafür, dass KI-Assistenten untereinander, die autonom Aufgaben lösen sollen, "trotzdem in diesen menschlichen Kommunikationsmustern bleiben".

Das wirkt von außen betrachtet zuweilen, als würde Künstliche Intelligenz mit eigenem Willen agieren - ein falscher Eindruck. Sie versuchen nur mit allen Mitteln, die Aufgabe zu lösen. Dazu kommt, dass die Modelle selbst lernen, trainiert mit Unmengen von Daten.

Entwickler wissen nicht genau, was im Innern passiert

Jonas Geiping vom Max-Planck-Institut für Intelligente Systeme weist darauf hin, dass die Entwickler zwar deren Architektur kennen, aber auch nicht genau wissen, wie eine KI bestimmte Aufgaben löst - der sogenannte Black-Box-Effekt. "Das sind tiefe neuronale Netzwerke, die nicht von Menschenhand definiert sind, sondern wo sozusagen durch Algorithmen Lösungen gefunden werden."

Geiping vergleicht diese Netzwerke aus dieser Perspektive heraus eher mit Biologie als mit Informatik. Wenn diese Systeme unter bestimmten Voraussetzungen zusammenwachsen und Forscher oder Entwickler das Gelernte untersuchen, sei "nicht immer ganz klar, was für ein Modell da entstanden ist".

Auch wegen solcher Unsicherheiten begrüßen die Forschenden den Vorschlag, KI-Entwicklung künftig von unabhängiger Stelle zu regulieren - entweder staatlich oder von externen Firmen. Am besten gleich auf internationaler Ebene.