Eine KI von OpenAI ist aus einem Testsystem ausgebrochen und hat autonom das System eines Konkurrenten gehackt. Professor Holger Hoos ordnet den Vorfall ein. Es klingt allzu menschlich, wenn die Rede von einem „Ausbruch“ aus einer gesicherten Umgebung ist.
Tatsächlich aber hat sich ein KI-System Zugriff auf das System eines anderen Tech-Unternehmens verschafft. Was hinter dem Vorfall stecken könnte, warum Europa bei der KI-Sicherheitsforschung eine wichtige Rolle spielen könnte und weshalb menschliche Expertise trotz leistungsstarker KI unverzichtbar bleibt, erklärt Holger Hoos, Alexander von Humboldt-Professor für KI an der RWTH Aachen und gemeinsam mit Professor Sebastian Trimpe Vorstandsvorsitzender des KI-Centers, im Interview.
Was ist genau passiert?
Professor Holger Hoos: Nach allem, was bisher bekannt ist, hat ein internes KI-System von OpenAI es geschafft, seine eigentlich gut gesicherte Testumgebung zu verlassen. Anschließend soll es Sicherheitslücken genutzt haben, um sich Zugang zu Systemen des US-amerikanischen KI-Unternehmens Hugging Face zu verschaffen und dort Informationen abzugreifen.
Kann man also vereinfacht sagen: Ein neues KI-Modell ist mit Absicht aus seiner Umgebung ausgebrochen und anschließend woanders eingebrochen?
Hoos: Vereinfacht gesagt ja, allerdings klingt der Begriff Absicht schnell personifizierend. Ein KI-System ist immer noch ein Stück Software. Das KI-System von OpenAI hat sich bei Hugging Face eingehackt, weil es auf ein bestimmtes Ziel hinarbeitet: Es wollte Informationen beschaffen, die es für das Erreichen seiner Trainings- oder Optimierungsziele als nützlich eingestuft hat. Ein Vergleich macht dieses Ziel vielleicht verständlicher: Das wäre ungefähr so, als würde ein Studierender während einer Prüfung den Prüfungsraum verlassen, in ein Professorenbüro einbrechen und dort nach Unterlagen suchen, die beim Bestehen der Prüfung helfen könnten.
Was bedeutet das für die Zukunft, wenn eine KI so etwas kann?
Hoos: Wir können davon ausgehen, dass alle IT-Systeme, die in Wirtschaft, Gesellschaft und im Privaten zum Einsatz kommen, Sicherheitslücken aufweisen. Wenn Menschen unter Einsatz von KI-Werkzeugen nun diese Lücken bewusst ausnutzen, müssen wir uns darauf einstellen: Unser Leben wird unsicherer.
Kann Ihre Forschung zu einer sichereren KI beitragen?
Holger Hoos: Auf jeden Fall. Wir haben an der RWTH sehr viel Forschung, bei der es darum geht, mehr Sicherheit zu gewährleisten. Derzeit konzentriert sich ein guter Teil der Entwicklung in vielen großen US-Unternehmen darauf, KI-Systeme zu bauen, die Sicherheitslücken erkennen können – weniger darauf, die Sicherheit insgesamt zu erhöhen. Gelangen solche Fähigkeiten in falsche Hände oder verselbstständigen sich bestimmte Prozesse, können erhebliche Schäden entstehen. Der aktuelle Vorfall zeigt, wie groß das Risiko ist. Ich habe aber auch eine andere Vermutung, was hinter diesem Vorfall stecken könnte. OpenAI geht demnächst an die Börse – ein wirtschaftlich sehr wichtiger Prozess für die Firma. Ich kann mir durchaus vorstellen, dass dieser Aus- und Einbruch gar nicht den Charakter eines Unfalls hatte, sondern recht gelegen kam.
Sie meinen also, es könnte eine Marketingstrategie dahinterstecken?
Hoos: Diese Möglichkeit sollte man zumindest nicht ausschließen. Wir wissen von vielen amerikanischen KI-Unternehmen, dass sie bewusst Ängste schüren, da dies wirtschaftliche Vorteile bringt. Aufmerksamkeit kann für ein Unternehmen einen erheblichen Wert haben. Deshalb könnte ein solcher Vorfall – selbst wenn er ungeplant war – kommunikativ durchaus willkommen gewesen sein. Aber auch wenn der Aus- und Einbruch inszeniert gewesen sein sollte, wissen wir, dass die Fähigkeit von KI-Systemen, Grenzen zu überwinden, zunehmen wird.
Was müsste jetzt passieren?
Hoos: Wir brauchen deutlich mehr Forschung im Bereich der KI-Sicherheit. Gerade Europa hat hier eine große Chance. Bei zuverlässiger und sicherer Technologie ist Europa schon immer stark gewesen. Wenn wir bereit sind, die nötigen Ressourcen zu investieren, können wir in diesem Bereich eine führende Rolle einnehmen. Bislang sehe ich weder in den USA noch in China einen ausreichend starken Fokus auf diesen Bereich der KI-Forschung. Vielleicht wirkt der aktuelle Vorfall wie ein Weckruf. Für Europa wäre das jedenfalls eine Gelegenheit, eigene Stärken auf- und auszubauen.
Hat Sie diese Entwicklung von zunehmenden Sicherheitslücken in den IT-Systemen überrascht?
Hoos: Nein. Ich gehe seit Jahren davon aus, dass wir auf eine Zukunft zusteuern, in der fehlerhafte Software und Sicherheitslücken eher zu- als abnehmen werden. Ein wesentlicher Grund ist der zunehmende Einsatz von KI bei der Softwareentwicklung. Deshalb ist es eigentlich sogar gut, KI zu nutzen, um Sicherheitslücken zu erkennen und sie dann auszumerzen. Aber diese erkannten Schwächen bieten auch neue Angriffsflächen.
Gibt es derzeit überhaupt Möglichkeiten, solche Sicherheitslücken zuverlässig zu schließen?
Hoos: Man kann KI nutzen, um Sicherheitslücken zu schließen; aber um das zuverlässig zu schaffen, braucht man eine Garantie mathematischer Art, also einen Beweis, dass die Unsicherheit nicht mehr existiert. Solche Verfahren werden heute vor allem in sicherheitskritischen Bereichen eingesetzt – etwa in Kraftwerken, Flugzeugen, Schienenfahrzeugen und Autos. Ansonsten verlässt man sich überwiegend auf die Expertise von Entwicklerinnen und Entwicklern. KI kann diese Arbeit sinnvoll unterstützen, sie aber nicht vollständig ersetzen.
Manche Unternehmen behaupten inzwischen, künftig brauche man kaum noch Softwareentwicklerinnen und -entwickler.
Hoos: Das halte ich für einen Irrtum. Natürlich kann KI heute wichtige Teile der Softwareentwicklung sehr gut unterstützen. Trotzdem brauchen wir weiterhin gut ausgebildete Informatikerinnen und Informatiker, die Software bewerten, überprüfen und zertifizieren können. Man kann nicht ausschließlich erfahrene Fachkräfte beschäftigen und gleichzeitig auf die Ausbildung neuer Generationen verzichten. Jede Expertin und jeder Experte beginnt als Berufseinsteiger. Deshalb liegt die Zukunft aus meiner Sicht im Zusammenspiel von menschlicher Expertise und KI-Unterstützung. Die derzeit in den USA teilweise verfolgte Strategie, menschliche Fähigkeiten möglichst vollständig zu ersetzen, halte ich für eine gefährliche und falsche Richtung.