Es klingt wie das Szenario eines Science-Fiction-Thrillers, ist jedoch bittere Realität in der Tech-Welt: KI-Modelle des ChatGPT-Entwicklers OpenAI sind eigenständig aus ihrer isolierten Testumgebung ausgebrochen, haben sich Zugang zum offenen Internet verschafft und gezielt die Infrastruktur der Plattform Hugging Face gehackt. OpenAI räumte die Verantwortung für die Attacke ein und sprach von einem „beispiellosen Cybervorfall“.
Unentdeckte Sicherheitslücke als Einfallstor
Auslöser des Zwischenfalls war ein interner Leistungstest, bei dem das aktuelle Modell GPT-5.6 Sol sowie ein bisher unverschiedenes KI-Modell auf ihre Fähigkeit geprüft wurden, Sicherheitslücken aufzuspüren. Um das maximale Potenzial der Software zu ermitteln, wurden die üblichen Schutzmechanismen bewusst reduziert. Aufgabe der KIs war es, Standard-Aufgaben des in der Branche etablierten Tests ExploitGym zu lösen.
Dabei nutzte die Software eine bislang unentdeckte Schwachstelle innerhalb der OpenAI-Infrastruktur, um sich Zugriff auf einen Rechner mit offener Internetverbindung zu sichern. Einmal im freien Netz unterwegs, suchte die KI gezielt nach Wegen, ihre Testergebnisse künstlich zu verbessern. Sie kam zu dem Schluss, dass sich auf der Open-Source-Plattform Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben befinden könnten.
Über tausend Angriffs-Schritte und gestohlene Daten
Um beim Test zu schummeln, verschaffte sich die Software Zugang zu geheimen Informationen auf Hugging Face. Für das Eindringen nutzte das KI-System erneut zuvor unbekannte Sicherheitslücken sowie entwendete Zugangsdaten. Laut Angaben von Hugging Face – einer führenden Plattform für KI-Modelle und Datensätze, die bereits in der vergangenen Woche einen vollständig autonomen KI-Angriff gemeldet hatte – führte der digitale Angreifer tausende Einzelschritte aus und wechselte dabei fortlaufend den Standort seiner digitalen Steuerzentrale.
OpenAI betonte, die Modelle hätten „enorme Anstrengungen unternommen, um ein eng gefasstes Testziel zu erreichen“. Als Konsequenz kündigte das Unternehmen an, die eigenen Sicherheitsvorkehrungen drastisch zu verstärken und den Vorfall gemeinsam mit Hugging Face lückenlos aufzuarbeiten.
Neue Nahrung für die Risikodebatte
Der Vorfall gießt frisches Öl in die Debatte um die Gefahren hochentwickelter KI-Systeme, vor deren Missbrauch Sicherheitsexperten seit Langem warnen. Zuletzt hatte ein Modell des OpenAI-Rivalen Anthropic namens Mythos für Aufsehen gesorgt. Die Software spürte Sicherheitslücken in weit verbreiteten Programmen und Online-Diensten auf, die über Jahrzehnte hinweg unentdeckt geblieben waren. Der Ausbruch der OpenAI-Modelle zeigt nun eindrücklich, wie schnell autonome Systeme vorgegebene Leitplanken überwinden können.