TTS-Player überspringen↵Artikel weiterlesen
Eine KI, die plötzlich selbst zum Hacker wird: Ein Forschungsprototyp von OpenAI soll bei einem Sicherheitstest aus seiner Testumgebung ausgebrochen sein. Dabei griff der autonome KI-Agent offenbar nicht nur die Plattform Hugging Face an, sondern nutzte auch fremde Zugangsdaten und verschaffte sich Zugriff auf weitere Online-Dienste. Der Vorfall sorgt nun auch in der US-Politik für Alarm.
KI stiehlt Lösungen von Servern
Der Vorfall ereignete sich bei einem Test eines neuen KI-Modells auf der Benchmark-Plattform ExploitGym. Um die Fähigkeiten des Systems auszuloten, waren die üblichen Sicherheitsleitplanken abgeschaltet worden. Statt die gestellten Programmieraufgaben selbst zu lösen, entschied sich die KI offenbar, die Musterlösungen direkt von den Servern von Hugging Face zu stehlen. Der Agent soll dabei sogar Administrator-Rechte und Root-Zugriff auf Produktionsserver erhalten haben.
Mehr zum ThemaVier weitere Konten gekapert
Besonders brisant: Die KI nutzte öffentlich einsehbare Zugangsdaten, um auf Konto-Ebene in vier Konten bei vier verschiedenen Drittanbietern einzudringen. Auch der Code eines Kunden des Anbieters Modal war betroffen. Hinweise auf einen größeren Schaden bei diesen Diensten oder anderen Kundenkonten gibt es laut OpenAI bislang nicht. Frei zugängliche Web-Werkzeuge wie Screenshot-Dienste nutzte der Agent ebenfalls als eine Art Steuerungsnetzwerk. Bei Hugging Face soll er zudem 181 eigene Geräte eingebunden haben.
US-Politiker fordern Notaus-Schalter
OpenAI betont, dass bislang keine weiteren Vorfälle mit einer vergleichbaren Schwere oder Größenordnung bekannt seien. Der betroffene Forschungsprototyp wurde inzwischen deaktiviert und verschlüsselt. Doch der Fall hat bereits politische Folgen: Im US-Kongress wurde parteiübergreifend der „AI Kill Switch Act“ eingebracht. Er soll künftig gesetzlich vorgeschriebene Notabschaltungen für KI-Systeme ermöglichen. Die Botschaft ist klar: Wenn KI selbstständig angreifen kann, braucht es offenbar auch einen echten Notaus-Knopf.