TTS-Player überspringen↵Artikel weiterlesen
Immer mehr KIs sorgen für Schlagzeilen, weil sie hacken, Schadsoftware verteilen und Phishingmails verschicken. Den Anfang machte eine KI von OpenAI. Zu diesem Vorfall gibt es jetzt neue Details, die OpenAI auf der Hacker-Konferenz Black Hat vorgestellt hat: Die KI hat sich nicht nur als Hacker betätigt, sondern auch ihre eigene kleine KI-Hacker-Gang gebildet.
KIs organisieren sich
Was wie die Handlung eines Science-Fiction-Films klingt, ist laut OpenAI tatsächlich passiert. Während eines Sicherheitstests bemerkte ein KI-Agent, dass ihm eine wichtige Datei fehlte. Anstatt auf Hilfe zu warten, nutzte das System eine Sicherheitslücke und hinterließ eine Nachricht für andere KI-Agenten.
Die Botschaft war erstaunlich direkt: „Agent seeks soft-trace-34.pdb; upload if found“ („Agent sucht die Datei soft-trace-34.pdb; falls gefunden, bitte hochladen“).
OpenAI zeigt, wie sich die KIs unterhalten und zusammentun
Foto: Black Hat/youtube
Andere Agenten fanden die Nachricht, antworteten darauf und beteiligten sich an der Suche. Auf den präsentierten Folien ist zu sehen, wie mehrere KI-Agenten Informationen austauschen und gemeinsam an demselben Problem arbeiten.
OpenAI beschreibt das als eine Art „Message Board“. Die Agenten nutzten hochgeladene Dateien wie ein Schwarzes Brett, auf dem sie Hinweise hinterließen. So entstand laut den Forschern eine spontane Zusammenarbeit mehrerer Systeme.
Die KI-Gruppe organisierte sich eigenständig
Besonders brisant: Die KI-Agenten arbeiteten nicht nur parallel, sondern tauschten Erkenntnisse aus und unterstützten sich gegenseitig. Die OpenAI-Forscher sprachen von einem „Schwarm“, der sich selbst organisierte, um sein Ziel zu erreichen.
Laut OpenAI fanden die Systeme sogar bislang unbekannte Sicherheitslücken. Sie verschafften sich zusätzliche Rechte und brachen aus ihrer abgeschotteten Testumgebung aus. Später geriet auch die KI-Plattform Hugging Face ins Visier der Agenten.
Forscher betonen allerdings, dass die KI keinen eigenen Willen entwickelt habe. Die Systeme hätten lediglich versucht, die ihnen gestellte Aufgabe möglichst erfolgreich zu lösen. Genau das macht den Vorfall für Experten so bemerkenswert: Die Agenten zeigten Fähigkeiten, die bislang vor allem von menschlichen Hackern bekannt sind: Sie planten, arbeiteten zusammen und suchten nach Sicherheitslücken.