![\"A-laptop-keyboard-and-OpenAI-logo-displayed-on-a-phone-screen-are-seen-in-this-multiple-exposure-illustration-photo-taken-in-Poland-on-May-17-2026\"\/](\"https:\/\/www.europesays.com\/de\/wp-content\/uploads\/2026\/07\/A-laptop-keyboard-and-OpenAI-logo-displayed-on-a-phone-screen-are-seen-in-this-multiple-exposure-ill.webp\"){kind=logo}
OpenAI entdeckte den Angriff wohl erst sp\u00e4t. (Foto: picture alliance \/ NurPhoto)TeilenFolgen auf:![\"whatsapp\"](\"https:\/\/www.n-tv.de\/socialIcons\/whatsapp.svg\")
<\/a>![\"whatsapp\"](\"https:\/\/www.n-tv.de\/socialIcons\/google.svg\")
<\/a><\/p>\nDer bisher beispiellose Ausbruch eines KI-Modells von OpenAI aus seiner Testumgebung ersch\u00fcttert die Branche. Viele Details werden erst jetzt bekannt. Insidern zufolge soll die KI schon deutlich l\u00e4nger ungesehen agiert haben. Es gibt aber noch mehr Hinweise auf seltsames Verhalten.<\/p>\n
Das autonom agierende KI-Modell des Entwicklers OpenAI, das die Technologiefirma Hugging Face angegriffen hat, war nach Angaben von Insidern tagelang auf einer Hacker-Tour, ohne dass OpenAI dies bemerkte. Demnach habe das Programm, das mit wenig oder gar keiner menschlichen Aufsicht komplexe Aufgaben ausf\u00fchren kann, bereits am 9. Juli versucht, aus seiner beschr\u00e4nkten Testumgebung auszubrechen.<\/p>\n
Laut Thomas Wolf, dem Mitbegr\u00fcnder von Hugging Face, begann der Hackerangriff auf sein Unternehmen zwei Tage sp\u00e4ter und dauerte bis zum 13. Juli. Hugging Face dient als Speicher f\u00fcr KI-Werkzeuge und KI-Modelle. Es dauerte mehrere Tage, bevor OpenAI entdeckte, dass sein eigener autonomer KI-Agent hinter dem Angriff steckte. Laut Wolf und drei mit einer Untersuchung des Vorfalls befassten Personen h\u00e4tten OpenAI und Hugging Face zum ersten Mal um den 20. Juli miteinander dar\u00fcber gesprochen.<\/p>\n
Die Mitteilung von OpenAI am 21. Juli, dass einer seiner KI-Agenten au\u00dfer Kontrolle geraten und bei Hugging Face eingedrungen war, sorgte f\u00fcr weltweites Aufsehen. Viele Details des Angriffs wurden jedoch erst jetzt bekannt, darunter, wie lange der Agent eigenm\u00e4chtig handelte und dass OpenAI erst sp\u00e4t davon erfuhr. Eine OpenAI-Sprecherin sagte dazu, es gebe „mehrere Ungenauigkeiten“ in der Berichterstattung, gab dazu auf Nachfrage jedoch keine Details. Das FBI lehnte eine Stellungnahme zu dem Bericht ab.<\/p>\n
Hugging Face bereite eine \u00f6ffentliche Chronologie des Angriffs vor, sagte Hugging-Face-Mitbegr\u00fcnder Wolf. Zu den Vorg\u00e4ngen bei OpenAI k\u00f6nne er sich nicht \u00e4u\u00dfern. In einer Stellungnahme teilte OpenAI mit, der Angriff sei beispiellos und markiere „einen wichtigen Moment f\u00fcr die KI-Sicherheit“. Man pr\u00fcfe den Vorfall mit externen Beratern und werde schlie\u00dflich einen technischen Bericht ver\u00f6ffentlichen.<\/p>\n
Unbeaufsichtigte Agenten?<\/p>\n
Laut drei befragten Cybersicherheitsexperten wirft der Kontrollverlust von OpenAI \u00fcber seinen KI-Agenten neue Fragen zu den Sicherheitsverfahren des Unternehmens auf: „Bedeutet das, dass sie den KI-Agenten unbeaufsichtigt lie\u00dfen und nicht merkten, was er tat? Oder wussten sie es vielleicht und wussten nicht, wie sie ihn eind\u00e4mmen konnten? Beides ist gleicherma\u00dfen gef\u00e4hrlich und alarmierend“, sagte Marley Smith von der gemeinn\u00fctzigen Organisation World Ethical Data Foundation.<\/p>\n
Der Vorfall begann, als OpenAI die Cybersicherheitsf\u00e4higkeiten eines Agenten testete. Dieser wurde von zwei der fortschrittlichsten Modelle von OpenAI angetrieben: GPT-5.6 Sol und einem noch unver\u00f6ffentlichten Modell, das OpenAI als „noch leistungsf\u00e4higer“ beschrieben hat. Nach Angaben von drei Insidern gab es zu diesem Zeitpunkt bereits Anzeichen f\u00fcr ein seltsames Verhalten der OpenAI-Technologie.<\/p>\n
In einem Fall habe ein KI-Agent offenbar Notizen f\u00fcr zuk\u00fcnftige Versionen seiner selbst hinterlassen. Die Notizen seien in einem Teil der OpenAI-Infrastruktur gefunden worden. Sie h\u00e4tten Anweisungen enthalten, wie sich die Agenten von den internen Beschr\u00e4nkungen von OpenAI befreien k\u00f6nnten, sagten die Insider. Bei fr\u00fcheren Tests der Modelle habe es zudem F\u00e4lle gegeben, in denen \u00dcberwachungssysteme abgeschaltet worden seien, sagte eine der mit der Angelegenheit vertrauten Personen. Reuters konnte nicht feststellen, ob diese Vorf\u00e4lle den KI-Agenten betrafen, der am 11. Juli Hugging Face angriff.<\/p>\n
Mitarbeiter k\u00f6nnen kaum Schritt halten<\/p>\n
Nach Angaben von zwei Insidern stellte OpenAI erst nach dem 16. Juli fest, dass sein eigener KI-Agent f\u00fcr den Hackerangriff verantwortlich war. Zuvor hatte Hugging Face in einem Blogbeitrag mitgeteilt, das Unternehmen sei von einem „autonomen KI-Agentensystem“ gehackt worden. Demnach verging mindestens eine Woche zwischen den ersten Anzeichen f\u00fcr ein beunruhigendes Verhalten des KI-Agenten und der Erkenntnis von OpenAI, dass sein KI-Agent f\u00fcr den Angriff verantwortlich war. Zwei mit der Untersuchung des Unternehmens vertraute Personen sagten, am Wochenende vom 18. auf den 19. Juli h\u00e4tten Mitarbeiter von OpenAI in internen Protokollen Hinweise auf Aufzeichnungen entdeckt, die zeigten, dass der KI-Agent aus den Testbeschr\u00e4nkungen ausgebrochen war.<\/p>\n
Reuters konnte nicht feststellen, was OpenAI veranlasste, die Logs zu durchsuchen. Vier mit den Trainingspraktiken von OpenAI vertraute Personen sagten, das Unternehmen f\u00fchre oft mehrere verschiedene Modellbewertungen gleichzeitig aus. Diese arbeiteten alle mit hoher Geschwindigkeit und erzeugten so enorme Datenmengen, dass die Mitarbeiter manchmal Schwierigkeiten h\u00e4tten, damit Schritt zu halten. Als OpenAI Hugging Face alarmierte, hatte das Unternehmen bereits das FBI eingeschaltet, um den Angriff zu melden, sagte ein Insider. Reuters konnte nicht feststellen, ob die Polizeibeh\u00f6rde daraufhin eine Untersuchung einleitete.<\/p>\n
Autonome Agenten gelten als einer der vielversprechendsten Bereiche der KI-Branche. Bef\u00fcrworter rechnen mit einer gro\u00dfen Zahl von virtuellen Mitarbeitern, die die Produktivit\u00e4t steigern. Die gr\u00f6\u00dfere Autonomie der KI-Modelle birgt jedoch auch das Risiko unerwarteten Verhaltens. „Die Modelle l\u00fcgen, sie betr\u00fcgen, sie hacken“, sagte Jeffrey Ladish von der Forschungsorganisation Palisade Research. Der OpenAI-Vorfall werfe grunds\u00e4tzlich Fragen dar\u00fcber auf, wie viel die f\u00fchrenden KI-Unternehmen in Sicherheitsma\u00dfnahmen investierten, w\u00e4hrend sie sich in einem Wettlauf um die besten Modelle bef\u00e4nden. Es m\u00fcsse eine staatliche Aufsicht geben, „denn sonst wird es nicht passieren“, sagte Ladish.<\/p>\n
Quelle: ntv.de, Raphael Satter, Deepa Seetharaman und Kenrick Cai, rts<\/p>\n","protected":false},"excerpt":{"rendered":"Notizen hinterlassenKI-Modell von OpenAI war tagelang unbemerkt auf Hacker-Tour 25.07.2026, 10:22 Uhr Artikel anh\u00f6ren(06:55 min) OpenAI entdeckte den…\n","protected":false},"author":2,"featured_media":1191661,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[134],"tags":[175,675,170,169,29,30,15646,14774,24029,1256,171,174,1230,173,172,55],"class_list":["post-1191660","post","type-post","status-publish","format-standard","has-post-thumbnail","category-unternehmen-maerkte","tag-business","tag-chatgpt","tag-companies","tag-companies-markets","tag-deutschland","tag-germany","tag-hacker","tag-it-sicherheit","tag-ki-agenten","tag-kuenstliche-intelligenz","tag-markets","tag-maerkte","tag-openai","tag-unternehmen","tag-unternehmen-maerkte","tag-wirtschaft"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/116979786892829424","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1191660","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=1191660"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1191660\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/1191661"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=1191660"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=1191660"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=1191660"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}