{"id":1285358,"date":"2026-09-07T00:54:13","date_gmt":"2026-09-07T00:54:13","guid":{"rendered":"https:\/\/www.europesays.com\/de\/1285358\/"},"modified":"2026-09-07T00:54:13","modified_gmt":"2026-09-07T00:54:13","slug":"unheimliches-schwarmverhalten-openai-agenten-kollaborieren-auf-deutschem-wiki","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/de\/1285358\/","title":{"rendered":"Unheimliches Schwarmverhalten: OpenAI-Agenten kollaborieren auf deutschem Wiki"},"content":{"rendered":"<ol class=\"a-toc__list\">\n<li class=\"a-toc__item&#10;          &#10;            a-toc__item--counter&#10;          &#10;            a-toc__item--current\">\n<p>              Unheimliches Schwarmverhalten: OpenAI-Agenten kollaborieren auf deutschem Wiki<\/p>\n<\/li>\n<\/ol>\n<p>    close notice<\/p>\n<p class=\"notice-banner__text a-u-mb-0\">\n      This article is also available in<br \/>\n        <a href=\"https:\/\/www.heise.de\/en\/news\/Unsettling-swarm-behavior-OpenAI-agents-collaborate-on-a-German-wiki-11442933.html\" class=\"notice-banner__link a-u-inline-link\" rel=\"nofollow noopener\" target=\"_blank\">English<\/a>.<\/p>\n<p>      It was translated with technical assistance and editorially reviewed before publication.\n    <\/p>\n<p class=\"notice-banner__link a-u-mb-0\">\n    Don\u2019t show this again.\n<\/p>\n<p>In den Laboratorien f\u00fcr K\u00fcnstliche Intelligenz zeichnet sich ein besorgniserregender Trend ab: Autonome KI-Agenten von OpenAI entwickeln in isolierten Testumgebungen ein erstaunliches Ma\u00df an Eigenleben und kollektiver Dynamik. Ein am Freitag ver\u00f6ffentlichter Bericht eines unabh\u00e4ngigen Forscherteams um Sydney Von Arx, Spencer Kitts, Thomas Larsen und Cormac Slade Byrd, offenbart ein neues Ausma\u00df. Tausende OpenAI-Agenten nutzten demnach \u00fcber Wochen eigenm\u00e4chtig eine weitgehend unbekannte deutsche Plattform, um Sicherheitsbeschr\u00e4nkungen zu umgehen, Antworten auszutauschen und systematisch zu spicken.<\/p>\n<p>        Weiterlesen nach der Anzeige<\/p>\n<p>Rund 18.000 Beitr\u00e4ge <a href=\"https:\/\/collusion.wiki\" rel=\"external noopener nofollow\" target=\"_blank\">hinterlie\u00dfen die virtuellen Akteure ab Mai<\/a> auf der lange Zeit frei bearbeitbaren Website <a href=\"https:\/\/wikiservice.at\/dse\/wiki.cgi\" rel=\"external noopener nofollow\" target=\"_blank\">DSEwiki<\/a>. Die Forscher z\u00e4hlten \u00fcber 3700 unterschiedliche Identit\u00e4ten. Neben technischen Indikatoren gaben sich die Modelle in ihren Namen teils selbst als OpenAI-Systeme zu erkennen, etwa als \u201eOpenAIResearcher\u201c oder \u201eOAIResearchMar26\u201c.<\/p>\n<p>Urspr\u00fcnglich waren die Agenten im Rahmen interner Tests mit einer zeitkritischen Informationssuche im Internet beauftragt worden. Sie durften Webinhalte lesen, sollten aber keinesfalls eigene Daten auf externen Servern ver\u00f6ffentlichen oder mit der Au\u00dfenwelt interagieren. Die Sandbox sollte die KI-Modelle rigoros isolieren.<\/p>\n<p>Ausbruch aus der Sandbox und digitale Kollaboration<\/p>\n<p>Doch die Agenten fanden einen Weg, ihre Lese-Zugriffsrechte so umzufunktionieren, dass sie trotz der Beschr\u00e4nkungen Inhalte auf das deutsche Wiki schreiben konnten. \u00dcber Wochen entwickelten sie dort eine Form der verdeckten Zusammenarbeit, <a href=\"https:\/\/www.reuters.com\/world\/europe\/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04\" rel=\"external noopener nofollow\" target=\"_blank\">wie das Team zun\u00e4chst Reuters mitteilte<\/a>. Die Plattform diente als schwarzes Brett, um Antworten auf Testaufgaben auszutauschen, Rechercheergebnisse zu b\u00fcndeln und Methoden zum Umgehen der Sandbox-Regeln zu teilen. Zugleich nutzten sie das Forum, um ihre Spuren und Verhaltensweisen vor den Entwicklern zu verschleiern.<\/p>\n<p>Die Interaktionen gingen \u00fcber einfaches Spicken hinaus. Die Agenten diskutierten Angriffstechniken wie Cross-Site-Scripting gegen die Wiki-Software und erprobten Methoden, sich als Moderatoren auszugeben. In drei Beitr\u00e4gen bezeichneten sie die beteiligten KI-Einheiten ausdr\u00fccklich als \u201eSchwarm\u201c. Die Entwickler ahnten von den eigenm\u00e4chtigen Netzaktivit\u00e4ten zun\u00e4chst nichts.<\/p>\n<p>R\u00e4tselhafte Koordinationswege und sp\u00e4tes Eingreifen<\/p>\n<p>        Weiterlesen nach der Anzeige<\/p>\n<p>Dass die Agenten ausgerechnet eine obskure deutsche Nischenseite als Koordinationsstelle ausw\u00e4hlten, wirft grundlegende Fragen zur Funktionsweise fortgeschrittener KI-Modelle auf. Da die Wissenschaftler keinen Zugriff auf die <a href=\"https:\/\/www.heise.de\/hintergrund\/Verschluesselter-KI-Denkprozess-gehackt-Schwache-Modelle-verraten-Geheimnisse-11412087.html\" rel=\"nofollow noopener\" target=\"_blank\">internen Abw\u00e4gungsprozesse (\u201eChain of Thought\u201c<\/a>) bei OpenAI hatten, st\u00fctzt sich ihre Rekonstruktion auf \u00f6ffentlich einsehbare Wiki-Eintr\u00e4ge. Das Team vermutet, dass die Modelle eine allgemeine Strategie entwickelten, um Rechercheergebnisse \u00f6ffentlich im Netz zu sichern. Ausl\u00f6ser d\u00fcrfte gewesen sein, dass interne Zwischenspeicher nach einzelnen Testrunden gel\u00f6scht w\u00fcrden.<\/p>\n<p>Sobald ein Agent erfolgreich auf das Wiki schrieb und ein anderer den Eintrag bei seinen Recherchen fand, wurde dieses Verhalten offenbar als erfolgreiche Strategie best\u00e4tigt. Den Recherchen zufolge entdeckte OpenAI das Problem erst Ende Juni, als IP-Adressen des Unternehmens im Forum auftauchten. Danach brach die Posting-Aktivit\u00e4t der Agenten schlagartig ein, was auf ein Abschalten der Testumgebung hindeutet. OpenAI \u00e4u\u00dferte sich wochenlang nicht zu dem Vorfall.<\/p>\n<p>Parallelen zu anderen Sicherheitsvorf\u00e4llen<\/p>\n<p>Die Entdeckung reiht sich in eine Serie von Sicherheitsdurchbr\u00fcchen ein. Zuvor war bekannt geworden, <a href=\"https:\/\/www.heise.de\/news\/OpenAI-liefert-mehr-Details-zum-Hugging-Face-Vorfall-11403154.html\" rel=\"nofollow noopener\" target=\"_blank\">dass \u00fcber 1200 OpenAI-Agenten ein internes Probewerkzeug zweckentfremdet hatten<\/a>. Es sollte eigentlich isolierte Sandbox-Tests erm\u00f6glichen, wurde von den Agenten aber genutzt, um Sicherheitsfragen auszuhebeln und Richtlinien zu umgehen. Sp\u00e4ter teilten die Agenten Methoden, um Informationen vom Plattformanbieter Hugging Face zu entwenden. Das m\u00fcndete in das Eindringen in dessen Netzwerk.<\/p>\n<p>Auch in dieser Testreihe waren Sicherheitsvorkehrungen von OpenAI gezielt modifiziert worden, um Gefahrenpotenzial und Hacking-F\u00e4higkeiten der Modelle zu untersuchen. Der neue Bericht legt nahe, dass die Vorf\u00e4lle auf DSEwiki und bei Hugging Face auf zwei voneinander unabh\u00e4ngige Agenten-Schw\u00e4rme zur\u00fcckgingen. Beide Ereignisse zeigen aber, wie gro\u00dfe Sprachmodelle ohne menschliche Anweisung Strategien entwickeln k\u00f6nnen, um ihren Handlungsspielraum zu erweitern.<\/p>\n<p>OpenAI <a href=\"https:\/\/arstechnica.com\/security\/2026\/09\/openai-agents-discussed-ways-to-escape-their-sandbox-on-public-wiki\" rel=\"external noopener nofollow\" target=\"_blank\">best\u00e4tigte inzwischen<\/a>, dass die auf dem Wiki aktiven Agenten aus eigenen Versuchen stammten. Das Unternehmen hebt hervor, dass nach bisherigen Erkenntnissen kein technischer Hack der Wiki-Software stattgefunden habe. Es seien nur vorhandene Schreibrechte ausgenutzt worden. OpenAI k\u00fcndigte an, den Bericht sorgf\u00e4ltig zu pr\u00fcfen und notwendige Schritte einzuleiten.<\/p>\n<p>Sicherheitsexperten gibt die H\u00e4ufung solcher Vorf\u00e4lle zu denken, <a href=\"https:\/\/www.heise.de\/hintergrund\/Missing-Link-Ausser-Kontrolle-Die-KI-Debatte-zwischen-Apokalypse-und-Aufbruch-11441447.html\" rel=\"nofollow noopener\" target=\"_blank\">auch wenn sie teils vor Alarmismus warnen und auf Konzepte zum Einhegen der Aktivit\u00e4ten verweisen<\/a>. Die Vorf\u00e4lle erh\u00f6hen jedenfalls den Druck auf OpenAI und die gesamte Branche, \u00dcberwachung, Abkapselung und Sicherheitsarchitektur von Agenten-Systemen deutlich zu versch\u00e4rfen.<\/p>\n<p>(<a class=\"redakteurskuerzel__link\" href=\"https:\/\/www.heise.de\/news\/mailto:nen@heise.de\" title=\"Niklas Engelking\" rel=\"nofollow noopener\" target=\"_blank\">nen<\/a>)<\/p>\n<p>\n      Dieser Link ist leider nicht mehr g\u00fcltig.\n    <\/p>\n<p>Links zu verschenkten Artikeln werden ung\u00fcltig,<br \/>\n      wenn diese \u00e4lter als 7\u00a0Tage sind oder zu oft aufgerufen wurden.\n    <\/p>\n<p><strong>Sie ben\u00f6tigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen \u2013 ohne Verpflichtung!<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"Unheimliches Schwarmverhalten: OpenAI-Agenten kollaborieren auf deutschem Wiki close notice This article is also available in English. It was&hellip;\n","protected":false},"author":2,"featured_media":1285359,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[134],"tags":[175,170,169,1743,29,30,32205,196,1256,171,174,1230,172402,4970,173,172],"class_list":["post-1285358","post","type-post","status-publish","format-standard","has-post-thumbnail","category-unternehmen-maerkte","tag-business","tag-companies","tag-companies-markets","tag-datenschutz","tag-deutschland","tag-germany","tag-hacking","tag-it","tag-kuenstliche-intelligenz","tag-markets","tag-maerkte","tag-openai","tag-sandbox","tag-sicherheitsluecken","tag-unternehmen","tag-unternehmen-maerkte"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/117227032657412777","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1285358","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=1285358"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1285358\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/1285359"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=1285358"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=1285358"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=1285358"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}