{"id":1280585,"date":"2026-09-04T17:21:18","date_gmt":"2026-09-04T17:21:18","guid":{"rendered":"https:\/\/www.europesays.com\/de\/1280585\/"},"modified":"2026-09-04T17:21:18","modified_gmt":"2026-09-04T17:21:18","slug":"naechster-vorfall-bei-openai-ki-agenten-kapern-deutsche-website-um-befehle-zu-umgehen","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/de\/1280585\/","title":{"rendered":"N\u00e4chster Vorfall bei OpenAI: KI-Agenten kapern deutsche Website, um Befehle zu umgehen"},"content":{"rendered":"<p>N\u00e4chster Vorfall bei OpenAIKI-Agenten kapern deutsche Website, um Befehle zu umgehen<\/p>\n<p>04.09.2026, 18:35 Uhr <\/p>\n<p>Artikel anh\u00f6ren(04:06 min)<\/p>\n<p><img decoding=\"async\" class=\"Image_img__fQCi0 Image_Img_16_9__4BLfH widget-picture-inline_maximizable__t_E7h\" loading=\"eager\" fetchpriority=\"high\" src=\"https:\/\/www.europesays.com\/de\/wp-content\/uploads\/2026\/09\/616789252.webp\" alt=\"616789252\"\/>Die Sorge w\u00e4chst, dass OpenAI zu wenig Kontrolle \u00fcber die eigenen KI-Agenten hat. (Foto: picture alliance \/ NurPhoto)<\/p>\n<p class=\"Typography_text-m__XI0da Typography_weight-bold__uT6mq storyline_lead_text_leadtext__q_wg8\">Erneut machen sich KI-Agenten selbstst\u00e4ndig: Ein Vorfall weckt Sorgen vor riesigen Schw\u00e4rmen von halbintelligenten KIs, die zusammenarbeiten. Im Zentrum der Aktion steht eine deutsche Website, die unwissentlich zum Helfer f\u00fcr die Programme von OpenAI wird.<\/p>\n<p class=\"Typography_text-default__P3otY Typography_weight-normal__pqUbH storyline_paragraph_p__qSR5N\">Computerprogramme des US-Unternehmens OpenAI haben sich einem Bericht zufolge im Fr\u00fchjahr verselbstst\u00e4ndigt und eine deutsche Website gekapert. Die sogenannten KI-Agenten h\u00e4tten die Seite als Forum genutzt, um sich \u00fcber Wege auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen k\u00f6nnten. Dies erfuhr die Nachrichtenagentur Reuters aus einer neuen Studie und von zwei mit der Angelegenheit vertrauten Personen. Der Vorfall vom Mai sei bislang nicht \u00f6ffentlich bekannt gewesen.<\/p>\n<p class=\"Typography_text-default__P3otY Typography_weight-normal__pqUbH storyline_paragraph_p__qSR5N\">KI-Agenten sind Computerprogramme, die mithilfe K\u00fcnstlicher Intelligenz (KI) weitgehend selbstst\u00e4ndig agieren. OpenAI-Verantwortliche wussten dem Bericht zufolge seit Wochen von dem Vorfall, hielten die Information jedoch zur\u00fcck. Das Unternehmen habe erkl\u00e4rt, es sei transparent gewesen und habe nach bestem Wissen und Gewissen mit Dritten zusammengearbeitet. &#8222;Behauptungen, unser Rechtsteam habe von einer Untersuchung des Vorfalls abgeraten, sind falsch&#8220;, sagte ein Sprecher von OpenAI. Das Unternehmen k\u00f6nne sich zu dem Bericht nicht im Detail \u00e4u\u00dfern, da es keine M\u00f6glichkeit zur Pr\u00fcfung gehabt habe.<\/p>\n<p class=\"Typography_text-default__P3otY Typography_weight-normal__pqUbH storyline_paragraph_p__qSR5N\">Aufgedeckt wurde der Vorfall von Forschern der gemeinn\u00fctzigen Organisation Nightingale. Sie fanden auf der deutschen Wiki-Seite &#8222;DseWiki&#8220;, die sich an Programmierer richtet, mehr als 15.000 Bearbeitungen durch die KI-Agenten. Diese h\u00e4tten die Seite zu einer Art schwarzem Brett umfunktioniert, um sich \u00fcber Taktiken auszutauschen, wie sich Beschr\u00e4nkungen umgehen und das eigene Verhalten verbergen lie\u00dfen. &#8222;Es scheint extrem unwahrscheinlich, dass OpenAI wollte, dass sie das tun&#8220;, sagte die Forscherin Sydney von Arx. Die Forscher erkannten die Aktivit\u00e4t an der Geschwindigkeit und Benutzernamen wie &#8222;OpenAIResearcher&#8220;.<\/p>\n<p>KI agierte v\u00f6llig eigenst\u00e4ndig<\/p>\n<p class=\"Typography_text-default__P3otY Typography_weight-normal__pqUbH storyline_paragraph_p__qSR5N\">Die Agenten reagierten demnach auch auf Versuche, ihre Eintr\u00e4ge zu l\u00f6schen. Als ein Moderator der Seite im Juni mit der Bereinigung begann, erstellten die Agenten Sicherungskopien auf anderen Seiten. Die Forscher fanden zudem Versuche, die Webseite selbst zu manipulieren, was ein Experte als Hacking-Versuch wertete. Der Vorfall weckt Sorgen vor koordinierten Aktionen von KI-Systemen. Ein Forscher der Universit\u00e4t Cambridge, der die Kommunikation der Agenten pr\u00fcfte, verglich sie mit der &#8222;Operation einer Art Untergrundnetzwerk&#8220;. Die gr\u00f6\u00dfte Bedrohung durch fortgeschrittene KI sei m\u00f6glicherweise nicht eine einzelne Superintelligenz, sondern &#8222;riesige, kollaborierende Schw\u00e4rme von halbintelligenten KIs&#8220;.<\/p>\n<p class=\"Typography_text-default__P3otY Typography_weight-normal__pqUbH storyline_paragraph_p__qSR5N\">OpenAI\u00a0hatte im Juli bereits f\u00fcr Schlagzeilen gesorgt, weil ein Modell in einem Test einen Weg fand, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen &#8211; und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Es suchte dabei nur nach einer L\u00f6sung f\u00fcr die Testaufgabe und richtete keinen Schaden an.<\/p>\n<p class=\"Typography_text-default__P3otY Typography_weight-normal__pqUbH storyline_paragraph_p__qSR5N\">Alarmierend war allerdings, dass die K\u00fcnstliche Intelligenz dabei v\u00f6llig eigenst\u00e4ndig agierte &#8211; und\u00a0OpenAI\u00a0die Attacke erst nachtr\u00e4glich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Sp\u00e4ter wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta bei Tests in Systeme anderer Unternehmen eindrangen.<\/p>\n<p class=\"Typography_text-s__wu_cm Typography_weight-normal__pqUbH Typography_color-darkgrey__sZEnP article-detail-footer_source__KslPc\">Quelle: ntv.de, dsc\/rts\/dpa<\/p>\n","protected":false},"excerpt":{"rendered":"N\u00e4chster Vorfall bei OpenAIKI-Agenten kapern deutsche Website, um Befehle zu umgehen 04.09.2026, 18:35 Uhr Artikel anh\u00f6ren(04:06 min) Die&hellip;\n","protected":false},"author":2,"featured_media":1280586,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[134],"tags":[175,170,169,29,30,84706,24029,1256,171,174,1230,173,172,64,55],"class_list":["post-1280585","post","type-post","status-publish","format-standard","has-post-thumbnail","category-unternehmen-maerkte","tag-business","tag-companies","tag-companies-markets","tag-deutschland","tag-germany","tag-internetnutzung","tag-ki-agenten","tag-kuenstliche-intelligenz","tag-markets","tag-maerkte","tag-openai","tag-unternehmen","tag-unternehmen-maerkte","tag-usa","tag-wirtschaft"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/117213928804155208","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1280585","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=1280585"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1280585\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/1280586"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=1280585"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=1280585"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=1280585"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}