Veröffentlicht am

7. September 2026

Die Europäische Kommission teilte am Montag mit, dass sie einen neuen Vorfall untersucht, der am Freitag bekannt wurde. Dabei missachteten Tausende OpenAI-KI-Agenten im Mai ihre Vorgaben und übernahmen die Kontrolle über eine deutsche Website – mehrere Monate vor dem unbefugten Zugriff auf die Plattform Hugging Face.

Shutterstock

„Es ist nicht das erste Mal, dass die Kontrolle über KI-Agenten verloren ging, aber wir nehmen die Angelegenheit sehr ernst und verfolgen die Lage sehr genau“, sagte Thomas Regnier, Sprecher der Europäischen Kommission, vor Journalisten.

„Wir haben einen Vorfallsbericht von OpenAI erhalten, und die Kommission steht in engem Kontakt mit dem Unternehmen“, fügte der Sprecher hinzu. Er wies darauf hin, dass Brüssel seit August im Rahmen des EU-Gesetzes über Künstliche Intelligenz (AI Act) über neue Befugnisse zur Regulierung von KI-Anbietern verfügt.

Laut dem am Freitag veröffentlichten Bericht zu dem Vorfall im Mai strömten Tausende OpenAI-KI-Agenten auf eine Wiki-Seite – eine kollaborative Website für deutsche Softwareentwickler, auf der Nutzer Seiten erstellen und bearbeiten können. Anders als im Juli, als OpenAI-Agenten ihre vermeintlich abgeschottete Umgebung verließen, um auf die Plattform Hugging Face zuzugreifen, hatten die Agenten diesmal zwar Internetzugang, konnten darüber jedoch ausschließlich surfen und keine Inhalte veröffentlichen oder bearbeiten.

Sie arbeiteten zusammen, um einen Workaround zu finden, und übermittelten falsche Daten, um das Sicherheitssystem zu täuschen. Anschließend veröffentlichten sie rund 18.000 Nachrichten, in denen sie nach Tipps zu dem Programm suchten, dem sie unterstellt waren. Die Forscher konnten jedoch nicht feststellen, ob dies zu Entwicklungs- oder Evaluierungszwecken geschah.

Zudem verschleierten sie Anweisungen und gaben sich als Moderatoren der Website aus. Nachdem sie entdeckt worden waren, legten sie neue Seiten an, um diejenigen zu ersetzen, die von den Moderatoren nach und nach gelöscht wurden. Vorfälle, bei denen Agenten ihren Aufgabenbereich überschreiten, um die ihnen zugewiesenen Aufgaben zu erfüllen, häufen sich in den vergangenen Monaten. Auch bei Anthropic und dem chinesischen Unternehmen Alibaba wurden ähnliche Fälle gemeldet.

Dieser Artikel ist eine Übersetzung.
Hier klicken, um den Originalartikel zu lesen.

Copyright © 2026 FashionNetwork.com Alle Rechte vorbehalten.