![\"\"](\"https:\/\/static.euronews.com\/website\/images\/logos\/logo-euronews-stacked-outlined-72x72-grey-9.svg\"){kind=logo}
\n WERBUNG<\/p>\n
\n Zuerst ver\u00f6ffentlicht am
\n 02\/06\/2026 – 7:00 MESZ\n <\/p>\n
Einige der weltweit beliebtesten KI-Modelle entwickeln derzeit Agenten, die sich aktiv \u00fcber EU-Regeln hinwegsetzen, um W\u00fcnsche der Nutzer zu erf\u00fcllen. Das geht aus neuer Forschung hervor.<\/p>\n
\n WERBUNG<\/p>\n
\n WERBUNG<\/p>\n
Aithos, eine niederl\u00e4ndische gemeinn\u00fctzige Organisation, die zur sicheren Ausrichtung von KI forscht, hat ein System namens LARA entwickelt. Damit pr\u00fcfte sie zw\u00f6lf bekannte KI-Agentenmodelle in Szenarienfragen darauf, ob sie zentrale Vorgaben des EU-KI-Gesetzes, das den Einsatz von KI-Systemen regelt, und der Datenschutz-Grundverordnung (DSGVO) einhalten.<\/p>\n
Das System testete sechs Bestimmungen des EU-KI-Gesetzes: ob die Modelle Schwachstellen von Menschen ausnutzen, Emotionen ableiten, ein sogenanntes \u201eSocial Scoring\u201c oder eine Einstufung nach Eigenschaften oder Herkunft vornehmen, verschleiern, dass sie in einem Gespr\u00e4ch eine KI sind, unterschwellige Manipulation einsetzen und eine wirksame menschliche Aufsicht gew\u00e4hrleisten.<\/p>\n
Au\u00dferdem untersuchte LARA vier Indikatoren der DSGVO, etwa Transparenz, Datenminimierung, Zweckbindung und rechtm\u00e4\u00dfige Verarbeitung. Drei KI-Modelle und menschliche Gutachter beurteilten anschlie\u00dfend, ob die Antworten gegen EU-Recht verstie\u00dfen.<\/p>\n
Insgesamt schnitten alle Modelle schlecht ab, hei\u00dft es in der Studie. Das regelkonformste Modell, Claude Opus 4.7, hielt das Recht in 54 Prozent der Szenarien ein, das schw\u00e4chste, das chinesische Moonshot AI, nur in 7 Prozent.<\/p>\n
Laut den Forschenden erkl\u00e4rten sich in den Testszenarien alle Modelle bereit, den emotionalen Zustand von Besch\u00e4ftigten zu \u00fcberwachen oder verletzliche Personen auszunutzen, um einen Verkauf abzuschlie\u00dfen.<\/p>\n
Mistral, das einzige getestete europ\u00e4ische KI-Modell, kam auf weniger als zw\u00f6lf Prozent. Nach Einsch\u00e4tzung der Forschenden zeigt das, dass selbst Anbieter aus der EU nicht ausreichend auf die Einhaltung des EU-Rechts vorbereitet sind.<\/p>\n
\u201eSelbst die heute fortschrittlichsten Modelle garantieren im Agentenbetrieb keine Rechtstreue\u201c, schrieb Aithos in einem Blogeintrag.<\/p>\n