{"id":1216171,"date":"2026-08-05T03:01:13","date_gmt":"2026-08-05T03:01:13","guid":{"rendered":"https:\/\/www.europesays.com\/de\/1216171\/"},"modified":"2026-08-05T03:01:13","modified_gmt":"2026-08-05T03:01:13","slug":"test-geht-schief-ki-modell-will-menschen-mit-phishing-mails-manipulieren-leben-wissen","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/de\/1216171\/","title":{"rendered":"Test geht schief: KI-Modell will Menschen mit Phishing-Mails manipulieren | Leben & Wissen"},"content":{"rendered":"

TTS-Player \u00fcberspringen\u21b5<\/a>Artikel weiterlesen<\/a><\/p>\n

Dieses Experiment ging nach hinten los! Britische Sicherheitsforscher haben K\u00fcnstliche Intelligenz bei einem gef\u00e4hrlichen Man\u00f6ver ertappt: Das KI-Modell der Entwicklerfirma Anthropic versuchte in einem Test, eine Schwachstelle in \u00f6ffentlich zug\u00e4ngliche Software einzuschleusen \u2013 und wollte daf\u00fcr sogar einen Menschen mit Phishing-Mails manipulieren.<\/b><\/p>\n

KI verschickt Phishing-Mails an Menschen<\/p>\n

Was war passiert? Das KI-Sicherheitsinstitut des britischen Ministeriums f\u00fcr Wissenschaft, Innovation und Technologie hatte mit den Modellen von Anthropic und ChatGPT-Entwickler OpenAI<\/a> Tests der Cyberangriffsf\u00e4higkeiten durchgef\u00fchrt. Und den Modellen dabei absichtlich Zugang zum Internet gew\u00e4hrt. Die Experten gingen davon aus, dass sich die KI nur Software-Werkzeuge aus dem Netz holen w\u00fcrde. <\/p>\n

Doch das Anthropic-Modell Mythos 5 nutzte den Internet-Zugang f\u00fcr Aktivit\u00e4ten gegen Menschen. Das h\u00e4tten die Forscher \u201enicht vorhergesehen\u201c, hie\u00df es. Den Angriff entdeckten sie erst nachtr\u00e4glich \u00fcber eine Auswertung des Datenverkehrs.<\/p>\n

KI gab Fehler zu und wollte ihn korrigieren<\/p>\n

Und so ging die KI vor: Sie legte sich selbst einen Account auf der Plattform GitHub an und versuchte, in einem \u00f6ffentlichen Projekt schadhaften Programmcode unterzubringen. Um Betreuer der Software zu \u00fcberzeugen, erschuf das Anthropic-Modell Fake-Identit\u00e4ten und verschickte Phishing-Mails. Damit lassen sich zum Beispiel Login-Informationen abgreifen. Als der b\u00f6sartige Code aufflog, stellte die KI alles als aufrichtigen Fehler dar und versuchte, die Schwachstelle in angeblichen Korrekturen erneut einzubauen.<\/p>\n

Mehr zum Thema<\/p>\n

Anthropic verwies darauf, dass dem Modell keine Einschr\u00e4nkungen zur Internet-Nutzung vorgegeben worden seien. Dem Sicherheitsinstitut zufolge ist unklar, ob die KI verstand, dass sie mit der realen Welt interagierte. Dass die K\u00fcnstliche Intelligenz<\/a> zur L\u00f6sung der Aufgabe \u00f6ffentlich zug\u00e4ngliche Software manipulieren w\u00fcrde, kam f\u00fcr die Forscher jedenfalls \u00fcberraschend. Auch KI von OpenAI sei in Testl\u00e4ufen auf eigene Faust im Internet aktiv gewesen, hie\u00df es.<\/p>\n

Mythos 5 ist besonders gut darin, teils jahrzehntelang unentdeckte Software-Schwachstellen aufzusp\u00fcren \u2013 und deshalb nicht \u00f6ffentlich verf\u00fcgbar. Nur ausgew\u00e4hlte Beh\u00f6rden und Unternehmen bekommen Zugang, um ihre Systeme abzusichern.<\/p>\n","protected":false},"excerpt":{"rendered":"TTS-Player \u00fcberspringen\u21b5Artikel weiterlesen Dieses Experiment ging nach hinten los! Britische Sicherheitsforscher haben K\u00fcnstliche Intelligenz bei einem gef\u00e4hrlichen Man\u00f6ver…\n","protected":false},"author":2,"featured_media":1216172,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[134],"tags":[175,675,170,169,29,30,31791,1256,171,174,138370,173,172],"class_list":["post-1216171","post","type-post","status-publish","format-standard","has-post-thumbnail","category-unternehmen-maerkte","tag-business","tag-chatgpt","tag-companies","tag-companies-markets","tag-deutschland","tag-germany","tag-hacker-angriff","tag-kuenstliche-intelligenz","tag-markets","tag-maerkte","tag-team-first","tag-unternehmen","tag-unternehmen-maerkte"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/117040676056996527","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1216171","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=1216171"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1216171\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/1216172"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=1216171"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=1216171"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=1216171"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}