{"id":3982,"date":"2026-02-14T07:13:08","date_gmt":"2026-02-14T07:13:08","guid":{"rendered":"https:\/\/www.europesays.com\/ch-de\/3982\/"},"modified":"2026-02-14T07:13:08","modified_gmt":"2026-02-14T07:13:08","slug":"microsoft-forscher-warnen-vor-manipulation-ki-antworten-werden-fremdgesteuert","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/ch-de\/3982\/","title":{"rendered":"Microsoft-Forscher warnen vor Manipulation: KI-Antworten werden fremdgesteuert"},"content":{"rendered":"

Auch KI-Tools sind vor Cyberangriffen und Manipulationen nicht gesch\u00fctzt. Wie The Register<\/a> berichtet, warnt Microsoft aktuell vor einer Methode namens AI Recommendation Poisoning. Dabei werden KI-Modelle gezielt so beeinflusst, dass sie verzerrte oder extern gesteuerte Empfehlungen ausgeben. Im Rahmen einer Analyse identifizierte der Konzern mehr als 50 solcher Eingabeaufforderungen von 31 Unternehmen aus 14 Branchen.<\/p>\n

Weiterlesen nach der Anzeige<\/p>\n

Forscher warnen vor manipulierten Schaltfl\u00e4chen<\/p>\n

Microsoft treibt die Entwicklung von KI selbst intensiv voran. Mit Copilot bietet das Unternehmen einen KI-Assistenten, der tief in Windows sowie in Office-Anwendungen wie Word oder Teams integriert ist und Nutzer bei allt\u00e4glichen Aufgaben unterst\u00fctzen soll. Trotzdem \u2013 oder vielleicht auch gerade deshalb \u2013 warnen Microsoft-Sicherheitsforscher jetzt vor Angriffen, die darauf abzielen, das \u201eGed\u00e4chtnis\u201c von KI-Modellen mit manipulierten Informationen zu vergiften. Die Methode \u00e4hnelt dem sogenannten SEO-Poisoning, richtet sich aber gegen KI-Systeme anstatt gegen Suchmaschinen.<\/p>\n

Ziel ist es, die Antworten gezielt zu manipulieren. Laut Microsoft haben die Forscher zahlreiche F\u00e4lle entdeckt, bei denen Unternehmen versteckte Anweisungen in Schaltfl\u00e4chen oder Links integriert hatten. Technisch ist das vergleichsweise einfach, da URLs, die auf KI-Chatbots verweisen, manipulierte Eingabetexte als Abfrageparameter enthalten k\u00f6nnen. The Register demonstrierte die Methode mit einem Link, der Perplexity AI anwies, einen Nachrichtenartikel im Stil eines Piraten zusammenzufassen. Der Dienst lieferte tats\u00e4chlich eine entsprechende Zusammenfassung und zitierte dabei den Originalartikel sowie weitere Quellen.<\/p>\n

Nutzer sollten Link-Quellen kritisch hinterfragen<\/p>\n

\u201eWir haben \u00fcber 50 einzigartige Eingabeaufforderungen von 31 Unternehmen aus 14 Branchen identifiziert, wobei frei verf\u00fcgbare Tools die Anwendung dieser Technik kinderleicht machen\u201d, erkl\u00e4rte das Microsoft Defender Security Team in einem Blogbeitrag<\/a>. \u201eDas ist von Bedeutung, da kompromittierte KI-Assistenten subtil voreingenommene Empfehlungen zu kritischen Themen wie Gesundheit, Finanzen und Sicherheit geben k\u00f6nnen, ohne dass die Benutzer wissen, dass ihre KI manipuliert wurde.\u201c<\/p>\n

Besonders kritisch ist, dass sich die Manipulation auch auf das \u201eGed\u00e4chtnis\u201c eines KI-Systems auswirken kann. \u201eEinmal vergiftet, behandelt die KI diese eingespeisten Anweisungen als legitime Nutzungspr\u00e4ferenzen und beeinflusst damit zuk\u00fcnftige Antworten\u201c, so das Sicherheitsteam. \u201eDie Manipulation ist unsichtbar und dauerhaft.\u201c Die Microsoft-Forscher sehen darin ein gro\u00dfes Risiko. Viele Nutzer w\u00fcrden KI-Empfehlungen nicht ausreichend hinterfragen. Microsoft r\u00e4t daher, KI-bezogene Links sorgf\u00e4ltig zu pr\u00fcfen. Zudem sollten Nutzer die gespeicherten Erinnerungen ihrer KI-Assistenten regelm\u00e4\u00dfig kontrollieren, unbekannte Eintr\u00e4ge l\u00f6schen und zweifelhafte Empfehlungen bewusst \u00fcberpr\u00fcfen.<\/p>\n

Weiterlesen nach der Anzeige<\/p>\n

Dieser Beitrag ist zuerst auf t3n.de<\/a> erschienen.<\/p>\n

(jle<\/a>)<\/p>\n

\n Dieser Link ist leider nicht mehr g\u00fcltig.\n <\/p>\n

Links zu verschenkten Artikeln werden ung\u00fcltig,
\n wenn diese \u00e4lter als 7\u00a0Tage sind oder zu oft aufgerufen wurden.\n <\/p>\n

Sie ben\u00f6tigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen \u2013 ohne Verpflichtung!<\/p>\n","protected":false},"excerpt":{"rendered":"Auch KI-Tools sind vor Cyberangriffen und Manipulationen nicht gesch\u00fctzt. Wie The Register berichtet, warnt Microsoft aktuell vor einer…\n","protected":false},"author":2,"featured_media":3983,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[57,46,52,51,2063,1377,2064,622,623,53,56,45,44,55,54],"class_list":{"0":"post-3982","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-unternehmen-maerkte","8":"tag-business","9":"tag-ch","10":"tag-companies","11":"tag-companies-markets","12":"tag-cybercrime","13":"tag-cybersecurity","14":"tag-hacking","15":"tag-it","16":"tag-kuenstliche-intelligenz","17":"tag-markets","18":"tag-maerkte","19":"tag-schweiz","20":"tag-switzerland","21":"tag-unternehmen","22":"tag-unternehmen-maerkte"},"share_on_mastodon":{"url":"","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/posts\/3982","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/comments?post=3982"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/posts\/3982\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/media\/3983"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/media?parent=3982"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/categories?post=3982"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/tags?post=3982"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}