close notice<\/p>\n
\n This article is also available in It was translated with technical assistance and editorially reviewed before publication.\n <\/p>\n \n Don\u2019t show this again.\n<\/p>\n Schreiben ohne Punkt und Komma kann helfen \u2013 zumindest, wenn man ein Large Language Model (LLM) \u00fcberlisten m\u00f6chte. Sehr lange S\u00e4tze mit m\u00f6glichst mieser Grammatik und Fehlern sorgen daf\u00fcr, dass die KI-Modelle ihre Leitplanken \u00fcber Bord werfen und das machen, was in der sehr langen Aufforderung steht. Das fanden Sicherheitsforscher des Palo Alto Networks Unit 42 heraus.<\/p>\n Dabei scheint es, als w\u00fcrden LLMs wegen der fehlenden Satzzeichen nicht rechtzeitig ihre Sicherheitsvorkehrungen aktivieren, sondern stattdessen zun\u00e4chst den gesamten Prompt lesen und auch als Gesamtes bearbeiten.<\/p>\n Die Sicherheitsforscher haben einen L\u00f6sungsweg erarbeitet. Daf\u00fcr nutzen sie sogenannte Logits, also Rohwerte, die ein LLM einem potenziell kommenden Wort zuordnet. Mittels Alignment-Training sollen die Logits lernen, Ablehnungstoken zu bevorzugen. Das hei\u00dft, wenn einem LLM etwas unterkommt, das Leitplanken aktivieren m\u00fcsste, wird darauf vorrangig reagiert. Unit 42 hat daf\u00fcr das Framework Logit-Gap-Steering entwickelt.<\/p>\n KI-Browser anf\u00e4llig f\u00fcr Prompt Injections<\/p>\n KI-Modelle sind anf\u00e4llig f\u00fcr sogenannte Prompt Injections. Gemeint ist, dass ein Prompt die eigentlich eingebauten Leitplanken aushebelt. Einem LLM kann beispielsweise gesagt werden, dass es sich ab sofort verhalten soll wie ein Pirat. So weit, so harmlos. Freilich geht es im Zweifel auch darum, Daten auf diesem Weg zu erbeuten.<\/p>\n Erst k\u00fcrzlich hat der Browserhersteller Brave etwa eine Sicherheitsl\u00fccke in Perplexitys KI-Browser Comet<\/a> entdeckt, die sich mittels Prompt Injections ausnutzen l\u00e4sst. Angreifer verstecken daf\u00fcr Befehle auf einer Webseite oder in Kommentaren, die ein KI-Agent bei der Zusammenfassung einer Seite als Nutzeranweisung interpretiert. Laut Brave konnten so via Comet E-Mail-Adressen und Einmalpassw\u00f6rter abgegriffen werden. Perplexity soll ein Update f\u00fcr Comet bereitgestellt haben, das die Zugriffe erschwert. Potenziell sind aber alle KI-Browser und KI-Modelle betroffen.<\/p>\n
\n English<\/a>.<\/p>\n