\n English<\/a>.<\/p>\n
It was translated with technical assistance and editorially reviewed before publication.\n <\/p>\n
Es ist eine L\u00f6sung nach bester B\u00fcrokraten-Manier: Ein Stempel soll es richten. Die Europ\u00e4ische Union verlangt eine Kennzeichnung f\u00fcr KI-Generiertes. Anthropic setzt dies in seiner K\u00fcnstlichen Intelligenz<\/a> Claude um. Das sorgt vor allem bei Texten f\u00fcr Diskussionen: Wie l\u00e4sst sich ein solches Wasserzeichen \u00fcberhaupt umsetzen? Wie robust ist es? Und was sagt es am Ende tats\u00e4chlich aus? Die gr\u00f6\u00dfte Gefahr ist freilich, dass das technische Signal \u00fcberbewertet wird. Dass es n\u00e4mlich als Echtheitssiegel gilt, wenn ein Text kein Wasserzeichen enth\u00e4lt. Und genau dies kann das Wasserzeichen in Claude nicht gew\u00e4hrleisten.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n \n Malte Kirchner ist seit 2022 Redakteur bei heise online. Neben der Technik selbst besch\u00e4ftigt ihn die Frage, wie diese die Gesellschaft ver\u00e4ndert. Sein besonderes Augenmerk gilt Neuigkeiten aus dem Hause Apple. Daneben befasst er sich mit Entwicklung und Podcasten.\n <\/p>\n Auf den ersten Blick klingt das Wasserzeichen <\/a>verlockend. Gef\u00e4lschte Bewertungen, Social-Media-Bots und Desinformationskampagnen k\u00f6nnten k\u00fcnftig leichter als solche entlarvt werden. Bei Bildern und Videos gibt es unsichtbare Wasserzeichen schon lange. Beim Text mussten sich die Menschen bislang auf ihr Bauchgef\u00fchl und Tools verlassen, die nach statistischen Merkmalen suchen. Und mit zunehmend besser werdenden Large Language Models wird das Erkennen von bestimmten KI-typischen Merkmalen immer schwieriger.<\/p>\n Aber diese Probleme mit einem Wasserzeichen erschlagen zu wollen, k\u00f6nnte sich als naive Fehleinsch\u00e4tzung erweisen. Eher d\u00fcrfte das Wasserzeichen dazu beitragen, dass die Verwirrung noch gr\u00f6\u00dfer wird.<\/p>\n R\u00e4tselraten \u00fcber die Funktionsweise<\/p>\n Viel h\u00e4ngt davon ab, wie genau der Mechanismus hinter dem Wasserzeichen aussehen wird. Anthropic behauptet, dass der Text in einer Art und Weise gekennzeichnet wird, dass es f\u00fcr den Menschen nicht sichtbar ist und auch nicht zu gro\u00dfen Ver\u00e4nderungen f\u00fchrt. Wie so etwas aussehen kann, haben Forscher in einem Papier dargelegt<\/a>. Vereinfacht gesagt teilt das Verfahren die m\u00f6glichen n\u00e4chsten Textbausteine \u2013 sogenannte Tokens \u2013 immer wieder in zwei Gruppen ein. Tokens aus einer der Gruppen werden bei der Erzeugung leicht bevorzugt. Ein Detektor kann sp\u00e4ter diese Aufteilung nachrechnen und ermitteln, ob bestimmte W\u00f6rter statistisch besonders h\u00e4ufig auftauchen.<\/p>\n Sollte Anthropic auf ein vergleichbares statistisches Verfahren setzen, d\u00fcrfte der Schutz tats\u00e4chlich so unauff\u00e4llig sein, dass er die Qualit\u00e4t normaler Texte kaum mindert \u2013 zumindest, wenn es sich nicht um Programmcode handelt. Aber er ist so pauschal angelegt, dass er auch Texte als KI-Erzeugnisse vereinnahmen k\u00f6nnte, die gar keine sind. Und je robuster das Wasserzeichen gegen Bearbeitung sein soll, desto st\u00e4rker muss der Mechanismus am Ende doch in den Text eingreifen.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Risiko der falschen Brandmarkung<\/p>\n Benutzer, die zum Beispiel ihren selbstgeschriebenen Text zur \u00dcberarbeitung an die KI geben, werden k\u00fcnftig mit dem Risiko leben m\u00fcssen, dass ihre Texte komplett als KI-Erzeugnis gebrandmarkt werden \u2013 auch wenn \u00fcber den ganzen Text hinweg nur an einzelnen Formulierungen und W\u00f6rtern gefeilt wurde. Auch \u00dcbersetzungen sind ein solches Minenfeld. Die EU sieht zwar im AI Act hierf\u00fcr eine Ausnahme vor: Standardbearbeitungen und nicht wesentliche Ver\u00e4nderungen m\u00fcssen nicht als k\u00fcnstlich erzeugt gekennzeichnet werden (AI Act, Art. 50). Einen detaillierten \u00dcberblick \u00fcber alle Kennzeichnungspflichten ab August 2026<\/a> liefert unser Ratgeber. Aber wo fangen wesentliche Ver\u00e4nderungen an? Und ber\u00fccksichtigen das die KI-Modelle wie Claude?<\/p>\n Der unsichtbare Stempel wird zweifellos ein Hemmnis sein \u2013 bei denjenigen, die nicht dran denken, die Deepfakes auf billige Weise realisieren oder es schlichtweg nicht mitbekommen haben. Aber das bisschen mehr Schutz kommt zu dem Preis vermeintlicher Sicherheit und dem Risiko von Falschverd\u00e4chtigungen. Das technische Merkmal l\u00e4dt zur \u00dcberinterpretation ein, denn die Trennlinie zwischen KI und menschlichem Tun ist l\u00e4ngst verw\u00e4ssert. Am Ende also kein B\u00e4rchen-Stempel f\u00fcr die EU. Eher droht die Gefahr, dass wir uns als Gesellschaft selbst einen B\u00e4ren aufbinden, wenn wir meinen, dass menschliche und k\u00fcnstliche Inhalte anhand eines Wasserzeichens zuverl\u00e4ssig auseinanderzuhalten sind.<\/p>\n Lesen Sie auchMehr anzeigenWeniger anzeigen<\/p>\n<\/p>\n