Fable 5 blockiert auch sicheren Code<\/p>\n
close notice<\/p>\n
\n This article is also available in It was translated with technical assistance and editorially reviewed before publication.\n <\/p>\n \n Don\u2019t show this again.\n<\/p>\n Mehrere bekannte Sicherheitsforscher halten die Cybersecurity-Schranken von Anthropics neuem KI-Modell Fable 5 f\u00fcr zu scharf eingestellt. Sie berichten, dass die Schutzmechanismen nicht nur bei brisanten Anfragen anschlagen, sondern auch bei allt\u00e4glicher Arbeit aus Softwareentwicklung und IT-Sicherheit. Die Beispiele reichen vom Code Review \u00fcber das Schreiben sicheren Codes bis hin zum Lesen eines Blogbeitrags zu einem Sicherheitsthema.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Fable 5<\/a> ist die \u00f6ffentlich verf\u00fcgbare Variante von Anthropics neuem Spitzenmodell Mythos 5. Anders als Mythos bringt Fable vorgeschaltete Schutzmechanismen f\u00fcr Themen aus Cybersecurity, Biologie, Chemie sowie Distillation mit \u2013 Letzteres soll verhindern, dass das Modell zum Training konkurrierender KI-Systeme missbraucht wird. Stuft ein sogenannter Classifier eine Anfrage als heikel ein, beantwortet nicht Fable die Frage, sondern das \u00e4ltere Modell Claude Opus 4.8. Damit will Anthropic verhindern, dass Angreifer die F\u00e4higkeiten des Modells f\u00fcr Cyberattacken oder andere sch\u00e4dliche Zwecke ausnutzen. Laut Anthropics offizieller Ank\u00fcndigung<\/a> sind die Safeguards bewusst konservativ kalibriert und treffen manchmal auch harmlose Anfragen.<\/p>\n Schon ein Blogbeitrag gen\u00fcgt<\/p>\n Zu den Kritikern z\u00e4hlt Valentina \u201eChompie\u201c Palmiotti, Leiterin des Offensive-Research-Teams (XOR) bei IBM X-Force. Auf X schrieb sie<\/a>, Fable lehne jede Anfrage ab, die auch nur am Rande mit Cybersecurity zu tun habe. Selbst harmlose Aufgaben wie das Lesen eines Blogbeitrags treffe es.<\/p>\n Damit beschreibt Palmiotti ein Problem, das die IT-Sicherheit als False Positive kennt: Ein Schutzmechanismus schl\u00e4gt bei einer harmlosen Aktivit\u00e4t f\u00e4lschlich Alarm. Genau diese Fehlklassifikationen werfen die Forscher den Schranken von Fable nun in gro\u00dfer Zahl vor.<\/p>\n Sicherer Code, Code Review, Schwachstellenanalyse<\/p>\n \u00c4hnlich \u00e4u\u00dferte sich der Cybersecurity-Experte Matt Suiche gegen\u00fcber TechCrunch<\/a>. Wer Fable um sicheren Code bitte, den behandle das Modell so, als gehe es um Cybersecurity statt um normale Softwareentwicklung. Suiche vermutet, dass die Filter vor allem auf Schl\u00fcsselbegriffe reagieren. Seine Kritik trifft einen Bereich, der f\u00fcr viele Entwickler zum Alltag geh\u00f6rt: sichere Authentifizierung, Schutz vor SQL-Injection oder das sichere Speichern von Zugangsdaten.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Auch der italienische Sicherheitsforscher Simone Margaritelli, in der Szene besser als \u201eevilsocket\u201c bekannt, berichtet von Problemen. Auf X schrieb er<\/a>, schon die Bitte um ein Code Review l\u00f6se eine R\u00fcckstufung von Fable aus. Code Reviews geh\u00f6ren zu den Standardaufgaben professioneller Softwareentwicklung und helfen unter anderem dabei, Fehler und Sicherheitsl\u00fccken fr\u00fch zu erkennen.<\/p>\n Auch Verteidiger sind betroffen<\/p>\n Die Kritik beschr\u00e4nkt sich nicht auf einzelne Forscher. Der Entwickler Mehul Mohan schrieb auf X<\/a>, Fable sei praktisch unbrauchbar, sobald Begriffe wie \u201ecybersecurity\u201c, \u201esecurity audit\u201c, \u201evulnerability\u201c oder die Bitte \u201ehelp me make my app secure\u201c fielen. Diese Beispiele betreffen vor allem defensive Sicherheitsarbeit, also das Absichern eigener Systeme und Anwendungen.<\/p>\n Wie empfindlich die Filter reagieren, zeigen auch dokumentierte Fehlermeldungen. Der X-Nutzer @zeroxjf ver\u00f6ffentlichte einen Screenshot<\/a>, in dem Fable einr\u00e4umt: \u201eFable 5’s safety measures flagged this message for cybersecurity or biology topics. They may flag safe, normal content as well. Switched to Opus 4.8.\u201c Anschlie\u00dfend verweigerte auch Opus 4.8 die Antwort und verwies auf ausgel\u00f6ste Cybersecurity-Schutzmechanismen. Bemerkenswert ist vor allem der Hinweis, dass die Filter auch sichere, normale Inhalte erfassen k\u00f6nnen.<\/p>\n Probleme auch bei professionellen Tests<\/p>\n \u00c4hnliche Beobachtungen kommen aus professionellen Sicherheitstests. Rob T. Lee, Chief AI Officer und Forschungsleiter des SANS Institute<\/a>, berichtet, dass Fable bei seinen ersten Tests auch Aufgaben aus Incident Response, Detection Engineering und digitaler Forensik automatisch zur\u00fcckgestuft hat. Beim SANS Institute handelt es sich um eine der bekanntesten Ausbildungs- und Forschungsorganisationen f\u00fcr IT-Sicherheit.<\/p>\n Explizit stellen die Forscher die Schutzmechanismen gegen Missbrauch nicht grunds\u00e4tzlich infrage. Sie kritisieren aber, dass die Schranken so breit greifen, dass sie auch legitime Arbeit erfassen: Sicherheitsanalysen, Code Reviews, sicheren Code, Incident Response oder das Auswerten sicherheitsrelevanter Informationen. Ob es sich um Kinderkrankheiten einer neuen Schutzarchitektur handelt oder um ein grunds\u00e4tzliches Problem bei der Abgrenzung von legitimer und sch\u00e4dlicher Sicherheitsarbeit, ist offen. Anthropic hat sich zu den Vorw\u00fcrfen bislang nicht ge\u00e4u\u00dfert.<\/p>\n
\n English<\/a>.<\/p>\n