Mythos-KI von Anthropic: Anthropic veröffentlicht Variante von KI-Modell Mythos

Das US-amerikanische Unternehmen Anthropic hat eine eingeschränkte Version seines KI-Modells Mythos veröffentlicht. Bei der unter dem Namen Claude Fable 5 veröffentlichten Software seien im Vergleich zu Mythos einige Sicherheitsmechanismen eingebaut worden, teilte Anthropic mit. Unter anderem werde verhindert, dass die KI sich mit Cybersicherheit und Biotechnologie beschäftigt.

Das KI-Modell Mythos hatte zum Teil über Jahrzehnte unentdeckt gebliebene Schwachstellen in viel genutzter Software aufgespürt. Das löste die Sorge aus, dass künstliche Intelligenz für verheerende Cyberangriffe verwendet werden könnte. Unter anderem hatten deutsche Verfassungsschützerinnen und
Sicherheitspolitiker davor gewarnt, dass Kriminelle oder staatliche Akteure
könnten Mythos für Cyberangriffe nutzen könnten, etwa auf Banken oder Energieanlagen.

Die abgesicherte Version Fable 5 ist laut Anthropic unter anderem besser als vorherige Modelle im Programmieren von Software. Die Leitplanken gegen potenziell gefährliche Nutzung seien ausgiebig getestet worden, hieß es.

Testweise Nutzung mit wenigen Partnern

Anthropic
hatte die neue KI-Version von Mythos erstmals im April vorgestellt, die testweise Nutzung aber
auf wenige Partner beschränkt. Dazu gehörten die US-Regierung und
ausgewählte Unternehmen, die das System nutzen wollen, um ihre eigene Software gegen potenzielle Angriffe zu sichern.

Während sich einige der Projektpartner euphorisch über die Leistungsfähigkeit von Mythos äußerten, wurden zuletzt Stimmen von Fachleuten laut, die darauf hinwiesen, dass auch vorherige KI-Versionen bereits in der Lage waren, Lücken in Software zu finden und Cyberangriffe zu starten. Mythos sei in dieser Hinsicht zwar eine Verbesserung darstellt, aber keine Revolution. 

Zuvor Pause bei KI-Entwicklung gefordert

Vor wenigen Tagen hatte die Firma Anthropic sich für eine weltweite
Pause bei der Entwicklung leistungsstärkerer künstlicher Intelligenz
ausgesprochen. Eine Verlangsamung der KI-Spitzenforschung wäre
»wünschenswert«, damit »gesellschaftliche Strukturen und die Forschung
zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt
halten können«, hieß es.

© ZEIT ONLINE

Newsletter
ZEIT Geldkurs

Tschüss, Finanzchaos: In acht Wochen erklären wir Schritt für Schritt, wie Sie bessere Geldroutinen aufbauen und das mit den ETFs endlich angehen. Anschließend erhalten Sie unseren Geld-Newsletter mit den besten Artikeln rund um Finanzen.

Mit Ihrer Registrierung nehmen Sie die Datenschutzerklärung zur Kenntnis.

Vielen Dank! Wir haben Ihnen eine E-Mail geschickt.

Prüfen Sie Ihr Postfach und bestätigen Sie das Newsletter-Abonnement.

Um eine tatsächliche Pause einzuführen, müssten sich nach Ansicht von Anthropic führende KI-Konzerne
in verschiedenen Ländern darauf einigen, ihre Arbeit gleichzeitig zu
verlangsamen oder zu pausieren. Dafür brauche es überprüfbare Regeln.

Anthropic ist das derzeit wertvollste Start-up im Bereich der künstlichen Intelligenz. Bekannt ist die Firma vor allem für den Chatbot Claude, der von Unternehmen genutzt wird.

Mehr zum Thema

Künstliche Intelligenz