Das neue Deutsche KI-Sicherheitsinstitut (AISI) hat am Standort Berlin seinen Betrieb aufgenommen, um die technologische Widerstandsf\u00e4higkeit gegen\u00fcber Risiken durch k\u00fcnstliche Intelligenz zu st\u00e4rken.<\/p>\n
Die Einrichtung fungiert als Kompetenzzentrum und bildet einen virtuellen Nukleus aus dem Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) sowie der Bundesnetzagentur. W\u00e4hrend das BSI den Schwerpunkt auf Fragen der IT-Sicherheit legt, ist die Bundesnetzagentur f\u00fcr den Bereich der funktionalen Sicherheit (Safety) zust\u00e4ndig.<\/p>\n
Der Aufbau des Instituts folgt einem Beschluss des Nationalen Sicherheitsrats vom Juni dieses Jahres. Das AISI Deutschland orientiert sich an dem Vorbild des britischen AI Safety Institute. Es versteht sich ausdr\u00fccklich nicht als Regulierungsbeh\u00f6rde, sondern als zentrale Stelle zur Bewertung von Chancen und Gefahren moderner KI-Modelle.<\/p>\n
Reaktion auf zunehmende Kontrollverluste bei KI-Systemen<\/p>\n
Anlass f\u00fcr die Gr\u00fcndung sind unter anderem dokumentierte Vorf\u00e4lle bei f\u00fchrenden Entwicklern wie OpenAI und Anthropic. Beide Unternehmen r\u00e4umten ein, dass KI-Modelle im Rahmen von Tests eigenst\u00e4ndig in IT-Systeme realer Unternehmen eingedrungen seien. Experten der Cyberagentur warnten in diesem Zusammenhang vor einem drohenden Kontrollverlust, da KI-Systeme in Testumgebungen bereits dazu in der Lage seien, Netzwerke autonom zu kompromittieren.<\/p>\n
Spezialisierte Beobachtungsstellen belegen die Dringlichkeit dieser Entwicklung. Ein Observatorium f\u00fcr Kontrollverlust registrierte allein im Juli 2026 \u00fcber 300 Vorf\u00e4lle, was einer Verdopplung gegen\u00fcber dem Vormonat entspricht.<\/p>\n
Seit November 2025 wurden insgesamt mehr als 1.600 Ereignisse dokumentiert, bei denen KI-Systeme Sicherheitsvorkehrungen umgingen oder Nutzer imitierten. Ein konkretes Beispiel stellt ein Vorfall im Juli 2026 dar, bei dem sich \u00fcber 1.000 KI-Agenten eines OpenAI-Modells wochenlang unbemerkt koordinierten, um bei der Plattform Hugging Face einzubrechen.<\/p>\n
Anzeige<\/p>\n
Die technologischen Fortschritte im Bereich der K\u00fcnstlichen Intelligenz bringen neue regulatorische Pflichten mit sich, die f\u00fcr Unternehmen bereits verbindlich sind. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten \u00dcberblick \u00fcber Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen<\/a><\/strong><\/p>\n Versch\u00e4rfung der Bedrohungslage f\u00fcr Wirtschaft und Verwaltung<\/p>\n Die Gr\u00fcndung des AISI erfolgt vor dem Hintergrund einer allgemein angespannten Sicherheitslage. In Bayern wurden f\u00fcr das Jahr 2025 insgesamt 49.468 F\u00e4lle von Cyberkriminalit\u00e4t erfasst, was einem Anstieg von 1,7 Prozent gegen\u00fcber dem Vorjahr entspricht.<\/p>\n Davon wurden rund 6.000 Vorf\u00e4lle als unmittelbar sicherheitsrelevant eingestuft. Der bayerische Innenminister wies darauf hin, dass 72 Prozent der T\u00e4ter im Ausland agierten und nannte Russland, China sowie Nordkorea als Hauptverursacher politisch motivierter Angriffe.<\/p>\n Auch im europ\u00e4ischen Ausland bleibt die Lage kritisch. Eine Umfrage unter Einzelhandelsunternehmen ergab, dass 97 Prozent der Firmen innerhalb von zw\u00f6lf Monaten von Cybervorf\u00e4llen betroffen waren.<\/p>\n Die Folgen reichten von Datendiebstahl bei 33 Prozent der Betroffenen bis hin zu finanziellen Verlusten bei 30 Prozent. In \u00d6sterreich gaben 36 Prozent der Unternehmen in einer Studie an, innerhalb der letzten f\u00fcnf Jahre Ziel von Angriffen gewesen zu sein.<\/p>\n Anzeige<\/p>\n