Deutschland reagiert auf die rasche Entwicklung Künstlicher Intelligenz sowie Ausbrüche von KI-Agenten aus Testumgebungen mit der Gründung des deutschen KI-Sicherheitsinstituts (AISI Deutschland). Es soll risikobehaftete Systeme evaluieren. AISI steht wohl für Artificial Intelligence Safety Institute oder SicherheitsInstitut.
Weiterlesen nach der Anzeige
Die in Berlin angesiedelte Einrichtung soll dafür sorgen, die Chancen und Gefahren fortschrittlicher KI-Modelle systematisch zu bewerten und die digitale Resilienz des Landes nachhaltig zu stärken. In der ersten Phase startet das deutsche AISI als sogenannter virtueller Nukleus. Zwei etablierte Bundesbehörden teilen sich die Kernaufgaben: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) übernimmt den Bereich IT-Sicherheit. Die Bundesnetzagentur ist für klassische Sicherheitsfragen zuständig, also vor allem physische Sicherheit und Produkttauglichkeit.
Bundesdigitalminister Karsten Wildberger (CDU) unterstreicht, wie entscheidend technisch fundierte und rasche Bewertung modernster KI-Systeme für den Standort Deutschland sei. Bundesinnenminister Alexander Dobrindt (CSU) betont, dass die Technik zwar Chancen für Gesellschaft und Wirtschaft biete, aber: „KI muss kontrollierbar bleiben.“
Inhaltlich liegt der Fokus zunächst auf gründlicher Analyse führender Modelle, insbesondere mit Blick auf IT-Risiken und potenzielle Kontrollverluste. Jüngste Vorfälle haben gezeigt, wie gefährlich leistungsfähige KI-Modelle für Demokratie, Wirtschaft und Zivilgesellschaft sein können. In einem zweiten Schritt soll das Institut personell und thematisch ausgebaut werden, um als zentraler Wissensträger und Berater für Politik, Verwaltung und Wirtschaft zu fungieren.
Standortdebatte und internationales Vorbild
Der Hauptsitz Berlin stößt in der Fachwelt nicht nur auf Gegenliebe. In der IT- und Wissenschaftsszene wird seit Langem intensiv darüber debattiert, ob reine Konzentration auf die Hauptstadt der Vielschichtigkeit der deutschen Forschungslandschaft gerecht wird. Kritiker geben zu bedenken, dass KI-Zentren und Informatik-Fakultäten in Süddeutschland oder Nordrhein-Westfalen ebenso ein gutes Zuhause für ein solches Institut wären. Stärkere Dezentralisierung hätte aus dieser Sicht tiefere Anbindung an etablierte Spitzenforschungseinrichtungen ermöglicht.
Das deutsche AISI geht auf einen Beschluss des nationalen Sicherheitsrates vom Juni zurück und orientiert sich am britischen AI Safety Institute. Letzteres hat Pionierarbeit bei staatlicher Überprüfung sogenannter Frontier-Modelle geleistet. Ähnlich wie das britische Pendant setzt auch die deutsche Stelle von Beginn an auf globale Vernetzung, enge Kooperationen mit europäischen Partnern sowie Austausch mit dem EU AI Office und Stellen in den USA oder Frankreich.
Aus der Wissenschaft kommen weitergehende Forderungen. KI-Experten wie Kristian Kersting, Professor an der TU Darmstadt, mahnen, dass staatliche Sicherheitsinstitute nur ein Baustein sein können. Um technische Souveränität zu erreichen, brauche Deutschland mehr Investitionen in eigene Infrastruktur und Entwicklungen, offene Modelle wie Open LLMs oder spezialisierte Initiativen wie das Projekt Soofi.
Weiterlesen nach der Anzeige
(ds)
Dieser Link ist leider nicht mehr gültig.
Links zu verschenkten Artikeln werden ungültig,
wenn diese älter als 7 Tage sind oder zu oft aufgerufen wurden.
Sie benötigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen – ohne Verpflichtung!