![\"Roboterhand](\"https:\/\/www.europesays.com\/de\/wp-content\/uploads\/2026\/06\/atom-1F-1-80668a692eab639b.jpeg\")
<\/p>\n <\/p>\n
Wenn Drohnen die Funkverbindung kappen und selbstst\u00e4ndig t\u00f6ten: Stehen wir vor einem „Flash War“? Interview Karl Hans Bl\u00e4sius. (Teil 1)<\/p>\n
Prof. Karl Hans Bl\u00e4sius, Professor f\u00fcr K\u00fcnstliche Intelligenz an der Hochschule Trier und Betreiber der Webseiten atomkrieg-aus-versehen.de<\/a> und ki-folgen.de<\/a> \u00fcber die KI in der modernen Kriegsf\u00fchrung und die Gefahren f\u00fcr die Menschheit<\/p>\n Weiterlesen nach der Anzeige<\/p>\n \u25b6 Prof. Karl Hans Bl\u00e4sius, meine Fragen zu Ihrem aktuellen Buch „K\u00fcnstliche Intelligenz und Krieg“ m\u00f6chte ich gerne mit einem kleinen R\u00fcckblick beginnen: Sie haben Ihren Wehrdienst Anfang der 1970er bei einer Radarstation f\u00fcr Luftraum\u00fcberwachung geleistet und 1986 bei Prof. J\u00f6rg Siekmann promoviert.<\/p>\n 1983 hat dessen Forschungsgruppe, der Sie auch angeh\u00f6rt haben, jedem Mitglied des Bundestages einen Brief geschrieben<\/a>, der vor einem Atomkrieg aufgrund von Computerfehlern warnt. Ausgerechnet in diesem Jahr, so wissen wir heute, kam es am 26. September durch einen Fehlalarm fast zu einem Atomkrieg<\/a>.<\/p>\n Beinahe-Atomkrieg 1983: Wie f\u00fcnf Sonnenreflexionen die Welt bedrohten<\/strong><\/p>\n Das ist zwar der extremste Fall, aber keinesfalls der einzige, denn in einem Kapitel Ihres Buches listen Sie eine geradezu besorgniserregende Anzahl von Fehlalarmen auf. Ist KI da nicht eine dankbare Erg\u00e4nzung f\u00fcr die menschliche Kontrolle, gerade um die H\u00e4ufigkeit und Gefahr von Fehlalarmen zu reduzieren?<\/p>\n Karl Hans Bl\u00e4sius<\/p>\n Karl Hans Bl\u00e4sius: <\/strong>Als Erg\u00e4nzung kann auch in solchen Situationen die KI hilfreich sein, aber die erforderliche Sicherheit wird hierbei trotzdem nicht erreicht.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Die Komplexit\u00e4t von m\u00f6glichen Bedrohungssituationen ist in den letzten Jahren deutlich gestiegen und diese Komplexit\u00e4t wird weiter steigen.<\/p>\n Das liegt u.a. an einer zunehmenden Anzahl und Vielfalt an Objekten im Luftraum, wie z.B. Drohnen sowie an Verbesserungen in der Sensortechnik, sodass eine gro\u00dfe Menge an Daten in kurzer Zeit zu verarbeiten ist.<\/p>\n Durch moderne Hyperschallraketen wird die verf\u00fcgbare Zeit weiter sinken. Zudem wird auch die Weltraumbewaffnung in Fr\u00fchwarnsysteme zur Erkennung nuklearer Angriffe reinspielen.<\/p>\n Aufgrund dieser Komplexit\u00e4t werden immer mehr Techniken der KI erforderlich sein, um gewisse Teilaufgaben automatisch zu l\u00f6sen und Entscheidungsvorschl\u00e4ge zu liefern. Allerdings ist die Datengrundlage f\u00fcr solche Entscheidungen vage, unsicher und unvollst\u00e4ndig, und deshalb k\u00f6nnen auch KI-Systeme nicht sicher entscheiden.<\/p>\n Bei dem Fehlalarm am 26. September 1983 wurden bestimmte Lichtsignale, die durch Wolkenspiegelungen der aufgehenden Sonne entstanden, als Raketenstart erkannt. Bei einer solchen Erkennung k\u00f6nnen Helligkeit, Ausdehnung, Farbspektrum und vieles mehr eine Rolle spielen. Dies sind vage Aspekte, die mal mehr, mal weniger stark zutreffen.<\/p>\n Zu einer solchen Erkennung k\u00f6nnen viele Kriterien beitragen, die jeweils mit einer gewissen Wahrscheinlichkeit zu einem gewissen Grad g\u00fcltig sind. Daraus kann dann mit bestimmten Formeln ein Gesamtwert berechnet werden, und wenn dieser eine gewisse Schwelle \u00fcberschreitet, wird eine entsprechende Erkennung auf g\u00fcltig gesetzt. Auf der Basis von solchen unsicheren Daten ist aber prinzipiell keine sichere Erkennung m\u00f6glich.<\/p>\n Dieses Beispiel aus 1983 zeigt auch, dass das Risiko eines Atomkriegs auch von Zuf\u00e4llen abh\u00e4ngen kann. Bei diesem Vorfall wurden f\u00fcnf angreifende Atomraketen gemeldet und der diensthabende Offizier Petrow hielt einen Angriff der USA mit nur f\u00fcnf Raketen f\u00fcr unwahrscheinlich und entschied daher, dass es ein Fehlalarm sei.<\/p>\n Die Anzahl „f\u00fcnf Raketen“ ist aber rein zuf\u00e4llig entstanden, weil die Lichteffekte genau f\u00fcnf mal eine gewisse Schwelle \u00fcberschritten, was jeweils zu der Erkennung eines Raketenstarts f\u00fchrte.<\/p>\n Im gleichen Zeitraum h\u00e4tte diese Schwelle aber auch gar nicht oder sogar hundertmal \u00fcberschritten werden k\u00f6nnen. Wenn hundert angreifende Raketen gemeldet worden w\u00e4ren, h\u00e4tte Petrow vermutlich anders handeln m\u00fcssen.<\/p>\n Selbst wenn es gelingen sollte mit Hilfe von KI die Anzahl von Fehlalarmen zu reduzieren, wird damit die Sicherheit nicht zwangsl\u00e4ufig erh\u00f6ht. Denn wenn solche Alarmmeldungen nur noch sehr selten auftreten, k\u00f6nnen sie nicht so ohne weiteres als Fehlalarm klassifiziert werden. Solche sehr seltenen Alarmmeldungen w\u00fcrden eher als echter Angriff interpretiert, was dann zu einem Atomkrieg aus Versehen f\u00fchren k\u00f6nnte.<\/p>\n Cyberwaffen und Biowaffen: Die unsichtbare R\u00fcstungsspirale im Verborgenen<\/strong><\/p>\n \u25b6 Sie schreiben in der Einleitung „F\u00fcr die KI gibt es ein vielf\u00e4ltiges Anwendungspotenzial, und die meisten Anwendungen sind positiv und f\u00fchren zu einer Verbesserung unserer Lebensqualit\u00e4t.<\/p>\n Es kann aber auch erhebliche Risiken unter anderem bei milit\u00e4rischen Anwendungen geben. Detaillierte Kenntnisse solcher Gefahren k\u00f6nnen eine wichtige Grundlage zur Risikoreduktion sein.“ Welche Gefahren jenseits m\u00f6glicher Fehlalarme sehen Sie noch?<\/p>\n Karl Hans Bl\u00e4sius: <\/strong>Bleiben wir zun\u00e4chst bei milit\u00e4rischen Risiken. Die KI wird in zunehmendem Ma\u00dfe in alle Phasen der Kriegsf\u00fchrung hineinwirken. Entscheidungsprozesse k\u00f6nnen mit Hilfe von KI erheblich beschleunigt werden, und dies wird die Aufkl\u00e4rung, Planung und die Durchf\u00fchrung von Aktionen betreffen. Die Beschleunigung solcher Prozesse kann erhebliche milit\u00e4rische Vorteile bringen.<\/p>\n Allerdings ist mit Nutzung der KI die Erwartung verbunden, dass alles schneller und besser wird. Schneller k\u00f6nnen Entscheidungen getroffen werden, aber diese m\u00fcssen nicht notwendig besser sein. Denn Entscheidungen fallen in unsicherem Kontext. Die zu verarbeitenden Informationen sind vage, unsicher und unvollst\u00e4ndig.<\/p>\n Was oben bereits in Zusammenhang mit der Erkennung nuklearer Angriffe beschrieben ist, gilt analog auch f\u00fcr andere milit\u00e4rische Anwendungen. Dazu kommt auch, dass man es im Krieg mit einem Gegner zu tun hat, der versucht die Erkennung zu erschweren oder zu verhindern.<\/p>\n Tarnen und T\u00e4uschen waren schon immer wichtige Grunds\u00e4tze beim Milit\u00e4r. Deshalb k\u00f6nnen auch KI-Systeme nicht sicher entscheiden, egal wie gut diese mal sein werden.<\/p>\n Gro\u00dfe Unsicherheiten und Risiken k\u00f6nnen auch dadurch entstehen, dass es bei der KI um Software und Daten geht, wobei alles im Verborgenen entwickelt werden kann. \u00c4hnliches gilt f\u00fcr Cyberwaffen. Man wird damit nie wissen, welche F\u00e4higkeiten ein Gegner in den Bereichen KI und Cyberraum haben wird.<\/p>\n Selbst die eigenen F\u00e4higkeiten werden nur teilweise bekannt sein, denn Cyberwaffen k\u00f6nnen nicht in realen Umgebungen getestet werden. Kr\u00e4ftevergleiche sind damit erschwert, und die Folge k\u00f6nnen Fehlkalkulationen und gravierende falsche oder ung\u00fcnstige Handlungen sein.<\/p>\n In Zusammenhang mit KI k\u00f6nnen weitere Gefahren entstehen. So gibt es Hinweise, dass mit Hilfe von KI sehr wirksame Biowaffen hergestellt werden k\u00f6nnten. Au\u00dferdem besteht das Risiko, dass eine Superintelligenz mit unkalkulierbaren Folgen entsteht.<\/p>\n Die Gefahr von \u201eFlash Wars\u201c: Wenn Algorithmen die Eskalation \u00fcbernehmen<\/strong><\/p>\n \u25b6 Sie schreiben: „Die zunehmende Verwendung von Systemen der K\u00fcnstlichen Intelligenz bei milit\u00e4rischen Anwendungen ver\u00e4ndert das Kriegsgeschehen grundlegend Tempo und Flexibilit\u00e4t von Entscheidungen steigen so sehr, dass sich diese zunehmend einer menschlichen Kontrolle entziehen.“<\/p>\n In Anspielung auf die sogenannten flash crashs, also den extrem kurzen, aber massive Kurseinbr\u00fcchen im Hochfrequenzhandel, die oft auch im Nachhinein nicht erkl\u00e4rbar ist, sprechen Sie von der Gefahr des flash war. K\u00f6nnen Sie das bitte n\u00e4her erl\u00e4utern?<\/p>\n Karl Hans Bl\u00e4sius: <\/strong>Schnellere Entscheidungen k\u00f6nnen dazu f\u00fchren, dass Menschen weniger M\u00f6glichkeiten haben, regulierend und m\u00e4\u00dfigend einzugreifen. Hierf\u00fcr k\u00f6nnte schlicht die Zeit fehlen. Es k\u00f6nnten Eskalationsspiralen mit einer schnellen Folge von Angriffen und Gegenangriffen erfolgen, die m\u00f6glicherweise von Menschen nur schwer gestoppt werden k\u00f6nnen.<\/p>\n Solche Risiken werden insbesondere in Zusammenhang mit autonomen Waffensystemen beschrieben, wobei teilweise der Begriff „flash war“ verwendet wird, wie zum Beispiel in einem Bericht von 2020 des B\u00fcros f\u00fcr Technikfolgen-Absch\u00e4tzung beim Deutschen Bundestag mit dem Titel „Autonome Waffensysteme<\/a>„.<\/p>\n Im Internet ist ein solcher flash war vielleicht noch wahrscheinlicher. Systeme der generativen KI k\u00f6nnen nicht nur Text, Bilder und Videos erzeugen, sondern auch programmieren und f\u00fcr Cyberangriffe eingesetzt werden.<\/p>\n Anfragen an solche Systeme m\u00fcssen nicht von Menschen kommen, sondern k\u00f6nnten auch von anderen Programmen, also Bots, initiiert werden. So k\u00f6nnten auch verschiedene Systeme der generativen KI miteinander kommunizieren, und falls diese Cyberangriffsf\u00e4higkeiten haben, auch im Wechsel Cyberangriffe durchf\u00fchren.<\/p>\n F\u00fcr Cyberwaffen gibt es den Aspekt „Pulver verschossen“ nicht, diese k\u00f6nnen in sehr kurzer Zeit sehr oft und an verschiedenen Stellen eingesetzt werden. Wenn solche Aktionen von verschieden Systemen ausgehen und eventuell gegeneinander gerichtet sind, k\u00f6nnte man dies als „flash war im Internet“ bezeichnen.<\/p>\n Einsatz in der Ukraine: Wenn autonome Drohnen ohne Funkkontakt t\u00f6ten<\/strong><\/p>\n \u25b6 Inwiefern kann die grunds\u00e4tzliche Festlegung, dass immer der Mensch die letzte Entscheidung beh\u00e4lt, das Risiko, das durch die KI entstehen kann, deutlich mindern, oder haben Sie die Sorge, dass der massive Einsatz der KI im Milit\u00e4r zu einem Deskilling f\u00fchrt, so dass der Mensch paradoxerweise selber schlechter entscheidet<\/a>, wenn er eine Aussage der KI kontrollieren soll, als wenn er unabh\u00e4ngig von der KI seine Entscheidung treffen kann.<\/p>\n Karl Hans Bl\u00e4sius: <\/strong>Es wird zwar immer dar\u00fcber gesprochen, dass eine T\u00f6tungsentscheidung nicht einer Maschine \u00fcberlassen werden darf, sondern dass die letzte Entscheidung bei einem Menschen liegen muss, der auch daf\u00fcr zur Verantwortung gezogen werden kann. Die Realit\u00e4t sieht leider anders aus.<\/p>\n Wie jetzt bekannt wurde, wurden im Ukraine-Krieg bereits vor zwei Jahren Soldaten durch den Einsatz von autonomen Drohnen get\u00f6tet, wobei in der Endphase des Fluges keine Verbindung zu den Drohnen bestand und diese selbstst\u00e4ndig den Weg zu einem Ziel suchten und dieses angriffen.<\/p>\n Eine grunds\u00e4tzliche weltweit verbindliche Festlegung, dass immer der Mensch die letzte Entscheidung behalten muss, m\u00fcsste verkn\u00fcpft sein mit Vorkehrungen, die gew\u00e4hrleisten, dass dem Menschen auch gen\u00fcgend Zeit zur Entscheidungsfindung, beziehungsweise \u00dcberpr\u00fcfung von KI-Entscheidungen bleibt.<\/p>\n In vielen Situationen mit automatischen Entscheidungen ist es ausreichend das Ergebnis solcher Entscheidungen durch einen Menschen zu bewerten, um festzustellen, ob es plausibel und sinnvoll ist.<\/p>\n In solchen F\u00e4llen k\u00f6nnen Risiken durch menschliche Kontrolle sinken. Falls zur Bewertung einer automatischen Entscheidung auch der L\u00f6sungsweg betrachtet werden m\u00fcsste, w\u00fcrde die Zeit f\u00fcr eine angemessene Pr\u00fcfung in der Regel nicht reichen.<\/p>\n In diesen F\u00e4llen w\u00fcrde auch der Aspekt „Deskilling“ besonders greifen, denn wenn man immer mehr Aufgaben einer Maschine \u00fcberl\u00e4sst, werden die eigenen F\u00e4higkeiten f\u00fcr solche Probleml\u00f6sungen und damit auch f\u00fcr die Bewertung von L\u00f6sungswegen zur\u00fcckgehen.<\/p>\n Morgen erscheint der zweite Teil des Interviews<\/p>\n <\/p>\n
<\/p>\n