Wenn Drohnen die Funkverbindung kappen und selbstständig töten: Stehen wir vor einem „Flash War“? Interview Karl Hans Bläsius. (Teil 1)
Prof. Karl Hans Bläsius, Professor für Künstliche Intelligenz an der Hochschule Trier und Betreiber der Webseiten atomkrieg-aus-versehen.de und ki-folgen.de über die KI in der modernen Kriegsführung und die Gefahren für die Menschheit
Weiterlesen nach der Anzeige
▶ Prof. Karl Hans Bläsius, meine Fragen zu Ihrem aktuellen Buch „Künstliche Intelligenz und Krieg“ möchte ich gerne mit einem kleinen Rückblick beginnen: Sie haben Ihren Wehrdienst Anfang der 1970er bei einer Radarstation für Luftraumüberwachung geleistet und 1986 bei Prof. Jörg Siekmann promoviert.
1983 hat dessen Forschungsgruppe, der Sie auch angehört haben, jedem Mitglied des Bundestages einen Brief geschrieben, der vor einem Atomkrieg aufgrund von Computerfehlern warnt. Ausgerechnet in diesem Jahr, so wissen wir heute, kam es am 26. September durch einen Fehlalarm fast zu einem Atomkrieg.
Beinahe-Atomkrieg 1983: Wie fünf Sonnenreflexionen die Welt bedrohten
Das ist zwar der extremste Fall, aber keinesfalls der einzige, denn in einem Kapitel Ihres Buches listen Sie eine geradezu besorgniserregende Anzahl von Fehlalarmen auf. Ist KI da nicht eine dankbare Ergänzung für die menschliche Kontrolle, gerade um die Häufigkeit und Gefahr von Fehlalarmen zu reduzieren?
Karl Hans Bläsius
Karl Hans Bläsius: Als Ergänzung kann auch in solchen Situationen die KI hilfreich sein, aber die erforderliche Sicherheit wird hierbei trotzdem nicht erreicht.
Weiterlesen nach der Anzeige
Die Komplexität von möglichen Bedrohungssituationen ist in den letzten Jahren deutlich gestiegen und diese Komplexität wird weiter steigen.
Das liegt u.a. an einer zunehmenden Anzahl und Vielfalt an Objekten im Luftraum, wie z.B. Drohnen sowie an Verbesserungen in der Sensortechnik, sodass eine große Menge an Daten in kurzer Zeit zu verarbeiten ist.
Durch moderne Hyperschallraketen wird die verfügbare Zeit weiter sinken. Zudem wird auch die Weltraumbewaffnung in Frühwarnsysteme zur Erkennung nuklearer Angriffe reinspielen.
Aufgrund dieser Komplexität werden immer mehr Techniken der KI erforderlich sein, um gewisse Teilaufgaben automatisch zu lösen und Entscheidungsvorschläge zu liefern. Allerdings ist die Datengrundlage für solche Entscheidungen vage, unsicher und unvollständig, und deshalb können auch KI-Systeme nicht sicher entscheiden.
Bei dem Fehlalarm am 26. September 1983 wurden bestimmte Lichtsignale, die durch Wolkenspiegelungen der aufgehenden Sonne entstanden, als Raketenstart erkannt. Bei einer solchen Erkennung können Helligkeit, Ausdehnung, Farbspektrum und vieles mehr eine Rolle spielen. Dies sind vage Aspekte, die mal mehr, mal weniger stark zutreffen.
Zu einer solchen Erkennung können viele Kriterien beitragen, die jeweils mit einer gewissen Wahrscheinlichkeit zu einem gewissen Grad gültig sind. Daraus kann dann mit bestimmten Formeln ein Gesamtwert berechnet werden, und wenn dieser eine gewisse Schwelle überschreitet, wird eine entsprechende Erkennung auf gültig gesetzt. Auf der Basis von solchen unsicheren Daten ist aber prinzipiell keine sichere Erkennung möglich.
Dieses Beispiel aus 1983 zeigt auch, dass das Risiko eines Atomkriegs auch von Zufällen abhängen kann. Bei diesem Vorfall wurden fünf angreifende Atomraketen gemeldet und der diensthabende Offizier Petrow hielt einen Angriff der USA mit nur fünf Raketen für unwahrscheinlich und entschied daher, dass es ein Fehlalarm sei.
Die Anzahl „fünf Raketen“ ist aber rein zufällig entstanden, weil die Lichteffekte genau fünf mal eine gewisse Schwelle überschritten, was jeweils zu der Erkennung eines Raketenstarts führte.
Im gleichen Zeitraum hätte diese Schwelle aber auch gar nicht oder sogar hundertmal überschritten werden können. Wenn hundert angreifende Raketen gemeldet worden wären, hätte Petrow vermutlich anders handeln müssen.
Selbst wenn es gelingen sollte mit Hilfe von KI die Anzahl von Fehlalarmen zu reduzieren, wird damit die Sicherheit nicht zwangsläufig erhöht. Denn wenn solche Alarmmeldungen nur noch sehr selten auftreten, können sie nicht so ohne weiteres als Fehlalarm klassifiziert werden. Solche sehr seltenen Alarmmeldungen würden eher als echter Angriff interpretiert, was dann zu einem Atomkrieg aus Versehen führen könnte.
Cyberwaffen und Biowaffen: Die unsichtbare Rüstungsspirale im Verborgenen
▶ Sie schreiben in der Einleitung „Für die KI gibt es ein vielfältiges Anwendungspotenzial, und die meisten Anwendungen sind positiv und führen zu einer Verbesserung unserer Lebensqualität.
Es kann aber auch erhebliche Risiken unter anderem bei militärischen Anwendungen geben. Detaillierte Kenntnisse solcher Gefahren können eine wichtige Grundlage zur Risikoreduktion sein.“ Welche Gefahren jenseits möglicher Fehlalarme sehen Sie noch?
Karl Hans Bläsius: Bleiben wir zunächst bei militärischen Risiken. Die KI wird in zunehmendem Maße in alle Phasen der Kriegsführung hineinwirken. Entscheidungsprozesse können mit Hilfe von KI erheblich beschleunigt werden, und dies wird die Aufklärung, Planung und die Durchführung von Aktionen betreffen. Die Beschleunigung solcher Prozesse kann erhebliche militärische Vorteile bringen.
Allerdings ist mit Nutzung der KI die Erwartung verbunden, dass alles schneller und besser wird. Schneller können Entscheidungen getroffen werden, aber diese müssen nicht notwendig besser sein. Denn Entscheidungen fallen in unsicherem Kontext. Die zu verarbeitenden Informationen sind vage, unsicher und unvollständig.
Was oben bereits in Zusammenhang mit der Erkennung nuklearer Angriffe beschrieben ist, gilt analog auch für andere militärische Anwendungen. Dazu kommt auch, dass man es im Krieg mit einem Gegner zu tun hat, der versucht die Erkennung zu erschweren oder zu verhindern.
Tarnen und Täuschen waren schon immer wichtige Grundsätze beim Militär. Deshalb können auch KI-Systeme nicht sicher entscheiden, egal wie gut diese mal sein werden.
Große Unsicherheiten und Risiken können auch dadurch entstehen, dass es bei der KI um Software und Daten geht, wobei alles im Verborgenen entwickelt werden kann. Ähnliches gilt für Cyberwaffen. Man wird damit nie wissen, welche Fähigkeiten ein Gegner in den Bereichen KI und Cyberraum haben wird.
Selbst die eigenen Fähigkeiten werden nur teilweise bekannt sein, denn Cyberwaffen können nicht in realen Umgebungen getestet werden. Kräftevergleiche sind damit erschwert, und die Folge können Fehlkalkulationen und gravierende falsche oder ungünstige Handlungen sein.
In Zusammenhang mit KI können weitere Gefahren entstehen. So gibt es Hinweise, dass mit Hilfe von KI sehr wirksame Biowaffen hergestellt werden könnten. Außerdem besteht das Risiko, dass eine Superintelligenz mit unkalkulierbaren Folgen entsteht.
Die Gefahr von „Flash Wars“: Wenn Algorithmen die Eskalation übernehmen
▶ Sie schreiben: „Die zunehmende Verwendung von Systemen der Künstlichen Intelligenz bei militärischen Anwendungen verändert das Kriegsgeschehen grundlegend Tempo und Flexibilität von Entscheidungen steigen so sehr, dass sich diese zunehmend einer menschlichen Kontrolle entziehen.“
In Anspielung auf die sogenannten flash crashs, also den extrem kurzen, aber massive Kurseinbrüchen im Hochfrequenzhandel, die oft auch im Nachhinein nicht erklärbar ist, sprechen Sie von der Gefahr des flash war. Können Sie das bitte näher erläutern?
Karl Hans Bläsius: Schnellere Entscheidungen können dazu führen, dass Menschen weniger Möglichkeiten haben, regulierend und mäßigend einzugreifen. Hierfür könnte schlicht die Zeit fehlen. Es könnten Eskalationsspiralen mit einer schnellen Folge von Angriffen und Gegenangriffen erfolgen, die möglicherweise von Menschen nur schwer gestoppt werden können.
Solche Risiken werden insbesondere in Zusammenhang mit autonomen Waffensystemen beschrieben, wobei teilweise der Begriff „flash war“ verwendet wird, wie zum Beispiel in einem Bericht von 2020 des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag mit dem Titel „Autonome Waffensysteme„.
Im Internet ist ein solcher flash war vielleicht noch wahrscheinlicher. Systeme der generativen KI können nicht nur Text, Bilder und Videos erzeugen, sondern auch programmieren und für Cyberangriffe eingesetzt werden.
Anfragen an solche Systeme müssen nicht von Menschen kommen, sondern könnten auch von anderen Programmen, also Bots, initiiert werden. So könnten auch verschiedene Systeme der generativen KI miteinander kommunizieren, und falls diese Cyberangriffsfähigkeiten haben, auch im Wechsel Cyberangriffe durchführen.
Für Cyberwaffen gibt es den Aspekt „Pulver verschossen“ nicht, diese können in sehr kurzer Zeit sehr oft und an verschiedenen Stellen eingesetzt werden. Wenn solche Aktionen von verschieden Systemen ausgehen und eventuell gegeneinander gerichtet sind, könnte man dies als „flash war im Internet“ bezeichnen.
Einsatz in der Ukraine: Wenn autonome Drohnen ohne Funkkontakt töten
▶ Inwiefern kann die grundsätzliche Festlegung, dass immer der Mensch die letzte Entscheidung behält, das Risiko, das durch die KI entstehen kann, deutlich mindern, oder haben Sie die Sorge, dass der massive Einsatz der KI im Militär zu einem Deskilling führt, so dass der Mensch paradoxerweise selber schlechter entscheidet, wenn er eine Aussage der KI kontrollieren soll, als wenn er unabhängig von der KI seine Entscheidung treffen kann.
Karl Hans Bläsius: Es wird zwar immer darüber gesprochen, dass eine Tötungsentscheidung nicht einer Maschine überlassen werden darf, sondern dass die letzte Entscheidung bei einem Menschen liegen muss, der auch dafür zur Verantwortung gezogen werden kann. Die Realität sieht leider anders aus.
Wie jetzt bekannt wurde, wurden im Ukraine-Krieg bereits vor zwei Jahren Soldaten durch den Einsatz von autonomen Drohnen getötet, wobei in der Endphase des Fluges keine Verbindung zu den Drohnen bestand und diese selbstständig den Weg zu einem Ziel suchten und dieses angriffen.
Eine grundsätzliche weltweit verbindliche Festlegung, dass immer der Mensch die letzte Entscheidung behalten muss, müsste verknüpft sein mit Vorkehrungen, die gewährleisten, dass dem Menschen auch genügend Zeit zur Entscheidungsfindung, beziehungsweise Überprüfung von KI-Entscheidungen bleibt.
In vielen Situationen mit automatischen Entscheidungen ist es ausreichend das Ergebnis solcher Entscheidungen durch einen Menschen zu bewerten, um festzustellen, ob es plausibel und sinnvoll ist.
In solchen Fällen können Risiken durch menschliche Kontrolle sinken. Falls zur Bewertung einer automatischen Entscheidung auch der Lösungsweg betrachtet werden müsste, würde die Zeit für eine angemessene Prüfung in der Regel nicht reichen.
In diesen Fällen würde auch der Aspekt „Deskilling“ besonders greifen, denn wenn man immer mehr Aufgaben einer Maschine überlässt, werden die eigenen Fähigkeiten für solche Problemlösungen und damit auch für die Bewertung von Lösungswegen zurückgehen.
Morgen erscheint der zweite Teil des Interviews
Karl Hans Bläsius: Künstliche Intelligenz und Krieg: Welche Risiken entstehen, wenn der Mensch die Kontrolle verliert?
ISBN: 978-3662725252, 276 Seiten, 24,99 Euro