Hat die Macht von KI noch Grenzen?

Der Rückgang menschlicher Autonomie im Militär und Geopolitik sowie seine Folgen

KI ist in der Lage, gigantische Datenmengen zu analysieren und diese für uns so aufzubereiten, dass wir unsere menschlichen Entscheidungen vermeintlich besser oder zumindest datenbasierter fällen können. Überall dort, wo Entscheidungen ohnehin durch festgelegte Regeln gefällt werden, wird KI menschliche Arbeit ersetzen. Genau davor graut es vielen, weil unklar ist, wo und ob wir eine Grenze ziehen.

Um dieser Unklarheit genauer nachzugehen, lohnt sich ein Blick in die Geschichte. Denn auch wenn KI im heutigen Sinne eine recht neue Entwicklung ist, gibt es vergleichbare Prozesse in der Vergangenheit. Diese beziehen sich vor allem auf Waffensysteme, das Militär und die Entwicklung, die sich hier in den letzten 200 Jahren durch maschinelle Informationsverarbeitung vollzogen hat.

Luftkampf und der Pfad zu autonomen militärischen Systemen

Staaten und deren Anführer haben es schon seit jeher geschafft, die besten zur Verfügung stehenden Technologien und Möglichkeiten zur Informationsverarbeitung für sich zu nutzen und einzusetzen. Dennoch haben bis zum ersten Weltkrieg vor allem Menschen gegen Menschen gekämpft. Technologie war nur eine Extension des Menschen. Entscheidungen wurden lokal von Menschen gefällt, vom kämpfenden Soldaten bis zum Stab.

Die lokale und unmittelbar menschliche Entscheidungsfindung im Militär verschob sich mit der Entwicklung von Kampfpiloten und Kampfflugzeugen. An ihr können wir über die letzten 100 Jahre sehen, wie wir die Grenze von Erkennen und Entscheiden mit Technologie in den Millisekundenbereich verschoben haben. Anstatt Situationen nur noch auf den Sichtbereich einer oder mehrerer Personen zu beschränken war es nun möglich, den Bereich auf hunderte Quadratkilometer auszudehnen.

Ohne Technologieunterstützung lässt sich eine Luft-Luft-Rakete im Millisekundenbereich durch Menschen nicht steuern und auch gar nicht auslösen. Und ohne massive Technologieunterstützung lassen sich Milliarden von Datenpunkte nicht verarbeiten und auswerten. Faktisch werden einer solchen Flugzeugbesatzung Millionen von Entscheidungen beim Fliegen, Aufklären und Selbstverteidigen der Maschine abgenommen. Der Mensch ist nur noch bei der Entscheidung zum Auslösen der großen Waffensysteme im Loop. In den letzten 20 Jahren haben wir mit Drohnen den Menschen weiter verdrängt – er sitzt gar nicht mehr im Flugobjekt. Auch wenn Menschen noch in den meisten Fällen die Kontrolle über den Einsatz von tödlichen Waffen haben, so beginnt die Grenze bei der Selbstverteidigung von Drohne gegen Drohne heute schon zu verschwimmen. Hier kämpft faktisch in den heutigen Drohnengenerationen schon Maschine gegen Maschine ohne menschliche Interaktion.

Cyberkrieg ohne physische Gewalt

Eine sehr ähnliche Entwicklung erleben wir im militärischen Cyber-Raum. Der elektronische Angriff auf Strominfrastruktur, Kraftwerke oder Banken kann faktisch nicht mehr von Menschen abgewehrt werden, sondern nur noch von autonomen Algorithmen.

Die Grenze von noch teilautonomen hin zu faktisch autonomen und damit selbstentscheidenden Systemen werden wir in den nächsten 20 Jahren immer weiter verschieben. Die Entscheidungen werden zudem immer dezentraler gefällt und lassen sich dennoch besser koordinieren, eben weil Maschinen komplexere Informationen in kürzerer Zeit austauschen können als Menschen. Zudem wird es deutlich mehr von diesen Drohnen-Kampfeinheiten geben, als wir heute Menschen in den Armeen haben. Diese Veränderungen werden wir sowohl in der Luft als auch auf dem Wasser und auch bei Landoperationen bemerken. Aber wo genau wird überhaupt die Linie zu militärischen Einsätzen sein? Was genau ist ein rein elektronischer Angriff ohne Vor-Ort-Truppen auf ein Kraftwerk? Ab wann genau ist es eine kriegerische Handlung? Ist die Manipulation von öffentlicher Meinung durch Staaten oder Interessengruppen über Facebook oder X-Bots schon ein kriegerischer Akt? Bisher haben genau Staaten das Gewalt- und damit auch das Kriegs- und Konfliktmonopol. Mit dieser Logik müssten wir alle Manipulationen oder Veränderungen von Systemen, auch wenn sie von Wirtschaftsunternehmen oder anderen Interessensgruppen durchgeführt werden, neu zu schaffende virtuelle Waffen- und Kriegsgesetze zuordnen.

Schadens-Asymmetrie bestimmt Geopolitik

Eine große Herausforderung, die man gut am Beispiel der aktuellen Konflikte in der Ukraine und Israel beobachten kann, ist es, dass eine Angriffsdrohne um bis zu Faktor 10 preiswerter in der Herstellung ist als der Abwehrmechanismus. Gar nicht mehr bemessen lässt sich dieses Ungleichgewicht zwischen Angriff und Verteidigung bei X-Bots (Twitter) oder Manipulations- und Profil-Plattformen wie Tiktok sowie weiteren Manipulationen im Social-Media-Bereich.

In den letzten 50 Jahren hat die Fähigkeit zur Herstellung von Atomwaffen die Geopolitik und damit die weltweiten Machtverhältnisse bestimmt, weil ein Besitzer und potenzieller Angreifer eine maximale Asymmetrie zwischen Herstellung der Waffe und Auswirkung auf den Lebensraum anderer Staaten aufbauen konnte. Die wahren Atomwaffen in der heutigen Welt sind Algorithmen die Infrastruktur angreifen, Meinungen manipulieren und Börsen sowie Wirtschaftssysteme zerstören oder manipulieren können. Wie verschieben sich geopolitische Machverhältnisse, wenn faktisch „nur“ technologische Kompetenz und wirtschaftliche Potenz über militärische Macht entscheidet? Denn auch ohne physische Gewalt und physischen Terror werden unsere demokratischen Strukturen von Staaten wie Russland, Iran oder China über Cyber-Instrumente destabilisiert und die Unsicherheit in unseren Systemen erhöht. Besonders dramatisch ist daran, dass sich, anders als bei spaltbarem Material, Chips und Algorithmen quasi nicht nachverfolgen lassen. Das führt dazu, dass man keine wirkungsvollen Schutzmechanismen aufbauen kann.

Das Verhältnis von Staaten und dem Wirtschaftssystem

In den letzten 200 Jahren haben sich vor allem Staats- und Wirtschaftsformen durchgesetzt, die es ermöglicht haben, dass sich Wirtschaft in relativ freier Form mit Marktmechanismen und individuellem Eigentum entwickeln konnte. Davon abgegrenzt waren Staaten mit einem Gewaltmonopol nach innen und über die eigenen Staatsgrenzen hinaus. Diese Grenze wird sich nicht mehr halten lassen, da Informationen und Informationsflüsse keine räumliche Zuordnung mehr haben und dennoch konkrete Auswirkung auf physische lokale Systeme besitzen.

Cyber-Geopolitik und digitaler Krieg

Uns entgleiten mit dem Thema KI damit zwei Eckpfeiler für die Stabilität unserer Gesellschaft und der Staatensysteme:

• Digitale Maschinen werden in autonomer Form Konflikte ausführen. Aufgrund der Verbreitung und Geschwindigkeit werden dies Maschinen unter sich ausmachen. Wie bei Atomwaffen gilt: wer diese Systeme beherrscht, hat eine absolute Machtposition für unseren gesamten Planeten.
• Wir werden keine klare Grenze wie bei Waffensystemen und dem Gewaltmonopol mehr finden, um staatliches Agieren und wirtschaftliches Handeln zu unterscheiden und abzugrenzen. Dies wird entweder zu einer massiven Schwächung der staatlichen Position führen oder zu einer neuen Form von Wirtschaftsstaaten. Dies könnten Konglomerate von souveränen Wirtschaftszonen sein, die in engerer Form Macht und wirtschaftliche Interessen koordinieren.

In jedem Fall ist davon auszugehen, dass die KI-Entwicklung in den nächsten 30 Jahren massiven Einfluss auf jeden einzelnen von uns als Individuum haben wird und auch unsere staatlichen Ordnungen deutlich destabilisieren wird. Sich vor KI zu verstecken und sich nicht damit auseinander zu setzen, ist also für niemanden eine Option – sofern man die Zukunft mitgestalten will.

.