Übernommen von Deutsche-Friedensgesellschaft-Vereinigte KriegsdienstgegnerInnen:
von Prof. Dr. Jutta Weber
Heutige Kriegsführung – sei es im Iran, in Gaza oder in der Ukraine – ist zunehmend von KI-basierten militärischen Systemen geprägt. Das reicht von sogenannten Entscheidungssystemen, Targeting- beziehungsweise Zielfindungssystemen bis zu (semi-)autonomen Tötungssystemen wie zum Beispiel Drohnen.
Entscheidungssysteme sind Systeme, „die KI-Techniken zur Datenanalyse einsetzen, umsetzbare Empfehlungen liefern und Entscheidungsträger auf verschiedenen Ebenen der Befehlskette bei der Lösung halbstrukturierter und unstrukturierter Entscheidungsaufgaben unterstützen“.¹ Zielfindungssysteme wiederum schlagen automatisiert mögliche Ziele für Tötungen von Menschen oder Zerstörung von Gebäuden oder Infrastruktur vor. Semi/autonome sind zum Beispiel luftgestützte First-Person-View- beziehungsweise Kamikaze-Drohnen mit Sprengstoff, die per Datenbrille ins Ziel gesteuert werden (Ukraine), mit Schnellfeuerwaffen bestückte Quadrokopter (zum Beispiel im Gaza-Krieg), aber auch Langstreckendrohnen, die über weite Strecken fliegen und größere Mengen an Sprengstoff transportieren können. Aber es gibt nicht nur luftbasierte Drohnen, sondern auch Unter/Wasserdrohnen und Landsysteme.
Diese Entwicklungen haben die Kriegsführung grundlegend geändert: Sie wird letaler – nicht nur für Soldat*innen, sondern vor allem für Zivilist*innen. Gleichzeitig werden Soldat*innen wie Zivilist*innen zunehmend zu Versuchskaninchen einer zunehmend experimentell funktionierenden, softwarebasierten Kriegsführung, während völkerrechtliche Verstöße der Technologie schwerer nachzuvollziehen sind.
Schon teleoperierte Drohnen üb(t)en mit Beginn des „War on Terror“ 2001 durch ihre Präsenz massiven und permanenten Terror aus und wurden genutzt, um Tötungen beziehungsweise Hinrichtungen auf Distanz auszuüben. Heute beschreiben ukrainische Soldaten, wie der Krieg seltsam persönlich wird, wenn man von einer Drohne verfolgt wird. Im letzten Gaza-Krieg wurde berichtet, dass sich Frauen und Kinder nicht mehr auf die Straße trauten, weil auf sie via Drohnen mit Schnellfeuerwaffen geschossen wurde.
Die Probleme teleoperierter Systeme multiplizieren sich mit autonomen Systemen. Eines der größten Probleme ist, dass KI-basierte (Drohnen-)Kriegsführung – und nichts anderes bedeuten autonome Drohnen – sich nicht wirklich kontrollieren lässt. Ein Soldat kann nicht die Korrektheit der Daten einschätzen, mit denen das System trainiert wurde, und er kann es im Normalfall auch nicht an die jeweilige Situation anpassen, was angesichts der Agilität zumindest bei sogenannten lernenden Systemen dringend nötig ist: Er kann nicht überprüfen, wie sich das System durch dynamische Optimierungsprozesse verändert und ob die vorgegebenen Algorithmen dazu noch passen. In gewisser Weise wird Kriegsführung experimenteller, wenn man wie etwas das deutsche Start-up Helsing in der Ukraine eingesetzte Drohnen jede Woche mit einem Update versieht. Es ist mehr als fraglich, ob die Softwareingenieur*innen die Konsequenzen ihrer Updates abschätzen können.
Die Ukraine, Gaza, der Iran oder auch der Sudan dienen heute auch als Testlabor für KI-gestützte Waffen. Einer der großen Versuche KI-basierter Systeme ist, Prozesse in Maschinengeschwindigkeit zu erledigen – von der Entscheidung über den Zielprozess bis zur Tötung. Doch will man den Vorteil der Geschwindigkeit, kann man keine menschliche Kontrolle über das System haben. Aus diesem Dilemma gibt es keinen Ausweg. Entsprechend betonte UN-Generalsekretär António Guterres in der Eröffnungsrede der Generalversammlung der Vereinten Nationen im September 2025, dass autonome militärische Systeme nicht über Leben und Tod entscheiden sollten, da dies nicht mit dem Völkerrecht vereinbar ist, welches fordert, dass Tötungsentscheidungen im Krieg immer von Menschen gefällt werden müssen.
Drohnen-Start-ups beteuern dagegen, sie würden mit ihrer Technologie die Demokratie verteidigen. So sagt Gundbert Scherf, CEO von Helsing, in einem Interview: „Gerade autonome Systeme sind für Demokratien gemacht. Wir schätzen das Leben, wir leben auch alle gerne ein gutes Leben. Ich glaube nicht, dass unsere Demokratien einen Abnutzungskrieg, der viele Menschenleben kostet, führen können oder wollen. Das heißt, wir sind wirklich darauf angewiesen, diese asymmetrischen, technologischen Fähigkeiten zu haben. Asymmetrische Technologie gewinnt!“²
Hier wird suggeriert, dass Demokratien autonome (Entscheidungs-, Zielfindungs- und/oder Waffen-) Systeme brauchen, da man in postheroischen Zeiten die heimische Bevölkerung nicht für einen Krieg mobilisieren kann. Allein technologische Überlegenheit scheint es möglich zu machen, die multiplen Krisen unserer Gegenwart zu bewältigen – und dies nicht „nur“ in Form von Abschreckung, sondern auch in Form von zukünftigen siegreichen (Angriffs-)Kriegen. Warum die USA den Vietnamkrieg und den Afghanistankrieg verloren haben und gerade im Iran scheitern, wenn asymmetrische Technologie – die schon in Vietnam datengestützt war – immer ‚gewinnt‘, bleibt ein offenes Geheimnis.
Dagegen fordern mehr als 100, vor allem kleinere Staaten, den Bann oder wenigstens die Regulation autonomer Systeme, während die großen geopolitischen Player versuchen, diese bei Verhandlungen auf UN-Ebene in Genf hinauszuzögern oder zu verhindern.
Um die abstrakte Gewalt, die diese Systeme ausüben, zu verstehen, gilt es, sich etwas genauer die aktuellen Grundlagen von künstlicher Intelligenz (KI) beziehungsweise Machine Learning anzusehen. KI ist viel und vor allem ein Marketingbegriff, aber mit Hilfe der heutigen Hochleistungsrechner und Big Data entstehen neue Anwendungsmöglichkeiten. Die Grundlage hierfür ist Machine Learning. Das ist eine Methode auf der Basis von Korrelation, um Muster in Daten zu finden beziehungsweise letztlich zu produzieren, um Ereignisse vorherzusagen. Korrelation basiert auf der Annahme, dass Vergangenes mit mehr oder weniger großer Wahrscheinlichkeit in der Zukunft wieder passieren wird. Man vergleicht automatisiert millionenfach Texte, Bilder, Sprachnachrichten, extrahiert Muster, analysiert mit diesen Mustern wieder neue Daten – und so weiter und so fort. Im Korrelationsparadigma „berechnet“ man das Verhalten von Menschen, Märkten, das Eintreten von Ereignissen auf der Basis von Wahrscheinlichkeiten – ohne dieses Verhalten zu verstehen oder auch nur verstehen zu wollen. Der Schwerpunkt dieser Erkenntnispolitik liegt nicht auf Richtigkeit oder Wahrheit, sondern auf „brauchbarer“ Evidenz. KI hat letztlich keinerlei objektiven Wahrheitsanspruch.
Diese Form der Wissensproduktion ist auch Ausdruck einer instabilen Welt, die von Unsicherheit, Komplexität und Wettbewerb beziehungsweise Geschwindigkeit geprägt ist und in der es – aus Angst vor der Zukunft – wichtiger erscheint, grobe Schätzungen von möglichen Ereignissen vorzunehmen, als nach validen, rationalen Erklärungen von Phänomenen und Ereignissen zu suchen. KI produziert kein Wissen und reflektiert ihre Ergebnisse nicht. Sie approximiert beziehungsweise jongliert. Auf diese Weise Entscheidungen über Leben und Tod zu treffen, ist abstrakte Gewalt.
Die verheerenden Konsequenzen dieser Technologie wurde schon mehrfach mit Blick auf das KI-basierte Targetingsystem „Lavender“, mit dem das israelische Militär 47 000 Palästinenser (von zwei Millionen Menschen im Gazastreifen) als Terroristen identifiziert, diskutiert. Das System soll mit einer Fehlerquote von etwa zehn Prozent arbeiten. Die Datenanalyse arbeitet vermutlich mit quantitativen Link-Analysemethoden und stützt sich unter anderem auf Videos, E-Mails, Mobilkommunikation und Social-Media-Inhalte. Das kann bedeuten: Je häufiger ein Verdächtiger mit jemanden in Kontakt tritt, desto verdächtiger wird auch die Kontaktperson – auch wenn sie vielleicht nur der Patenonkel ist. Aus Angst, potenzielle Verdächtige zu übersehen, definiert man die Suchkriterien in den Erkennungsalgorithmen eher weit, um alle möglichen Korrelationen und Muster zu erfassen. Dadurch werden immer mehr Menschen als potenzielle Terrorist*innen verdächtigt. Durch das Schneeballprinzip werden immer mehr unschuldige Menschen zu potenziellen Zielen.
Ähnlich problematisch sind KI-basierte Entscheidungssysteme, die mit Machine Learning arbeiten. Hier potenzieren sich die schon erwähnten Fehler durch die Nutzung von Large Language Models (LLL) wie ChatGPT, die teilweise mit Fehlerraten von mehr als 80 Prozent „halluzinieren“ – also Fakten oder Referenzen erfinden.
Der Wunsch nach technologischer Überlegenheit beziehungsweise der Glaube an den Vorteil von Entscheidungen in Maschinengeschwindigkeit sitzt offensichtlich so tief, dass man diese massiven und menschenverachtenden Fehler(raten) wissentlich in Kauf nimmt und hofft, man könne so den „Fog of War“ durch KI eliminieren. 83 Prozent der Toten im letzten Gaza-Krieg, in dem das israelische Militär sehr wahrscheinlich KI-gestützte Zielfindungs- und Waffensysteme eingesetzt hat, waren Frauen und Kinder.
Aktuell beginnt man in den USA sogar laut darüber nachzudenken, ob man die Entscheidung über den Einsatz von Nuklearwaffen nicht den schnelleren KI-Entscheidungssystemen überlassen sollte.
Wie naiv und technikgläubig oder menschenverachtend muss man sein, um solche Optionen auch nur in Betracht zu ziehen?
Auch im Weißbuch der EU hat man schon 2025 einen Wettlauf um algorithmische, KI-gestützte Kriegsführung ausgerufen. Man geht nicht nur von der „realen Perspektive eines vollumfänglichen Krieges“ aus, sondern wünscht sich ein „Ökosystem technologischer Innovation für die eigene Rüstungsindustrie“.³
Die verheerenden menschlichen, sozialen wie ökologischen Konsequenzen intensiver Aufrüstung kommen hier nicht in den Blick. Denn dieser Rüstungswettlauf zerstört noch weiter den Sozialstaat und damit die Demokratie. Und die Verschwendung von Strom und Wasser für KI-Datencenter bis zu den enormen Mengen an Metallen und seltenen Erden für Chips, Computer, Drohnen et cetera, die für die sozialökologische Wende gebraucht werden, kommen nicht in den Blick. Offensichtlich hofft man vor allem, die eigenen schwächelnden Ökonomien durch die KI- und Drohnenindustrie, aber auch die geopolitische Hegemonie zu konsolidieren – ohne sich dafür zu interessieren, dass automatisierte Tötungsmaschinen weder mit dem Völkerrecht vereinbar sind noch dass dieser KI-Rüstungswettlauf in einer fatalen Gewaltspirale enden könnte.
¹ Klonowska, K. „Designing for Reasonableness: The Algorithmic Mediation of Reasonableness in Targeting Decisions.“ Lieber Institute West Point (2024).
² https://defence-industry-space.ec.europa.eu/document/download/30b50d2c-49aa-4250-9ca6-27a0347cf009_en?filename=White%20Paper.pdfiffe auf den Sozialstaat, die Militarisierung des Alltags und den Rüstungswahnsinn? VSA: Verlag Hamburg 2025
Dieser Beitrag erscheint in der ZivilCourage Ausgabe 3/2026
Quelle: Deutsche-Friedensgesellschaft-Vereinigte KriegsdienstgegnerInnen
