Mensch, Maschine, Macht: Zur Ethik von KI und Militär
Frank Sauer Foto: ZDF/Hertich
Dr. Frank Sauer, Privatdozent an der Bundeswehruniversität München, schreibt hier über die größeren ethischen Fragen, die dem Streit zwischen dem Pentagon und dem KI-Unternehmen Anthropic zugrunde liegen.
Ein Streit zwischen dem Pentagon und dem derzeit weltweit führenden KI-Unternehmen Anthropic machte im Februar weltweit Schlagzeilen. Worum ging es?
Anthropic war das erste der US-amerikanischen KI-Unternehmen, das seine Produkte für den Einsatz im Militär qualifiziert hatte. Es wollte für deren Nutzung gegenüber dem „Kriegsministerium“ Auflagen durchsetzen. Die erste Auflage betraf ein Nutzungsverbot zur innerstattlichen Massenüberwachung. Die Forderung scheint unstrittig. Pete Hegseths Ministerium aber missfiel dabei grundsätzlich, dass ein Privatunternehmen dem Ministerium vertraglich Vorschriften machen wollte – man operiere ohnehin stets im geltenden Rechtsrahmen.
Die zweite Auflage lehnte das Pentagon ebenfalls ab. Sie rührt an der Rolle von KI als militärischem Machtverstärker sowie einer der entscheidenden Fragen unserer Zeit: Wie viel menschliche Kontrolle muss erhalten bleiben, wenn Maschinen militärische Entscheidungen vorbereiten oder selbst ausführen? Anthropic-CEO Dario Amodei begründete seine Forderung mit möglichen Gefährdungen für sowohl Amerikas Soldaten als auch die Zivilbevölkerung. Vollständig autonomen Waffen, also solchen, die auch die kritischen Funktionen von Zielauswahl und -bekämpfung ohne menschliche Interaktion ausführen, könne man nicht vertrauen. Die Technik könne die kritische Urteilsfähigkeit und Kontrolle eines Menschen nicht ersetzen. Deswegen die zusätzlichen Leitplanken.
Das Pentagon reagierte empfindlich, weil es bereits seit 2012 in seiner Richtlinie „DoD Directive 3000.09“ festschreibt, dass autonome Waffensysteme nur unter Beteiligung eines angemessenen Maßes an menschlicher Urteilskraft – „appropriate levels of human judgment“ – genutzt werden dürfen. Seit nunmehr 14 Jahren halten die USA, auch in internationalen Foren wie den Vereinten Nationen (VN), an diesem Konzept fest. Anthropic reichte das nicht. Die vom Unternehmen geforderten Beschränkungen gleichen eher dem, was in Fachkreisen als „meaningful human control“ bezeichnet wird. Der Streit ist keineswegs nur semantisch. Es geht um verschiedene Kontrollparadigmen.
„Appropriate levels of human judgment over the use of force“ lässt offen, wie eng Menschen in Entscheidungsprozesse eingebunden sein müssen. Sofern die Waffensysteme technisch zuverlässig sind und in die „kill chain“ – also den Entscheidungsprozess, der mit der Ausübung militärischer Gewalt endet – menschliche Urteilskraft eingeflossen ist, können auch unter Umständen weitreichende nachfolgende Entscheidungen von Menschen an die Maschine delegiert werden.
„Meaningful human control“ zielt auf eine substanziellere menschliche Befassung mit den Geschehnissen. Das Konzept stellt sicher, dass ein Mensch die Wirkungen eines Waffensystems kognitiv durchdringen und die Konsequenzen seines autonomen Operierens vorhersehen sowie seine Nutzung jederzeit administrieren kann, wodurch er im dritten für die Mensch-Maschine-Interaktion verantwortlich bleibt – so dass sowohl völkerrechtlich als auch ethisch keine Zurechenbarkeitslücken aufreißen.
„Autonomie in Waffensystemen ist also weder neu noch per se schlecht.“
Die Debatte verdeutlicht: KI verschiebt das Verhältnis zwischen Mensch und Maschine im Krieg. Es stimmt zwar, dass Waffensysteme seit Jahrzehnten einzelne Funktionen ohne menschliches Zutun ausführen. Das gilt für eine simple Panzerabwehrrichtmine, die schwere Gefechtsfahrzeuge bekämpft und leichtere Autos ignoriert, ebenso wie für komplexe Flugabwehrsysteme wie Patriot, das seinerseits Ziele ohne menschliches Zutun auswählen und bekämpfen kann. Autonomie in Waffensystemen ist also weder neu noch per se schlecht. Patriot rettet in der Ukraine bekanntlich regelmäßig Leben.
Neu ist, dass Fortschritte bei Mustererkennung und Sensordatenfusion dazu beitragen, dass immer mehr Abläufe automatisiert und beschleunigt werden können. Das erlaubt es dem Pentagon, hunderte Ziele pro Tag zu identifizieren und zu bekämpfen, wie jüngst im Iran. Das erlaubt es Waffensystemen mit KI-gestützter Objekterkennung, auch dann noch Ziele auf dem Gefechtsfeld erfolgreich zu bekämpfen, wenn die elektromagnetische Kampfführung des Feindes jegliche Funkverbindung längst unmöglich gemacht hat.
Anthropic ist nicht technikfeindlich und fordert auch keine permanente Waffen-Fernsteuerung. Es geht Amodei vielmehr um den Versuch, die Vorteile militärischer KI mit rechtlichen und ethischen Anforderungen in Einklang zu bringen. Auch pures Sicherheitsinteresse spielt eine Rolle: Kontrolle über die eigenen Waffensysteme ist eigentlich im Interesse aller Militärs, weil unkontrollierte Waffen sich gegen die eigenen Kräfte richten könnten. Das ist einer der Gründe, weswegen unverankerte Seeminen ebenso verboten sind wie Chemiewaffen.
Die Herausforderung bei der militärischen KI-Nutzung ist also, die Interaktion von Mensch und Maschine so zu gestalten, dass militärische Effektivität gesteigert wird, aber nicht auf Kosten von Kriegsvölkerrecht und humanitären Werten. Anthropic-Chef Dario Amodei hat darüber hinaus, wie andere vor ihm, gefordert, die Entwicklung immer leistungsfähigerer KI-Systeme ganz generell sowohl bindend als auch systematisch zu regulieren, um Risiken beherrschbar zu machen. Aber die seit Jahren auf der Stelle tretenden Gespräche bei den VN in Sachen KI-basierter Waffenautonomie verdeutlichen, dass nicht mal in diesem einen Anwendungsfeld, in dem es buchstäblich um Leben und Tod geht, Aussicht auf einen internationalen Minimalkonsens besteht. Dass nun ausgerechnet im ökonomischen Wettlauf – zwischen profitorientierten Unternehmen, aber vor allem zwischen den Volkswirtschaften USA und China –, Einigkeit über ein allgemeines Entschleunigen gefunden werden kann, scheint illusorisch.
Die KI-Wette ist eine Wette auf die gesamte Zukunft. Wertschöpfung, Forschung, Militärmacht, all das dominiert, so die Logik, wer als erstes über eine rekursiv sich selbst verbessernde KI verfügt. Es gewinnt, wer – im Silicon Valley-Duktus – „die letzte Maschine“ baut, die fortan alle weiteren Maschinen erschafft. KI ist folglich hochpolitisch. Das abrupte weltweite Nutzungsverbot für Anthropics Spitzen-Modell Fable war ein Fingerzeig auf das, was kommt.
Dr. Frank Sauer ist Privatdozent an der Bundeswehruniversität München. Er forscht und publiziert primär zum Verhältnis zwischen Technologie und Sicherheit mit einem Schwerpunkt auf Nuklearwaffen sowie der Nutzung von Robotik und Künstlicher Intelligenz (KI) im Militär. Mit seiner Forschung zur internationalen Regulierung von Autonomie in Waffensystemen gewann er 2022 (gemeinsam mit Elvira Rosert) den „Bernard Brodie Preis“.