Dass die Menschheit in Zukunft einen Krieg gegen denkende Maschinen führen muss, das ist bisher eher unwahrscheinlich. Dennoch erscheint eine Dystopie wie aus den Terminator-Filmen nicht mehr ganz so verrückt. Laut einem Bericht der Vereinten Nationen ist es erstmals zu einem Vorfall gekommen, bei dem eine Drohne einen Menschen ohne einen Befehl attackiert hat.
Von Michael Förtsch
Verschiedenste Rüstungsfirmen und Militärforschungsunternehmen rund um die Welt arbeiten bereits seit Jahren daran, Drohnen und Roboter selbstständiger zu machen. Sensoren und Künstliche Intelligenz sollen sie befähigen, Ziele zu erkennen, Gefahren einzuschätzen und Entscheidungen über Angriffe zu treffen. Bislang war es dennoch immer noch nötig, dass ein Mensch den Angriff eines Killer-Roboters bestätigt, bevor der aktiv werden kann und einen Menschen angreift – alleine schon aus Gründen der Verantwortung und der Ethik sei das, wie Politiker und Aktivisten meinen, unablässig. Laut einem Bericht von New Scientist wurde aber bereits im März 2020 wohl erstmals eine Drohne vollkommen sich selbst überlassen.
Es sind nicht alle Umstände bekannt, aber laut einem Report der Vereinten Nationen kam es in Libyen zu einer Konfliktsituation zwischen libyschen Regierungstruppen und einer abtrünnigen Militärfraktion. Bei der sei ein Kargu-2-Quadcopter des türkischen Waffenproduzenten STM eingesetzt worden, der mit einer Sprengladung ausgestattet war. Bei dem Quadcopter handelt es sich konkret um Loitering Munition, also ein Waffensystem, das über einem umgrenzten Gebiet auf potentielle Ziele wartet, diese dann identifiziert und sich darauf stürzt – wenn ein Mensch das autorisiert.
Die Drohne soll allerdings so programmiert gewesen sein, dass sie bei fehlender Datenverbindung zu einer Zentrale auf die Zustimmung eines Menschen verzichtet und sich stattdessen selbst die Bestätigung erteilt, ein Ziel anzugreifen. Genau das habe sie auch getan, als sie mittels Kamera einen flüchtenden Soldaten als Ziel erkannt habe. Ob der Kargu-2-Quadcopter das Opfer auch tatsächlich getötet hat, ist nicht sicher. Laut dem Sicherheitsberater Zak Kellenborn markiere der Vorfall aber eine Zeitenwende. Denn es sei der erste bekannte Vorfall, bei dem eine Drohne gänzlich unabhängig zur Entscheidung gekommen sei, einen Menschen umzubringen.
Verstehe, was die Zukunft bringt!
Als Mitglied von 1E9 bekommst Du unabhängigen, zukunftsgerichteten Tech-Journalismus, der für und mit einer Community aus Idealisten, Gründerinnen, Nerds, Wissenschaftlerinnen und Kreativen entsteht. Außerdem erhältst Du vollen Zugang zur 1E9-Community, exklusive Newsletter und kannst bei 1E9-Events dabei sein. Schon ab 2,50 Euro im Monat!
Jetzt Mitglied werden!
„Wie anfällig ist das Objekterkennungssystem?“, fragt Kallenborn in dem Report der Vereinten Nationen. „Wie oft werden Ziele falsch identifiziert?“ Genau diese Gefahr sehen auch Institutionen wie die Menschenrechtsorganisation Human Rights Watch. Sie fordert ein internationales Verbot von voll-autonomen Waffensystem. 30 Staaten haben sich mittlerweile für einen solchen Schritt ausgesprochen. Die deutsche Enquete-Kommission für KI und eine Studie des Büros für Technikfolgen-Abschätzung legten der deutschen Regierung nahe, ein solches Verbot zu unterstützen. Im Jahr 2020 stimmte der Bundestag jedoch gegen einen Antrag der Grünen, in dem eine „völkerrechtliche Ächtung autonomer Waffensysteme“ durch Deutschland beschlossen werden sollte.
Teaser-Bild: STM
- Autonome Waffen werden kommen, wenn wir nichts unternehmen
- Der Gründer von Oculus baut jetzt KI-Grenzüberwachung, Panzer und Anti-Drohnen-Drohnen
- Kein Terminator: Polizeiroboter in New York sollen keine Waffen bekommen
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook oder LinkedIn und verbreite unsere Inhalte weiter. Danke!