Vereinte Nationen: Erstmals hat eine voll-autonome Drohne einen Menschen angegriffen

Dass die Menschheit in Zukunft einen Krieg gegen denkende Maschinen führen muss, das ist bisher eher unwahrscheinlich. Dennoch erscheint eine Dystopie wie aus den Terminator-Filmen nicht mehr ganz so verrückt. Laut einem Bericht der Vereinten Nationen ist es erstmals zu einem Vorfall gekommen, bei dem eine Drohne einen Menschen ohne einen Befehl attackiert hat.

Von Michael Förtsch

Verschiedenste Rüstungsfirmen und Militärforschungsunternehmen rund um die Welt arbeiten bereits seit Jahren daran, Drohnen und Roboter selbstständiger zu machen. Sensoren und Künstliche Intelligenz sollen sie befähigen, Ziele zu erkennen, Gefahren einzuschätzen und Entscheidungen über Angriffe zu treffen. Bislang war es dennoch immer noch nötig, dass ein Mensch den Angriff eines Killer-Roboters bestätigt, bevor der aktiv werden kann und einen Menschen angreift – alleine schon aus Gründen der Verantwortung und der Ethik sei das, wie Politiker und Aktivisten meinen, unablässig. Laut einem Bericht von New Scientist wurde aber bereits im März 2020 wohl erstmals eine Drohne vollkommen sich selbst überlassen.

Es sind nicht alle Umstände bekannt, aber laut einem Report der Vereinten Nationen kam es in Libyen zu einer Konfliktsituation zwischen libyschen Regierungstruppen und einer abtrünnigen Militärfraktion. Bei der sei ein Kargu-2-Quadcopter des türkischen Waffenproduzenten STM eingesetzt worden, der mit einer Sprengladung ausgestattet war. Bei dem Quadcopter handelt es sich konkret um Loitering Munition, also ein Waffensystem, das über einem umgrenzten Gebiet auf potentielle Ziele wartet, diese dann identifiziert und sich darauf stürzt – wenn ein Mensch das autorisiert.

Die Drohne soll allerdings so programmiert gewesen sein, dass sie bei fehlender Datenverbindung zu einer Zentrale auf die Zustimmung eines Menschen verzichtet und sich stattdessen selbst die Bestätigung erteilt, ein Ziel anzugreifen. Genau das habe sie auch getan, als sie mittels Kamera einen flüchtenden Soldaten als Ziel erkannt habe. Ob der Kargu-2-Quadcopter das Opfer auch tatsächlich getötet hat, ist nicht sicher. Laut dem Sicherheitsberater Zak Kellenborn markiere der Vorfall aber eine Zeitenwende. Denn es sei der erste bekannte Vorfall, bei dem eine Drohne gänzlich unabhängig zur Entscheidung gekommen sei, einen Menschen umzubringen.

Verstehe, was die Zukunft bringt!

Als Mitglied von 1E9 bekommst Du unabhängigen, zukunftsgerichteten Tech-Journalismus, der für und mit einer Community aus Idealisten, Gründerinnen, Nerds, Wissenschaftlerinnen und Kreativen entsteht. Außerdem erhältst Du vollen Zugang zur 1E9-Community, exklusive Newsletter und kannst bei 1E9-Events dabei sein. Schon ab 2,50 Euro im Monat!

Jetzt Mitglied werden!

„Wie anfällig ist das Objekterkennungssystem?“, fragt Kallenborn in dem Report der Vereinten Nationen. „Wie oft werden Ziele falsch identifiziert?“ Genau diese Gefahr sehen auch Institutionen wie die Menschenrechtsorganisation Human Rights Watch. Sie fordert ein internationales Verbot von voll-autonomen Waffensystem. 30 Staaten haben sich mittlerweile für einen solchen Schritt ausgesprochen. Die deutsche Enquete-Kommission für KI und eine Studie des Büros für Technikfolgen-Abschätzung legten der deutschen Regierung nahe, ein solches Verbot zu unterstützen. Im Jahr 2020 stimmte der Bundestag jedoch gegen einen Antrag der Grünen, in dem eine „völkerrechtliche Ächtung autonomer Waffensysteme“ durch Deutschland beschlossen werden sollte.

Teaser-Bild: STM

Mehr zum Thema:

Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook oder LinkedIn und verbreite unsere Inhalte weiter. Danke!

6 Like

Danke für den Artikel! Auf diese schlimme Meldung habe ich irgendwie gewartet. Es ist ein Armutszeugnis für die Menschheit eine so tolle Technologie so schändlich einzusetzen…Abgesehen davon, das KI, so wie Sie aktuell entwickelt wird, niemals 100% sicher sein wird:

5 Like

Ich finde das eine sehr gefährliche Entwicklung. Eigentlich sollten Maschinen uns helfen und nicht unsere Spezies auslöschen. Es wird dringend Zeit, das im Thema KI einige internationale Regeln und Gesetze festgelegt werden.

So á la NieR:Automata, wo selbst die Androiden „Glory to Mankind“ rufen, das ist doch perspektivisch gesehen eine gute Richtung.

4 Like

Ja, ich auch. Bin eigentlich überrascht, dass sie erst jetzt kommt. Und ich hab ganz bewusst vom „erste(n) bekannte(n) Vorfall“ geschrieben.

3 Like

Ja, glücklicherweise arbeiten wir daran. Aber bis es tatsächlich zu verbindlichen Regularien kommt, wird es wohl noch dauern. Und auch das hält niemanden davon ab, sie zu ignorieren.

3 Like

Leider stimmt das. Und um so restriktiver die Regeln um so geheimer werden sie gebrochen bzw. Brüche verschleiert.

3 Like

Jup, deswegen ist es geil, dass es zu dem Thema so eine fette ethische Debatte gibt: Ethik funktioniert ohne Gesetze, aber Gesetze nicht ohne Ethik.

2 Like