Künstliche Intelligenz kann bei der Suche nach neuen Wirkstoffen für Medikamente helfen. Sie lässt sich aber auch einsetzen, um Moleküle aufzuspüren, die Menschen töten können – und für chemische Waffen geeignet wären. Das fand ein Forschungsteam nun in einem Versuch heraus.
Von Wolfgang Kerler
„Der Gedanke war uns vorher nie gekommen“, schreiben Fabio Urbina und seine Co-Autoren Anfang März in einem Beitrag für Nature Machine Intelligence. Sie meinen den Gedanken, dass die Künstliche Intelligenz, mit der sie bei der amerikanischen Firma Collaborations Pharmaceuticals eigentlich nach neuen Medikamenten suchen, auch für das Gegenteil verwendet werden könnte: die Suche nach chemischen Waffen.
Doch dann erhielten Fabio Urbina und sein Team eine Einladung zur Spiez-Convergence-Konferenz in der Schweiz. Dort beraten Experten alle zwei Jahre darüber, wie sich neue chemische, biologische und technologische Entwicklungen auf die Gefahr durch biologische und chemische Kriegsführung auswirken könnten. Collaborations Pharmaceuticals sollte dort einen Vortrag über den möglichen Missbrauch von KI halten. Doch anstatt nur hypothetische Risiken zu skizzieren, entschieden sich Fabio Urbina & Co. dazu, ihre Software aktiv nach möglichen chemischen Killern fahnden zu lassen. Das Ergebnis schockte die Wissenschaftler.
In weniger als sechs Stunden generierte das KI-Modell 40.000 Moleküle, die für Menschen tödlich sein könnten. Darunter waren zum einen die chemischen Baupläne für bekannte chemische Kampfstoffe wie VX, obwohl die KI diese nie „gesehen“ hatte, sowie für Moleküle, die diesen sehr ähnlich waren. Daneben fand die Software aber auch zahlreiche chemische Verbindungen, die bisher unbekannt waren.
Einige Moleküle könnten gefährlicher sein als das stärkste bekannte Gift
Besonders alarmierend für das Forschungsteam: Die KI schlug etliche Moleküle vor, deren Toxizität – zumindest laut der Prognose durch die Software – noch weit über der von VX liegen dürfte. Damit habe man nicht gerechnet, wie Fabio Urbina im Interview mit The Verge erzählt: „Das ist deshalb so überraschend, weil VX im Grunde eine der potentesten bekannten [chemischen] Verbindungen ist. Das heißt, man braucht eine sehr, sehr, sehr kleine Menge davon, damit es tödlich ist.“
Um eine Vorstellung davon zu bekommen, was das bedeutet: Schon ein paar Körner VX, nicht größer als Salzkörner, reichen aus, um zu töten. Das Gift kann über die Atemwege, die Haut und die Augen in den Körper eindringen, lähmt dort die Atemmuskulatur – und führt innerhalb weniger Minuten zu einem schmerzhaften Tod.
Die KI könnte auf noch gefährlichere Stoffe gestoßen sein, was allerdings durch Versuche mit den synthetisierten Molekülen, die bisher nur digital existieren, verifiziert werden müsste. „Und wir werden das sicherlich nicht selbst verifizieren“, sagt Urbina. Doch selbst wenn einige falsche Treffer dabei seien, fürchten er und sein Team, dass einige noch stärkere Moleküle dabei waren.
Für den Versuch nutzte die Firma ihre KI-Software MegaSyn. Diese zielt normalerweise darauf ab, mithilfe von maschinellem Lernen neue Moleküle zu entdecken, die Wirkung gegen Erkrankungen zeigen und dem Menschen dabei gleichzeitig so wenig wie möglich schaden. Je weniger giftig, desto besser. Denn was nutzt ein Medikament, das zwar einen Krankheitserreger bekämpfen kann, aber den Patienten vergiftet?
Diesmal drehten die Forscher die Logik allerdings um: je giftiger, desto besser. Die KI sollte Stoffe finden, die schon bei einer recht geringen Dosis mehr als die Hälfte der Menschen, denen sie verabreicht wurde, binnen vier Wochen tötet.
Die KI basiert auf Open-Source-Ressourcen
In ihrem Nature-Artikel weisen die Forscher darauf hin, dass die von ihnen verwendete Software auf frei verfügbaren Open-Source-Programmen und -Datenbanken beruht. Genau deswegen hätten sie darüber nachgedacht, ob sie ihre Ergebnisse wirklich veröffentlichen sollten – oder lieber nicht, wie Fabio Urbina zu The Verge sagte: „Wenn Sie jemanden haben, der Python programmieren kann und sich ein bisschen mit maschinellem Lernen auskennt, dann könnte er wahrscheinlich an einem Wochenende so etwas wie dieses generative Modell erstellen.“
Am Ende entschieden sich Fabio Urbina und sein Team dann doch dazu, der Welt von ihren Ergebnissen zu berichten – auch als Weckruf, weil sich bisher kaum jemand über dieses Risiko Gedanken gemacht zu haben schien. Dass Dual Use, also die Einsatzmöglichkeit sowohl für zivile als auch für militärische Zwecke, selbst bei KI in der medizinischen Forschung eine Rolle spielt, schien niemandem aufgefallen zu sein.
Du hast Lust auf Zukunft?
Dann bist du bei 1E9 richtig. Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Konstruktiver Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du außerdem exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
„Die Diskussion über die gesellschaftlichen Auswirkungen von KI konzentrierte sich hauptsächlich auf Aspekte wie Sicherheit, Privatsphäre, Diskriminierung und potenziellen kriminellen Missbrauch, nicht aber auf die nationale und internationale Sicherheit“, schreiben die Forscher in ihrem Artikel. Sie wünschen sich nun ethische Richtlinien, bessere Ethikausbildung und eine interdisziplinäre, gesellschaftliche Debatte, wie mit den neuen Erkenntnissen umgegangen werden sollte.
Die mit KI gefundenen Moleküle tatsächlich herzustellen und zu testen, ist nach Ansicht von Fabio Urbina glücklicherweise nicht ganz so einfach. Denn einige der chemischen Bausteine, die es dafür bräuchte, sind als Komponenten chemischer Kampfstoffe bekannt – und daher streng reguliert und überwacht. Dennoch, meint der Wissenschaftler, würde sich wohl eine Firma finden lassen, die es dennoch tut.
Bei autonomen Waffen, zum Beispiel KI-gesteuerten Drohnen, ist eine globale Ächtung bisher nicht gelungen. Bei Bio- und Chemiewaffen dagegen schon. Was aber passiert mit Waffensystemen, die alle drei Bereiche betreffen?
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Titelbild: Getty Images