Würde jemand Star Wars anschauen, wenn dort alle Menschen von Droiden ersetzt wurden? Wohl kaum, meint die Soziologin Janet Vertesi – und sieht diese Science-Fiction-Visionen durchaus als Vorbild für unser Zusammenleben mit KI und Robotern. In ihrer Arbeit konnte sie außerdem genau untersuchen, wie maschinelle Intelligenz bei den Weltraummissionen der NASA mit menschlichen Fähigkeiten kombiniert wird. Auch daraus könnten wir lernen.
Ein Gastbeitrag von Janet Vertesi
Seit der Veröffentlichung von ChatGPT Ende 2022 haben viele Medien über die ethischen Bedrohungen durch Künstliche Intelligenz berichtet. Dabei warnen Technikexperten vor Killerrobotern, die das Ziel haben, die Menschheit auszurottenn, während das Weltwirtschaftsforum voraussagt, dass Maschinen zukünftig viele Arbeitsplätze gefährden.
Im Technologiesektor wird bereits Personal abgebaut, zugleich wird in KI-gestützte Produktivitätstools investiert. In Hollywood streiken Autoren und Schauspieler, um nicht nur ihre Arbeitsplätze, sondern auch ihr Abbild zu schützen. Und Wissenschaftler zeigen immer wieder auf, wie diese technologischen Systeme bestehende Vorurteile verstärken oder sinnlose Arbeitsplätze schaffen – neben unzähligen anderen Problemen.
Doch es gibt bessere Wege, KI in Arbeitsplätze zu integrieren. Ich weiß das, weil ich als Soziologin mit den Teams für robotische Raumfahrzeuge der NASA zusammengearbeitet habe und es selbst erlebt habe. Die Wissenschaftler und Ingenieure, die ich für meine Studien beobachte, beschäftigen sich damit, die Marsoberfläche mit Hilfe von mit KI ausgestatteten Rovern zu erforschen. Ihre Arbeit ist keine Science-Fiction-Fantasie. Sie ist ein Beispiel dafür, wie man maschinelle und menschliche Intelligenz für ein gemeinsamen Ziels miteinander verknüpfen kann.
Anstatt Menschen zu ersetzen, arbeiten diese Roboter mit uns zusammen, um menschliche Qualitäten zu erweitern und zu ergänzen. Dabei vermeiden sie gängige ethische Schwierigkeiten und zeigen einen humanen Weg für die Arbeit mit KI auf.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
Der „Ersetzungsmythos“ in der Künstlichen Intelligenz
Geschichten über Killerroboter und Arbeitsplatzverluste zeigen, wie sehr ein „Ersetzungsmythos“ das Denken der Menschen über KI beherrscht. Nach dieser Auffassung können und werden Menschen durch automatisierte Maschinen ersetzt. Der existenziellen Bedrohung steht das Versprechen wirtschaftlicher Vorteile wie größere Effizienz, bessere Gewinnspannen und mehr Freizeit gegenüber.
Empirische Untersuchungen zeigen allerdings, dass die Automatisierung nicht zu Kostensenkungen führt. Stattdessen vergrößert sie die Ungleichheit, indem sie Arbeitnehmer mit niedrigem Status ausschließt und die Lohnkosten für Arbeitnehmer mit hohem Status, die übrig bleiben, erhöht. Die heutigen Produktivitäts-Tools sollen Arbeitnehmer dazu antreiben, nicht weniger, sondern mehr für ihre Arbeitgeber zu arbeiten.
Eine Alternative zum reinen Ersatz sind „gemischte autonome“ Systeme, bei denen Menschen und Roboter zusammenarbeiten. Selbstfahrende Autos müssen beispielsweise so programmiert werden, dass sie neben menschlichen Fahrern im Verkehr fahren können. Die Autonomie ist „gemischt“, weil sowohl Menschen als auch Roboter im selben System arbeiten und ihre Handlungen sich gegenseitig beeinflussen.
Allerdings wird die gemischte Autonomie oft als ein Schritt auf dem Weg zum Ersatz gesehen. Sie kann zu neuen Systemen führen, in denen Menschen KI-Tools lediglich füttern, kuratieren oder lehren. Dadurch werden Menschen mit „Geisterarbeit“ belastet – sinnlose, zerstückelte Aufgaben, von denen Programmierer hoffen, dass das maschinelle Lernen sie bald überflüssig macht.
Die Ersetzung wirft „red flags“ für die KI-Ethik auf. Arbeiten wie das Markieren von Inhalten zum Trainieren von KI oder das Entfernen von Facebook-Posts sind typischerweise mit traumatisierenden Aufgaben und schlecht bezahlten Arbeitskräften im globalen Süden verbunden. Zahllose Entwickler autonomer Fahrzeuge sind besessen vom „Trolley-Problem“ – der Frage, wann oder ob es ethisch vertretbar ist, Fußgänger zu überfahren.
Meine Forschungen mit den Robotik-Raumfahrt Teams bei der NASA haben jedoch gezeigt, dass sich viele der ethischen Probleme im Zusammenhang mit KI in Luft auflösen, wenn Unternehmen den „Ersetzungsmythos“ ablehnen und sich stattdessen für den Aufbau von Mensch-Roboter-Teams entscheiden.
Erweitern statt Ersetzen
Starke Mensch-Roboter-Teams funktionieren am besten, wenn sie die menschlichen Fähigkeiten erweitern und ergänzen, anstatt sie zu ersetzen. Ingenieure entwickeln Maschinen, die solchen Arbeiten nachgehen, die Menschen nicht erledigen können. Dabei verknüpfen sie maschinelle und menschliche Arbeit auf intelligente Weise miteinander und arbeiten auf ein gemeinsames Ziel hin.
Oft bedeutet diese Teamarbeit, dass Roboter Aufgaben übernehmen, die für Menschen körperlich gefährlich sind. Minenräumung, Such- und Rettungseinsätze, Weltraumspaziergänge und Tiefseeforschung und -missionen sind allesamt Beispiele aus der Praxis. Teamarbeit meint auch, die kombinierten Stärken von Robotern und menschlichen Sinnen oder Intelligenzen zu nutzen. Schließlich haben Roboter viele Fähigkeiten, die Menschen nicht haben – und umgekehrt.
Zum Beispiel können menschliche Augen auf dem Mars nur schwach beleuchtetes, staubiges, rotes Terrain sehen, das sich bis zum Horizont erstreckt. Deshalb statten Ingenieure die Marsrover mit Kameras aus, die Wellenlängen des Lichts im Infrarotbereich erkennen, die Menschen nicht wahrnehmen können, und liefern so Bilder in brillanten Falschfarben.
Die KI an Bord der Rover kann jedoch keine wissenschaftlichen Erkenntnisse hervorbringen. Nur durch die Kombination von farbenfrohen Sensor-Ergebnissen mit Diskussionen unter Experten können Wissenschaftler die Roboter-Augen nutzen, um neue Erkenntnisse über den Mars zu gewinnen.
Respektvoller Umgang mit Daten
Eine weitere ethische Herausforderung bei KI ist die Art und Weise, wie Daten gesammelt und verwendet werden. Generative KI wird auf der Grundlage von Werken von Künstlern und Schriftstellern ohne deren Zustimmung trainiert, kommerzielle Datensätze sind voller Verzerrungen, und ChatGPT „halluziniert“ Antworten auf Fragen. Die realen Folgen dieser Datennutzung in der KI reichen von Gerichtsverfahren bis hin zum „Racial Profiling“.
Auch Roboter auf dem Mars sind auf Daten, Verarbeitungsleistung und maschinelle Lernverfahren angewiesen, um ihre Arbeit zu erledigen. Die Daten, die sie benötigen, sind jedoch visuelle Informationen und Entfernungsangaben, um befahrbare Pfade zu erstellen oder coole neue Aufnahmen vorzuschlagen. Indem sie sich auf die Welt um sie herum konzentrieren und nicht auf unsere sozialen Welten, vermeiden diese Robotersysteme die Fragen nach Überwachung, Voreingenommenheit und Ausbeutung, die die heutige KI plagen.
Die Ethik der Fürsorge
Durch nahtlose Integration können Roboter die Gruppen, die mit ihnen arbeiten, zusammenbringen, indem sie menschliche Emotionen hervorrufen. So trauern beispielsweise erfahrene Soldaten um kaputte Drohnen auf dem Schlachtfeld, und Familien geben ihren Saugrobotern Namen und Persönlichkeiten. Ich habe gesehen, wie NASA-Ingenieure in ängstliche Tränen ausbrachen, als die Rover Spirit und Opportunity durch Staubstürme auf dem Mars bedroht waren.
Im Gegensatz zum Anthropomorphismus – der Projektion menschlicher Eigenschaften auf eine Maschine – entstehen diese Emotionen aus einem Gefühl der Fürsorge für die Maschine. Es entwickelt sich durch tägliche Interaktionen, gemeinsame Leistungen und geteilte Verantwortung. Wenn Maschinen ein Gefühl der Fürsorge wecken, können sie die Eigenschaften, die Menschen menschlich machen, unterstreichen – und nicht untergraben.
Eine bessere KI ist möglich
In Branchen, in denen KI eingesetzt werden könnte, um Arbeitskräfte zu ersetzen, könnten Technologie-Experten darüber nachdenken, wie clevere Mensch-Maschine-Partnerschaften die menschlichen Fähigkeiten verbessern könnten, anstatt sie zu beeinträchtigen.
Teams, die Drehbücher schreiben, könnten einen künstlichen Agenten zu schätzen wissen, der Dialoge oder Querverweise im Handumdrehen nachschlagen kann. Künstler könnten ihre eigenen Algorithmen schreiben oder kuratieren, um ihre Kreativität zu fördern und die Anerkennung für ihre Arbeit zu erhalten. Bots zur Unterstützung von Software-Teams könnten die Kommunikation bei Besprechungen verbessern und Fehler finden, die beim Kompilieren von Code entstehen.
Natürlich sind mit der Ablehnung von Ersatz nicht alle ethischen Bedenken gegen KI ausgeräumt. Aber viele Probleme im Zusammenhang mit menschlichem Lebensunterhalt, Handlungsfähigkeit und Voreingenommenheit verlagern sich, wenn der Ersatz nicht mehr das Ziel ist.
Die Ersetzungs-Phantasie ist nur eine von vielen möglichen Zukunftsperspektiven für KI und die Gesellschaft. Schließlich würde sich auch niemand Star Wars ansehen, wenn die Droiden alle Protagonisten ersetzen würden. Für eine ethischere Vision der Zukunft der Menschen mit KI können wir uns an den Mensch-Maschinen-Teams orientieren, die bereits im Weltraum und auf der Erde leben und funktionieren.
Janet Vertesi, die vom Times Literary Supplement als „Margaret Mead in der Sternenflotte“ bezeichnet wurde, ist außerordentliche Professorin für Soziologie an der Princeton University und Spezialistin für Soziologie der Wissenschaft, Technologie und Organisationen. Als Autorin von Seeing like a Rover (Chicago 2015) und Shaping Science (2020) hat sie in den letzten fünfzehn Jahren untersucht, wie die Teams der NASA-Roboter-Raumfahrzeuge effektiv zusammenarbeiten, um wissenschaftliche und technische Ergebnisse zu erzielen.
Dieser Artikel erschien zunächst unter Creative Commons Lizenz auf Englisch bei The Conversation. Die deutsche Übersetzung stammt, mit Genehmigung der Autorin, von 1E9.
Titelbild: NASA
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!
