Die Abgeordneten im Deutschen Bundestag sind sich ausnahmsweise einig: Künstliche Intelligenz sei eine „Schlüsseltechnologie“. Wie diese gefördert und finanziert werden soll, darüber gibt es freilich Uneinigkeit. Doch unsere Science-Fiction- und Politik-Kennerin Aleksandra Sowa alias @Kryptomania beschlich angesichts der jüngsten KI-Debatte im Parlament eine andere Frage: Wie viel KI steckt schon heute im Staat? Und wie viel KI würde der Politik gut tun?
Eine Kolumne von Dr. Aleksandra Sowa
39 Minuten. So viel Zeit plante die Bundestagsvizepräsidentin, Yvonne Magwas, für die KI-Debatte am 28. September 2023 im Bundestag ein. Ausgelöst wurde die Aussprache durch den am Tag der Behandlung im Plenum noch nicht ganz zehn Tage alten Antrag der CDU/CSU-Fraktion zum Thema: Künstliche Intelligenz als Schlüsseltechnologie für Deutschlands Zukunft stärken. Vier Seiten und neun Forderungen an die Bundesregierung stark.
An der dann doch circa 40-minütigen Aussprache – mit 42 wäre man vermutlich gar einer Lösung der endgültigen Frage „nach dem Leben, dem Universum und dem ganzen Rest“ nahegekommen – beteiligten sich elf Bundestagsabgeordnete verschiedener Parteien. Für die antragstellende CDU/CSU-Fraktion sprach und hob die wesentlichen Punkte des Antrags hervor: Thomas Jarzombek (CDU). Bis 42 kam man in der Aussprache möglicherweise auch deswegen nicht, weil fast alle Redner dem Thema Künstliche Intelligenz (KI) durchgehend positiv gegenüberstanden. Der Antrag zur KI als Schlüsseltechnologie wurde anschließend zur weiteren Beratung in die Ausschüsse, unter der Federführung des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung, überwiesen.
Uneinigkeit gab es hauptsächlich bei der Frage, was wie wann getan werden muss, wobei die beiden Parteien, die sich in der letzten Legislaturperiode vor fünf Jahren noch gemeinsam auf eine KI-Strategie geeinigt hatten, nun einander gegenüberstanden: Während Holger Becker (SPD) bemängelte, man würde in dem Antrag Maßnahmen vorschlagen, die sich bereits in der Umsetzung befinden oder zur Umsetzung angedacht sind, trug Thomas Jarzombek (CDU) vor, die Bundesregierung und das zuständige Bildungsministerium würden nicht genug und nicht schnell genug umsetzen. Der vor Wochen vom BMBF angekündigte KI-Aktionsplan wäre beispielsweise nicht auffindbar oder abrufbar gewesen. Widersprüchliches gab es auch zum Etat für KI-Förderung. Während die CDU eine Umsetzung der Forderungen aus dem Antrag, wozu unter anderem der Zugang für KI-Unternehmen zu den (hauptsächlich für den wissenschaftlichen Bedarf errichteten) Rechenzentren sowie deren Ausbau und das Auftreten der Bundesregierung als „strategischer Ankerkunde“ für die KI-Wirtschaft zählten, „im Rahmen der verfügbaren Haushaltsmittel“ wünschte, vermisste Barbara Benkstein (AfD) noch das Digitalbudget. Caroline Wagner (SPD) rechnete vor, wie viele Mittel für KI aus dem früheren Haushalt der CDU-geführten Ministerien tatsächlich abgerufen wurden (wenige), und Maximilian Funke-Kaiser (FDP) verteidigte den von FDP-Finanzminister Christian Lindner vorgelegten Etat: Es sei kein Sparhaushalt – es sei ein Prioritätenhaushalt!
Ob genug oder nicht genug Mittel für KI im Haushalt vorgesehen sind, weiß man sowieso erst dann, wenn klar ist, was überhaupt gemacht werden soll.
Der Staats als vorkommerzieller KI-Kunde. Aber welche KI nutzt er bereits?
Im Bundestag lobten die einen, dass 100, 150 oder 200 (je nach Redner) KI-Professuren geplant seien. Die anderen bemängelten, dass nur etwas über die Hälfte der geplanten Humboldt-Professuren auf dem Gebiet der KI besetzt sind. Was offensichtlich nicht infrage gestellt wurde: die Feststellung, dass „KI eine Schlüsseltechnologie des 21. Jahrhunderts“ sei, „die enorme Potenziale für Wirtschaft, Gesellschaft und Umwelt birgt“. Dabei ist die Reihenfolge nicht mal alphabetisch richtig.
Um ebendiese Wirtschaft zu stärken sowie Effizienz und Qualität sicherzustellen und die im Antrag und von den Rednern mit zahlreichen Studien belegten „große[n] Potenziale“ für die deutsche Wirtschaft zu schöpfen, sollte die Bundesregierung im Rahmen einer „vorkommerzielle[n] Beschaffung“ als „strategischer Ankerkunde für deutsche KI-Start-ups“ auftreten, „analog zu den erprobten Verfahren bei Trägerraketen (Launchern) und Quantentechnologien“. Dies sei, so der Antrag der CDU/CSU, eine „erprobte und geeignete Vorgehensweise für die Förderung von Technologie“. Für die Konzeptionierung eines solchen Vorgehens scheint den Autoren des Antrags die Bundesagentur für Sprunginnovationen SPRIND „prädestiniert“. Der Agentur, die einen Schub an Finanzierung direkt aus dem Koalitionsvertrag erhielt und nicht, wie andere, erst auf die Mittelzuweisung aus dem Bundeshaushalt warten musste, möchte man offenbar eine sinnvolle Beschäftigung geben. Mangelt es bisher etwa an Sprungtechnologien? Während Holger Mann (SPD) im Bundestag bestätigte (ohne Bezugnahme auf SPRIND), dass die Bundesregierung bereits als Ankerkunde agiert, kritisierte Dr. Petra Sitte (Die Linke) diesen Ansatz: dass der Staat als Ankerkunde den Markt schaffen und die Risiken dafür selbst tragen sollte, das ging der Abgeordneten deutlich zu weit.
Doch zwischen den Forderungen, die Bundesregierung oder die Politik sollte (weiter oder mehr) KI einsetzen, und der (eventuell) ironisch gemeinten Anmerkung des „Bündnis 90/Die Grünen“-Co-Vorsitzenden, Omid Nouripour, die Rede von Thomas Jarzombek (CDU) sei offensichtlich von ChatGPT geschrieben worden, sei die Frage erlaubt: Wo und welche KI setzt eigentlich die Bundesregierung ein? Eine Frage, der die Ausschüsse, an die der Antrag verwiesen wurde, unbedingt in einer Untersuchung nachgehen sollten. Eine transparente Informationslage hier, auch wenn es um Entscheidungen für oder wider die Wirtschaft geht, ist wichtig für die Gesellschaft.
Kalt kalkulierend vorbereitete politische Entscheidungen – auch im Weißen Haus
Dass Maschinerie – ob Algorithmen, KI, Big Data, ob in den Chefetagen der Wirtschaft oder in der Politik – bei der Entscheidungsfindung eingesetzt wird, ist seit Jahren bekannt. Sogar der US-Präsident als Innbegriff des mächtigsten modernen Herrschers, schrieb Rafal Kosik, der Autor des kürzlich erschienenen ersten Cyberpunk-2077-Romans zum gleichnamigen Spiel, in seiner monatlichen Kolumne in Nowa Fantastyka (9/2023), trifft seine Entscheidungen auf Grundlage von Analysen, die von Maschinen erstellt werden. Maschinerie überwacht die Umsetzung der Entscheidungen. Sogar eine Erinnerung daran, dass eine Entscheidung nun zu treffen sei, kommt inzwischen – von einer Maschine. Obwohl mit „Maschine“ nicht nur der kalt kalkulierende Computer gemeint ist, sondern ebenfalls der kalt kalkulierende menschliche Zusatz, bestehend aus Experten, die computergestützte Analysen anbieten und/oder durchführen.
Studien und Prognosen namhafter Institute sollen währenddessen Menschen davon überzeugen, dass sie irgendwann überflüssig werden. In erster Linie durch Digitalisierung und Algorithmen, dann durch schwache und später starke KI, werden Menschen bei ihren Tätigkeiten unterstützt und irgendwann ersetzt, heißt es immer wieder. Der von Sam Altman propagierte Ausdruck „median human“ sollte uns eventuell darüber hinwegtrösten, dass wir nicht sofort an der Reihe sind, von KI ersetzt zu werden. Solange wir unter- oder überdurchschnittlich bleiben jedenfalls. In zehn Jahren würden fast alle Arbeitsplätze in diesem Land mit KI arbeiten, führte Omid Nouripour in der Bundestagsaussprache aus. Und nannte als Beispiel, dass eine Krankenschwester, die einen halben Tag Formulare ausfüllen würde, keine Zeit für das Zwischenmenschliche hätte.
Dabei gibt es keinen vernünftigen Grund zu glauben, dass die Joberosion nicht auch auf CEOs der Unternehmen, Politiker oder Abgeordnete zutreffen sollte. Die Notwendigkeit, dass Präsidenten, Minister oder Senatoren selbst Entscheidungen treffen, so Kosik, nimmt ab, bis sie irgendwann ganz verschwindet. Jede (menschliche) Abweichung von der Entscheidung der KI kann angesichts der dynamischen und komplexen wirtschaftlichen, politischen oder gesellschaftlichen Umstände nur eine schlechtere Wahl bzw. Entscheidung bedeuten. Ein Mensch kann nicht mal ein System aus drei Gleichungen mit drei Unbekannten im Kopf rechnen. Was erwartet man denn, wie er ein Unternehmen oder eine ganze Volkswirtschaft steuern soll?!
Der Homöostat – und die Furcht vor Menschen, die KI benutzen
Dass das „Human-in-the-loop“-Konzept ein schwaches Argument gegen die unbestechliche Effizienz und Effektivität der Maschinerie darstellt, hat der Futurologe Stanislaw Lem in Summa Technologiae bereits erschöpfend erklärt. In der Konzeption des Homöostaten – eines selbstregulierenden elektronischen Apparats, der Unternehmen, Branchen oder ganze Volkswirtschaften lenken und die Wirtschaft dabei im Gleichgewicht halten könnte – sollte der Maschine ein menschlicher Beirat, eine sogenannte „beratende Körperschaft“, zur Seite gestellt werden, die bei Entscheidungen, die Menschen (bspw. im Falle von Entlassungen) oder die Gesellschaft betreffen, als eine Art Notbremse eingreifen würde. Die Maschine, so Lem, würde mit der Zeit Mittel und Wege entwickeln, die Intervention der Körperschaft in ihre optimalen Entscheidungen zu verhindern oder sie zu umgehen.
„Wenn sie die Allgemeinheit nicht informiert, so nicht aus ‚dämonischer Hinterlist‘, sondern lediglich, weil sie selbst nicht weiß, was sie eigentlich tut. Sie ist ja schließlich kein ‚elektronischer Satan‘, kein allwissendes Wesen, das wie ein Mensch oder ein Übermensch denkt, sondern nur eine Apparatur, die unaufhörlich nach Zusammenhängen, nach statistischen Korrelationen zwischen den einzelnen gesellschaftlichen Phänomenen forscht, von denen es Millionen und Abermillionen gibt.“ Nicht vor der KI sollten wir uns daher fürchten, warnte in seiner Rede zur KI als Schlüsseltechnologie im Bundestag Kai Gering (Bündnis 90/Die Grüne), sondern vor Menschen, die diese Technik missbrauchen.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
Dabei handelte es sich bei Lems Homöostaten um eine tatsächlich selbstlernende Maschine – Tabula Rasa oder „Black Box“, die ihr Wissen durch Erfahrung im Trial-and-Error-Modus sammelt und neu anwendet – und nicht um eines von solchen KI-Systeme, die mit historischen, unbereinigten, zufälligen, oft fehlerhaften und biasbehafteten Daten trainiert wurden. Doch während der lemsche Homöostat immer weiter lernt und sich selbst optimiert, stecken die heute entwickelten KIs „in the loop“, indem sie frühere, auch schlechte Entscheidungen replizieren und dafür sorgen, dass alles bleibt, wie es ist. Bis in die Ewigkeit. Dabei sei nicht der Computer das Problem, erklärte schon der Vater der Managementkybernetik, Stafford Beer. Das Problem liegt darin, wie Computer eingesetzt werden. Computer würden keine Fehler machen, so Beer, Menschen schon. Damit sind nicht mal die Entwickler oder Analysten gemeint, denn sie sind Experten, die Programmierfehler nicht nur entdecken, sondern auch beheben können. Vielmehr sind die Menschen, die Entscheidungen über den Einsatz der Computer treffen, diejenigen, denen Fehler unterlaufen.
Wer regiert eigentlich das Land? „Keine Ahnung.“
Eine Untersuchung, wo und welche KI bereits in der Regierungsarbeit eingesetzt wird, kann allerdings erst der Anfang sein. Hinter jeder Software stehen mächtige Interessengruppen, und Transparenz ist lediglich Voraussetzung für Prüfbarkeit. Wobei damit die Fähigkeit und Möglichkeit der Bürgerinnen und Bürger verstanden wird, ihre gewählten Stellvertreter und Regierungen demokratisch zu kontrollieren. Echte Souveränität also. Auch wenn es um die Frage geht, wie und von welcher/wessen Maschinerie Politiker sich bei den Entscheidungen helfen lassen. Lassen sich die Abgeordneten durch ChatGPT beraten? Und wie stark hängt ihre Sicht der Dinge schon jetzt von den Algorithmen von Google, Meta oder X ab?
Darüber hinaus wäre es fast schade, den rasanten Fortschritt und die Entwicklung von KI als Schlüsseltechnologie, von der in der Aussprache im Bundestag die Rede war, nicht auch für die Entwicklung neuer Instrumente demokratischer Kontrolle zu nutzen. Damit die Antwort auf die Frage, wer eigentlich das Land regiert, nicht irgendwann plötzlich „Keine Ahnung“ lautet.
Ob man das Recht auf bürgerliche Souveränität mithilfe von Turing-Test, Captcha oder, wie von Issaac Asimov vorgeschlagen, mit einem Apfel durchsetzen sollte, ist allerdings ein Thema für eine weitere Kolumne.
Dr. Aleksandra Sowa gründete und leitete zusammen mit dem deutschen Kryptologen Hans Dobbertin das Horst Görtz Institut für Sicherheit in der Informationstechnik. Sie ist zertifizierter Datenschutzauditor und IT-Compliance-Manager. Aleksandra ist Autorin diverser Bücher und Fachpublikationen. Sie war Mitglied des legendären Virtuellen Ortsvereins (VOV) der SPD, ist Mitglied der Grundwertekommission und trat als Sachverständige für IT-Sicherheit im Innenausschuss des Bundestages auf. Außerdem kennt sie sich bestens mit Science Fiction aus und ist bei Twitter als @Kryptomania84 unterwegs.
Alle Ausgaben ihrer Kolumne für 1E9 findet ihr hier.
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!