Die Politik will „KI made in Germany“ fördern, kämpft aber mit hausgemachten Problemen

Politische Grabenkämpfe über den Umgang mit Künstlicher Intelligenz gibt es in Deutschland zwar nicht. Regierung und Opposition haben keine unüberwindbaren Differenzen. Das zeigen die Interviews, die 1E9 mit den KI-Expertinnen von CDU und Grünen geführt hat. Dennoch könnten die Vorschläge zur besseren Regulierung und Förderung von KI scheitern: an analoger Bürokratie, rechtlichen Flickenteppichen und unklaren Zuständigkeiten.

Von Wolfgang Kerler

Dass sie sich zu wenig mit Künstlicher Intelligenz beschäftigt, kann man der Politik jedenfalls nicht vorwerfen. Seit Barack Obama 2016 mit einer Strategie den Anfang machte, wie die Vereinigten Staaten ihren Vorsprung bei der Entwicklung und beim Einsatz von KI verteidigen könnten, zogen über 50 Staaten mit eigenen Plänen nach.

Auch in Deutschland und Europa suchen Ministerien und Parlamente, Behörden und Beratungsgremien seit Jahren nach den besten Rezepten, um – natürlich – Technologieführer im Zukunftsmarkt KI zu werden. Wer alle Ideen studieren möchte, die dabei entwickelt wurden, sollte viel Zeit zum Lesen mitbringen. Die Vorschläge füllen inzwischen tausende von Seiten.

Im November 2018 präsentierten das Forschungs-, das Wirtschafts- und das Arbeitsministerium die gemeinsam ausgearbeitete KI-Strategie der Bundesregierung. Vor ein paar Wochen bekam diese ein Update. Auch der Bundestag befasste sich ausgiebig mit Künstlicher Intelligenz. Fast zwei Jahre lang tagte eine Enquete-Kommission, die vergangenen Oktober einen rund 800 Seiten dicken Abschlussbericht mit Empfehlungen für die Regulierung und Förderung von KI vorstellte. Für die Europäische Union unterbreitete die EU-Kommission vergangenes Jahr ebenfalls einen Vorschlag.

Alle Konzepte vorzustellen und dabei ihre Gemeinsamkeiten und Unterschiede herauszuarbeiten, würde den Rahmen eines einzelnen Artikels sprengen. Leichter wird das auch dadurch nicht, dass es bisher keine klare Definition von KI gibt, auf die sich alle Ebenen berufen. Dennoch: Rote Fäden, zentrale Herausforderungen und politisch noch umstrittene Punkte passen durchaus in einen einzigen Text hinein.

KI made in Germany. Oder in Europe.

Ob in Brüssel oder in Berlin, immer geht es in der KI-Politik auch um Abgrenzung – vor allem gegenüber den USA und China. KI made in Germany oder made in Europe soll für vertrauenswürdige, verantwortungsvolle und gemeinwohlorientierte KI stehen. „Es geht darum, die Entwicklung von KI und im Grunde die gesamte digitale Transformation auf unseren europäischen Grundwerten aufzubauen“, sagt Ronja Kemmer zu 1E9. Sie sitzt für die CDU im Bundestag, war deren Obfrau in der KI-Enquete-Kommission und ist KI-Beauftragte der Unionsfraktion.

„Uns sind Themen wie eine starke und liberale Gesellschaft, aber auch Klimaschutz wichtig“, meint die Grünen-Abgeordnete Anna Christmann, ebenfalls Obfrau in der Enquete-Kommission des Bundestags. „Mit KI made in Europe können wir einen Weg definieren, wie KI wirklich zum Wohl von Mensch und Umwelt eingesetzt wird – und nicht zur Kontrolle von Gesellschaften oder, um möglichst viele Daten von Usern abzusaugen.“ Dass Europa in der Lage sei, Standards zu setzen, habe es mit der Datenschutzgrundverordnung bereits bewiesen.

Deutschland und Europa sollen also für KI stehen, die sicher und robust ist, die Datenschutz und Privatsphäre achtet, die Menschen in ihren Entscheidungen nicht auf Basis von Geschlecht, Hautfarbe oder ähnlichen Faktoren diskriminiert, die zum Wohle der Gesellschaft und zum Schutz von Klima und Umwelt eingesetzt wird – und die so transparent, erklär- und nachvollziehbar wie möglich ist, zum Beispiel indem verwendete Trainingsdaten offengelegt und die relevanten Eigenschaften eines KI-Systems beschrieben werden. Darüber herrscht weitgehend Konsens. Diskutiert wird allerdings, mit welchen Vorschriften und Förderprogrammen das erreicht werden kann.

Risikoklassen – ja oder nein?

Damit KI-Systeme den Ansprüchen der Politik genügen, muss diese – zusätzlich zu vielen bereits vorhandenen Verbraucher- und Datenschutzvorschriften – auch neue Regeln aufstellen. Das ist klar. Ebenfalls klar ist, dass auf KI basierende Instagram-Filter oder Übersetzungstools kaum, selbstfahrende Autos oder autonome Killer-Drohnen dagegen stark reguliert werden müssen. Unklar ist allerdings, wie stark zwischen eher harmlosen und sehr riskanten Anwendungen differenziert werden soll.

Die EU-Kommission beispielsweise schlägt in ihrem KI-Weißbuch ein binäres System vor – will also nur zwischen Anwendungen mit hohem Risiko und Anwendungen ohne hohes Risiko unterscheiden. Hochrisiko-Anwendungen sollten aus Sicht der Kommission transparent, nachvollziehbar und robust sein, müssten immer von Menschen beaufsichtigt werden und Behörden sollten die dafür genutzten Daten prüfen und zertifizieren können.

Ausschlaggebend für die Risikobewertung soll sein, ob KI in einem sensiblen Sektor eingesetzt wird, zum Beispiel Gesundheit, Verkehr oder Energie, und ob sie dort Schaden anrichten kann. Ein Terminvereinbarungstool im Krankenhaus wäre also, obwohl es im Gesundheitswesen verwendet wird, keine Hochrisiko-Anwendungen – und würde damit nicht unter neue, strengere Regeln fallen.

Die Datenethikkommission der Bundesregierung, ein unabhängiges Beratungsgremium, schlägt dagegen ein System mit fünf Risikoklassen vor. Es reicht von Anwendungen mit keinem oder geringen Schädigungspotenzial, für die es keine zusätzliche Regulierung braucht, bis zu Anwendungen mit unvertretbarem Schädigungspotenzial, die vollständig oder teilweise verboten werden sollten. In den Klassen dazwischen gibt es Maßnahmen wie Transparenzpflichten, Zulassungsverfahren oder Live-Schnittstellen zu Aufsichtsbehörden.

Momentan ist das Problem eher, dass Anwendung erst einmal nicht erlaubt sind.
Ronja Kemmer, CDU

Anna Christmann von den Grünen sieht in Risikoklassen grundsätzlich „ein gutes Modell, auf dessen Grundlage man Regulierung vornehmen kann“. Sie hält es jedoch nicht für möglich, Risikoklassen direkt in Gesetzgebung zu gießen. „Sie helfen zur Einordnung, aber Regulierung muss aus meiner Sicht sektoren- und anwendungsspezifisch erfolgen.“

Ronja Kemmer von der CDU fürchtet, dass pauschale Risikoklassen schnell zu Überregulierung führen. „Es ist wichtig, dass wir die zarten Pflänzchen, die gerade entstehen, nicht schon vorab am Wachsen hindern“, sagt sie. „Momentan ist das Problem eher, dass Anwendung erst einmal nicht erlaubt sind und wir die Frage beantworten sollten: Wie schaffen wir es eigentlich, dass Innovationen auf den Markt dürfen?“ Dass Anwendungen, die das persönliche Wohlergehen von Menschen oder gar Leib und Leben betreffen, stärker reguliert werden müssen, sei klar. „Es gibt aber nicht die KI. Deswegen muss man Anwendungen sehr differenziert betrachten.“

Die Regulierung wird also ein Balanceakt, bei dem der Wunsch nach Technologieführerschaft und Innovationen und der Anspruch, nur vertrauenswürdige KI zuzulassen, in Einklang gebracht werden müssen. Die Debatte erinnert an die – regelmäßig aufflammende – Diskussion über die europäische Datenschutzgrundverordnung. Auch die wird immer wieder als Innovationsverhinderer bezeichnet. Bei genauerem Hinsehen ist aber weniger die DSGVO das Problem als der Flickenteppich an Auslegungen.

Die offene Flanke: fehlende Daten, verwirrender Datenschutz.

Ohne Daten, keine KI. Das klingt pauschal, ist aber angesichts der Tatsache, dass die meisten Anwendungen, die wir heute als Künstliche Intelligenz bezeichnen, auf maschinellem Lernen beruhen, zutreffend. Dabei bringen sich – vereinfacht gesagt – Algorithmen selbst bei, in großen Datenmengen Muster und Logiken zu erkennen. Die Voraussetzung dafür sind Trainingsdaten. Das ist auch der Politik klar.

Allerdings gelten in Europa strengere Regeln für das automatisierte Verarbeiten von personenbezogenen Daten als in den USA oder China, weshalb Datenkonzerne wie Facebook, Google, Alibaba oder Tencent in ihren Heimatmärkten noch ungezügelter Informationen über ihre Milliarden von Usern horten können als in der EU. Angesichts des eigenen Anspruchs, in Deutschland und Europa KI auf Basis unserer Grundwerte zu entwickeln, sehen Ronja Kemmer und Anna Christmann darin allerdings gar kein grundsätzliches Hindernis für hiesige Unternehmen.

„Ich halte die DSGVO in ihrer Grundidee für total richtig“, sagt die CDU-Politikerin Ronja Kemmer. Anna Christmann von den Grünen sieht im europäischen Datenschutz sogar eine Chance. „Menschen können deswegen ein hohes Vertrauen in Anwendungen haben.“ Als Problem betrachten beide allerdings die mangelnde Harmonisierung.

„Es ist kein Zufall, dass die Tech-Konzerne alle in Irland sitzen, weil die Auslegung der DSGVO dort besonders liberal ist“, sagt Ronja Kemmer. Dass es in Deutschland dann auch noch unterschiedliche Auffassungen in den 16 Bundesländern und auf Bundesebene gebe, halte sie für „einen Treppenwitz“. „Es kann nicht sein, dass ich jedes Mal mit 17 Datenschutzbeauftragten konferieren muss, wenn ich Fragen zu einer konkreten Anwendung habe“, findet auch Anna Christmann von den Grünen. Die Politik müsse also auf eine echte Harmonisierung hinarbeiten.

Europa muss endlich die Datenschätze nutzen, die wir haben.
Anna Christmann

Ohnehin überlagert die Debatte über die DSGVO manchmal, dass der Erfolg Europas und Deutschlands insbesondere von Daten abhängen könnte, die von ihr wenig betroffen sind – weil sie entweder gar nicht personenbezogen sind oder auch anonymisiert wertvoll sind. Entscheidend könnten nämlich Daten aus der Industrie, der Verwaltung oder Umweltdaten sein. „Europa muss endlich die Datenschätze nutzen, die wir haben“, fordert Anna Christmann.

Um Unternehmen dazu zu bringen, untereinander Daten zu teilen, ohne Angst um Geschäftsgeheimnisse haben zu müssen, wird eine Reihe von Maßnahmen diskutiert – oder schon umgesetzt. Dazu gehört die europäische Cloud- und Dateninfrastruktur Gaia-X, aber auch die Schaffung von vertrauenswürdigen Vermittlern in Form von Datentreuhändern.

Mit gutem Beispiel vorangehen sollten allerdings, auch darüber besteht im Prinzip Einigkeit, staatliche und öffentliche Einrichtungen, die nicht personenbezogene Daten erheben. „Was mit öffentlichen Geldern finanziert wird, muss auch öffentlich sein“, sagt Anna Christmann. Fast wortgleich wünscht sich das auch Ronja Kemmer: „Wo öffentliches Geld in das Sammeln von Datensätzen gesteckt wurde, müssen diese Daten auch der Öffentlichkeit zur Verfügung gestellt werden.“

In der Praxis funktioniert das in Deutschland bisher nur schleppend. Zwar gibt es mit GovData.de ein Portal für öffentliche Daten, doch rangiert dies international allenfalls im Mittelfeld. Die mangelhafte Digitalisierung vieler Behörden, unterschiedliche IT-Systeme in den Bundesländern und fehlende Interoperabilität erschweren die Umsetzung der in der neuen Datenstrategie der Bundesregierung formulierten Ambition, der Staat solle „zum Vorreiter der neuen Datenkultur“ werden. „Wie das umgesetzt werden soll, bleibt leider weiterhin sehr vage“, kritisiert Anna Christmann.

Will Europa eine führende Rolle bei der Entwicklung und beim Einsatz von Künstlicher Intelligenz spielen, müsse es gelingen, den Schutz von personenbezogenen Daten und Menschenrechten zu sichern, und gleichzeitig hochwertige Datenpools aufzubauen. Zu diesem Ergebnis kommt die CDU-nahe Konrad-Adenauer-Stiftung in einer aktuellen Studie. Doch dafür bräuchte Europa auch eine Koordinierung der vielen nationalen KI-Strategien.

Das Geld fließt nur langsam.

Drei Milliarden Euro bis 2025, um KI zu fördern, kalkulierte die Bundesregierung 2018 ein. 2020 stockte sie den Betrag auf fünf Milliarden Euro auf. Damit sollen eine Vielzahl von Maßnahmen finanziert werden: KI-Trainer, die den Mittelstand beim Einsatz der neuen Technologie unterstützen sollen, Reallabore, Supercomputer, Testfelder für autonome Mobilität, eine ganze Reihe von Wettbewerben, Förderung von Wagniskapital und Existenzgründungen, neue Professuren – und vieles mehr, wie man auf der Webseite zur KI-Strategie nachlesen kann.

Verstehe, was die Zukunft bringt!

Als Mitglied von 1E9 bekommst Du unabhängigen, zukunftsgerichteten Tech-Journalismus, der für und mit einer Community aus Idealisten, Gründerinnen, Nerds, Wissenschaftlerinnen und Kreativen entsteht. Außerdem erhältst Du vollen Zugang zur 1E9-Community, exklusive Newsletter und kannst bei 1E9-Events dabei sein. Schon ab 2,50 Euro im Monat!

Jetzt Mitglied werden!

Das Geld sei zu wenig, hieß es von Kritikern wie dem renommierten KI-Forscher Jürgen Schmidhuber gleich zu Anfang. China plane schließlich Ausgaben in Höhe von 150 Milliarden Euro. Als „Klein-Klein“ bezeichneten Oppositionsvertreter die Strategie. Und inzwischen stellte sich heraus, dass selbst die eingeplanten Mittel nur langsam fließen. „Es werden Milliardensummen ins Schaufenster gestellt“, sagt Anna Christmann. „Wenn man aber nachfragt, wie viel davon tatsächlich ausgegeben wird, ist das nur ein Bruchteil. Im vergangenen Sommer waren es gerade einmal 65 Millionen Euro. Das ist viel zu wenig.“

Weitere Punkte sprechen dafür, dass die Umsetzung der Strategie nicht gerade reibungslos verläuft. Mitte 2020 verzögerte sich die Fortschreibung der Strategie offenbar vor allem deshalb, weil sich die Ministerien nicht einigen konnten, wofür die zusätzlichen zwei Milliarden ausgegeben werden sollten. „Abstimmungsbedarf“ lautete die offizielle Begründung. Für die Strategie zuständig sind schließlich gleich drei Ministerien – Arbeit, Wirtschaft, Forschung. Ende 2020 blockierte der Haushaltsausschuss des Parlament dann die Freigabe von 120 Millionen Euro für das Bund-Länder-Programm „KI in der Hochschulbildung“, weil das Forschungsministerium den Abgeordneten kein inhaltliches Konzept dafür vorgelegt hatte.

Anna Christmann fehlt es – trotz Nachbesserungen bei der Fortschreibung der Startegie – auch an einer europäischen Ausrichtung der deutschen Politik. „Wir brauchen echte Ökosysteme aus Forschung und Wirtschaft in Europa, die gute Leute anziehen, um die Entwicklung von KI voranzutreiben“, sagt sie. „Es macht eben einen Unterschied, ob wir KI entwickeln oder ob das an anderen Orten stattfindet.“ Von der nächsten Bundesregierung wünscht sie sich eine Technologie-Task-Force im Kanzleramt und Innovationseinheiten in allen Ministerien, um Themen wie KI wirklich voranzutreiben.

Das Problem ist die Umsetzung.

Einige finden die KI-Strategien von EU und Bundesregierung noch zu vage, zu wenig ambitioniert oder unterfinanziert. Dass sie in die komplett falsche Richtung laufen, findet allerdings kaum jemand. Dennoch ist nicht sicher, ob aus den tausenden Seiten mit Vorschlägen tatsächlich Taten werden.

Denn scheitern könnte die KI-Politik, wie es aussieht, vor allem an mangelnder Koordinierung zwischen den EU-Mitgliedstaaten und der Kommission, zwischen den Ministerien und Bundesländern in Deutschland. Die lückenhafte Digitalisierung von Behörden und Unternehmen und die fehlende Bereitschaft zur Kooperation könnten ebenfalls zum Problem werden. Die Politik hat es also selbst in der Hand, ob Deutschland und Europa bei KI führend werden können.

Dieser Artikel ist Teil des 1E9-Themenspecials „KI, Verantwortung und Wir“. Darin wollen wir herausfinden, wie wir Künstliche Intelligenz so einsetzen, dass die Gesellschaft wirklich davon profitiert. Alle Inhalte des Specials findest du hier.

Titelbild: Getty Images

2 Like

Danke für einen weiteren tollen Artikel in dieser Serie @Wolfgang. Die große Frage die sich hier stellt ist doch warum Deutschland / Europa so hinter den USA und China beim Thema KI zurück bleibt. Regulierung, Datenschutz, fehlende Daten sind da natürlich wichtige Themen (übrigens glaube ich nicht, dass die meisten Tech-Konzerne ihren Sitz in Irland wegen der DSGVO Auslegung sondern eher wegen dem dortigen Steuersystem haben).
Das eigentliche Problem, das wir haben ist aber ein anderes: Der Transfer von Wissenschaft in echte Geschäftsmodelle. Wir haben hier in Europa schon sehr gute KI-Wissenschaftler (z.B. der genannte Jürgen Schmidhuber hat hier an der TU München promoviert und LSTMs entwickelt - die Grundlage der modernen Sprachverarbeitung sind), aber die wirkliche Umsetzung in Geschäftsmodelle findet eben außerhalb Europas statt.

Woran liegt das? Viel Geld aus Fördertöpfen wird hierzulande in Forschung gesteckt (ist ja auch per se nichts schlechtes). Aber Wissenschaftler haben natürlich mehr Interesse daran ihre Ergebnisse zu veröffentlichen und ihre eigene Reputation aufzubauen, als ihre Zeit in Produktentwicklungen zu stecken. Was es deswegen braucht sind konkrete Ansätze die Grundlagenforschung in Angewandte Forschung, bis hin zur Produktentwicklung zu bringen. Aus meiner Sicht müssten einfach mehr Projekte gefördert werden, die genau das zum Ziel haben: Geschäftsmodelle aus Forschungsergebnissen aufzubauen. Warum also nicht Start-Ups an den Forschungsprojekten beteiligen und diesen die Chance geben die Ergebnisse exklusiv zu verwerten?

Kommen wir zum nächsten großen Problem: die Förderlandschaft. Unternehmen (im Gegensatz zu Forschungseinrichtungen) werden mit maximal 60% gefördert und müssen das Geld für die Entwicklung meist im Voraus vorstrecken. Als kleines Start-Up ist das schlicht und ergreifend nicht zu stemmen, ergo ist es einem aktuell gar nicht möglich an innovativen Forschungsprojekten teilzunehmen. Hier muss die Förderung auf Augenhöhe sein und auch im Vorhinein bezahlt werden, so wie dies bei Forschungseinrichtungen auch der Fall ist.

Der letzte Punkt den ich machen möchte ist der Einsatz von KI bei Behörden selbst. Wenn man den Blick in die USA wirft, fällt einem vielleicht auf dass Palantir unter anderem deswegen so groß geworden ist, weil sie einen riesigen Auftrag der CIA bekommen haben. Wenn man namhafte Player aus Europa haben will, wieso dann nicht innovative Unternehmen mit Staatsaufträgen (wirkliche Aufträge, keine Förderprojekte!) stärken. Wieso führen wir nicht beispielsweise Chatbots für Behörden ein, die allen Bürgern in allen Sprachen Auskunft geben können? Oder benutzen smarte Gebäudemanagement Systeme eines europäischen Start-Ups in öffentlichen Gebäuden? Das sind nur zwei spontane Einfälle, aber diese Liste könnte ewig weitergeführt werden.

Persönlich würde mich auch die Meinung von @rasmus zum Thema interessieren :wink:

1 Like

Klingt nach einer ziemlich geilen Idee. Man müsste da nur einen Weg finden die Zivilgesellschaft an den Start-Up-Gewinnen zu beteiligen, falls deren erfolgsrbringenden Forschungsprojekte mit Steuermitteln bezahlt waren.

1 Like

Ja guter Punkt, ich glaube in Deutschland gibt es da sogar schon eine Möglichkeit, die nennt sich Unternehmenssteuer :wink: Aber Spaß beiseite, der Staat könnte ja hier beispielsweise auch darüber als Investor agieren und entsprechend Unternehmensanteile bekommen.

2 Like

Haha, touché :wink: Aber ich glaub da wird es trotzdem schwierig mit dem Exklusivitätsanspruch. Staatsinvestitionen könnten da echt ein Weg sein.

1 Like

Das würde mit DLT schon zu Wege gebracht werden können.
Blockchain ist prädestiniert für Public Service and Goods Distribution, geht auch bei Wertschöpfung allgemein…

1 Like

Klingt technisch solide, aber wie sähe es da mit dem CO2-Footprint aus? Hab selber null Ahnung, aber zucke immer zusammen, wenn die den Stromverbrauch von BTC vorrechnen…oder ist das was ganz anderes?

Meiner Erfahrung nach besteht bei den öffentlichen Fördergebern nicht nur maximales Interesse an der Translation in die Praxis - es ist vielmehr einer der wichtigsten Maßstäbe zur Messung des Erfolgs von Forschungsförderung. Das EU-Recht gibt dafür jedoch einen wettbewerbsrechtlichen Rahmen vor, sodass Forschungstätigkeiten von Verwertungstätigkeiten getrennt werden müssen, was das Ganze nicht einfacher macht.

Übrigens: Für Start-up gibt es häufig Sonderregelungen zur Förderquote, die über die 60% hinaus gehen. Beispielsweise in einer akutellen KI-Förderrichtlinie im Pflegebereich des BMBF (https://www.interaktive-technologien.de/foerderung/bekanntmachungen/kip), die ich mitbetreue (bei Interesse gerne mehr).

KMU innovativ und Start MTI sind - neben etlichen weiteren, auch des BMWi - weitere Fördermaßnahmen, die Forschunngstätigkeiten von Start-up und kleine Unternehmen fördern


https://www.interaktive-technologien.de/foerderung/bekanntmachungen/startmti

Du hast auch erwähnt, dass Unternehmen mit max 60% gefördert werden. Wie oben erwähnt, können gerade Start-ups häufig eine höhere Förderquote erhalten. Aber auch KMU, die häufig substanzielle Eigenmittel aufbringen müssen, erhalten wiederrum Gemeinkostenpauschalen, die das wieder relativieren. Ich empfehle jedenfalls den für eine Fördermaßnahme zuständigen Projektträger zu kontaktieren und sich über die Möglichkeiten beraten zu lassen.

1 Like

Die wichtigste regulatorische Maßnahme in der EU wird in Kürze kommen: https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12527-Artificial-intelligence-ethical-and-legal-requirements

Sonst spielt die Musik in der Normierung (DIN, TÜV) etc. Neben anwendungsspezifischen Normen sind sogenannte Mutternormen angedacht, die allgemein für KI-Systeme gültig sein könnten.

1 Like