„Wir sollten dem Mythos, dass es in China keine Diskussion über KI-Ethik gibt, ein Ende bereiten“

Über das „Wettrüsten“ zwischen den USA und China um die „Vorherrschaft“ bei Künstlicher Intelligenz wird häufig berichtet. Aber welche KI-Technologie in China – abseits von Überwachung – entwickelt wird, bekommen wir in Europa erstaunlich selten mit. Der Oxford-Wissenschaftler Jeffrey Ding will das mit seinem Newsletter ChinAI ändern. Im 1E9-Interview räumt er mit manchen China-Klischees auf.

Ein Interview von Wolfgang Kerler

Der größte deutsche Fernsehsender fragt inzwischen, ob wir „Angst vor China“ haben müssen, und nennt die Volksrepublik in einem Atemzug mit der Supermacht USA. Es ist also längst auch hierzulande klar, dass China eine entscheidende Rolle bei der Gestaltung der Zukunft spielen wird – und auch, dass der autoritär regierte Riesenstaat dafür besonders auf eine Technologie setzt: die Künstliche Intelligenz. Der Ehrgeiz, mit dem die chinesische Führung die KI-Entwicklung mit Milliardeninvestitionen vorantreibt, wird als vorbildhaft bezeichnet. Gleichzeitig wird kritisch beobachtet, wie KI zur Errichtung eines Überwachungsstaats eingesetzt wird.

China, die kommende KI-Supermacht, die 1984 zur Realität werden lässt – soviel scheint klar. Aber darüber hinaus? Ich weiß nicht, wie es euch geht, aber ich hatte oft das Gefühl, nur schlaglichhaft mitzukriegen, was in China passiert. Und meistens unter den selben Überschriften. Obwohl die Geschehnisse in China von globaler Bedeutung sind.

Der damalige leitende Wissenschaftler des chinesischen Baidu-Konzerns brachte diesen Eindruck schon vor drei Jahren in einem Artikel des Atlantic auf den Punkt: „China hat ein ziemlich tiefes Bewusstsein dafür, was in der englischsprachigen Welt geschieht, aber das Gegenteil ist nicht der Fall“, sagte Andrew Ng damals über die Entwicklung von Künstlicher Intelligenz. Während Durchbrüche aus den USA – und wohl auch aus Europa – innerhalb von ein, zwei Tagen in chinesischen Tech-Medien landen, erfährt die englischsprachige Welt oft nur verzögert, was sich in China tut. Wenn überhaupt. Auf Deutsch wird noch weniger berichtet.

Das dürfte eher an der vergleichsweise kleinen Zahl an Reportern in dem riesigen Land liegen als am mangelnden Interesse an KI aus China. Denn das ist durchaus vorhanden, wie Jeffrey Ding feststellt. Er gibt seit Anfang 2018 den Newsletter ChinAI heraus, mit dem er Sprach-, Wissens- und Vorurteilsbarrieren abbauen will. Inzwischen hat dieser tausende Abonnenten weltweit. Das Highlight jeder Ausgabe: die englische Übersetzung eines Artikels aus einem chinesischen Medium oder einer wissenschaftlichen Publikation, die Jeffrey selbst anfertigt und als Google-Doc bereitstellt. Mit der aktuellen Ausgabe vom 1. März beispielsweise liefert Ding ein White Paper über biometrische Erkennung. Zu seinen Quellen gehören Publikationen wie xinzhiyuan, Leiphone, oder jiqizhixin, von denen ich vorher nie gehört hatte.

Jeffrey Ding kommt aus Iowa in den USA und arbeitet als Forscher am Future of Humanity Intistut der Universität Oxford in Großbritannien. Im dortigen Centre for the Governance of AI ist er für den Themenbereich China zuständig. Er spricht fließend Mandarin und war auch schon in China tätig. Da er ziemlich beschäftigt ist, hatte er keine Zeit für ein Telefon- oder Videointerview. Dafür beantwortete er einige Fragen von 1E9 per E-Mail – und räumt dabei auch mit einigen China-Klischees auf.

1E9: Fangen wir mit dem aktuellen Thema an, das du kürzlich auch in deinem Newsletter behandelt hast: das Coronavirus COVID-19, das zuerst in China ausgebrochen ist. Welche Rolle kann Künstliche Intelligenz im Kampf gegen die Krankheit spielen?

Jeffrey Ding: KI wird auf verschiedene Arten eingesetzt. Zur Diagnose des Coronavirus kann Computer Vision verwendet werden, um frühe CT-Scans auszuwerten. Es ist allerdings unklar, ob die vorhandenen Daten gut genug sind, um ein Modell zu trainieren bzw. zu validieren, mit dem das Coronavirus von einer Lungenentzündung unterschiedenen werden kann.

KI kann auch bei der Entdeckung von Arzneimitteln helfen, etwa wenn es darum geht, herauszufinden, ob bestehende Behandlungen [für andere Krankheiten] eine therapeutische Wirkung haben. Auch bei der Entwicklung eines Impfstoffs gegen das Coronavirus kann KI hilfreich sein. Mit KI kann auch die Ausbreitung verfolgt werden: Raumzeitliche Daten können beim Aufbau von Infektionsmodellen und der Verfolgung des Weges der Epidemie helfen. KI-Unternehmen wie Baidu stellen übrigens bereits Cloud-Computing-Ressourcen zur Verfügung.

Wenn es um Künstliche Intelligenz geht, schaut Deutschland in erster Linie auf das Silicon Valley. China rückt vor allem dann in den Fokus, wenn es um dystopische Überwachungstechnologie geht. Wird diese Perspektive China gerecht? Was denkst du?

Jeffrey Ding: Nein, wird sie nicht. Es gibt viele innovative Startups und etablierte Tech-Giganten in China, die beeindruckende Leistungen bei KI erzielen.

Welche KI-Innovation aus China hat dich besonders beeindruckt oder überrascht?

Jeffrey Ding: Residual Neural Networks, kurz: ResNets, wurden zuerst von Forschern im Microsoft Labor in Peking, also bei Microsoft Research Asia, eingesetzt. Diese entscheidende Innovation aus dem Jahr 2015 ermöglichte es Forschern, extrem tiefe Schichten neuronaler Netze zu bauen.

Welche chinesischen Unternehmen sollten wir in Bezug auf KI denn besonders im Blick haben?

Jeffrey Ding: Für den Anfang wären die 15 Mitglieder der „National New Generation AI Open Innovation Platform“ ein guter Ausgangspunkt sein.

China AI CompaniesWer wissen will, was bei der Entwicklung von Künstlicher Intelligenz in China passiert, sollte diese 15 Unternehmen im Auge behalten – von denen einige hierzulande recht bekannt sind, andere kaum.

Welche Vorteile haben KI-Entwickler in China gegenüber ihren Konkurrenten in den USA, Europa oder auch Japan? Ist es der riesige Binnenmarkt? Der schwache Schutz privater Daten? Die großen Tech-Konzerne? Die Milliardenunterstützung des Staates? Alles zusammen? Oder liege ich komplett falsch?

Jeffrey Ding: China wurde zwar als KI-Supermacht gehypt, die in der Lage ist, die USA im strategischen Technologiebereich der KI zu überholen. Aber ein Großteil der Forschung, die diese Behauptung unterstützt, leidet unter dem „KI-Abstraktionsproblem“. Dieses Konzept, nach dem KI alles sein kein von Irgendwas mit Mathematik bis zu Drohnenschwärmen, ist inzwischen aber so schwammig, dass es nicht mehr analytisch kohärent oder nützlich ist.

Daher erfordert eine umfassende Bewertung der KI-Fähigkeiten einer Nation klare Unterscheidungen hinsichtlich des Bewertungsgegenstandes. Wir können die aktuellen KI-Fähigkeiten Chinas und der USA vergleichen, indem wir das unscharfe Konzept der „nationalen KI-Fähigkeiten“ in drei Querschnittsbereiche unterteilen:

  1. Die Inputs und Outputs im Bereich Wissenschaft und Technologie.

  2. Die verschiedenen Schichten der KI-Wertschöpfungskette – von den Grundlagen, über die Technologie bis zur Anwendung.

  3. Die verschiedenen Teilbereiche von KI, zum Beispiel Computer Vision, Predictive Intelligence oder Natural Language Processing.

Folgt man diesem Ansatz, so zeigt sich, dass China nicht kurz davorsteht, die USA bei KI-Technologie zu überholen. Vielmehr haben die USA strukturelle Vorteile in der Qualität von Wissenschaft und Technologie, den grundlegenden Schichten der KI-Wertschöpfungskette und in wichtigen Teilbereichen der KI.

Natürlich werden Chinas KI-Fähigkeiten von Technologiegiganten wie Baidu, Alibaba und Tencent unterstützt. Und sie profitieren auch von staatlicher Unterstützung in bestimmten Anwendungsbereichen wie der intelligenten Überwachung.

Wenn es um den „europäischen Weg“ bei der Entwicklung von KI geht, wird oft betont, dass ethische Fragen nur hier berücksichtigt werden – und in China überhaupt keine Rolle spielen. Ist dort wirklich alles erlaubt?

Jeffrey Ding: Menschen in China – von ganz normalen Internetnutzern über Datenschutzbeauftragte bis zu Philosophieprofessoren – beschäftigen sich durchaus mit den ethischen Fragen zur Künstlichen Intelligenz, auch in Bezug auf die Privatsphäre. Wir sollten dem Mythos, dass es in China keine Diskussion über KI-Ethik gibt, endlich ein Ende bereiten. Es ist vernünftig, Unterschiede in den chinesischen Vorstellungen von KI-Ethik oder dem Grad, in dem Privatsphäre für chinesische Verbraucher wichtig ist, hervorzuheben. Aber es ist wirklich entmenschlichend zu sagen, dass die Chinesen sich nicht um die Privatsphäre kümmern.

Chinesische Tech-Giganten streiten sogar über die Verletzung der Privatsphäre von Usern. Ein Beispiel dafür ist Tencent. Der Konzern forderte das Ministerium für Industrie und Informationstechnologie dazu auf, in einen Streit zwischen Tencent und Huawei einzugreifen, in dem es um mögliche Privatsphäre-Verletzungen von Nutzern des Smartphones Honor Magic ging.

[Noch ein Beispiel:] Nach einer einjährigen Untersuchung brachte die chinesische Provinz Shandong im Juli 2018 einen großen Fall von Missbrauch persönlicher Daten gegen 57 Einzelpersonen und 11 große Datenunternehmen vor Gericht, der eine Debatte über die Auslegung einer neuen nationalen Spezifikation zum Schutz persönlicher Daten auslöste.

[Und ein Think Thank], das Nandu Personal Information Protection Research Center, untersuchte bei 1550 Websites und Apps, wie transparent ihre Datenschutzrichtlinien sind.

Lass uns zum Schluss doch noch über das Thema Überwachung sprechen. Wo wird KI tatsächlich schon eingesetzt, um die chinesische Bevölkerung zu überwachen oder durch Scores zu bewerten? Und gibt es überhaupt keine Kritik daran?

Jeffrey Ding: KI spielt eine Rolle bei der Online-Zensur sowie bei der intelligenten Überwachung durch Kameras, die für Gesichtserkennung ausgelegt sind. Doch laut einer Umfrage des Nandu Personal Information Protection Research Center vom Dezember 2019 würden mehr als 73 Prozent der chinesischen Befragten Alternativen zur Weitergabe ihrer Gesichtsdaten bevorzugen. 83 Prozent der chinesischen Befragten würden sich wünschen, auf ihre Daten zuzugreifen und sie zu löschen. Besonders deutlich in ihrer Ablehnung [von Gesichtserkennung] äußerte sich eine Professorin der Tsinghua-Universität.

Um noch ein bisschen europäische Dystopie zu ergänzen: Gibt es in China geheime Fabriken, in denen schon heute autonome Killerroboter gebaut werden?

Jeffrey Ding: Nicht, dass ich wüsste.

Titelbild: Getty Images

10 Like

Danke für Euren Anspruch, immer eine Ebene tiefer zu gehen. Auch hier wieder schön!

2 Like

Ja, die Reporter vor Ort fehlen, um die Perspektive von innen heraus einzufangen. Der Artikel über Japan als Technologie-Pionier hat das sehr schön gezeigt. Spontan fällt mir nur Lea Deuber (https://twitter.com/lea_deuber?lang=de) ein, von ihr habe ich schon einige tolle Sachen gelesen.

1 Like

Richtig, genauso geht’s mir auch. Und China wird ja nicht erst seit heute als künftige Supermacht gehandelt. Die ersten „Ratschläge“, Chinesisch als Fremdsprache zu wählen, kamen…wann? Ich weiß es nicht genau, aber 15 Jahre ist das locker her.

Und seitdem hört und liest man nicht viel außer immer wieder die gleichen oberflächlichen und vermutlich auch vorurteils- / klischeebehafteten Schlagzeilen.

Danke für euren Ansatz, auch hier mehr in die Tiefe zu gehen. Nach dem Japan Beitrag das nächste bemerkenswerte Beispiel. Bitte mehr davon :+1:

3 Like