Ein Team von chinesischen Forschern soll eine Künstliche Intelligenz entwickelt haben, die die Treue gegenüber der Kommunistischen Partei von China ermitteln soll. Die Methode scheint jedoch zweifelhaft. Zudem wurde das Ankündigungsvideo zwischenzeitlich gelöscht.
Von Michael Förtsch
In China ist die Kommunistische Partei des Landes der zentrale und eigentlich auch einzige politische Taktgeber. Die Entscheidungen, die die Partei und vor allem ihr Vorsitzender Xi Jinping treffen, bestimmen das Leben von 1,4 Milliarden Menschen. Wer der Partei nicht wohlgesonnen ist, ihre Beschlüsse kritisiert oder missbilligt, wird schnell zum Feind. Daher wirkt eine Ankündigung von Forschern des Hefei Comprehensive National Science Center gleich einer Dystopie, die der Science-Fiction-Serie Black Mirror entstammen könnte. Denn das Forschungsinstitut hat angeblich eine Künstliche Intelligenz entwickelt und darauf trainiert, die Parteitreue von Menschen festzustellen.
Auf der Social-Media-Plattform Weibo haben die KI-Entwickler ihre „Künstliche Intelligenz, die die Parteibildung unterstützt“ präsentiert. Aber bereits nach kurzer Zeit wurde der Videoeintrag gelöscht und ist mittlerweile nicht mehr auffindbar. Laut einem Bericht von Radio Free Asia und der The Times of London hatten die Entwickler jedoch versprochen, dass das System helfen könne, „die Qualität der Aktivitäten von Parteimitgliedern zu garantieren“ und dafür eine „intelligente Ideologie“ und einen umfangreichen Apparat an Messgeräten konzipiert.
Laut einem Transkript des Videos geben die Entwickler an, dass potentielle Partei-Missgünstlinge beim Lesen von Artikeln über die Kommunistische Partei Chinas von einer Kamera beobachtet und einer EEG- und Hautleitfähigkeitsmessung unterzogen werden könnten. Die Künstliche Intelligenz könne dabei aus den anfallenden Datenpunkten wie Gesichtsausdrücken, der Gehirnaktivität und der Schweißproduktion ableiten, zu welchem Grad die Person „die ideologischen und die politischen Lehren verinnerlicht hat, sie anerkennt und beherrscht“ und der Partei „dankbar [ist], ihr gehorcht und ihrer Führung folgt“.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
Zweifelhafte Methode
Laut den Entwicklern vom Hefei Comprehensive National Science Center soll sich aus den Daten auch ein Loyalitätswert errechnen lassen. Der Prozess der chinesischen Forscher erinnert stark an klassische Lügendetektoren – oder auch Polygraphen –, deren Ergebnisse und Zuverlässigkeit bereits seit Jahrzehnten stark in Zweifel gezogen werden. Insbesondere da die vermeintlichen Stressreaktionen, die auf Lügen hindeuten sollen, individuell und auch über verschiedene Personen- und Gesellschaftsgruppen hinweg durchaus unterschiedlich ausfallen können. In einer 2003 veröffentlichten Untersuchung des US-amerikanischen National Research Council wurde festgestellt, dass die Ergebnisse von Lügendetektorbefragungen unzuverlässig und mangelhaft sind. Die Auswertung von Stressindikatoren habe lediglich pseudowissenschaftliche Qualität.
Auch die Fähigkeit von Künstlicher Intelligenz die Gesichtsausdrücke eines Menschen zu lesen und beispielsweise Emotionen abzuleiten gilt mittlerweile als fragwürdig. Erst Ende Juni gab Microsoft bekannt, ein Projekt zur emotion recognition per Künstlicher Intelligenz einzustellen. Denn auch in diesem Fall sei es eine Herausforderung gewesen, dass Emotionen und deren körperlichen Ausprägungen in Teilen sehr individuell ausfallen können. Die Künstliche Intelligenz konnte Gesichtsausdrücke und Bewegungsmuster erfassen, aber nicht mit Sicherheit bestimmen, welche Emotion diese nun ausgelöst hat.
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!