Die EU warnt vor den Gefahren automatisierter Gesichtserkennung – und erwägt ein Verbot

Kurz nach der Enthüllung eines gigantischen, privat betriebenen Gesichtserkennungsdienstes werden Pläne der EU-Kommission bekannt, eine automatisierte Gesichtserkennung zu verbieten – zumindest auf Zeit. Damit könnte sie auch Vorhaben der Bundesregierung und das Geschäftsmodell zahlreicher Start-ups und Tech-Konzerne durchkreuzen. Doch es gibt auch abseits der Gesichtserkennung zahlreiche Möglichkeiten, Menschen massenhaft zu überwachen.

Von Michael Förtsch

Ein bislang kaum bekanntes Start-up aus den USA hat offenbar eine gigantische Datenbank zur Gesichtserkennung angelegt. Das enthüllte vor wenigen Tagen die New York Times in einem aufsehenerregenden Bericht. Wie die Reporterin Kashmir Hill recherchierte, hat das Unternehmen ClearView AI die Bilder von rund drei Milliarden Gesichtern inklusive dazugehöriger Personendaten automatisiert aus dem Internet geladen – von Plattformen wie Facebook, YouTube oder Venmo. Damit verstieß es zwar klar gegen die Nutzungsbedingungen dieser Dienste, hat damit aber trotzdem die bisher größte bekannte Datenbank dieser Art bei einem Privatunternehmen geschaffen. Noch dazu eine, die über eine einfache App am Smartphone oder Desktop-Rechner nutzbar sein soll.

Hinter ClearView AI stehen der Entwickler Hoan Ton-That und der republikanische Unternehmer Richard Schwartz. Finanziell wurden sie vom berüchtigten PayPal-Mitbegründer und Investor Peter Thiel unterstützt. Laut Hoan Ton-That wird sein Dienst mittlerweile von mehr als 600 Behörden sowie zahlreichen Privatunternehmen „für Sicherheitszwecke“ genutzt, um Menschen live oder via Foto- oder Videoaufnahmen zu identifizieren. Zusätzlich habe das Start-up einen Prototypen seiner Software für Augmented-Reality-Brillen entwickelt, der es ermöglichen soll, Menschen auf der Straße zu identifizieren –mit dem Namen und weiteren Details, die aus Social-Media-Diensten auslesbar sind.

In der Europäischen Union könnten es Gesichtserkennungsdienste wie die von ClearView AI, Amazon mit Rekognition, Facesoft oder Herta Security zukünftig schwerer haben. Denn die EU-Kommission erwägt momentan ein mehrjähriges Moratorium für den Einsatz automatisierter Gesichtserkennungssysteme – zumindest im öffentlichen Raum. Das ist jedenfalls in einem nun bekannt gewordenen Arbeitspapier aus dem sogenannten Weißbuch der EU-Kommission zum Einsatz Künstlicher Intelligenz festgehalten, das in voller Länge im Februar veröffentlicht werden soll. Bereits im vergangenen Jahr war in einem EU-Bericht vor den Gefahren eines unregulierten oder willkürlichen Einsatzes und dem möglichen Missbrauch der Gesichtserkennungstechnologie durch Regierungen und Behörden gewarnt worden.

Gesichtserkennung ist fehleranfällig

Für eine mögliche Regulierung von KI-gestützten Gesichtserkennungssystem könnte die EU-Datenschutzgrundverordnung erweitert und konkretisiert werden. Darin könnten Vorgaben und Regeln für den Einsatz sowohl durch staatliche als auch private Organisationen festgeschrieben werden. Die DSGVO räumt den Bürgern schon jetzt weitgehenden Schutz vor einer automatisierten Datenverarbeitung ein. EU-Bürger haben das Recht, „nicht Gegenstand einer Entscheidung zu sein, die ausschließlich auf einer automatisierten Verarbeitung, einschließlich der Erstellung von Profilen, beruht“. Die pauschale Gesichtserkennung auf öffentlichen Plätzen, in Verkehrsmitteln, Einkaufszentren oder Sportstadien könnte diesen Grundsatz wohl zumindest in Teilen verletzen. Ob und wie, das soll nun geklärt werden.

Um eine dauerhafte Regelung zu finden, soll die Technologie und ihr gesellschaftlicher und kultureller Einfluss auch auf Risiken und Chancen hin untersucht werden. Ebenso regt die EU ihre Mitgliedsstaaten an, Behörden zu schaffen, die die Einhaltung der Richtlinien streng überwachen. Bis dahin könnte „der Einsatz von Gesichtserkennungstechnik durch staatliche oder private Akteure in der Öffentlichkeit für eine bestimmte Zeitdauer“ verboten werden, schlussfolgern die Autoren des Arbeitspapiers. Diese „bestimmte Zeitdauer“ könnte zwischen drei und fünf Jahren betragen. Ausgenommen vom Verbot wären Forschung und Entwicklung. Oder auch eng umrissene Sicherheitszwecke, die von einem Richter bestätigt werden müssen.*

Mit ihren Regularien und dem temporären Gesichtserkennungsverbot würde die Europäische Union auch Pläne der Bundesregierung durchkreuzen. Die will – vorangetrieben von Bundesinnenminister Horst Seehofer – Gesichtserkennungssysteme an 135 deutschen Bahnhöfen und 14 Flughäfen installieren. Diese Pläne sorgten für heftige Kritik durch Bürgerrechtler, Datenschützer und Vereine wie dem Chaos Computer Club. Denn Gesichtserkennungssysteme führen oft zu Falschidentifikation. Die Fehlerquote des besten Gesichtserkennungssystems, das am Südkreuz in Berlin getestet worden war, lag bei rund 70 Prozent. Von 10 Personen wurden also durchschnittlich drei Personen falsch identifiziert – und könnten damit bei einem polizeilichen Einsatz der Systeme ohne Anlass zu Verdächtigen werden. Bei dunkelhäutigen Menschen liegt die Gefahr für Fehlalarme nochmals höher.

Gesichtserkennung ist nicht die einzige Überwachungsmöglichkeit

Der mögliche Vorstoß der Europäischen Union kommt nicht ganz überraschend. Bereits im vergangenen Jahr hatten schon mehrere Städte in den USA den Einsatz von Gesichtserkennungstechnologien durch Behörden auf öffentlichem Raum untersagt. Darunter beispielsweise San Francisco, dessen Stadtregierung argumentierte, dass die Technologie verschiedenste Bürgerrechte verletzen könnte. Die Technologie „bedroht unsere Möglichkeit, frei von ständiger Beobachtung durch die Regierung zu leben“ und berge durch ihre mehrfach belegten Schwächen die Gefahr, rassistische Tendenzen verschärfen.

Die Verbote von Gesichtserkennungstechnologie in Städten wie San Francisco und möglicherweise in der EU könnten in den kommenden Jahren jedoch noch herausgefordert werden. Sollten sich die Regelungen nämlich nur auf Gesichtserkennungssysteme beschränken, könnten sie möglicherweise umgangen werden. Denn KI-gestützte Systeme können Menschen zunehmend auch ohne einen Blick auf das Gesicht identifizieren oder über mehrere Kamerainstallationen hinweg verfolgen. Unter anderem existieren schon jetzt fähige Systeme, die aus dem Gang und der Körperhaltung einer Person einen „Bewegungsfingerabdruck“ erstellen können, der eine Identifikation ermöglicht. Diese Überwachungstechnologie wird unter anderem von chinesischen Behörden eingesetzt.

Update:

Wie die Zeitung New York Post berichtet, gibt es offenbar erste Fälle, in denen die Gesichtserkennungssoftware von ClearView AI möglicherweise missbraucht wurde. Mehrere Polizisten des NYPD sollen die App auch jetzt noch auf ihren privaten Smartphones nutzen. Und zwar nachdem die mit Gesichtserkennung befasste Abteilung der Polizeibehörde die offizielle Nutzung der Software aus Bedenken über einen möglichen Missbrauch abgelehnt hat. Ebenso hätte ClearView AI dem NYPD nicht versichern können, dass kein anderer Zugriff auf die von der Polizei hochgeladenen Bilder bekomme.

Die betreffenden Polizisten sollen mehrere Tausend Identifikationsanfragen mit der App durchgeführt haben. Dabei war der Einsatz von ClearView AI weder genehmigt noch ein offizieller Teil der Ermittlungstätigkeit. Ob die Polizisten die App auch für rein private Anfragen genutzt haben, soll nun eine Untersuchung zeigen. „Es braucht nur einen Polizisten, der das Foto seiner Ex-Freundin einspeist, um zu sehen, mit wem sie sich jetzt trifft“, zitiert die New York Post einen Polizei-Insider. „Sie spielen mit dem Feuer.“

Update:

Bundesinnenminister Horst Seehofer rückt von seinen Plänen für Gesichtserkennung an Bahnhöfen und Flughäfen ab. In einem Entwurf für das neue Polizeigesetz wurde die Passage gestrichen, die es der Bundespolizei erlauben sollte, von Kameras aufgezeichnete Gesichter „automatisch mit biometrischen Daten ab[zu]gleichen“, um zur Fahndung ausgeschriebene Personen zu finden.

Laut dem Magazin Der Spiegel soll Horst Seehofer befürchten, „durch die Einführung der umstrittenen Methode die Akzeptanz der Bevölkerung für Videoüberwachung zu verlieren“. Er wolle weiterhin mehr herkömmliche Kamerasysteme im öffentlichen Raum.

Teaser-Bild: Getty Images

5 Like