Google entwickelt eine Plattform gegen Fotofälschungen und Deepfakes

Gefälschte Bilder und Videos machen es Journalisten zunehmend schwerer, Informationen zu verifizieren. Eine Plattform von Google soll das nun ändern. Auf ihr sollen Journalisten zukünftig mit wenigen Klicks sowohl Bilder als auch Videos auf Manipulationen hin überprüfen können. Erste Redaktionen testen den Assembler getaufte Web-Dienst bereits.

Von Michael Förtsch

Immer wieder werden bei aktuellen Ereignissen im Internet sowohl Bilder als auch Videos verbreitet, die manipuliert sind. Mal werden Katastrophenaufnahmen mit zusätzlichen Rauchschwaden und Flammen ausstaffiert, mal werden Menschen an Orte gesetzt, wo sie nie waren, oder das Gesicht eines Menschen wird gegen das eines anderen ausgetauscht. Derartige Manipulationen müssen nicht einmal sonderlich aufwendig sein. Das macht vor allem die Arbeit von Journalisten zunehmend schwerer, die darüber entscheiden müssen, ob einem Foto oder Video geglaubt werden kann, das an eine Redaktion geschickt wurde oder sich auf Social-Media-Kanälen verbreitet. Eine Plattform namens Assembler soll da zukünftig helfen.

Hinter dem Projekt steht primär Jigsaw, ein Tochterunternehmen der Google-Holding Alphabet, das zur technischen Lösung von Zukunfts- und Digitalproblemen wie Online-Zensur, Meinungsmanipulation oder Identitätsdiebstahl gegründet worden war. Aber auch Mitarbeiter der Google-Technologieforschungsabteilung Research sind beteiligt. Denn für Assembler müssen verschiedene Technologien und Methoden zusammengetragen, in einzelnen Tools gebündelt und nutzbar gemacht werden. Einige davon waren bislang lediglich Experimente, die an Universitäten erprobt wurden.

Was Assembler konkret leisten soll? Journalisten sollen auf der Plattform Bilder und Videos hochladen können und von Software-Werkzeugen analysieren lassen. Darunter ist beispielsweise ein Programm, das in einem Foto unterschiedliche Nachbearbeitungen wie eingefügte Objekte, angehobene Kontraste oder Retuschen ausmachen und anzeigen kann. Dafür sucht es beispielsweise nach doppelten Pixelstrukturen, Überlagerungen, Bildartefakten oder unnatürlichen Unschärfen.

Zwei eigens von den Forschern bei Jigsaw entwickelte Werkzeuge sollen besonders effektiv Foto- und Video-Deepfakes enttarnen können. Eines vergleicht via Künstlicher Intelligenz Fotos von realen Personen mit jenen aus einer möglichen Fälschung, wie sie etwa die Website This Person Does Not Exist erzeugt. Ein anderes hält nach den Effekten Ausschau, die derzeit unweigerlich bei Deepfake-Prozessen in Videos entstehen. Das können Überreste einer Bildmaske sein, die ein einkopiertes Gesicht umgibt; ein Bildrauschen, das im Video vorhanden ist, nur im Gesicht nicht; inkonsistente Bewegungsunschärfen oder auch unnatürliche Verzerrungen, die mit bloßem Auge kaum auszumachen sind.

Es geht nicht nur um Fälschungen und Deepfakes

Die Herausforderung für Jigsaw und Google Research ist aber nicht nur, einen funktionalen Werkzeugkasten zu entwickeln. Ebenso wichtig sei es laut Firmenangaben, dass die Software komfortabel nutzbar ist und sie auch erklären kann, was an einem Bild oder Video womöglich wie manipuliert wurde. Die Journalisten sollen einschätzen, nachvollziehen und erläutern können, warum beispielsweise ein Foto aus einem Kriegsgebiet oder von einer politischen Veranstaltung nun vertrauenswürdig ist oder nicht. Assembler soll Journalisten letztlich irgendwann eine Möglichkeit bieten, mit den Fälschern zeitlich gleich zu ziehen und die Authentizität eines Mediums mit wenigen Klicks zu prüfen.

Die Arbeit an Assembler soll bereits 2016 begonnen haben – als die Gefahren von Fake News während der Präsidentschaftswahl in den Vereinigten Staaten weithin sichtbar wurden. Dennoch befindet sich die Plattform, wie Jared Cohen von Jigsaw schreibt, noch in einem „frühen Experimentierstadium“. Frei zugänglich ist die Plattform daher nicht, sondern derzeit nur einem kleinen Kreis von ausgewählten Redaktionen geöffnet, der hilft, die Tools zu testen und Feedback an die Entwickler weiterzugeben. Darunter sind die Agence France-Presse, Animal Politico, Code for Africa, Les Décodeurs du Monde und Rappler.

Kampf der Desinformation

Langfristig soll Assembler nicht nur helfen, einzelne Fakes zu enttarnen, sondern Journalisten darin unterstützen, ganz Desinformationskampagnen auszuheben – also koordinierte Aktionen, die sowohl Fake News, manipulierte Bilder, Videos und Social-Media-Kanäle nutzen, um politische Entscheidungen zu beeinflussen, Medien und die Bevölkerung einer Region oder eines ganzen Landes in die Irre zu führen. Denn ebenso wie sich die Desinformationskampagnen entwickeln, „so entwickeln sich auch die Technologien, um Desinformationen zu entdecken und letztlich zu stoppen“, meint Jared Cohen.

Die Arbeit von Jigsaw ist in diesem Bereich nicht einzigartig. Auch zahlreiche Start-ups arbeiten daran, Manipulationen und Desinformationen sichtbar zu machen oder von Beginn an zu verhindern. Das britische Unternehmen Serelay arbeitet unter anderem an einer App, die Videos aufzeichnet und feststellen kann, ob auch nur ein einziger Pixel daran verändert wurde. Damit sollen Journalisten aber auch Zeugen von Ereignissen eigene Videos sicher und vertrauenswürdig an Redaktionen übersenden können. Truepic wiederum arbeitet ähnlich wie Jigsaw an einer Plattform mit verschiedenen Werkzeugen, die Fotos und Videos auf Manipulation hin überprüfen lassen.

3 Like