Meta will bei Facebook, Instagram und Threads externe Factchecker abschaffen und auf Community Notes setzen. Mit diesen kämpfen Nutzer von X, ehemals Twitter, seit mehreren Jahren gegen Fake News, Desinformation und Falschmeldungen. Untersuchungen zeigen: Community Notes funktionieren grundsätzlich gut, haben aber ernstzunehmende Probleme: Es gibt zu wenige und sie kamen oft sehr spät. Wir erklären ihre Vor- und Nachteile.
Von Michael Förtsch
Im Zuge der US-Wahlen 2016, der Coronapandemie, dem Krieg zwischen Hamas und Israel sowie der russischen Invasion in die Ukraine entbrannte in den sozialen Netzwerken ein Sturm aus Fehlinformationen, Fake News und gezielter Propaganda. Als Gegenmaßnahme setzten viele der Social Networks auf die Zusammenarbeit mit unabhängigen Faktenprüfern. Bei Twitter – heute X – setzte man jedoch früh auf ein zusätzliches Werkzeug: die Community Notes, bei denen Nutzer selbst falsche oder irreführende Beiträge kennzeichnen und kommentieren können. Das Programm, das unter dem Namen Birdwatch unter dem einstigen Twitter-Chef Jack Dorsey entstand, ist seit vier Jahren im Einsatz. Sowohl der X-Konkurrent BlueSky als auch Meta mit Facebook, Instagram und Threads planen nun, das Konzept zu übernehmen. Bei Meta sollen die Community Notes die fast neun Jahre andauernde Kooperation mit externen Faktenprüfern ersetzen, wie Konzernchef Mark vor wenigen Tagen ankündigte.
Das Konzept der Community Notes ist simpel, aber zugleich elegant. Nutzer der Plattform können sich selbst als Faktenprüfer bewerben. Bei X müssen sie hierfür lediglich ein Konto vorweisen, das seit mindestens sechs Monaten besteht, keine Regelverstöße aufweist und mit einer Telefonnummer eines etablierten Anbieters verifiziert ist. Stößt ein Community-Notes-Mitglied auf einen Beitrag, der falsch oder irreführend ist, kann es eine Community Note erstellen, die „zusätzlichen Kontext“ liefert. Dabei wird zunächst aus einer Liste ausgewählt, warum eine Notiz erforderlich ist – etwa, weil der Beitrag einen „faktischen Fehler“ enthält, der Inhalt „aus dem Kontext gerissen“ wurde oder sich der Beitrag um einen Witz handelt, der „für eine Tatsache gehalten“ werden könnte.
Die Community Note selbst wird als Text geliefert, der die beanstandete Fehlinformation in maximal 280 Zeichen aufklärt und richtigstellt – und mit möglichst glaubwürdigen Quellen belegt, die als URLs unter der Erklärung hinzugefügt werden. Ist das erledigt, können andere Community-Note-Mitglieder die Korrektur als „hilfreich“ oder „nicht hilfreich“ bewerten. Dafür existiert eine eigene Übersichtsseite, auf der unter anderem Community Notes zu bereits viel beachteten Posts und neue Community Notes vorgestellt werden. Erachten genug andere User einen Beitrag als hilfreich, wird er unter dem Post angezeigt. Dabei zählt jedoch nicht nur die pure Masse an Bewertungen, sondern auch, von wem sie kommen.
Ein Konsens beider Seiten
Hinter den Community Notes steht ein ausgeklügeltes Klassifizierungssystem für Nutzer sowie ein komplexer Bewertungsalgorithmus. Diese Mechanismen sollen gewährleisten, dass ein Konsens über die Notwendigkeit und Richtigkeit einer Note entsteht – und das über politische, ideologische und weltanschauliche Grenzen hinweg. Dabei gilt das Prinzip: Stimmen Nutzer mit unterschiedlichen Ansichten übereinstimmend für „hilfreich“ oder „nicht hilfreich“, werden ihre Stimmen gezählt. Stimmen hingegen nur Nutzer übereinstimmend, die ohnehin stets derselben Meinung sind, bleiben diese unberücksichtigt. Frei nach dem Motto: Wenn sich selbst die Streithähne hier einig sind, muss etwas dran sein.
Damit das funktioniert, werden die Community-Notes-Teilnehmer basierend auf ihrer Bewertungshistorie in verschiedene Meinungsklassen einsortiert, die sich grob am politischen Rechts-Links-Spektrum orientieren. Dieses Bridging-based Ranking System soll nicht nur sicherstellen, dass eine Community Note inhaltlich korrekt ist, sondern auch neutral und objektiv formuliert ist.
Community-Note-Autoren, die dazu beitragen, hilfreiche Notes zu veröffentlichen oder ungeeignete Notes abzulehnen, werden durch ein Punktesystem belohnt. Diese Punkte beeinflussen zwar nicht das Gewicht ihrer Stimme, können sie jedoch zu sogenannten Top Writers machen. Dieser Status bringt Vorteile: Top Writer können Notes gleichzeitig auf mehrere Beiträge anwenden, etwa wenn dasselbe irreführende Bild mehrfach geteilt wurde. Zudem werden ihre Notes bevorzugt zur Abstimmung vorgeschlagen.
Nach dem offiziellen Start unter dem Namen Birdwatch im Jahr 2021 war das Programm zunächst auf Nutzer in den USA beschränkt. Im März 2022, mit der Coronapandemie und der russischen Invasion in die Ukraine, wurde es international ausgeweitet. Nach dem Verkauf von Twitter an Elon Musk Ende 2022 wurde das Programm in Community Notes umbenannt. Seitdem wurde es auf über 50 Länder ausgeweitet, die Sichtbarkeit der Notes erhöht und die Teilnahme vereinfacht. Während im September 2022 lediglich 15.000 Nutzer aktiv an den Community Notes mitgewirkt haben, sollen es im Mai 2024 bereits über 500.000 gewesen sein.
Ein effektives Werkzeug mit Skalierungsproblem
Das System der Community Notes kann tatsächlich effektiv sein. Ein Forschungsteam um John Ayers von der University of California stellte im April 2024 fest, dass sich die Kollektivintelligenz der Nutzer gerade während der Coronapandemie bewährt hat. Wie auf allen Social-Media-Plattformen dieser Zeit wurden auch auf dem damals noch als Twitter bekannten Netzwerk unzählige Verschwörungstheorien, Halbwahrheiten und Fehlinformationen verbreitet – besonders im Zusammenhang mit Impfungen. Bei einer Stichprobe fanden die Forscher heraus, dass Tweets, die mit als hilfreich bewerteten Community Notes versehen waren, „oft zutreffend waren, Quellen von mittlerer bis hoher Glaubwürdigkeit zitierten“ und Hunderten Millionen Menschen angezeigt wurden. Konkret waren die Community Notes in 96 Prozent aller Fälle korrekt.
Eine Studie der Université Paris 1 Panthéon-Sorbonne und der École des hautes études commerciales de Paris eruierte wiederum die Auswirkungen der Community Notes auf die Verbreitung von Desinformationen. Laut den französischen Medienwissenschaftlern führt eine Community Note zu einer deutlichen Reduktion der Viralität eines Posts. Im Durchschnitt würden mit einer Note versehene Beiträge um 50 Prozent weniger geteilt als vorher. Darüber hinaus zeigte die Untersuchung, dass als Des- oder Falschinformation gekennzeichnete Tweets eine 80 Prozent höhere Wahrscheinlichkeit aufweisen, vom ursprünglichen Verfasser gelöscht zu werden. Eine ergänzende Studie der University of Luxembourg stellte zudem fest, dass Community Notes „auf beiden Seiten des politischen Spektrums deutlich vertrauenswürdiger wahrgenommen“ werden als Warnhinweise von professionellen Faktenprüfern.
Die Community Notes sind also sowohl qualitativ hochwertig als auch in ihrer Wirkung effektiv. Trotzdem identifizierten die Forscher der University of California ein Problem: Es gibt schlichtweg nicht genug Community Notes. Zwar wurden beispielsweise viel geteilte Beiträge mit Miss- und Desinformationen während der Coronapandemie recht zuverlässig mit Community Notes versehen, viele weniger virale, aber dennoch oft geteilte Tweets hingegen nicht, die in Summe dennoch viele Menschen erreichten. Das liegt jedoch nicht zwingend daran, dass für solche Tweets keine Anmerkungen aus der Community vorgeschlagen wurden.
Wie das Center for Countering Digital Hate und die Washington Post in separaten Analysen Ende 2024 feststellten, werden zwar zu vielen Beiträgen mit Fehlinformationen korrigierende Community Notes verfasst, diese werden jedoch häufig nicht veröffentlicht. Der Grund: Etliche der Anmerkungen erreichen nicht die erforderliche Anzahl lagerübergreifender Stimmen, um als hilfreich eingestuft zu werden. Für seine Untersuchung überwachte das Center for Countering Digital Hate 283 Posts, die Falschmeldungen zur Wahl verbreiteten. Zu 229 dieser Beiträge wurden richtigstellende Community Notes vorgeschlagen. Allerdings schafften es lediglich 20 von ihnen, genügend Hilfreich-Bewertungen zu sammeln, um auf X für alle Nutzer angezeigt zu werden.
Die während des US-Wahlkampfs 2024 durchgeführte Analyse der Washington Post zeigt ergänzend, dass insgesamt nur 7,4 Prozent der eingereichten Community Notes zu Beiträgen zur US-Wahl auf X veröffentlicht wurden – ein Wert, der bis Oktober 2024 sogar auf 5,7 Prozent sank. Ein Grund für die geringe Rate könnte das Fehlen von Stimmen konservativ eingestellter Nutzer sein. Viele der unveröffentlichten Notes betrafen Beiträge, die Verschwörungstheorien verbreiteten – vor allem die Behauptung, die US-Wahl 2020 sei von Joe Biden „gestohlen“ worden. Obwohl diese Aussage nachweislich falsch ist, wurde sie während des Wahlkampfs selbst von moderaten konservativen Nutzern als Narrativ oder als symbolische Metapher toleriert.
Eine weitere Erkenntnis der Analyse der The Washington Post: Im Durchschnitt vergingen mehr als 11 Stunden vom Vorschlag einer Community Note bis zu ihrer Veröffentlichung unter einem Beitrag. In nicht wenigen Fällen dauerte es sogar noch länger. Mitunter wurden Fake News erst nach mehreren Tagen mit einer Note versehen – nachdem der Post in der Zwischenzeit zahlreiche Reposts und Likes erhalten hatte. Diese Verzögerung ist besonders kritisch, da die hemmende Wirkung einer Community Note auf die Weiterverbreitung mit der Zeit deutlich abnimmt. Je länger ein Beitrag unkommentiert bleibt, desto größer ist seine Reichweite und desto schwieriger wird es, die bereits verbreitete Fehlinformation einzudämmen.
Darauf haben die Entwickler von X bereits reagiert. Mit einem Upgrade namens Lightning Notes können Community Notes seit Oktober 2024 nun wesentlich schneller veröffentlicht werden – oft in weniger als einer Stunde, manchmal sogar innerhalb von 15 Minuten. Allerdings hat diese Beschleunigung keinen Einfluss auf die Anzahl der unkommentierten Beiträge. Die grundlegende Problematik, dass viele Fehlinformationen weiterhin ohne Korrektur bleiben, besteht somit nach wie vor.
Viele Community Notes bleiben liegen
Das Problem der unveröffentlichten Community Notes könnte sich auf X in Zukunft noch weiter verschärfen. Unter der Leitung von Elon Musk scheint die einst vielfältige Nutzerschaft des Netzwerks zunehmend aus dem Gleichgewicht zu geraten – sowohl sozial als auch politisch und kulturell. Während rund 60 Prozent der Nutzer um 2019 eher jüngere, gebildete und politisch linke oder progressive Menschen waren, zeichnet sich mittlerweile eine gegenläufige Entwicklung ab. Seit der Übernahme durch Musk haben viele einstige Nutzer der Plattform den Rücken gekehrt. Zwischen 2023 und 2024 verlor X über 5 Prozent seiner Nutzerbasis. Allein Ende 2025 waren es rund 2,7 Millionen Menschen. Beobachtern zufolge handelte es sich dabei vor allem um Nutzer, die politisch eher links der Mitte einzuordnen sind und die Plattform aufgrund von Musks öffentlicher Unterstützung für Donald Trump verlassen haben.
Langfristig könnte dies dazu führen, dass ein konsensbasierter Bewertungsprozess für Community Notes zunehmend schwieriger wird. Denn wenn Nutzer aus politisch linken Meinungsklassen weiter in die Unterzahl geraten, werden ihre Stimmen rar. Selbst wenn eine Community Note faktisch korrekt ist und eine Vielzahl von Bewertungen erhält, könnte sie aufgrund der abnehmenden politischen Vielfalt der Nutzerschaft unveröffentlicht bleiben. Sprich: Ohne eine Anpassung des zugrunde liegenden Algorithmus droht die Mechanik der Community Notes durch die zunehmende ideologische Homogenisierung der X-Nutzerschaft an Effektivität zu verlieren. Das würde zur Folge haben, dass zahlreiche Desinformationen und Falschmeldungen unwidersprochen bleiben.
Eine Anpassung des Algorithmus, bei der die Anforderung einer ideologieübergreifenden Einigung auf eine Wahrheit abgeschwächt oder gar vollständig entfernt würde, würde wiederum den Kerngedanken der Community Notes untergraben. Denn ohne diesen Mechanismus bestünde die Gefahr, dass Community Notes als parteiisch wahrgenommen werden. Dies würde nicht nur die Glaubwürdigkeit der Notes gefährden, sondern sie möglicherweise auch als Werkzeug zur Wahrheitsfindung und Korrektur unbrauchbar machen.
Herausforderung für Meta
Das System der Community Notes kann im Kampf gegen Fehlinformationen, Fake News und Desinformation zweifellos hilfreich sein. Es zeigt aber leider auch deutliche Schwächen, wenn es um eine breite und flächendeckende Anwendung geht. Vor diesem Hintergrund dürfte eine Umsetzung in einem langsam wachsenden Netzwerk wie BlueSky gut umsetzbar sein. Mark Zuckerbergs Plan, die externen Faktenprüfer bei Facebook, Threads und Instagram auf einen Schlag durch ein Programm nach dem Vorbild der Community Notes von X zu ersetzen, könnte hingegen riskant werden – und einen schwer vorhersehbaren Verlauf nehmen.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
Facebook und Instagram, zwei der meistgenutzten Social-Media-Plattformen überhaupt, sind nicht nur wesentlich größer als das einstige Twitter, sondern weisen auch andere soziodemografische Strukturen auf. Auch die Motive für die Nutzung dieser sozialen Netzwerke sind zum Teil sehr unterschiedlich. Während die Community von X im Durchschnitt eher noch jünger ist und den Kurznachrichtendienst gezielt nutzt, um aktuelle Informationen und Debatten zu konsumieren, sind die Nutzer von Facebook im Durchschnitt älter und wollen vor allem unterhalten werden und soziale Kontakte pflegen. Die Nutzer von Instagram hingegen suchen Zeitvertreib, parasoziale Beziehungen, politische Ausdrucksmöglichkeiten und Selbstinszenierung.
Aus diesen Gründen ist es schwierig vorherzusagen, ob und in welchem Umfang eine Community-Notes-Funktion auf den Meta-Plattformen angenommen und genutzt werden würde. Ob die Diversität der Nutzerschaft in Bezug auf Alter, politische Orientierung, Bildung und Interessen die Konsensfindung erleichtern oder erschweren würde. Das dürfte sich eher früher als später zeigen. Wie Mark Zuckerberg inzwischen klargestellt hat, soll die Umstellung auf Community-basierte Faktenchecks in den USA beginnen. In anderen Teilen der Welt würden die dortigen Moderations- und Faktencheck-Programme demnach vorerst beibehalten. Wobei Zuckerberg deutlich machte, dass es dabei nicht bleiben soll. Er wolle gemeinsam mit der neuen US-Regierung gegen Märkte wie die EU vorgehen, die seiner Meinung nach „Zensur institutionalisieren und Innovation behindern“.
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!