Wegen des Coronavirus herrscht weltweit Ausnahmezustand. Das besorgt viele Menschen – und befeuert Verschwörungstheorien, Falschinformationen und Fake News. Viele davon sollen angeblich gezielt durch Social Bots verbreitet werden. Aber ist das wirklich so? Oder sind die Social-Bot-Armeen vielleicht selbst eine Verschwörungstheorie? Darüber haben wir mit dem Medienforscher Florian Gallwitz gesprochen.
Ein Interview von Michael Förtsch
Mit der Zahl der Corona-Infizierten steigt auch die Zahl der bizarren Theorien um den Krankheitserreger. Im Internet finden sich Behauptungen, wonach das Coronavirus wahlweise eine Biowaffe sei, aus einem Labor entfleuchte oder von Bill Gates in die Welt gesetzt worden ist. Auch Theorien, wonach die Funktechnologie 5G die Krankheit Covid-19 auslöst oder die Corona-Pandemie eigentlich gar nicht existiert, gibt es. Dazu kommen nahezu unendlich viele falsche Tricks, mit denen man sich angeblich vor dem Virus schützen oder sich sogar heilen können soll. Darunter das Trinken von viel Wasser, aber auch potenziell tödliche Maßnahmen, wie das Spritzen von Chlor, Bleiche oder Desinfektionsmitteln, wie es US-Präsident Donald Trump vorgeschlagen hatte. Wahlweise sollen auch Gebete, Heilsteine oder das Tragen einer „Kraftpyramide“ helfen.
Für die Verbreitung dieser stellenweise einfach absurden, teils aber gefährlichen Falschinformationen sorgen prominente Verschwörungstheoretiker, die in Podcasts, Streaming-Sendungen und Webseiten ihre Ideen predigen. Geradezu viral gehen etliche Theorien und Mythen in sozialen Netzwerken, allen voran bei Twitter und Facebook. Immer wieder war dabei in den vergangenen Wochen in verschiedenen Medien zu lesen, dass hierfür sogenannte Social Bots mitverantwortlich sind. Also intelligente Programme, die Posts und Tweets schreiben, liken, teilen und „menschliche Verhaltensweisen imitieren, um ihre Glaubwürdigkeit zu erhöhen“. Sie würden „gezielte Desinformationskampagnen“ fahren – wahlweise im Auftrag von Russland oder auch von Hacker-Kollektiven. Und das nicht erst seit der Corona-Pandemie, sondern auch während wichtiger Wahlen.
Derartige Bots sollen unter anderem die Präsidentschaft von Donald Trump mitverantworten und auch für den Ausgang der Brexit-Abstimmung mitverantwortlich sein. Allerdings ist es nicht sicher, ob die Social Bots tatsächlich einen solchen Einfluss hatten und haben. Oder ob sie überhaupt existieren. Florian Gallwitz hat da seine Zweifel. Der Professor für Medieninformatik an der Technischen Hochschule Nürnberg untersuchte das Phänomen der Social Bots erstmals vor zwei Jahren – als eine Firma namens Botswatch in einer Untersuchung behauptete, dass 28 Prozent der auf Twitter geäußerten Wortmeldungen zum UN-Migrationspakt von Social Bots stammten.
Florian Gallwitz war neugierig, wollte selbst die vermeintlichen Social Bots untersuchen. Ihm gegenüber benennen konnte das Unternehmen jedoch keinen einzigen der Roboterschreiber. Daher stellte er selbst Untersuchungen an und konnte keinen Nachweis für Bots finden, die Menschen imitieren, wie er auch in einer umfangreichen Stellungnahme für die Bundesregierung abfasste. Die vermeintlichen Bots stellten sich nämlich stets als Menschen heraus. Und echte Bots, die etwa den Glockenschlag von Big Ben oder Satellitenbilder teilen, lassen sich kaum als social bezeichnen. Seitdem verfolgt Gallwitz das Thema fortlaufend – und zwar sehr kritisch. Er glaubt, dass Social Bots selbst eine Verschwörungstheorie darstellen könnten.
1E9: Du sagst, dass die Berichterstattung um Social Bots, die akademische Forschung und viele Studien von Unternehmen wie Botswatch zu Social Bots „höchst zweifelhaft“ sind. Wieso? Wie kommst du darauf?
Florian Gallwitz: Die verbreitetste Grundlage für Social-Bot-Studien ist das sogenannte Botometer. Das ist eine Art elektronische Wünschelrute, in die man einen Twitter-Account-Namen eingibt und eine Zahl zwischen null und fünf erhält. Angeblich gilt: Je höher diese Zahl, desto Bot.
In diesem Forschungszweig hat es sich nun zum akzeptierten Vorgehen entwickelt, die Bewertung durch das Botometer unbesehen als Wahrheit zu akzeptieren. Meist wird in den einschlägigen Veröffentlichungen jeder konsequent als Bot bezeichnet, der einen festen Schwellenwert überschreitet. Es wird grundsätzlich nicht geprüft, ob es sich bei den so erkannten Accounts wirklich um automatisierte Accounts handelt oder auch nur handeln könnte.
Dabei kann man recht einfach zeigen, dass das Botometer vollkommen unsinnige Werte ausgibt. Man muss es nur auf Accounts anwenden, von denen man sicher weiß, dass sie von Menschen bedient werden. Der Berliner Datenjournalist Michael Kreil hat solche Untersuchungen schon seit 2017 immer wieder durchgeführt und öffentlich gemacht. So hat er zum Beispiel gezeigt, dass es sich bei einem erheblichen Teil der Abgeordneten in Parlamenten, bei zahlreichen Journalisten und sogar bei vielen Nobelpreisträgern nicht um echte Menschen handelt, sondern um Bots. Zumindest wenn man dem Botometer glaubt. Je nach betrachteter Personengruppe findet man meist Bot-Quoten zwischen 10 und 50 Prozent. Alle diese Funde sind Falsch-Positive, also Fehlalarme. Untersuchungen über die Eigenschaften angeblicher Social Bots sind in Wahrheit Untersuchungen darüber, welche Merkmale zu Fehlalarmen des Botometers führen.
Werde Mitglied von 1E9 – schon ab 3 Euro im Monat!
Als Mitglied unterstützt Du unabhängigen, zukunftsgerichteten Tech-Journalismus, der für und mit einer Community aus Idealisten, Gründerinnen, Nerds, Wissenschaftlerinnen und Kreativen entsteht. Außerdem erhältst Du vollen Zugang zur 1E9-Community, exklusive Newsletter und kannst bei 1E9-Events dabei sein.
Jetzt Mitglied werden!
Hast du denn bisher noch keinen richtigen Social Bot finden können – also einen Account, der nur so tut als sei er ein Mensch, aber in Wahrheit ein Programm ist?
Florian Gallwitz: Bis heute nicht. Fragt man die Autoren solcher Studien nach konkreten Accounts, die sie als Social Bot zählen – und das ist inzwischen so eine Art Hobby von mir –, dann stehen sie stets mit leeren Händen da. Ich frage inzwischen meist nur noch nach einem einzigen Beispiel, weil ich schon vorher weiß, dass sie keins haben.
In ihren Publikationen und gegenüber der Presse erzählen sie frech Märchen über zehntausende, hunderttausende oder gar Millionen von Social Bots, die sie identifiziert hätten. Wenn man dann aber auch nur einen einzigen davon sehen möchte, erhält man Ausreden, die an die vom Hund gefressenen Hausaufgaben aus der Schulzeit erinnern. Natürlich ist diese Irreführung der Öffentlichkeit auch ein eklatanter Verstoß gegen die gute wissenschaftliche Praxis.
In zahlreichen Artikel wurde aber immer wieder behauptet, dass Abertausende von Social Bots wahlweise von Russland, Hacker-Kollektiven oder professionellen Propagandafirmen für Putin, Parteien wie die AfD oder Großunternehmen gelenkt würden. Ist das dann tatsächlich alles falsch?
Florian Gallwitz: Soweit es um angeblich automatisierte Accounts geht, glaube ich von diesen Geschichten kein Wort mehr, bis mal ein konkreter Account benannt wird. Was Propaganda durch sogenannte unauthentische, vielleicht sogar bezahlte Twitterer angeht, so gibt es glaubwürdige Berichte aus verschiedenen Ländern, dass so etwas tatsächlich gemacht wurde. Im Fall der AfD wurden merkwürdige Umwidmungen von Accounts beobachtet.
Aber Vorsicht: Es ist ein häufiger Trugschluss, dass man aus einem hohen Anteil angeblicher Social Bots in einer Social-Bot-Studie daraus schließen könne, dass hier vielleicht doch zumindest menschliche Akteure unlautere Desinformation betreiben würden. Mit Michael Kreil habe ich eine umfangreiche Untersuchung durchgeführt, in der wir mehr als 520.000 Accounts, die den größten deutschen Parteien auf Twitter folgen, mit Botometer untersucht haben. Wir wollten eine solche Studie einmal in Gänze nachvollziehen und überprüfen. Mehr als die Hälfte dieser Accounts wurde vom Botometer als Bot eingestuft, sogar auf Basis eines höheren Schwellwerts als üblich. Dabei hat sich zum Beispiel gezeigt, dass das Botometer jeden neu angelegten Account nach seinem ersten Tweet als Bot einstuft.
Auch Accounts, die länger nicht mehr genutzt wurden, gelten als Bots. Eine repräsentative Stichprobe von 109 dieser rund 270.000 angeblichen Bots habe ich mir dann sehr genau angesehen. Es war nicht nur kein einziger automatisierter Account zu finden, sondern auch kein Account, der den Eindruck gemacht hätte, irgendetwas mit Desinformation oder Fake-News zu tun zu haben. Da waren also zum Beispiel die Accounts eines Tanzcafés und eines Fußballvereins dabei, ein Landarzt, ein Jurist, ein CDU-Ortsverband, ein verzweifelter Microsoft-Kunde, ein Gegner des iranischen Mullah-Regimes und eine Verkaufsperson für koreanische Tischgrills.
Botometer-Scores und damit auch die zahllosen Studien, die auf ihnen aufbauen, haben also mit von bösen Mächten gelenkter Propaganda ebenso wenig zu tun wie mit Social Bots. Sie sind einfach nur kompletter Unsinn.
Sind Social Bots also insgesamt ein Mythos und vielleicht sogar eine Verschwörungstheorie?
Florian Gallwitz: Ein Beleg für die Existenz auch nur eines einzigen Social Bots steht bis heute aus, und der Mythos hat alle Kennzeichen einer Verschwörungstheorie. Das paranoide Geraune über finstere Hintermänner, die nie genannt werden. Die Idee, dass diese über weitaus überlegene Technologie verfügen könnten. Das angestrengte Starren auf geheimnisvoll erscheinende bunte Netzwerkdiagramme aus vielen Punkten und Wolken, die aussehen wie ein Silvesterfeuerwerk und die von Bot-Forschern als Angriff dunkler Mächte gedeutet werden. Die Suche nach einer einfachen, bequemen Erklärung für komplexe Phänomene.
Ein Beleg für die Existenz auch nur eines einzigen Social Bots steht bis heute aus, und der Mythos hat alle Kennzeichen einer Verschwörungstheorie.
Viel hat der Social-Bot-Mythos auch mit der mittelalterlichen Hexenverfolgung gemeinsam. Neben Botometer-artigen Wünschelruten-Systemen werden auch Merkmale propagiert, anhand derer man einen Social Bot ganz ohne technische Unterstützung von einem echten Menschen unterscheiden können soll. Was bei den Hexen die Haarfarbe und der Buckel war, ist bei den Social Bots beispielsweise die Zahl der Follower und das fehlende Profilbild.
Und ich beobachte eine erstaunliche Bereitschaft unter Twitter-Nutzern, andere Twitter-Nutzer anhand solcher Merkmale öffentlich als Bots zu beschimpfen, sie bei Twitter zu melden und sie durch Blocken aus Diskussionen auszuschließen. Viele halten ihrem Gegenüber sogar Screenshots mit der Bewertung durch eine dieser Bot-Wünschelruten vor. Man kann sich das vielleicht sogar ein bisschen vorstellen, wie die Hexenverfolgung vor 500 Jahren psychologisch funktioniert hat. Mit Skepsis oder gar Solidarität anderer Nutzer darf nach der Enttarnung als Bot jedenfalls niemand mehr rechnen.
Natürlich gibt es Twitter-Accounts, die einen gewissen Grad an Automatisierung aufweisen, das macht sie aber nicht zu Social Bots. Der Account @netzpolitik der Nachrichtenseite netzpolitik.org wurde mir von einem bekannten Botforscher kürzlich mit großer Ernsthaftigkeit als Beispiel für einen Social Bot genannt. Grund sei, dass der Account politische Dinge twittern würde, teils automatisiert sei und „für den Nutzer von menschlichem Verhalten nicht zu unterscheiden“. Das hat mit der Definition eines Social Bots in den zahllosen Studien und Medienberichten rein gar nichts mehr zu tun. Denn dann wäre jeder Twitteraccount jedes größeren Nachrichtenmediums, in dem Tweets mit Links auf neu publizierte Artikel automatisiert über das Redaktionssystem erzeugt werden, ein Social Bot.
In einer Stellungnahme für den deutschen Bundestag schreibst du von Kontaktaufnahmen mit vermeintlichen Social Bots. Was hast du diese vermeintlichen Bots gefragt und was sagten sie dir?
Florian Gallwitz: Ich folge denen einfach und schreibe einen Tweet der Art: „Hallo @xyz123, der Guardian behauptet in diesem Artikel, du wärst ein Bot. Ich glaube das nicht. Was sagst du dazu?“ Üblicherweise nehmen die das mit Humor und sind dankbar für den Hinweis. Manchmal beschimpfen die als Bots bezichtigten Menschen auch recht rüde die Journalisten oder Wissenschaftler, die den Bot-Vorwurf erhoben haben. Erst kürzlich hat mir ein amerikanischer Twitter-Nutzer, der in den Medien als Coronavirus-Bot angeprangert worden war, sogar angeboten, mich bei Problemen mit Microsoft-Software zu unterstützen. Er verfüge über die einschlägigen Qualifikationen und Zertifikate. Vielleicht komme ich darauf zurück.
Okay. Aber was wäre für dich denn nun ein „echter Social Bot“?
Florian Gallwitz: Ich gehe wie das Büro für Technikfolgen-Abschätzung beim deutschen Bundestag und wie die meisten wissenschaftlichen Veröffentlichungen zu diesem Phänomen davon aus, dass ein Social Bot automatisiert mit Nutzern interagiert, dass er dabei vortäuscht, eine reale Person zu sein, und dass der Versuch unternommen wird, auf diese Weise die öffentliche Meinungsbildung zu manipulieren.
Wie erwähnt, wird aus der Richtung der Social-Bot-Forscher in jüngster Zeit daran gearbeitet, diese Definition bis zur Unkenntlichkeit aufzuweichen. Dann fällt es vielleicht nicht so auf, dass hier jahrelang mit großem Aufwand ein Phänomen beforscht wurde, das gar nicht existiert.
Was hat Künstliche Intelligenz – und die falsche Vorstellung, was mit KI derzeit schon möglich ist – mit dem „Social-Bots-Mythos“ zu tun? Denn das scheint ja auch eine gewisse Rolle zu spielen.
Florian Gallwitz: Ein wichtiger Punkt ist, dass der in den Medien ständig präsente Begriff Künstliche Intelligenz bei Laien offenbar vollkommen unrealistische Erwartungen an den Stand der Technik im Bereich natürlichsprachlicher Mensch-Maschine-Interaktion weckt. Ohne solch unrealistischen Vorstellungen hätte sich die ganze Forschungsrichtung von vorneherein nicht etablieren können.
Neben den angeblichen Social Bots selbst werden aber auch die Bot-Wünschelruten, also etwa das Botometer oder BotSentinel, gerne als Künstliche Intelligenz angepriesen. Tatsächlich kommen hier maschinelle Lernverfahren zur Klassifikation zum Einsatz, die mit Intelligenz rein gar nichts zu tun haben. Und das geschieht dann auch noch in einer Weise, die jedem die Haare zu Berge stehen lassen sollte, der auch nur mit den grundlegendsten Konzepten der statistischen Mustererkennung vertraut ist.
Auch jetzt in Folge der Corona-Pandemie wird wieder von vielen Medien von Social Bots auf Twitter und Facebook geschrieben, die angeblich gezielt falsche Informationen verbreiten. Sei es über das Ausmaß der Corona-Krise, Bill Gates, angebliche Heilmittel, die Herkunft von Corona und vieles mehr. Was sagst du dazu?
Florian Gallwitz: Studien und Berichte über imaginäre Bots auf Basis von Bot-Wünschelruten-Esoterik findet man über nahezu alle Themen, die in der Öffentlichkeit für Diskussionsstoff sorgen, ob es um den Klimawandel geht, um den Brexit, um Vaping, um Migration, um Buschbrände, um Marihuana und natürlich auch zum Corona-Virus. Dass es zu diesem Virus demnächst Zeitungsartikel über imaginäre Bots geben würde, habe ich schon Ende Januar auf Twitter vorhergesagt, da gab es in Deutschland gerade den ersten Covid-19-Fall. Das war aber nicht schwer, denn diese unsinnigen Artikel erscheinen seit Jahren mit mechanischer Regelmäßigkeit zu wirklich jedem Aufregerthema.
Was meinst du, was für Menschen stehen hinter den angeblichen Corona-Bot-Accounts?
Florian Gallwitz: Das ist eine sehr bunte Mischung, ich habe mir ja einige davon angesehen und bin auch mit mehreren davon in Kontakt. Einige wurden mit BotSentinel identifiziert, eine Botometer-ähnliche Bot-Wünschelrute, die vor allem Trump-freundliche Nutzer mit hoher Aktivität als Bots einstuft. Bei den ersten öffentlich als Corona-Bot angeprangerten Menschen, unter anderem in der englischen Boulevardzeitung The Sun , war aber beispielsweise auch eine australische Twitter_Nutzerin dabei, die sich in ihren wenigen Tweets gegen die Corona-bedingte Diskriminierung von Chinesen stark gemacht hatte.
Wie kann es sein, dass Medien immer wieder auf die Behauptung oder Annahme, dass Social Bots Desinformationskampagnen fahren, „hereinfallen“?
Florian Gallwitz: Das Aufregerthema du jour, und das dann noch in Kombination mit Künstlicher Intelligenz und Verschwörungsgeraune – kann man sich als Journalist eine spektakulärere Geschichte wünschen? Ich vermute aber, dass Journalisten das Bild des Internets als eine mit Desinformation verseuchte Schlangengrube auch deshalb so lieben, weil das ihrer eigenen Rolle als verlässlicher, unverzichtbarer Lotse im Informationsdschungel zusätzliches Gewicht verleiht. Dass durch die ständige Verbreitung von Social-Bot-Märchen genau das Gegenteil passiert, ist dabei eine bittere Ironie.
Ärgert dich das stete Neuaufflammen der Bot-Verschwörungstheorien?
Florian Gallwitz: Ich muss zugeben, oft macht es mir sogar Spaß, mich auf Twitter über diesen nie versiegenden Strom an Unsinn lustig zu machen.
Wie stehst du zu Unternehmen wie Diensten und Unternehmen wie Botswatch, Imperva, Bot Sentinel und so weiter, die behaupten, sie könnten Bot-Netzwerke identifizieren?
Florian Gallwitz: Wie den einschlägigen Wissenschaftlern glaube ich auch diesen Firmen kein Wort, solange sie ihre Behauptungen nicht durch konkrete Funde von Social Bots belegen können.
Was würdest du dir wünschen, wie mit dem Thema Social Bots umgegangen werden soll?
Florian Gallwitz: Journalisten könnten Wissenschaftler, die sich über angebliche Social Bots äußern, einfach nach einem konkreten Beispiel fragen. Dann würde das Thema schnell aus den Medien verschwinden und es wäre wieder mehr Platz in den Zeitungen für Geschichten, die etwas mit der Realität zu tun haben.
Teaser-Bild: LisaAlisa_ill / Getty Images