Wie steht es um die Demokratie? In Deutschland – trotz mancher Schwächen – ganz gut. Weltweit verdüstert sich die Lage allerdings. Auch die Meinungsfreiheit im Internet ist unter Beschuss. Und Künstliche Intelligenz könnte die Probleme verschärfen. Unsere Kolumnistin @Kryptomania skizziert die Bedrohungen, aber auch die Lösungsvorschläge von Big Tech und unabhängigen Experten. Diesmal kommt sie ohne Science-Fiction-Bezug aus, dafür erteilt sie Voltaire das Wort.
Eine Kolumne von Dr. Aleksandra Sowa
Mitte Februar 2024 veröffentlichte Economist Intelligence (EIU) den Democracy Index 2023 und kürte darin die besten Demokratien weltweit. Fünf der Top-6-Plätze im Ranking belegten die „nordischen“ Demokratien Europas: Norwegen, Island, Schweden, Finnland und Dänemark. Auf Platz zwei: Neuseeland. Deutschland schaffte es nicht in die Top 10, belegte aber einen guten 12. Platz weltweit und den 10. in der Region Westeuropa, zu der auch die Türkei gehört. Zu den Highlights des Reports gehörte, dass Griechenland – die Wiege der Demokratie – den Status „full democracy“ wiedererlangte und Papua-Neuguinea sowie Paraguay vom Status der hybriden Regimes zu Demokratien aufgestiegen sind.
Das war es aber auch mit den guten Nachrichten.
The Age of Conflict – das Zeitalter des Konflikts – titulierte die EIU den diesjährigen Report und analysierte darin, wie sich Kriege und Konflikte auf die Entwicklung von Demokratien auswirkten. Das zunehmende Auftreten gewaltsamer Konflikte hätte den globalen Demokratiewert beeinträchtigt, urteilten die Autoren, vermuteten aber auch eine positive Korrelation zwischen Demokratie und Frieden. Und entsprechend zwischen Nichtdemokratien und Konflikten.
Die EIU teilte die Länder anhand von 60 Indikatoren in vier Gruppen ein. Neben den bestbewerteten „full democracies“ gibt es auch – etwas schlechter bewertet – „flawed democracies“, „hybrid regimes“ und „authoritarian regimes“. Zu Letzteren zählen aktuell u. a. Russland und Myanmar. Während fast die Hälfte der Weltbevölkerung (45,4 %) in irgendeiner Form von Demokratie lebt, sind es nur 7,8 % der Menscchen, die zu den vollwertigen („full“) Demokratien gehören. Beinahe so viele wie in den Demokratien – 39,4 % – leben in einem autoritären Regime bzw. unter einer autoritären Herrschaft. Tendenz steigend, stellte die EIU fest.
Deutschland hat ein Top-Wahlsystem, schwächelt aber bei Partizipation und politischer Kultur
Deutschland, wenn auch nicht als eine der Top-10-Demokratien, konnte den Status der „full democracy“ im letzten Jahr verteidigen. Der Demokratiewert wurde anhand von fünf Kategorien bewertet: Deutschland erzielte die besten Ergebnisse im Bereich Wahlverfahren (electoral process) und ist darin im westeuropäischen Raum fast so gut wie Griechenland oder Dänemark. Bei den bürgerlichen Freiheiten (civil liberties) wurde Deutschland ebenfalls gut bewertet – nur Finnland und Island haben in Westeuropa bessere Ergebnisse erzielt. Schlechter lief es im Bereich Funktionieren der Regierung (functioning of government). Bei der politischen Partizipation (political participation) und der politischen Kultur (political culture) erzielte Deutschland die schlechtesten Ergebnisse.
Dabei haben sich ausgerechnet in der Kategorie politische Partizipation weltweit die Durchschnittswerte zwischen den Jahren 2008 und 2023 verbessert, während sie für alle anderen Kategorien konstant geblieben oder gesunken sind. Seit zehn Jahren ist außerdem ein Trend zum sinkenden globalen Demokratie-Index zu beobachten, so die EIU. Nur Westeuropa verbesserte sich und erreichte 2023 Demokratiewerte aus der Zeit vor der Pandemie.
Die Ursache hierfür sieht man u. a. in der schlechten Performance der Länder in der Kategorie der bürgerlichen Freiheiten, unter der sich auch freie Medien und Meinungsäußerung subsummieren. Am Beispiel der Coronapandemie konnte die EIU zeigen, dass es den Regierungen wesentlich leichter gefallen ist, Freiheiten einzuschränken als sie später zurückzugeben. Obwohl freie Medien wesentlich für die Demokratie seien, sagte Joan Hoey im EIU-Webinar zum Report, standen freie Meinungsäußerung und Medien unter Beschuss sowohl durch staatliche als auch nichtstaatliche Akteure – und dies sowohl in Demokratien als auch in hybriden oder autoritären Regimen: „This remains one of the biggest threats to democracy“, urteilten die Autoren des Democracy Index.
Im Internet häufen sich Attacken auf freie Meinungsäußerung
Zu ähnlichen Ergebnissen kommt der aktuelle Report Freedom on the Net 2023 von Freedom House, wobei bei dieser Studie die Freiheiten im Internet im Fokus stehen. Der jährlich erscheinende Report umfasst in diesem Jahr 70 Länder, die ca. 88 % der Internetnutzer weltweit repräsentieren. Darunter auch Deutschland. Die Bewertung erfolgte anhand von 21 Indikatoren, die Kategorien wie Zugriffsbeschränkungen (obstacles to access), Einschränkung der Inhalte (limits on content) oder Verstöße gegen Nutzerrechte (violations of user rights) umfassen.
Wesentliche Findings der 13. Studie sind u. a., dass die Freiheit im Internet zum 13. Mal in Folge gesunken ist. Außerdem haben sich Attacken auf die freie Meinungsäußerung im Internet weiter verstärkt: In 55 von 70 Ländern hatte die freie Meinungsäußerung juristische Konsequenzen für Nutzer oder Blogger; in 41 Ländern konnten Menschen für ihre Onlinekommentare inhaftiert oder getötet werden. 78 % der Internetnutzer leben in Ländern, in denen Menschen für das Posten von Inhalten zu politischen, gesellschaftlichen oder religiösen Themen verhaftet oder inhaftiert werden. 67 % leben in Ländern, in denen Menschen für ihre Onlineaktivitäten angegriffen oder ermordet wurden. In 68 % der teilnehmenden Länder werden von den Regierungen Kommentatoren eingesetzt, die Onlinediskussionen beeinflussen (können).
Mit einem Gesamtwert von 77 Punkten auf der Skala zwischen 0 und 100 platziert sich Deutschland auf einem guten 7. Platz im globalen Ranking des Freedom on the Net Reports. Das Ergebnis ist ein wenig besser als das von den USA oder Frankreich (76 Punkte) und ein wenig schlechter als das von Großbritannien (79 Punkte), ist aber auch weit entfernt von den 94 Punkten, die der Top-Performer in Sachen Menschenrechte online, nämlich Island, erreicht hat. Island ist übrigens die einzige der „nordischen Demokratien“, die in der Studie berücksichtigt wurde (auch Neuseeland, die Nummer 2 der Demokratien weltweit, wurde nicht gerankt). Mit ganzen neun Punkten schließt China das Ranking der 70 Teilnehmerstaaten ab. Mit einem Ergebnis zwischen 70 und 100 Punkten gelten Länder (darunter Deutschland) als „frei“. Das bedeutet jedoch nicht, dass es in diesen Staaten keine staatlichen Eingriffe gibt.
Regierungen in 41 Ländern blockierten Websites mit politischen, sozialen oder religiösen Inhalten als eine Form Zensur des Internets, fand House of Freedom heraus. Dazu zählt auch Deutschland, wo zusätzlich das Löschen von Inhalten zulässig ist – diese am weitesten verbreitete Form der Zensur kommt in 45 von 70 Ländern vor. Das Blockieren von Social-Media-Plattformen (22/70) oder geschützte Netzwerverbindungen via VPNs (19/70) sowie Restriktionen der Netzkonnektivität (16/70) sind weitere Formen von Zensur im Internet, die allerdings in dem Erfassungszeitraum von Juni 2022 bis Mai 2023 in Deutschland nicht vorgekommen sind.
Das Repertoire an Restriktionen ist vielfältig – von Website-Blockaden bis Mord
House of Freedom identifizierte und untersuchte insgesamt neun wesentliche Kontrollen, die auf Restriktionen für politische, gesellschaftliche oder religiöse Inhalte abzielen und die von den Ländern im Erfassungszeitraum mindestens einmal eingesetzt wurden. Neben den u. a. in Deutschland praktizierten Blockaden von Websites gehören Blockaden der Social-Media-Plattformen, Störung oder Abschalten des Internets, regierungsnahe Moderation, Zensur fordernde Gesetze oder Regulierung, die Überwachung erweitert und Anonymität einschränkt, Verhaftungen von Bloggern oder Internetnutzern (Frankreich!), Angriffe auf oder Ermordung von Bloggern sowie technische Attacken gegen Menschenrechtsorganisationen oder Regierungskritiker, die nicht nur in China, aber auch bei dem Top-Performer Island, in Frankreich oder den USA beobachtet wurden, zum Repertoire der Regierungen.
In 55 Ländern – ein neuer, trauriger Rekord – sahen sich die Menschen rechtlichen Konsequenzen ausgesetzt, weil sie sich online geäußert hatten. Die Zahl der Länder, in denen es zu Verhaftungen und mehrjährigen Haftstrafen gekommen ist, ist von 2014 18 auf 2023 31 gestiegen. In Nicaragua beispielsweise wurden Menschen, die wegen kritischer Äußerungen im Internet inhaftiert wurden, oft vor die Wahl zwischen einer Haftstrafe oder Exil gestellt. So wurde der katholische Bischof Rolando José Alvarez Lagos, der sich weigerte, Nicaragua zu verlassen, für die Verbreitung von Gebeten über soziale Medien zu einer 26-jährigen Haftstrafe verurteilt.
Dass es zu vergleichbaren Strafen in Deutschland (noch) nicht gekommen ist, ist allerdings kein Grund, sich zu entspannen. Über die Plattform X wurde von Fällen berichtet, bei denen gegen Betroffene für ihre Äußerungen im Internet Anzeigen erstattet und gegen die Geldstrafen verhängt wurden. Dies sollte beispielsweise im Fall eines kritischen Kommentars zum Post der FDP-Politikerin Marie-Agnes Strack-Zimmermann, MdB, auf X oder bzgl. eines Tweets zur Krim der Fall gewesen sein. Im ersten Fall nannte ein Kommentator die FDP-Politikerin, die sich intensiv für Waffenlieferungen an die Ukraine einsetzt, „Hexe“. Das Gericht „verhängte eine saftige Geldstrafe per Strafbefehl: 1.200 Euro (40 Tagessätze à 30 Euro)“, informierte die Politikerin auf ihrer Website. Im zweiten Fall hat der Autor des kurzen Kommentarposts, in dem er von „russischer“ Krim sprach, nicht nur eine Anzeige, sondern gleich eine Geldstrafe von 1.600 Euro kassiert (gegen die man in Deutschland allerdings nur vor einem Gericht Widerspruch einlegen kann).
Diese Fälle sind zwar noch nicht mit einer mehrjährigen Haftstrafe, wie derzeit in Weißrussland oder Nicaragua, vergleichbar, haben dennoch für die Internetnutzer ernsthafte rechtliche Konsequenzen: „Dieser Eintrag wäre zwar nicht auf dem einfachen Führungszeugnis aufgetaucht, auf einem erweiterten aber sehr wohl zu sehen gewesen“ kommentierte die FDP-Politikerin den „Hexe“-Fall auf ihrer Website und gab in Spiegel Online bekannt, dass sie ca. 250 ähnliche Anzeigen monatlich erstattet. Sie „arbeite […] zusammen mit einem Anwalt, der systematisiert justiziable Kommentare in Mails und aus dem Netz heraussuche“.
Ob und wie sich ein solches Verhalten auf die Bewertung Deutschlands im nächsten Report Freedom on the Net auswirken wird, bleibt abzuwarten. Insbesondere auch im Hinblick auf die sich gerade entfachende Diskussion darüber, ob der vom Bundesamt für Verfassungsschutz eingeführte Begriff „Delegitimierung des Staates“ nicht möglicherweise auf überspitzte bzw. pointierte Kritik an Politik, Staat oder Regierung angewandt werden könnte und diese damit unzulässig oder gar ein Fall für den Verfassungsschutz wäre.
Künstliche Intelligenz kann Zensur und Überwachung verstärken
Besondere Aufmerksamkeit legt die aktuelle Studie auf ein anderes, relativ neues Phänomen und die Potenziale, die sich durch den Einsatz Künstlicher Intelligenz (KI) für die Zensur und Einschränkung von Freiheiten im Internet erschließen. KI, stellen die Autoren fest, dient als „Verstärker“ der Repressionen, Zensur, Überwachung oder Verbreitung von Desinformation. Regierungen können mithilfe von KI nicht nur gezieltere und detailliertere Überwachung und Zensur durchführen – sie können es auch schneller und effektiver. Insbesondere generative KI, also Text-, Bild- oder Videogeneratoren, würde außerdem Desinformationskampagnen begünstigen. Die Erschwinglichkeit, Benutzerfreundlichkeit und Zugänglichkeit der KI-Tools haben die Eintrittsbarriere in den Desinformationsmarkt gleichermaßen für die staatlichen und nichtstaatlichen Akteure gesenkt.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
KI-Tools, die Bilder, Texte, Audio oder Video erzeugen können, wurden in der Erfassungsperiode dazu benutzt, politisch oder gesellschaftlich relevante Informationen zu verfälschen oder zu verzerren. Aber es sind Momente der politischen Krisen oder Zeiträume, in denen Wahlen stattfinden, die als wahre „Flashpoints“ für die KI-generierten Inhalte gedient haben. Bedenkt man, dass im Jahr 2024 so viele verschiedene Wahlen stattfinden, dass EIU sogar von „election bonanza“ spricht, kann dies einen richtigen Schub für den Einsatz von KI zur (Des-)Information bedeuten. Denn Wahlen sind zwar eine notwendige, aber keine hinreichende Bedingung für Demokratie.
Demokratische Wahlen müssen frei, fair und repräsentativ sein. Es verwundert daher nur wenig, dass House of Freedom im aktuellen Report ausgerechnet auf die Gefahren und Herausforderungen Künstlicher Intelligenz aufmerksam macht, sogar gleich in der Überschrift: The Repressive Power of Artificial Intelligence. So können sowohl die herrschenden Parteien als auch ihre politischen Wettbewerber mithilfe von Deepfakes ihre jeweiligen Gegner diskreditieren, Zweifel und/oder Ängste in der Gesellschaft schüren und Unterstützer mobilisieren – oder eben sabotieren.
Gute Deepfakes können das Vertrauen der Öffentlichkeit in demokratische Prozesse untergraben, Aktivisten und Journalisten zur Selbstzensur motivieren und eine zuverlässige sowie unabhängige Berichterstattung derangieren. KI-generierte Bilder oder Videos können die Polarisierung und bestehende Spannungen innerhalb der Gesellschaft verfestigen. In extremen Fällen könnten sie Gewalt gegen Einzelpersonen oder ganze Gemeinschaften auslösen, so die Autoren des Reports.
Das Beispiel der venezolanischen Regierung, die ein ganzes Videonachrichtenpodcast von KI konstruieren ließ, zeigt, dass es nicht immer die „Bösen“ sind, die sich der Technologie zwecks Desinformation bedienen, sondern ebenso gut herrschende Parteien oder Politiker. Die Auswirkungen der KI-generierten Desinformation werden sich vermutlich weiter vertiefen, trotz einer wachsenden Armee von Beobachtern, Moderatoren, Faktenchecker oder Regulierungsbehörden, deren Aufgabe es sein wird, die Desinformation zu erkennen, zu entlarven oder zu entfernen.
Was bringt die Allianz von Tech-Unternehmen gegen KI-Desinformation?
An dieser Stelle kommen den Regierungen und der Politik nichtstaatliche Akteure zu Hilfe: Unter der Überschrift Tech Accord to Combat Deceptive Use of AI in 2024 Elections haben auf der Münchner Sicherheitskonferenz Tech-Unternehmen, darunter Microsoft, Meta, Google oder X, bekannt gegeben, gegen Manipulation und/oder Täuschung mittels KI in den Wahlen besser vorgehen zu wollen.
In der Vereinbarung werden zwar keine expliziten Maßnahmen genannt – die Tech-Unternehmen setzen sich aber entscheidende Ziele: Video, Audio und Bilder zu bekämpfen, die das Aussehen, die Stimme oder die Handlungen politischer Kandidaten, Wahlbeamter und anderer wichtiger Interessengruppen vortäuschen oder verändern, heißt es in der Mitteilung von Microsoft. Die Menschen sollen ihr Wahlrecht ausüben können – frei von der neuen Art von KI-basierter Manipulation.
Dies, natürlich unparteiisch, wollen die Tech-Konzerne unterstützen. Es wurde u. a. vereinbart, an geeigneten Technologien bzw. Gegenmaßnahmen weiter zu forschen. So soll Google daran arbeiten, eine entsprechende Kennzeichnung für Audiodateien zu entwickeln, berichtete Zeit Online im Nachrichtenpodcast. Darin hat man sich bzgl. der möglichen Maßnahmen zur Umsetzung der Kennzeichnungspflicht erkundigt und Wasserzeichen, wie sie beispielsweise bei den Fotos von Shutterstock eingesetzt werden, oder Hinweise in den Metadaten recherchiert. Wie es allerdings im konkreten Beispiel der gefälschten „Robocalls“ von Joe Biden, der in New Hampshire zum Nichtwählen aufgerufen hatte und die vermutlich mit einer KI-Software erzeugt wurden, umgesetzt werden sollte, ist nicht ganz klar. Sollte der Autor des Deepfakes die Audiodatei etwa selbst mit einem Wasserzeichen „generiert mit der KI“ versehen? Oder würde die Software, die zur Erzeugung des Deepfake genutzt wurde, selbst entscheiden, wann sie die mit ihr generierten Inhalte mit einem Warnzeichen versieht?
Unternehmen wie OpenAI und Google haben bereits in der Vergangenheit Maßnahmen eingeführt, um missbräuchliche Verwendungen ihrer Chatbots und/oder generativer KI-Modelle zu reduzieren, erinnern die Autoren von Freedom on the Net Report. Im Gegenzug haben Forscher Techniken identifiziert, mit denen man die Sicherheitsvorkehrungen umgehen kann. Das können auch die „bösen Jungs“. Außerdem können konkurrierende Anwendungen mit weniger Schutzmaßnahmen entwickelt und diese dann für Desinformation genutzt werden.
Anzunehmen ist daher, dass erstmals auf bewährte, simple Mittel zurückgegriffen wird, mit denen bereits der Einsatz von Bots und robotisierter Software bekämpft werden sollte. Beispielsweise eine Art von Fake-News-Captcha. Nur dass es diesmal nicht mehr reicht, auf ganz viele Ampeln oder Fahrräder zu klicken, um der Maschine zu beweisen, dass man kein Roboter ist.
Naheliegend ist, dass man Posts in sozialen Medien nur dann erstellen und versenden darf, wenn man sich eindeutig als Nicht-KI identifiziert hat. Dies wäre beispielsweise im Rahmen eines kostenpflichtigen Abo- oder Nutzungsmodells, wie solche, mit denen aktuell X oder Facebook experimentieren, möglich. Damit einhergehend ist allerdings eine bessere Kontrolle der Nutzer, Blogger und ihrer Aktivitäten möglich. Ein angenehmer Nebeneffekt, wenn man als Unternehmen (oder Staat) die Anonymität und Pseudonymisierung im Netz endgültig abschaffen möchte. Und dass, schrieb David Graeber 2015 in Bürokratie, ist etwas, worüber die Industriekapitäne und Politiker vermutlich schon seit den Siebzigern gegrübelt haben.
Es wäre gleichwohl genau das Gegenteil davon, was im Report Freedom on the Net 2023 empfohlen wird. Während die Tech-Unternehmen den Kampf der Desinformation und den Fälschungen mittels ultracoolen, wenn auch noch zu entwickelnden Technologien ansagen, mahnt House of Freedom dazu, bei der Regulierung auf die Lehren aus früheren Internet-Governance-Herausforderungen zu setzen.
Warum Regulierung nicht nur privaten Unternehmen überlassen werden sollte
Eine Abhängigkeit von der Selbstregulierung durch private Unternehmen hätte laut Freedom on the Net schon einmal dazu geführt, dass die Menschenrechte und Freiheiten einer Vielzahl von Bedrohungen im Digitalen ausgesetzt sind. Demokratische Politiker und zivilgesellschaftliche Experten aus der ganzen Welt sollten deswegen daran arbeiten, starke, menschenrechtsbasierte Standards sowohl für staatliche als auch für nichtstaatliche Akteure, die KI-Tools entwickeln oder einsetzen, zu schaffen.
Regierungen können die Risiken der KI mithilfe existierender demokratischer Mechanismen adressieren, solchen wie Regulierung, Sicherheitsprüfungen, parlamentarischen Untersuchungen oder Gesetzen, die im Einvernehmen mit der Zivilgesellschaft entwickelt werden. Als weitere Methoden, die legitime Sicherheitsherausforderungen adressieren, nennen die Autoren gesetzliche Anforderungen an Transparenz, Datenschutz oder Verantwortung bzw. Haftung, wie beispielsweise Risikobewertung als Obligo oder eine Art Menschenrechts-Due-Diligence für Unternehmen.
Also kein Aufstand der ultracoolen Maschinen gegen Trolle. Dafür aber Lösungen ganz im Sinne des dem französischen Philosophen Voltaire zugeschriebenen Grundsatzes: Du bist anderer Meinung als ich, und ich werde dein Recht dazu bis in den Tod verteidigen.
Dr. Aleksandra Sowa gründete und leitete zusammen mit dem deutschen Kryptologen Hans Dobbertin das Horst Görtz Institut für Sicherheit in der Informationstechnik. Sie ist zertifizierter Datenschutzauditor und IT-Compliance-Manager. Aleksandra ist Autorin diverser Bücher und Fachpublikationen. Sie war Mitglied des legendären Virtuellen Ortsvereins (VOV) der SPD, ist Mitglied der Grundwertekommission und trat als Sachverständige für IT-Sicherheit im Innenausschuss des Bundestages auf. Außerdem kennt sie sich bestens mit Science Fiction aus und ist bei Twitter als @Kryptomania84 unterwegs.
Alle Ausgaben ihrer Kolumne für 1E9 findet ihr hier.
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!