In unseren sozialen Medien gibt es vielen politischen Lärm. Aber was davon ist echt? Und wie viel wird von Bot-Farmen und KI-Maschinen erzeugt, die uns eine politische Stimmung nur vorspielen? Nach den ukrainischen Angriffen auf mehrere Rechenzentren des russischen Internetkonzerns Yandex, wurde diese Frage in den letzten Tagen breit diskutiert.
In Medien und auf sozialen Plattformen kursierte die Vermutung, bei dem Angriff seien auch russische Propaganda-Bots lahmgelegt worden. Der Datenexperte Marijn Markus beobachtete „plötzlich schrecklich still“ gewordene Accounts. Darunter viele Profile, die vorgeben Trump-Anhänger oder EU-Skeptiker zu sein. Andere Expert*innen berichten von weniger Zuspruch für bekannte Troll-Accounts auf Plattformen wie X und Facebook.
Social Bots als digitale Stimmungsmacher
Ein Beweis für den Ausfall russischer Propaganda-Bots ist das allerdings nicht. Der Zusammenhang zwischen den angegriffenen Rechenzentren und ausgefallenen Desinformations-Accounts ist bislang nicht quantitativ belegt. Ohnehin operieren viele der Netzwerke, die im Auftrag oder im Interesse des Kremls Desinformation verbreiten, außerhalb Russlands. (Wer sich hier einlesen möchte, dem empfehle ich „Autocracy, Inc.“ von Anne Applebaum, Friedenspreisträgerin des Deutschen Buchhandels.)
Unabhängig davon gilt: Wissenschaftler*innen und Analyst*innen sammeln schon seit Jahren Belege dafür, wie Social Bots politische Diskurse in den sozialen Medien manipulieren und verzerren. Eine aktuelle Studie im Auftrag der NRW-Landesanstalt für Medien beschreibt, dass die Manipulationen in zwei Grundformen auftreten:
- Erstens durch die technische Manipulation der Reichweite bestimmter Inhalte,
- zweitens durch die Verschleierung oder Täuschung über die Identität des Absenders.
„Beide Formen zielen darauf ab, bei den Rezipienten eine falsche Vorstellung über Relevanz, Zustimmung oder Autorität von Informationen zu erzeugen“, heißt es in der Studie. „Nutzer können dabei regelmäßig nicht erkennen, dass die wahrgenommene Popularität eines Inhalts technisch erzeugt wurde. Diese Intransparenz stellt eine wesentliche Täuschung dar.“
Was ist ein Social Bot?
Ein Social Bot ist ein Softwareprogramm, das auf sozialen Netzwerken automatisiert Beiträge veröffentlicht, teilt, kommentiert oder liked. Social Bots können zu Bot-Armeen zusammengeschlossen werden. Solche Bot-Netzwerke agieren koordiniert. Daraus entsteht der falsche Eindruck einer lebhaften Debatte. Manche Bots reagieren auf bestimmte Schlüsselwörter, andere veröffentlichen nach einem vorgegebenen Zeitplan.
Eine Industrie, gesteuert von Wenigen
KI verändert die Dynamik dieser Bot-Netzwerke dramatisch. Forschende am US-amerikanischen Alan Turing Institute berichten, dass KI-Agenten Desinformation und Manipulationskampagnen von vorne bis hinten eigenständig umsetzten – ohne nennenswerten menschlichen Input.
In einem Fall gewann ein KI-generiertes Netzwerk des Iran für Fake-US-Accounts 80.000 echte, Nicht-Bot Follower – in nur einem halben Jahr. Das ist das Perfide: Menschen merken nicht mehr, dass sie einem Softwareprogramm folgen. KI-generierte Bot-Netzwerke sind inzwischen so gut.
Rund um gefälschte Accounts und künstliche Interaktionen ist ein kommerzieller Markt entstanden. Untersuchungen der Universität Cambridge und der Cambridge Online Trust and Safety Initiative dokumentieren, wie leicht sich auf hunderten Plattformen gefälschte Account-Verifizierungen beschaffen lassen. Solche Dienste bilden eine Infrastruktur für künstliche Reichweite – von gekauften Likes bis zu koordinierten Hetzkampagnen.
Wenn sich Propaganda als Bewegung tarnt
Wie professionell diese Operationen inzwischen arbeiten, zeigt ein Bericht der BBC über KI-gestützte russische Desinformation. Darin geht es auch um manipulierte Videos, in denen Menschen Aussagen in den Mund gelegt werden, die sie nie getätigt haben. Solche Inhalte werden über Accounts verbreitet, die den Eindruck unabhängiger Berichterstattung erwecken. Das macht es möglich, Desinformation in großer Zahl und zu geringen Kosten zu verbreiten. Der AfD-Landesvorsitzende von Sachsen-Anhalt, Martin Reichardt, brachte die Bedeutung neuer Formen digitaler Propaganda auf den Punkt, als er erklärte: diese seien für die Rechtsextremen das „was für Martin Luther der Buchdruck gewesen ist“.
Das Ziel ist dabei nicht mal, Menschen von einer bestimmten Behauptung zu überzeugen. Oft reicht es, Zweifel zu säen und Vertrauen in demokratische Institutionen zu untergraben. Oder eine Position so oft und so laut zu wiederholen, dass sie wie eine breite Bewegung erscheint.
Gerade darin liegt die Gefahr. Wer durch seinen Feed scrollt, sieht keine repräsentative Stimmung. Er sieht nur, was die Plattformen ausspielen und was dort Aufmerksamkeit erzeugt. Wenn koordinierte Accounts diese Dynamik gezielt verstärken, erscheint eine Minderheit erheblich größer, als sie tatsächlich ist. Digitale Zustimmung simuliert dann Mehrheiten, die nicht existieren. Das greift auch in die echte Welt über. Die Kampagnen beeinflussen, worüber Medien berichten und welche Themen die Parteien aufgreifen. Desinformation muss so nicht die Mehrheit überzeugen, um die demokratische Meinungsbildung zu zerstören.
Die Vor- und Nachteile der Anonymität
Natürlich ist nicht jeder Bot gefährlich. Automatisierte Accounts machen Daten für Suchmaschinen zugänglich oder bieten andere nützliche Dienste an. Auch Anonymität im Netz ist ein wichtiges Gut: Sie schützt etwa Whistleblower und Oppositionelle in autoritären Regimen. Ein pauschales Verbot automatisierter Bots wäre deshalb nicht sinnvoll.
Aber es ist ein Unterschied, ob ein Account als automatisierter Dienst erkennbar ist oder vorgibt, ein echter Mensch mit eigener Meinung zu sein. Wer mit Tausenden falschen Identitäten Zustimmung simuliert, Debatten künstlich aufheizt und die Herkunft von Kampagnen verschleiert, greift die Voraussetzungen der demokratischen Meinungsbildung an.
Fake Social Bots verbieten
Die EU verpflichtet die großen Plattformen mit dem Digital Services Act (DSA) dazu, systemische Risiken ihrer Plattformen zu untersuchen. Dazu gehören laut der Artikel 34 und 35 negative Auswirkungen auf die gesellschaftliche Debatte und Wahlen. Der Haken: Die Plattformen nehmen diese Risikobewertung selbst vor und veröffentlichen sie zögerlich. Und: Der DSA kennt kein allgemeines Bot-Verbot. Er setzt bei der Verantwortung der Big Tech-Unternehmen an. Das ist, freundlich formuliert, naiv.
Der AI Act hilft hier auch nicht weiter. Er sieht in Artikel 50 lediglich vor, dass Menschen über die direkte Interaktion mit KI informiert werden müssen. Die Frage, ob ein Like oder ein Kommentar eine solche Interaktion ist, ist rechtlich Auslegungssache. Und selbst die KI-Kennzeichnungspflicht, die im AI-Act ebenfalls vorgegeben ist, macht nicht sichtbar, ob Hunderttausende Accounts gemeinsam gesteuert werden.
Eine nationale Reform reicht nicht
Interessant ist derzeit die politische Debatte in Deutschland um die Reform des „Digitale Medien-Staatsvertrages“ (DMStV), die gerade in der Anhörung ist. Artikel 19 sieht vor, dass koordinierte künstliche, automatisierte Reichweitenverstärkung künftig verboten sein soll. Das wäre ein wichtiger Schritt – aber nur ein nationaler. Der große Wurf wäre es noch nicht.
Den braucht es auf EU-Ebene. Die Plattformen müssen nachvollziehbar und unmittelbar offenlegen, welche Bot-Netzwerke aktiv sind, welche Maßnahmen sie dagegen ergreifen und ob diese wirken. Das sollte unabhängig überprüft werden. Social Bots, die sich als Menschen ausgeben, um Debatten zu manipulieren, müssen EU-weit verboten werden.
Die wehrhafte Demokratie ist nicht verpflichtet, manipulative Angriffe schutzlos hinzunehmen. Eine demokratische Öffentlichkeit muss erkennen können, ob hinter tausend zustimmenden Accounts tatsächlich unabhängige Menschen stehen – oder ein einziges, koordiniertes Netzwerk.