Sie setzen auf Bots

Wie IS-Terroristen auf Telegram Propaganda streuen

Der IS setzt auf ein Netzwerk von Bots auf der Plattform Telegram.

(Bild: thinkstockphotos.de)

Soziale Medien sind für Anhänger terroristischer Ideologien oft zentral, um sich zu vernetzen. Ein Team um Abdullah Alrhmoun von der Central European University (CEU) in Wien konnte zeigen, wie systematisch die Terrormiliz Islamischer Staat (IS) bzw. ihre Unterstützer Bots nutzen, etwa um Propaganda zu verbreiten. Bots, also automatisierte Programme, die im sozialen Netzwerk das Verhalten von Menschen imitieren, sicherten die Netzwerke nachhaltig ab, so der Forscher.

Das Netzwerk von Bots auf der Plattform Telegram diene dazu, schreiben die Autoren in ihrer im Fachjournal „Terrorism and Political Violence“ erschienenen Studie, die Einflussnahme des Islamischen Staates zu verstärken. „Social Bots“ agieren dabei - einmal aufgesetzt - autonom, sind für Nutzerinnen und Nutzer der Kanäle kaum identifizierbar und allgemein mit hohem Potenzial für Missbrauch, etwa zur Manipulation von Verhalten, assoziiert. „Mit dem Einsatz von Bots hat eine Verlagerung von der durch Menschen generierten Information hin zu einer automatisierten Information stattgefunden - mit der Folge, dass man mehr Inhalte veröffentlichen kann“, sagte Alrhmoun, der mit seinem Team die Rolle und Auswirkungen von Telegram-Bots im Kontext des IS untersucht hat.

Bots sind in das Online-Ökosystem des IS eingebettet. Es geht aber bei ihrem Einsatz nicht nur um das reine Veröffentlichen von Inhalten.

Abdullah Alrhmoun, Central European University

„Bots sind in das Online-Ökosystem des IS eingebettet. Es geht aber bei ihrem Einsatz nicht nur um das reine Veröffentlichen von Inhalten, z.B. Propaganda oder Informationen über aktuelle Ereignisse. Vielmehr sorgen sie in einem quasi übermenschlichen Maße dafür, dass das Netzwerk nachhaltig ist, wächst und mehr Menschen vernetzt werden. Bots halten es am Leben“, erklärte der Wissenschaftler.

Keine Kreativität, keine Intelligenz
Social Bots greifen bei ihrer Aktivität allerdings nicht auf Sprachmodelle zurück. Es stecke keine Kreativität oder Intelligenz dahinter; sie führten ihre Aktionen über bestimmte Algorithmen autonom durch. Die großen Sprachmodelle (LLMs - Large Language Models), wie sie etwa in Form von ChatGPT bereits zur Verfügung stehen, könnten Bots künftig aber noch gefährlicher machen, so der Datenwissenschaftler. Sie könnten ihnen Kreativität verleihen, also die Möglichkeit, eigene Inhalte zu erstellen. Damit wäre eine „schier grenzenlose Verbreitung“ von terroristischen und manipulativen Informationen möglich.

Sowohl Studienergebnisse wie auch technologische Entwicklungen sprechen laut Alrhmoun dafür, den Einsatz von Bots verstärkt zu regulieren. Staatliche Sicherheitsbehörden als auch Social-Media-Plattformen sollten prüfen, wie man den Einsatz von Bots als Werkzeug des IS und anderer terroristischer Gruppen einschränken könnte. Derzeit gibt es zwar mit „ISIS Watch“ einen Kanal auf Telegram, der täglich Updates zu verbotenen terroristischen Inhalten veröffentlicht sowie Meldungen von entdeckten Inhalten zulässt. Doch dafür müssen „Terror-Bots“ auch erst einmal identifiziert werden; es stellten sich Alrhmoun zufolge zudem Fragen im Zusammenhang mit Transparenz und Nachvollziehbarkeit. „Letztlich gibt es nach wie vor viele öffentlich zugängliche Inhalte dieser Art auf Telegram.“

Früher war Twitter im Fokus
Frühere Studien hatten vor allem den Nutzen von Twitter für die Terrorgruppe IS im Blick. „Unsere Untersuchung hatte erstmals Telegram und den dortigen Einsatz von Bots im Zusammenhang mit dem IS als Ziel“, sagte der Forscher. Das Team sammelte für seine Analyse über 1,2 Millionen öffentliche Telegram-Postings im Zeitraum von Februar bis September 2021 und verwendete verschiedene Varianten von Algorithmen zur Erkennung von Gemeinschaften, um eine Stichprobe des Telegram-Netzwerks des IS und der Bots darin abzubilden.

Die 106 Bots, die die Forscher über die Programmierschnittstelle API von Telegram identifiziert haben, waren entweder in 98 verschiedenen Gruppen und 37 verschiedenen Kanälen aktiv oder wurden dort erwähnt. Sie posteten zusammen etwa 39.211 Nachrichten. Die Lebensdauer der Bots variierte zwischen 213 Tagen und einem Tag (im Durchschnitt 18 Tage). Bots erfüllen laut den Forschern innerhalb der IS-Telegram-Community drei Hauptfunktionen: Sie unterstützen bei der Veröffentlichung und Bewerbung von IS-Inhalten, bei der Moderation von Diskussionen sowie bei der Verwaltung von Gruppen.

In aktuellen Studien untersuchen die Datenwissenschaftler nun die Relevanz von Bots für radikale Strömungen in den USA sowie in der Ukraine. „Was sich schon jetzt gezeigt hat: Der Islamische Staat nutzt Bots eleganter und robuster, da diese Community Telegram schon sehr früh verwendet und für ihre Zwecke adaptiert hat“, so Alrhmoun.