Kampagnen gestoppt

Staats-Hacker nutzten OpenAI-KI für Desinformation

Die fraglichen Akteure versuchten, die Sprachmodelle von OpenAI für Aufgaben wie die Generierung von Kommentaren, Artikeln, Profilen in Online-Netzwerken und das Austesten von Codes für Bots und Websites zu nutzen.

(Bild: stock.adobe.com)

Der ChatGPT-Entwickler OpenAI hat nach eigenen Angaben in den vergangenen drei Monaten fünf Desinformations-Kampagnen staatlich unterstützter Akteure gestoppt, die die Künstliche Intelligenz von ChatGPT für betrügerische Aktivitäten nutzen wollten. Die vereitelten Kampagnen hätten ihren Ursprung in Russland, China, im Iran und bei der israelischen Handelsgesellschaft STOIC gehabt, teilte OpenAI mit.

Die fraglichen Akteure versuchten demnach, die Sprachmodelle von OpenAI für Aufgaben wie die Generierung von Kommentaren, Artikeln, Profilen in Online-Netzwerken und das Austesten von Codes für Bots und Websites zu nutzen. „Diese Operationen scheinen durch unsere Dienste nicht von deutlich stärkeren Nutzeraktivitäten oder höherer Reichweite profitiert zu haben“, erklärte das Unternehmen von Konzernchef Sam Altman.

KI-Firmen wie OpenAI stehen angesichts bedeutender Wahlen in diesem Jahr unter strenger Beobachtung. Befürchtet wird, dass Apps wie ChatGPT oder der Bildgenerator Dall-E binnen Sekunden und in großem Umfang betrügerische Inhalte produzieren können. Länder wie Russland, China und der Iran nutzen gezielt Online-Plattformen zur Desinformation, um Wahlen zu manipulieren.

„Bad Grammar“, „Doppelgänger“ und „Spamouflage“
Zu den durchkreuzten Desinformationsversuchen gehörte laut OpenAI „Bad Grammar“, eine zuvor unbekannte russische Kampagne, die sich gegen die Ukraine, Moldau, die baltischen Staaten und die USA richtete. Sie nutzte OpenAI-Modelle und -Werkzeuge, um kurze politische Kommentare in Englisch und Russisch auf Telegram zu generieren, wie OpenAI mitteilte.

Das bekannte russische „Doppelgänger“-Netzwerk nutzte die KI von OpenAI indes, um Kommentare auf Plattformen wie X auf Deutsch, Englisch, Französisch, Italienisch und Polnisch zu erzeugen.

OpenAI demontierte zudem die chinesische Desinformationsoperation „Spamouflage“, die die Firmenmodelle missbrauchte, um unter anderem Online-Netzwerke zu durchsuchen und mehrsprachige Texte zu generieren.

Laut OpenAI machen es die Zusammenarbeit, der Austausch von Geheimdienstinformationen und in ihre Anwendungen eingebaute Schutzvorrichtungen möglich, Missbrauch zu durchkreuzen.