Kampf gegen Fake News

Deepfakes: Auf der Jagd nach digitalen Fälschungen

Gipfeltreffen mit Forrest Gump, Angela Merkel und Barack Obama? Natürlich erkennt man, dass das Bild manipuliert wurde. Aber wie lässt sich das überprüfen? Daran arbeiten die Experten am AIT beim Projekt „defalsif-AI“.

(Bild: AIT)

Ukraine-Krieg und die Bundespräsidentenwahl - auch der Staatsschutz warnt aktuell vor Desinformation. Wir sind umgeben von Manipulationen als gefährliche Meinungs-Waffe.

„Lassen Sie uns mit einem kleinen Gedankenspiel beginnen: Wenn ich Menschen frage, wie sie eine unerwünschte Person aus einem digitalen Foto entfernen können, wird mir in wenigen Sekunden meist eine bekannte Fotosoftware oder eine App genannt. Wenn ich eine Person frage, wie sie überprüfen möchte, ob sie es mit einem manipulierten Bild zu tun hat, dann herrscht Schweigen“, erklärt Martin Boyer, Senior Research Engineer am Austrian Institute Of Technology (AIT) im „Krone“-Gespräch.

Alleine dieses Gedankenexperiment zeigt die aktuelle Problematik und Schieflage auf: Es ist einfacher, ein digitales Dokument zu fälschen, als es auf seine Unverfälschtheit zu überprüfen. Das betrifft nicht nur Fotos. Gemeinsam mit Kollegen entwickelt Boyer ein Software-System, das Hinweise auf gefälschte Texte, Bilder, Audiosignale und Videos bündelt und eine Einschätzung des Wahrheitsgehaltes einer Nachricht erstellt.

Das Projekt „defalsif-AI“ des AIT setzt dabei auf Künstliche Intelligenz (KI) und ist als Teil des heimischen Sicherheitsforschungsprogramm KIRAS die rot-weiß-rote Speerspitze im Kampf gegen Desinformation.

Hollywood und Despoten als dankbare Abnehmer
Und die Entwicklung der Software ist nötiger denn je. Denn die KI-basierten Technologien werden immer raffinierter. „Die Manipulation von Videos, Fotos und Texten ist längst nicht mehr Sache von Geheimdiensten. Das Werkzeug dazu hat theoretisch jeder auf seinem Rechner, und Anleitungen sind im Netz zu finden“, so Boyer. Mittels Apps kann sich heute jeder Durchschnittsösterreicher in wenigen Sekunden am Smartphone in den muskelbepackten „Thor“ verwandeln.

Die Manipulation von Videos, Fotos und Texten ist längst nicht mehr Sache von Geheimdiensten. Das Werkzeug dazu hat theoretisch jeder auf seinem Rechner, und Anleitungen sind im Netz zu finden.

Martin Boyer, Senior Research Engineer am Austrian Institute Of Technology (AIT)

Eine nette Spielerei für die WhatsApp-Gruppe. Gefährlich wird es, wenn Profis das Machbare ausloten. Im besten Fall übernimmt dann Will Smith die Hauptrolle in „Matrix“. Weniger harmlos ist es, wenn ein falscher ukrainischer Präsident seine Landsleute zum Niederlegen der Waffen aufruft.

Fake News führen zur Destabilisierung der Gesellschaft
Die Verbreitung von Desinformation ist eine ernste Bedrohung. Auch Omar Haijawi-Pirchner, Leiter der Direktion Staatsschutz und Nachrichtendienst (DNS), warnt gegenüber der „Krone“: „Vor allem die bevorstehende Bundespräsidentenwahl gerät hier in den Fokus.“ Fake News beeinflussen Entscheidungen, führen zu Verunsicherung, zu Unzufriedenheit in der Öffentlichkeit und zur Destabilisierung von Gesellschaft und der Demokratie.

Deepfake-Videos sind in der Politik angekommen

Die aktuellen Krisen beschleunigen die Entwicklung technologischer Trends. So hat Corona der Digitalisierung einen gewaltigen Schub verpasst - vieles davon (Stichwort Videokonferenz) wird uns auch in Zukunft im Alltag begleiten. Auch Deepfakes sind im Trend - über deren Nutzen lässt sich jedoch streiten. Vor allem, wenn sie in der Politik eingesetzt werden: So videotelefonierte Wiens Bürgermeister Michael Ludwig mit einem unechten Vitali Klitschko, oder ein falscher ukrainischer Präsident rief zur Kapitulation auf. Experten gehen davon aus, dass solche Manipulationen leider ebenfalls bald Alltag werden.

In Krisenzeiten hat diese Gefahr einen neuen, negativen Höhepunkt erreicht, sowohl staatliche Organisationen, Medien als auch jeder einzelne Bürger stehen vor großen Herausforderungen.