Experten warnen:

Erstellung von Deepfake-Pornos einfacher denn je

(Bild: ©sata_production - stock.adobe.com)

Ein Bild und einen Mausklick - mehr braucht es bei einer neuen Web-App nicht, um beliebige Personen mittels Deepfake-Technologie in einen Pornostar zu verwandeln. Der Brite Henry Ajder, der die Entwicklung und den Aufstieg der synthetischen Medien im Internet verfolgt und die Anwendung entdeckte, befürchtet, dass damit eine ethische Grenze überschritten wird, die zuvor noch kein anderer Dienst überschritten hat. Und er warnt vor den psychischen wie sozialen Folgen der Deepfake-Pornos für die Betroffenen.

Von Anfang an wurden Deepfakes, also mittels künstlicher Intelligenz generierte synthetische Medien, in erster Linie dazu verwendet, pornografische Darstellungen von Frauen zu erstellen. Der ursprüngliche Reddit-Erfinder, der die Technologie populär machte, tauschte die Gesichter von weiblichen Prominenten in Pornovideos aus. Inzwischen, schätzt das Forschungsunternehmen Sensity AI, sind zwischen 90 und 95 Prozent aller Deepfake-Videos im Internet nicht einvernehmliche Pornos, und in etwa 90 Prozent dieser Videos seien Frauen zu sehen, berichtet „Technology Review“.

Hier hat ein Deepfake-Macher das Gesicht von „Wonder Woman“-Star Gal Gadot in einen Porno eingebaut.

(Bild: SendVids)

Erstellung von Deepfake-Pornos einfacher denn je
Das Magazin des renommierten Massachusetts Institute of Technology wurde von Ajder nun auf eine - aus Sicherheitsgründen namentlich nicht genannte - neue Anwendung aufmerksam gemacht, die „unglaublich einfach zu bedienen“ sei und damit das Erstellen pornografischer Deepfakes „auf eine neue Ebene“ hebe.

Sobald ein Nutzer ein Foto von einem Gesicht hochlädt, öffnet die Website demnach eine Bibliothek mit Pornovideos. In der überwiegenden Mehrheit seien Frauen zu sehen, in einer kleinen Handvoll jedoch auch Männer, meist in Schwulenpornos. Der Nutzer könne dann ein beliebiges Video auswählen, um innerhalb von Sekunden eine Vorschau des Ergebnisses des Gesichtstauschs zu erhalten - und für den Download der Vollversion bezahlen, schildert das Magazin.

Ergebnisse nicht perfekt, aber vernachlässigbar
Die Ergebnisse seien „alles andere als perfekt“ und viele der ausgetauschten Gesichter „offensichtlich gefälscht“, da sie schimmerten und sich verzerrten, wenn sie aus verschiedenen Winkeln gezeigt würden. Für einen zufälligen Betrachter seien einige jedoch subtil genug, um diese Fälschungen zu übersehen, schreibt „Technology Review“.

Die Vergangenheit habe zudem bereits gezeigt, wie schnell die technologische Entwicklung voranschreite und Deepfakes damit nicht mehr von der Realität zu unterscheiden seien, gibt das Magazin zu bedenken, und verweist darüber hinaus auf Experten, denen zufolge die Qualität der Deepfakes keine Rolle spiele, da der psychologische Schaden für die Opfer in beiden Fällen derselbe sein könne. Außerdem wüssten viele Menschen nicht, dass es diese Technologie gibt, sodass selbst qualitativ minderwertige Gesichtstausche die Menschen täuschen könnten.

(Bild: ©metamorworks - stock.adobe.com)

Instrument zur Erkundung sexueller Fantasien
Die Anwendung selbst preist sich dem Bericht nach als sicheres und verantwortungsbewusstes Instrument zur Erkundung sexueller Fantasien an. Die Sprache auf der Website ermutige die Nutzer, ihr eigenes Gesicht hochzuladen. Doch nichts hindere sie daran, die Gesichter anderer hochzuladen, schreibt „Technology Review“ - und Kommentare in Online-Foren lassen demnach vermuten, dass die Nutzer genau dies bereits getan haben.

„Das wird für immer da draußen sein“
Die Folgen für Frauen und Mädchen, die zur Zielscheibe solcher Deepfakes werden, können dem Bericht nach verheerend sein. Auf psychologischer Ebene könnten sich diese Videos genauso verletzend anfühlen wie Rache-Pornos - also echte intime Videos, die ohne Zustimmung gefilmt oder veröffentlicht wurden, hieß es. „Diese Art von Missbrauch - wenn Menschen deine Identität, deinen Namen und deinen Ruf falsch darstellen und auf so verletzende Weise verändern - erschüttert dich bis ins Mark“, wird Noelle Martin, eine australische Aktivistin, die von einer Deepfake-Porno-Kampagne betroffen war, zitiert.

Und die Auswirkungen können die Opfer ein Leben lang begleiten. „Es wirkt sich auf deine zwischenmenschlichen Beziehungen aus; es wirkt sich auf deine Chancen bei der Jobsuche aus. Bei jedem einzelnen Vorstellungsgespräch, zu dem du gehst, könnte es zur Sprache gebracht werden“, schildert Martin. „Bis zum heutigen Tag ist es mir nie gelungen, die Bilder vollständig zu entfernen. Das wird für immer da draußen sein. Ganz gleich, was ich tue.“

„Es wird immer schlimmer“
Nicht einvernehmliche Deepfake-Pornos können auch wirtschaftliche und berufliche Auswirkungen haben. So berichte die von der britischen Regierung finanzierte Revenge Porn Helpline erst kürzlich von einer Lehrerin, die ihren Job verlor, nachdem gefälschte pornografische Bilder von ihr in den sozialen Medien in Umlauf gebracht worden waren und die Schule davon Kenntnis bekam. „Es wird immer schlimmer, nicht besser“, zitiert „Technology Review“ Alan Dodge, Gründer von EndTAB, einer gemeinnützigen Organisation, die Menschen über technologiegestützten Missbrauch aufklärt. „Immer mehr Frauen werden auf diese Weise angegriffen.“

Doch auch Männern kann die Technologie gefährlich werden. Die Möglichkeiten der von ihm entdeckten App, Deepfake-Schwulenpornos zu erstellen, seien zwar begrenzt, räumt Henry Ajder ein. Sie stellten aber eine zusätzliche Bedrohung für Männer in Ländern dar, in denen Homosexualität kriminalisiert werde. Dies sei in 71 Ländern weltweit der Fall, von denen elf das Vergehen mit dem Tod bestraften.

Eigenen Angaben zufolge hat Ajder versucht, über den Hosting-Dienst die Abschaltung der App zu erzwingen. Es sei jedoch bereits eine weitere Website aufgetaucht, die das Gleiche zu versuchen scheine. Der Deepfake-Forscher fordert daher strengere Gesetze, bis hin zu einem Verbot für die Erstellung oder den Konsum von pornografischen Deepfakes. Selbst wenn diese dadurch in den Untergrund getrieben würden, würden sie „zumindest aus den Augen der normalen Menschen verschwinden“, so Ajder.