Gesichter ausgetauscht

Gefährlich echt: KI fälscht Videos nahezu perfekt

(Bild: YouTube.com/Christian Theobalt)

Die Gesichter-Tausch-KI „Deepfake“, die vor einigen Monaten damit Schlagzeilen gemacht hat, dass sie Promi-Gesichter verblüffend echt in Pornos überträgt, war nur der Anfang. Europäische Forscher haben jetzt auf der Grafikmesse Siggraph eine KI namens „Deep Video Portraits“ enthüllt, die Fake-Videos produziert, die von den meisten Menschen nicht mehr als solche erkannt werden.

Wie das IT-Portal Heise.de berichtet, gleicht das von Forschern aus Deutschland, Frankreich und den USA entwickelte Tool in seiner Funktionsweise dem „Deepfake“-Tool, das vor einem halben Jahr die Runde machte. Allerdings macht die KI die Arbeit hier nicht allein, sondern mit menschlicher Hilfe.

Gröberes erfolgt Maschinell, Feintuning manuell
Die KI ermittelt grob für jedes Einzelbild des Videos die Parameter, die sie für ein 3D-Modell des Quell- und Zielgesichts braucht, der menschliche Schöpfer des Fake-Videos kann diese Parameter aber noch nach seinen Wünschen modifizieren und kombinieren. Durch dieses Feintuning lassen sich noch realistischere Fake-Videos produzieren als ausschließlich mit einer KI.

Dieses Video zeigt anschaulich, wozu die KI der Forscher bereits imstande ist:

Fälschungen kaum als solche zu erkennen
Kam es bei rein automatisierten Systemen wie Deepfake bisweilen zu Artefakten im Gesicht, welche die Fälschung auffliegen lassen, enthalten die mit der neuen KI erstellten Fake-Videos quasi keine Hinweise mehr darauf, dass es sich um eine Fälschung handelt. Eine erste Nutzerstudie zeigt, dass die Hälfte der Probanden nicht zwischen Original und Fälschung unterscheiden konnte.

Beobachter, die befürchten, die Technologie könnte für Fake-News verwendet werden, können für den Moment aufatmen. Aktuell bedeutet die Erstellung der für ein gut gemachtes Fake-Video nötigen Datensätze noch einen nicht ohne Weiteres zu bewältigenden Aufwand, heißt es im Bericht. Das schränkt die Zahl der Akteure, die KI-Fake-Videos erstellen können, vorerst ein.