Erschwert Arbeit

Polizei warnt vor KI-generierten Missbrauchsfotos

Die Polizei würde ihre „Mühe lieber darauf verwenden, echten Missbrauch zu stoppen“.

(Bild: ©Bruno - stock.adobe.com (Symbolbild))

Die niederländische Polizei hat vor einer Zunahme von Missbrauchsdarstellungen Minderjähriger gewarnt, die mit Künstlicher Intelligenz (KI) erstellt werden. „Es ist zu einfach für böswillige Akteure, KI-Programme zu nutzen, um diese Art von Material zu erstellen“, sagte der Koordinator der niederländischen Polizei zur Bekämpfung von Missbrauchsdarstellungen Minderjähriger, Ben van Mierlo, am Montag.

Solches KI-generiertes Material tauche immer häufiger in Ermittlungen und bei Hotlines auf, auch international. „Letztendlich ist es nur ein kleiner Prozentsatz, aber wir sehen, dass er schnell zunimmt“, sagte van Mierlo. Missbrauchsdarstellungen Minderjähriger, künstlich generiert, bereite der Polizei relativ viel Arbeit, da die Fahnder mit bloßem Auge schwer erkennen könnten, was echt und was gefälscht oder was eine Kombination aus beidem ist.

„Wenn es sich um ein nicht existierendes Kind handelt, ist das natürlich eine Erleichterung. Aber wir würden diese Mühe lieber darauf verwenden, echten Missbrauch zu stoppen. Damit haben wir bereits alle Hände voll zu tun“, sagte van Mierlo. Dabei seien solche Bilder auch strafbar, wenn sie mit Künstlicher Intelligenz erstellt werden.

Ruf nach Lösungen
Der Polizei-Koordinator forderte die Hersteller von KI-Software auf, die Möglichkeiten zur Erstellung von Nacktbildern einzuschränken. Die Unternehmen sollten über KI-generierte Nacktbilder von Kindern genauso besorgt sein wie über solche von berühmten Künstlern.

Möglicherweise könnten die Entwickler dafür sorgen, dass ihre KI-Programme Bilder mit einem digitalen Wasserzeichen versehen. Dann wären diese Bilder zumindest rückverfolgbar, so van Mierlo. Die Erstellung von Nacktbildern mit KI führe außerdem zu anderen schädlichen Problemen wie Mobbing und Erpressung.