Menschenrechte

Expertin warnt vor Diskriminierung durch KI

(Bild: ©Jakub Jirsák - stock.adobe.com)

Die Menschenrechtskommissarin des Europarats, Dunja Mijatovic, hat am Dienstag in einer Rede vor Justiz-Vertretern der 47 Mitgliedsstaaten vor Diskriminierung durch den Einsatz von Algorithmen gewarnt. Der Einsatz von künstlicher Intelligenz in der Strafverfolgung müsse mit den Menschenrechten vereinbar sein, so Mijatovic.

„Maschinen funktionieren basierend auf dem, was Menschen ihnen sagen. Wenn ein System mit menschlichen Vorurteilen - bewusst oder unbewusst - gespeist wird, wird das Ergebnis zwangsläufig voreingenommen sein“, so Mijatovic. Es habe sich gezeigt, dass Minderheiten und Ausländer beispielsweise häufiger überprüft würden.

Wer verwendet Daten wie und warum
Eine weitere Herausforderung ist Mijatovic zufolge die Wahrung der Privatsphäre, die ebenfalls ein grundlegendes Menschenrecht ist. „Wir liefern ständig Daten über unseren Aufenthaltsort, unsere Gesundheit, politische Ideen und das Familienleben, ohne zu wissen, wer diese Daten wie und warum verwenden wird“, sagte Mijatovic. Die Justiz müsse sicherstellen, dass die Menschenrechte bei der Verwendung von Daten in der Strafverfolgung gewahrt würden.

(Bild: thinkstockphotos.de)

Die Menschenrechtskommissarin hatte im Mai Empfehlungen für den Umgang mit KI in der Justiz herausgegeben. Teil dieser sind unter anderem bessere Schulungen der Angestellten in der Strafverfolgung im digitalen Bereich. Der Europarat mit Sitz im französischen Straßburg kümmert sich um den Schutz und die Einhaltung der Menschenrechte in den Mitgliedsstaaten. Er agiert unabhängig von der Europäischen Union.