Weiße im Vorteil

Rassistischer Algorithmus benachteiligt Schwarze

(Bild: ipopba/stock.adobe.com)

Auch Algorithmen sind Rassisten. Das ist - überspitzt formuliert - das Ergebnis einer aktuellen US-Studie. Sie zeigt, dass die von vielen US-Krankenhäusern verwendete mathematische Formel für die Verteilung von Leistungen afroamerikanische Patienten oft deutlich benachteiligt und ihre Gesundheitsrisiken zu niedrig einstuft.

Ziad Obermeyer von der University of California in Berkeley und seine Kollegen waren bei der Analyse von Daten eines großen, namentlich nicht genannten Krankenhauses auf eine Schlagseite im Algorithmus gestoßen. Die Folge sei, dass Schwarze bei der Auswahl von Patienten, die beschleunigt und besonders intensiv versorgt werden, im Allgemeinen zu kurz kommen

Das Krankenhaus ermittelte mithilfe des weitverbreiteten Algorithmus unter ambulanten Patienten jene mit der angeblich höchsten „Risikoquote“, etwa wegen Diabetes oder Herzschwäche. Den drei Prozent der Patienten mit dem laut der Kalkulation höchsten Risiko gewährt das Krankenhaus möglichst schnell Termine und in manchen Fällen auch Hausbesuche. Bei de facto gleichem Gesundheitsrisiko stufte der Algorithmus den Krankheitsgrad weißer Patienten jedoch der Studie zufolge häufig als höher ein als den von Afroamerikanern.

(Bild: stock.adobe.com)

Falsche Datengrundlage
Wie Obermeyer im Fachblatt „Science“ berichtet, war der Grund, dass in das Computerprogramm nicht Daten über den tatsächlichen Gesundheitszustand der Patienten eingespeist werden, sondern vielmehr über die Kosten, die sie in der Vergangenheit dem Gesundheitswesen verursacht haben. Diese Daten ergeben aber nach Angaben des Forschers ein verzerrtes Bild: Schwarze erzeugen häufig nur deshalb weniger Gesundheitskosten, weil sie unterprivilegiert sind - also etwa keine oder nur eine schlechte Krankenversicherung haben. Dies führt unter anderem dazu, dass sie im Schnitt seltener zum Arzt gehen als Weiße.

Algorithmus korrigiert
Die Forscher haben inzwischen in Zusammenarbeit mit dem Entwickler des Algorithmus erreicht, dass dieser die Formel um 80 Prozent zugunsten der Afroamerikaner korrigiert. Der nächste Schritt müsse dann aber sein, in den Datenbanken den medizinischen Daten die Priorität vor den Finanzdaten zu geben, betonte Obermeyer.