USA · 2016
COMPAS: Ein Rückfall-Score vor Gericht
US-Gerichte nutzen eine Software, die vorhersagt, wer rückfällig wird. Schwarze Angeklagte wurden fast doppelt so oft fälschlich als hohes Risiko eingestuft.
COMPAS, ein Produkt der Firma Northpointe, berechnet für Angeklagte, wie wahrscheinlich ein Rückfall ist. Die Werte werden in den USA bei Entscheidungen über Untersuchungshaft, Bewährung und teils beim Strafmaß herangezogen. Wie genau gerechnet wird, ist Geschäftsgeheimnis.
Die Rechercheplattform ProPublica wertete im Mai 2016 die Scores von mehr als 10.000 Angeklagten aus Broward County in Florida aus den Jahren 2013 und 2014 aus und verglich sie mit dem, was danach tatsächlich geschah. Ergebnis: Unter den Schwarzen, die nicht rückfällig wurden, waren 45 Prozent als hohes Risiko eingestuft worden, bei Weißen 23 Prozent. Umgekehrt galten 48 Prozent der Weißen, die später rückfällig wurden, als geringes Risiko, bei Schwarzen 28 Prozent. Die Treffsicherheit lag insgesamt bei 61 Prozent, bei Gewalttaten bei 20 Prozent.
Im selben Jahr entschied der Oberste Gerichtshof von Wisconsin im Fall State v. Loomis, dass Gerichte COMPAS bei der Strafzumessung verwenden dürfen – mit Warnhinweisen, aber ohne dass der Verurteilte die Berechnung prüfen kann. Der Hersteller bestreitet die Schlussfolgerungen von ProPublica.
Begriffe dazu
- ProfilingAutomatische Auswertung persönlicher Daten, um Verhalten, Lage oder Eigenschaften eines Menschen einzuschätzen oder vorherzusagen.
- Automatisierte EntscheidungEine Entscheidung, die ausschließlich eine Maschine trifft. Die DSGVO verbietet sie grundsätzlich, wenn sie Menschen erheblich betrifft (Art. 22).
- Stellvertreter-MerkmalEin harmloses Datum, das für ein heikles steht – etwa der Wohnort für Einkommen oder Herkunft.
