Echte Fälle

Wenn Algorithmen entscheiden

GEZOGEN ist erfunden. Diese Fälle nicht. Sechs Beispiele, in denen Behörden und Unternehmen Systeme über Menschen entscheiden ließen – und was danach geschah.

• Niederlande · 2013–2021Die Kindergeld-Affäre in den NiederlandenEin Risikomodell der Steuerbehörde, das auch die Staatsangehörigkeit berücksichtigte, machte Zehntausende Eltern zu Betrügern. Die Regierung trat zurück.
• Niederlande · 2014–2020SyRI: Das Betrugssystem, das ein Gericht stoppteDie Niederlande verknüpften Behördendaten, um Sozialbetrug vorherzusagen – vor allem in ärmeren Vierteln. Ein Gericht erklärte das 2020 für menschenrechtswidrig.
• Australien · 2015–2019Robodebt: Australiens automatische SchuldenbescheideEin automatisches Verfahren verschickte Rückforderungen an Hunderttausende Sozialleistungsempfänger – auf rechtswidriger Grundlage.
• Österreich · 2018–2025Der AMS-Algorithmus: Arbeitslose in drei GruppenÖsterreichs Arbeitsmarktservice wollte Arbeitslose per Algorithmus nach ihren Chancen einteilen. Gestoppt, vor Gericht verteidigt, am Ende trotzdem beerdigt.
• Europäische Union · 2023Das SCHUFA-Urteil: Wann ein Score entscheidetDer Europäische Gerichtshof entschied: Ein Score ist selbst eine automatisierte Entscheidung, wenn sich die Bank maßgeblich danach richtet.
• Deutschland · seit 2017hessenDATA: Polizei-Analyse mit PalantirHessens Polizei verknüpft Datenbestände mit Software von Palantir. Das Bundesverfassungsgericht hat das 2023 gebremst, nicht verboten.

Stand: 09.11.2026 · Begriffe wie Profiling oder automatisierte Entscheidung erklärt das Glossar.