Schweden · 2013–2025
Schweden: Der Verdacht beim Kinderkrankengeld
Ein KI-Modell der schwedischen Sozialversicherung schickte Eltern mit hohem Risikowert direkt zur Betrugsermittlung. Getroffen hat es vor allem Frauen, Migranten und Geringverdiener.
Wenn in Schweden ein Kind krank ist, zahlt die Sozialversicherung Försäkringskassan den Eltern den Verdienstausfall, das sogenannte VAB. Seit mindestens 2013 vergab ein maschinelles Lernmodell jedem Antrag einen Risikowert. Wer einen hohen Wert hatte, ging automatisch an die Kontrollabteilung, die für Verdacht auf Straftaten zuständig ist. Dort beginnt die Prüfung mit der Annahme von Vorsatz. Ermittler dürfen soziale Netzwerke sichten, Daten von Schulen und Banken anfordern und Nachbarn befragen.
Im November 2024 veröffentlichten Lighthouse Reports und Svenska Dagbladet ihre Analyse des Modells. Ergebnis: Es markierte überproportional Frauen, Menschen mit ausländischer Herkunft, Geringverdiener und Menschen ohne Hochschulabschluss – und fand Betrug bei Männern und Wohlhabenden schlecht. Schon 2018 hatte die staatliche Aufsicht festgestellt, dass das Modell keine Gleichbehandlung gewährleistet. Amnesty International nannte das System eine „Hexenjagd“.
Im Juni 2025 nahm die Datenschutzbehörde IMY das System unter die Lupe. Noch während der Prüfung legte die Försäkringskassan es still; IMY schloss das Verfahren im November 2025, weil das Modell nicht mehr im Einsatz war.
Begriffe dazu
- ProfilingAutomatische Auswertung persönlicher Daten, um Verhalten, Lage oder Eigenschaften eines Menschen einzuschätzen oder vorherzusagen.
- Stellvertreter-MerkmalEin harmloses Datum, das für ein heikles steht – etwa der Wohnort für Einkommen oder Herkunft.
- Automatisierte EntscheidungEine Entscheidung, die ausschließlich eine Maschine trifft. Die DSGVO verbietet sie grundsätzlich, wenn sie Menschen erheblich betrifft (Art. 22).
Weitere Fälle: Sozialstaat unter Verdacht
- Die Kindergeld-Affäre in den NiederlandenNiederlande · 2013–2021
- SyRI: Das Betrugssystem, das ein Gericht stoppteNiederlande · 2014–2020
- Robodebt: Australiens automatische SchuldenbescheideAustralien · 2015–2019
- MiDAS: 40.000 falsche Betrugsvorwürfe in MichiganUSA · 2013–2015
- Frankreich: Die Familienkasse vergibt RisikowerteFrankreich · seit 2010
- Dänemark: 60 Modelle gegen SozialbetrugDänemark · laufend
- Serbien: Die Sozialkarte streicht die HilfeSerbien · seit 2022