Daten und Algorithmen
Automatisierte Entscheidung
Eine Entscheidung, die ausschließlich eine Maschine trifft. Die DSGVO verbietet sie grundsätzlich, wenn sie Menschen erheblich betrifft (Art. 22).
Niemand muss sich einer Entscheidung unterwerfen, die ausschließlich auf automatisierter Verarbeitung beruht und ihm gegenüber rechtliche Wirkung entfaltet oder ihn ähnlich erheblich beeinträchtigt (Art. 22 DSGVO). Es gibt Ausnahmen – etwa wenn ein Gesetz es erlaubt und angemessene Schutzmaßnahmen vorsieht.
In der Praxis entscheidet oft ein Mensch, der der Empfehlung des Systems folgt. Ob das noch eine menschliche Entscheidung ist, ist eine der großen offenen Fragen.
Verwandte Begriffe
- ProfilingAutomatische Auswertung persönlicher Daten, um Verhalten, Lage oder Eigenschaften eines Menschen einzuschätzen oder vorherzusagen.
- Social ScoringBewertung von Menschen nach ihrem Sozialverhalten. In der EU seit Februar 2025 verboten.
- KI-Verordnung (AI Act)EU-Gesetz über künstliche Intelligenz: verbietet bestimmte Anwendungen und stellt Hochrisiko-Systeme unter strenge Regeln.
- ATLASIm Roman das System, das entscheidet, wer im Ernstfall Dienst leistet.
