Daten und Algorithmen
Social Scoring
Bewertung von Menschen nach ihrem Sozialverhalten. In der EU seit Februar 2025 verboten.
Die KI-Verordnung der EU verbietet KI-Systeme, die Menschen anhand ihres sozialen Verhaltens oder persönlicher Merkmale bewerten, wenn das zu Benachteiligungen in fremden Zusammenhängen oder zu unverhältnismäßiger Behandlung führt (Art. 5 KI-Verordnung). Das Verbot gilt seit dem 2. Februar 2025.
Die Grenze zwischen verbotenem Scoring und erlaubter Risikobewertung ist im Einzelfall schwer zu ziehen.
Verwandte Begriffe
- KI-Verordnung (AI Act)EU-Gesetz über künstliche Intelligenz: verbietet bestimmte Anwendungen und stellt Hochrisiko-Systeme unter strenge Regeln.
- ProfilingAutomatische Auswertung persönlicher Daten, um Verhalten, Lage oder Eigenschaften eines Menschen einzuschätzen oder vorherzusagen.
- SystemkonformitätIm Roman der Wert, der beschreibt, wie vollständig ein Haushalt für ATLAS sichtbar ist.
