Vor einigen Jahren testete die Stadt Amsterdam das KI-Programm Smart Check, das potenziellen Sozialhilfebetrug aufdecken sollte. Anstatt Anträge nach dem Zufallsprinzip zu prüfen, durchforstete das System zahlreiche Datenpunkte aus kommunalen Register…
Vor einigen Jahren testete die Stadt Amsterdam das KI-Programm Smart Check, das potenziellen Sozialhilfebetrug aufdecken sollte. Anstatt Anträge nach dem Zufallsprinzip zu prüfen, durchforstete das System zahlreiche Datenpunkte aus kommunalen Registern – beispielsweise Adressen, Familienkonstellationen, Einkommen, Vermögen und frühere Leistungsanträge –, um einen „Risikowert“ zu ermitteln. Anträge mit hohem Risiko wurden als überprüfungswürdig eingestuft und an die Sachbearbeiter*innen zur weiteren Kontrolle …