Advertisement

Wirtschaftsdienst

, Volume 98, Issue 12, pp 860–868 | Cite as

A Scored Society Needs Transparency

  • Gerd GigerenzerEmail author
  • Felix G. Rebitschek
  • Gert G. Wagner
Analysen und Berichte Scoring
  • 36 Downloads

Abstract

Scores are numerical ratings used to predict or steer people’s behaviour. Traditionally, people have not only received scores on their educational achievements (grades) but also on their creditworthiness. The current spread of digital technologies is broadening the possibilities for assessing and rating individuals. This entails both novel risks and opportunities for scored individuals. These opportunities, however, can only be fully realized when society’s various legitimate expectations are met. It is then that consumers will accept and benefit from scoring systems. These expectations will include simple and effective ways for individuals to appeal their score. Protected characteristics (such as gender) may not be used as a basis for unwarranted discrimination, be it directly or indirectly. When scores are calculated for the purpose of making predictions, the quality of the criteria applied and the reliability of the predictions must be demonstrated. Predictions need to adhere to the objective of the scoring system concerned, and scores should not be applied to different objectives. Above all, scoring systems must be comprehensible to those who are scored.

Eine vermessene Gesellschaft braucht Transparenz

Abstract

Ende Oktober 2018 hat der Sachverständigenrat für Verbraucherfragen das Gutachten „Verbrauchergerechtes Scoring“ vorgelegt. Es geht dabei um die sich ausbreitende Praxis, immer mehr Aspekte des Verhaltens der Bürger durch „Scores“ vorherzusagen oder zu steuern. Scoring ist durch eine Reihe von Kernproblemen gekennzeichnet: mangelnde Transparenz und Qualitätskontrolle für Daten und Algorithmen, ungenügende personelle sowie technische Ausstattung der Aufsicht und die zukünftige Gefahr eines kommerziellen Super- Scores ähnlich dem Sozialkredit-System in China. Anbieter von sensitiven Scores sollten verpflichtet werden, den Betroffenen alle Merkmale und deren Gewichtung offenzulegen. Grundsätzlich sind nicht Scoring-Algorithmen, sondern eine nicht hinreichend leistungsstarke Aufsicht das Problem.

JEL Classification

G18 I10 I20 K24 K38 Z18 

Preview

Unable to display preview. Download preview PDF.

Unable to display preview. Download preview PDF.

Copyright information

© ZBW and Springer-Verlag GmbH Deutschland, ein Teil von Springer Nature 2018

Authors and Affiliations

  • Gerd Gigerenzer
    • 1
    Email author
  • Felix G. Rebitschek
    • 1
  • Gert G. Wagner
    • 2
  1. 1.Harding-Zentrum für RisikokompetenzMax-Planck-Institut für Bildungsforschung14195Deutschland
  2. 2.DIW Berlin10117Deutschland

Personalised recommendations