Zusammenfassung
Karrieren, Kredite, Gesundheitsmaßnahem, Verbrechensvorbeugung etc. – immer mehr Entscheidungen fallen anhand algorithmisch gesteuerter Mustererkennung in großen Datensätzen. Der Beitrag stellt automatisierte und menschliche Entscheidungsprozesse einander gegenüber, greift zurück auf Hannah Arendts Überlegungen zur Struktur menschlichen Entscheidens und erläutert am auch empirisch ausgeführten Beispiel von in der Polizeiarbeit eingesetzter Vorhersagesoftware: Automatisiertes Entscheiden in für eine demokratische Gesellschaft grundlegenden Kontexten muss in menschliches Abwägen eingebettet, transparent sowie durch eindeutig zugewiesene Verantwortungen fassbar und steuerbar sein.
This is a preview of subscription content, log in via an institution to check access.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Preview
Unable to display preview. Download preview PDF.
Literatur
Algorithm Watch. 2019a. Atlas der Automatisierung. Automatisierte Entscheidungen und Teilhabe in Deutschland. https://atlas.algorithmwatch.org/. Zugegriffen: 13. Juni 2019.
Algorithm Watch. 2019b. Projekt Open Schufa. https://algorithmwatch.org/project/openschufa/. Zugegriffen: 13. Juni 2019.
Arendt, Hannah. 2007. Über das Böse: Eine Vorlesung zu Fragen der Ethik. München/Zürich: Piper [Erstveröffentlichung 1965].
Arendt, Hannah 1958. The Human Condition. Chicago: University of Chicago Press.
Bennett Moses, L., und J. Chan. 2016. Algorithmic prediction in policing: assumptions, evaluation, and accountability. Policing and Society 28 (7): S. 1–17.
Brennan, S., und R. K. Nielsen. 2019. An Industry-Led Debate How UK Media Cover Artificial Intelligence. https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2018-12/Brennen_UK_Media_Coverage_of_AI_FINAL.pdf. Zugegriffen: 13. Juni 2019.
boyd, danah. 2018. How algorithmic world can be undermined. https://republica.com/en/session/opening-keynote-how-algorithmic-world-can-be-undermined. Zugegriffen: 13. Juni 20019.
Bundespolizeipräsidium. 2018. Abschlussbericht des Bundespolizeipräsidiums zur biometrischen Gesichtserkennung (Erprobung von Systemen zur intelligenten Videoanalyse), 11.10.2018. https://www.bundespolizei.de/Web/DE/04Aktuelles/01Meldungen/2018/10/181011_abschlussbericht_gesichtserkennung_down.pdf. Zugegriffen: 7. Februar 2019.
Canovan, Margaret. 1992. Hannah Arendt. A Reinterpretation of Her Political Thought. Cambridge: Cambridge University Press.
Debatin, Bernhard. 2016. Verantwortung. Grundbegriffe der Medienethik. Communicatio Socialis 1: S. 68–73.
Diakopoulos, Nick. 2018. The Algorithms Beat. http://www.nickdiakopoulos.com/wp-content/uploads/2018/04/Diakopoulos-The-Algorithms-Beat-DDJ-Handbook-Preprint.pdf. Zugegriffen: 13. Februar 2019.
Endt, Christian, Wormer, Vanessa. 2019. Das Problem mit dem Falsch-Positiven. https://projekte.sueddeutsche.de/artikel/digital/falsch-positive-machen-prognose-algorithmen-zum-problem-e716375/. Zugegriffen: 7. Februar 2019.
Freedom House. 2018. Freedom on the net. The Rise of Digital Authoritarianism. https://freedomhouse.org/report/freedom-net/freedom-net-2018. Zugegriffen 4. Februar 2019.
Gerstner, Dominik. 2017. Predictive Policing als Instrument zur Prävention von Wohnungsdiebstahl. Evaluationsergebnisse zum baden-württembergischen Pilotprojekt P4. Forschung aktuell 50, Hrsg. Max Planck Institut für ausländisches und internationales Strafrecht.
Gluba, A. 2016. Mehr offene Fragen als Antworten: was für eine Bewertung des Nutzens von Predictive Policing noch zu klären ist. Die Polizei 107 (2): S. 53–57.
Grossenbacher, Timo. 2018a. Schweizweit sind über 3000 Personen als Gefährder registriert. https://www.srf.ch/news/schweiz/aufruestung-bei-der-polizei-schweizweit-sind-ueber-3000-personen-als-gefaehrder-registriert Zugegriffen: 7. Februar 2019.
Grossenbacher, Timo. 2018b. „Predictive Policing“ – Polizei-Software verdächtigt zwei von drei Personen falsch. https://www.srf.ch/news/schweiz/predictive-policing-polizei-software-verdaechtigt-zwei-von-drei-personen-falsch Zugegriffen: 7. Februar 2019.
Hosp, Karo. 2018. Big Data. Ist unsere Demokratie gefährdet? Interview mit Yvonne Hofstetter. In Ultimo Spezial zum Thema „Wahlen und Demokratie“, Hrsg. Akzente Salzburg – Initiativen für junge Leute, S. 44–46. Salzburg März 2018.
Kaiser, Olivia. 2018. Das sind die Fakten zur Videobeobachtung. https://www.rnz.de/nachrichten/mannheim_artikel,-mannheim-das-sind-die-fakten-zur-videoueberwachung-arid,392680.html. Zugegriffen: 3. Februar 2019.
Knobloch, Tobias. 2018. Vor die Lage kommen: Predictive Policing in Deutschland. Chancen und Gefahren datenanalytischer Prognosetechnik und Empfehlungen für den Einsatz in der Polizeiarbeit. Berlin/Gütersloh: Stiftung Neue Verantwortung und Bertelsmann Stiftung.
Kranzberg, M. 1986. Technology and History: ‚Kranzberg`s Laws‘. Technology and Culture 27 (3): S. 544–560.
O Neil, Cathy. 2016. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown.
Pre-Crime. Deutschland 2017. Regie: Matthias Heeder und Monika Hielscher. DVD SchröderMedia 2018.
Prinzing, Marlis. 2019. Entblößt im Glashaus oder auf Kurs in eine selbstbestimmte Zukunft? Von der Notwendigkeit einer systematischen ethischen Vermessung des Privaten als Basis digitaler Aufklärung – ein Essay. In Intimisierung des Öffentlichen. Zur multiplen Privatisierung des Öffentlichen in der digitalen Ära, Hrsg. P. Ettinger, M. Eisenegger, M. Prinzing und R. Blum, S. 289–305. Wiesbaden: Springer VS.
Prinzing, Marlis. 2018. Versöhnt Euch mit der Zahl. In: Schweizer Journalist 10/11.
Pro Publica. 2016. Machine Bias https://www.propublica.org/series/machine-bias. Zugegriffen: 13. Juni 2019.
Reichmann, Werner. 2019. Die Banalität des Algorithmus. In Maschinenethik: Normative Grenzen autonomer Systeme, Hrsg. M. Rath, F. Krotz und M. Karmasin, S. 135–153. Wiesbaden: Springer VS.
Rolfes, Manfred. 2017. Predictive Policing: Beobachtungen und Reflexionen zur Einführung und Etablierung einer vorhersagenden Polizeiarbeit. In Geoinformation & Visualisierung: Pionier und Wegbereiter eines neuen Verständnisses von Kartographie und Geoinformatik: Festschrift anlässlich der Emeritierung von Herrn Prof. Dr. Hartmut Asche im März 2017, Hrsg. P. Jordan, F. Pietruska, J. Siemer, M. Rolfes, E. Borg, B. Fichtelmann, R. Jaumann, A. Naß und M. Bamberg, S. 51–76. Potsdam: Universitätsverlag Potsdam.
Schweer, T. 2015. „Vor dem Täter am Tatort“ – Musterbasierte Tatortvorhersagen am Beispiel des Wohnungseinbruchs. In: Die Kriminalpolizei 1: S. 13–16.
Shapiro, Aaron (2017). Reform predictive policing. In: Nature 541: S. 458–460. https://www.nature.com/polopoly_fs/1.21338!/menu/main/topColumns/topLeftColumn/pdf/541458a.pdf. Zugegriffen: 4. Februar 2019.
Spielkamp, Matthias, Hrsg. 2019. Automating Society.Taking Stock of Automated Decision-Making in the EU. https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen/001-148_AW_EU-ADMreport_2801_2.pdf. Zugegriffen: 13. Juni 2019.
Wachter, S., B. Mittelstadt, und C. Russell. 2018. Counterfactual Explanations without Opening the Black box: Automated Decisions and the GDPR. Harvard Journal of Law & Technology 31 (2): S. 842–887.
Wachter, S., und B. Mittelstadt. 2018. A Right to Reasonable Inferences: Re-Thinking Data Protection Law in the Age of Big Data and AI. Columbia Business Law Review 2. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3248829. Zugegriffen: 4. Februar 2019.
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2019 Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature
About this chapter
Cite this chapter
Prinzing, M. (2019). Auf dem Weg in eine Diktatur der Wahrscheinlichkeit? Fragen nach der Verantwortung beim Einsatz von Prognosesoftware. In: Ochs, C., Friedewald, M., Hess, T., Lamla, J. (eds) Die Zukunft der Datenökonomie. Medienkulturen im digitalen Zeitalter. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-27511-2_12
Download citation
DOI: https://doi.org/10.1007/978-3-658-27511-2_12
Published:
Publisher Name: Springer VS, Wiesbaden
Print ISBN: 978-3-658-27510-5
Online ISBN: 978-3-658-27511-2
eBook Packages: Social Science and Law (German Language)