Zusammenfassung
Künstliche Intelligenz und Big Data werfen neue Verantwortungsprobleme und neue Unsicherheiten in Bezug auf die Risiken ihrer Anwendung auf. Bezüglich vieler Aspekte der „Datafizierung“ gibt es kritische Stimmen. Dies betrifft die Aussagekraft, vermeintliche Objektivität und Relevanz der Daten, aber auch Fragen des Datenschutzes, Diskriminierungspotenziale und Effekte von Künstlicher Intelligenz und Big Data auf die Demokratie. Neben der Reflexion über verantwortbare Einsatzfelder von KI wird auf grundsätzlicherer Ebene in Wissenschaft und Gesellschaft die Frage gestellt, ob autonome Anwendungen eine eigenständige Macht entfalten und den Menschen überflügeln und ersetzen können. Diese Frage nach der Steuerungsmacht datengetriebener KI-Systeme hat eine besondere gesellschaftliche Brisanz. Aus diesem Grund diskutiert der Beitrag neben problematischen Funktionsweisen von KI (Datenschutz, Diskriminierung) Kernelemente demokratischer Selbststeuerung im Vergleich zu datenbasierten Entscheidungsprozessen.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Notes
- 1.
Heesen u. a., Technikethik, in: Bohrmann u. a. (Hrsg.), Angewandte Ethik und Film, 2018, S. 229 (230–232).
- 2.
BMVI, Bericht der Ethik-Kommission, Automatisiertes und vernetztes Fahren, 2017.
- 3.
Grunwald, Technikfolgenabschätzung: Eine Einführung, 2010.
- 4.
- 5.
Mittelstraß, Auf dem Weg zu einer Reparaturethik? in: Wils u. a. (Hrsg.), Ethik ohne Chance? 1989, S. 89.
- 6.
Nissenbaum, Values in Technical Design, in: Mitcham (Hrsg.), Encyclopedia of Science, Technology, and Ethics, 2003, S. LXVI–LXX; VDI – Verein Deutscher Ingenieure, Richtlinie 3780 Technikbewertung, 1991, S. 6.
- 7.
Cukier u. a., The Rise of Big Data, Foreign Affairs, Vol. 92, No. 3, 2013, S. 28.
- 8.
Richter, Big Data und demokratische Willensbildung aus verfassungsrechtlicher Sicht, 2015, in: Richter (Hrsg.), Privatheit, Öffentlichkeit und demokratische Willensbildung in Zeiten von Big Data, S. 45; Helbing u. a., Digitale Demokratie statt Datendiktatur, Spektrum.de, 17.12.2015; Boyd u. a., Critical Questions for Big Data Information: Provocations for a Cultural, Technological, and Scholarly Phenomenon, Information, Communication and Society, Vol. 15, Issue 5, 2012, S. 662; Manovich, Trending: The Promises and the Challenges of Big Social Data, Creative Commons 2011.
- 9.
Brachman u. a., The Process of Knowledge Discovery in Database: A Human-Centered Approach, in: Fayyad u. a. (Hrsg.), Advances in Knowledge Discovery and Data Mining, 1996, S. 37 (37).
- 10.
Heesen u. a., Politische Öffentlichkeit und Big Data, in: Richter (Hrsg.), Privatheit, Öffentlichkeit und demokratische Willensbildung in Zeiten von Big Data, 2015, S. 147.
- 11.
Kitchin, The Data Revolution: Big Data, Open Data, Data Infrastructures & Their Consequences, 2014, S. 16.
- 12.
Leibig u. a., Leveraging uncertainty information from deep neural networks for disease detection, Scientific Reports, 7/2017.
- 13.
Leese, The new profiling: Algorithms, black boxes, and the failure of anti-discriminatory safeguards in the European Union, Security Dialogue, Vol. 45, Issue 5, 2014, S. 494.
- 14.
Moretti, Distant Reading, 2013.
- 15.
Habermas, Faktizität und Geltung – Beiträge zur Diskurstheorie des Rechts und des demokratischen Rechtsstaats, 1992.
- 16.
Zafar u. a., Fairness Beyond Disparate Treatment & Disparate Impact, Creative Commons, 2017.
- 17.
Bekannt ist das Problem der falschen Klassifizierung unter dem Begriff fallacy of division, siehe Robinson, Ecological correlations and the behavior of individuals, American Sociological Review, Vol. 15, No. 3, 1950, S. 351.
- 18.
Roßnagel u. a., Datenschutzrecht 2016. „Smart“ genug für die Zukunft? Ubiquitous Computing und Big Data als Herausforderungen des Datenschutzrechts, 2016.
- 19.
Hagendorff, Das Ende der Informationskontrolle: Zur Nutzung digitaler Medien jenseits von Privatheit und Datenschutz, 2017.
- 20.
Siehe hierzu die Stellungnahme führender KI-Unternehmen und -Forscher_innen vom Juli 2018 zur Verhinderung der Nutzung von autonomen Systemen für tödliche Waffen „Lethal Autonomous Weapons Pledge“.
- 21.
- 22.
Bostrom, Superintelligence: Paths, Dangers, Strategies, 2014.
- 23.
Siehe z. B. die Filme „Ex Machina“ (UK 2015, R: Alex Garland); „I, Robot“ (USA/D 2004, R: Alex Proyas).
- 24.
Joy, Bill Joy, Why the Future Doesn’t Need Us, Wired, 04.01.2000.
- 25.
- 26.
Hermanin u. a., Making „Big Data“ Work for Equality, 2013.
- 27.
Als Beispiel für die zahlreichen kritischen Auseinandersetzungen mit der manipulativen Wirkung von Datenerhebungen auf die Meinungsbildung, siehe Hersh, Hacking the electorate: How campaigns perceive voters, 2015.
- 28.
Platon, Politeia, Buch 6 und 7 (Philosophenherrschaft).
- 29.
- 30.
Brey, Values in technology and disclosive computer ethics, in: Floridi (Hrsg.), The Cambridge handbook of information and computer ethics, 2010, S. 41.
- 31.
- 32.
Rosenberg, Data before the fact, in: Gitelman (Hrsg.), „Raw Data“ is an Oxymoron, 2013, S. 15 (35).
- 33.
Ebda. S. 18.
- 34.
Ebda. S. 36.
- 35.
Siehe parallel dazu die Debatte im sogenannten Positivismusstreit, Adorno u. a., Der Positivismusstreit in der deutschen Soziologie, 13. Auflage, 1989.
- 36.
Foucault, Ein Spiel um die Psychoanalyse, in: ders. (Hrsg.), Dispositive der Macht, S. 118 (119).
- 37.
Ebda. S. 123.
- 38.
- 39.
Heesen, Medienethik und Netzkommunikation: Öffentlichkeit in der individualisierten Mediengesellschaft, 2008.
- 40.
Habermas, Strukturwandel der Öffentlichkeit: Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft, 5. Auflage, 1996, S. 588.
- 41.
Kant, Die Metaphysik der Sitten, Rechtslehre § 46, in: Wilhelm Weischedel (Hrsg.): Immanuel Kant: Werke VIII, Schriften zur Ethik und Religionsphilosophie 2, 1956 [1797], S. 432; Kant zur Vereinigung von Öffentlichkeit und Allgemeinwohlbestimmung: „Alle Maximen, die der Publizität bedürfen (um ihren Zweck nicht zu verfehlen), stimmen mit Recht und Politik vereinigt zusammen. Denn wenn Sie nur durch die Publizität ihren Zweck erreichen können, so müssen sie dem allgemeinen Zweck des Publikums (der Glückseligkeit) gemäß sein, womit zusammen zu stimmen (es mit seinem Zustande zufrieden zu machen), die eigentliche Aufgabe der Politik ist“ (Kant, Zum ewigen Frieden, 2. Anhang, Akad.-A. 8, 1923 [1795], S. 386).
- 42.
Rousseau, Du contrat social ou Principes du droit politique: Vom Gesellschaftsvertrag oder Grundsätze des Staatsrechts, 2010 [1762].
- 43.
Um sich diesen Mechanismus anhand eines Beispiels vor Augen zu führen: Smarte Fernseher dokumentieren die individuelle Senderwahl. Wenn hier nun aufgezeichnet wird, dass ein Nutzer gerne Volksmusiksendungen sieht, könnte man daraus den Schluss ziehen, dass dieser Nutzer für noch mehr Volksmusikangebote im Fernsehen ist, aber auch empfänglich sein wird für entsprechende personalisierte Werbung oder passende Vorschläge seines Musikstreamingangebots. Vielleicht ist dieser Nutzer jedoch nicht mit dem Inhalt der Sendung einverstanden und schaut aufgrund anderer Motive, außerdem ist er generell vielleicht Befürworter von attraktiveren Dokumentationen und politischen Bildungsangeboten, die er in der jetzigen Form aber zu langweilig findet – diese Situation kann durch eine reine Aufzeichnung des Nutzungsverhaltens nicht adäquat wiedergegeben werden.
- 44.
Heesen, Medienethik und Netzkommunikation: Öffentlichkeit in der individualisierten Mediengesellschaft, 2008, S. 45 ff.
- 45.
Luhmann, Die Realität der Massenmedien, 2. Auflage, 1996, S. 17 ff.
- 46.
Napoli, Automated Media: An Institutional Theory Perspective on Algorithmic Media Production and Consumption, Communication Theory, Vol. 24, Issue 3, 2014, S. 340.
- 47.
Siehe predictive policing, smart grids, legal tech.
- 48.
Gray u. a., The data journalism handbook, 2012.
- 49.
Heidbrink, Nichtwissen und Verantwortung: Zum Umgang mit unbeabsichtigten Nebenfolgen, Working Paper des Center for Responsibility Research, Vol. 8, 2010.
- 50.
Goodman u. a., European Union regulations on algorithmic decision-making and a „right to explanation“, 2016.
- 51.
Hubig, Die Kunst des Möglichen II: Grundlinien einer dialektischen Philosophie der Technik. Ethik der Technik als provisorische Moral, 2007, S. 116 ff.
- 52.
Heesen, Ethische Aspekte einer Handlungspartnerschaft zwischen Personen und Robotern, in: Eric Hilgendorf (Hrsg.), Robotik im Kontext von Recht und Moral, 2014, S. 190 (201 ff.).
Literatur
Theodor W. Adorno/Ralf Dahrendorf/Harald Pilot/Hans Albert/Jürgen Habermas/Karl R. Popper, Der Positivismusstreit in der deutschen Soziologie, 13. Auflage, 1989.
Heidrun Becker/Mandy Scheermesser/Michael Früh/Yvonne Treusch/Holger Auerbach/Richard Alexander Hüppi/Flurina Meier, Robotik in Betreuung und Gesundheitsversorgung, 2013.
Daniel Bell, Veblen and the Technocrats: On the Engineers and the Price System, in: ders., The Winding Passage: Sociological Essays and Journeys 1960–1980, 1980, S. 69.
Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, 2014.
Danah Boyd/Kate Crawford, Critical Questions for Big Data Information: Provocations for a Cultural, Technological, and Scholarly Phenomenon, Information, Communication and Society, Vol. 15, Issue 5, 2012, S. 662.
Ronald J. Brachman/Tej Anand, The Process of Knowledge Discovery in Database: A Human-Centered Approach, in: Usama Fayyad/Gregory Piatetsky-Shapiro/Padhraic Smyth (Hrsg.), Advances in Knowledge Discovery and Data Mining, 1996, Amer. Assn. for Artificial Intelligence, Menlo Park, CA, USA, AI-Magazin, S. 37.
Philipp Brey, Values in technology and disclosive computer ethics, in: Luciano Floridi (Hrsg.), The Cambridge handbook of information and computer ethics, 2010, S. 41.
Bundesministerium für Verkehr und digitale Infrastruktur (BMVI), Bericht der Ethik-Kommission „Automatisiertes und vernetztes Fahren“, 2017, https://www.bmvi.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommission.pdf (letzter Zugriff: 02.09.2019).
Kenneth Cukier/Viktor Mayer-Schoenberger, The Rise of Big Data: How It’s Changing the Way We Think About the World, Foreign Affairs, Vol. 92, No. 3, 2013, S. 28.
Jacques Ellul, The Technological Society, 1964.
Europäisches Parlament 2014–2019, Bericht über die Folgen von Massendaten für die Grundrechte, 2017.
Michel Foucault, Ein Spiel um die Psychoanalyse: Gespräch mit Angehörigen des Departement de Psychanalyse der Universität Paris/Vincennes, in: Michel Foucault (Hrsg.), Dispositive der Macht: Über Sexualität, Wissen und Wahrheit, 2008, S. 118.
Lisa Gitelman, „Raw Data“ is an Oxymoron, 2013.
Bryce Goodman/Seth Flaxman, European Union regulations on algorithmic decision-making and a „right to explanation“, presented at 2016 ICML Workshop on Human Interpretability in Machine Learning (WHI 2016), New York, NY, eprint arXiv:1606.08813, 06/2016, https://arxiv.org/pdf/1606.08813.pdf (letzter Zugriff: 19.08.2019).
Jonathan Gray/Liliana Bounegru/Lucy Chambers, The data journalism handbook, 2012.
Armin Grunwald, Technikfolgenabschätzung: Eine Einführung, 2010.
Armin Grunwald (Hrsg.), Handbuch Technikethik, 2013.
Jürgen Habermas, Faktizität und Geltung – Beiträge zur Diskurstheorie des Rechts und des demokratischen Rechtsstaats, 1992.
Jürgen Habermas, Strukturwandel der Öffentlichkeit: Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft. Mit einem Vorwort zur Neuauflage 1990, 5. Auflage, 1996.
Thilo Hagendorff, Das Ende der Informationskontrolle: Zur Nutzung digitaler Medien jenseits von Privatheit und Datenschutz, 2017.
Jessica Heesen, Ethische Aspekte einer Handlungspartnerschaft zwischen Personen und Robotern, in: Eric Hilgendorf (Hrsg.), Robotik im Kontext von Recht und Moral, 2014, S. 190.
Jessica Heesen, Medienethik und Netzkommunikation: Öffentlichkeit in der individualisierten Mediengesellschaft, 2008.
Jessica Heesen, Wer entscheidet für uns? Big Data, intelligente Systeme und kluges Handeln, in: Petra Grimm/Oliver Zöllner (Hg.): Mensch – Maschine. Ethische Sichtweisen auf ein Spannungsverhältnis, Stuttgart: Steiner 2018, 47–58.
Jessica Heesen/Tobias Matzner, Politische Öffentlichkeit und Big Data, in: Philipp Richter (Hrsg.), Privatheit, Öffentlichkeit und demokratische Willensbildung in Zeiten von Big Data, 2015, S. 147.
Jessica Heesen/Marc Sehr, Technikethik: „Ex Machina“, Verantwortung für technische Produkte, in: Thomas Bohrmann/Matthias Reichelt/Werner Veith (Hrsg.), Angewandte Ethik und Film, 2018, S. 229.
Ludger Heidbrink, Nichtwissen und Verantwortung: Zum Umgang mit unbeabsichtigten Nebenfolgen, Working Paper des Center for Responsibility Research (CRR), Vol. 8, 2010, http://duepublico.uni-duisburg-essen.de/servlets/DerivateServlet/Derivate-25911/WP_08_Nichtwissen_und_Verantwortung.doc.pdf (letzter Zugriff: 02.09.2019).
Dirk Helbing/Bruno S. Frey/Gerd Gigerenzer/Ernst Hafen/Michael Hagner/Yvonne Hofstetter/Jeroen van den Hoven/Roberto V. Zicari/Andrej Zwitter, Digitale Demokratie statt Datendiktatur, Spektrum.de, 17.12.2015, http://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933 (letzter Zugriff: 02.09.2019).
Constanza Hermanin/Angelina Atanasove, Making „Big Data“ Work for Equality, Open Society Foundations, 09.09.2013, http://www.opensocietyfoundations.org/voices/making-big-data-work-equality-0 (letzter Zugriff: 02.09.2019).
Eitan Hersh, Hacking the electorate: How campaigns perceive voters, 2015.
Christoph Hubig, Die Kunst des Möglichen II: Grundlinien einer dialektischen Philosophie der Technik. Ethik der Technik als provisorische Moral, 2007.
Christoph Hubig, Technik- und Wissenschaftsethik: Ein Leitfaden, 1993.
Bill Joy, Why the Future Doesn’t Need Us, Wired, 04.01.2000, http://www.wired.com/2000/04/joy-2/ (letzter Zugriff: 02.09.2019).
Immanuel Kant, Die Metaphysik der Sitten, Rechtslehre § 46, in: Wilhelm Weischedel (Hrsg.): Immanuel Kant. Werke VIII, Schriften zur Ethik und Religionsphilosophie 2, 1956 [1797].
Immanuel Kant, Zum ewigen Frieden, 2. Anhang, Akad.-A. 8, 1923 [1795].
Rob Kitchin, The Data Revolution: Big Data, Open Data, Data Infrastructures & Their Consequences, 2014.
Matthias Leese, The new profiling: Algorithms, black boxes, and the failure of anti-discriminatory safeguards in the European Union, Security Dialogue, Vol. 45, Issue 5, 2014, S. 494.
Christian Leibig/Vaneeda Allken/Murat Seçkin Ayhan/Philipp Berens/Siegfried Wahl, Leveraging uncertainty information from deep neural networks for disease detection, Scientific Reports, 7/2017, https://www.nature.com/articles/s41598-017-17876-z (letzter Zugriff: 02.09.2019).
Niklas Luhmann, Die Realität der Massenmedien, 2. Auflage, 1996.
Steffen Mau, Das metrische Wir: Über die Quantifizierung des Sozialen, 2017.
Lev Manovich, Trending: The Promises and the Challenges of Big Social Data, Creative Commons 2011, http://manovich.net/content/04-projects/067-trending-the-promises-and-the-challenges-of-big-social-data/64-article-2011.pdf (letzter Zugriff: 02.09.2019).
Jürgen Mittelstraß, Auf dem Weg zu einer Reparaturethik?, in: Jean-Pierre Wils/Dietmar Mieth (Hrsg.), Ethik ohne Chance? 1989, S. 89.
Franco Moretti, Distant Reading, 2013.
Philip M. Napoli, Automated Media: An Institutional Theory Perspective on Algorithmic Media Production and Consumption, Communication Theory, Vol. 24, Issue 3, 2014, S. 340.
Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, 2016.
Theodore M. Porter, Trust in Numbers: The Pursuit of Objectivity in Science and Public Life, 1996.
Philipp Richter, Big Data und demokratische Willensbildung aus verfassungsrechtlicher Sicht, in: ebenda (Hrsg.), Privatheit, Öffentlichkeit und demokratische Willensbildung in Zeiten von Big Data, 2015, S. 45.
William S. Robinson, Ecological correlations and the behavior of individuals, American Sociological Review, Vol. 15, No. 3, 1950, S. 351.
Daniel Rosenberg, Data before the fact, in: Lisa Gitelman (Hrsg.), „Raw Data“ is an Oxymoron, 2013, S. 15.
Alexander Roßnagel/Christian Geminn/Silke Jandt/Philipp Richter, Datenschutzrecht 2016. „Smart“ genug für die Zukunft? Ubiquitous Computing und Big Data als Herausforderungen des Datenschutzrechts, 2016.
Jean-Jacques Rousseau, Du contrat social ou Principes du droit politique. Vom Gesellschaftsvertrag oder Grundsätze des Staatsrechts. Französisch/Deutsch, 2010.
John P. Sullins, RoboWarfare: Can Robots Be More Ethical Than Humans on the Battlefield?, Ethics and Information Technology, Vol. 12, Issue 3, 2010, S. 263.
VDI – Verein Deutscher Ingenieure, Richtlinie 3780, Technikbewertung, Begriffe und Grundlagen, 1991.
The White House, Executive Office of the President, Big Data: Seizing Opportunities, Preserving Values, https://obamawhitehouse.archives.gov/sites/default/files/docs/20150204_Big_Data_Seizing_Opportunities_Preserving_Values_Memo.pdf (letzter Zugriff: 02.09.2019).
Muhammad Bilal Zafar/Isabel Valera/Manuel Gomez Rodriguez/Krishna P. Gummadi, Fairness Beyond Disparate Treatment & Disparate Impact: Learning Classification without Disparate Mistreatment, International World Wide Web Conference Committee (IW3C2), published under Creative Commons CC BY 4.0 License 2017, April 3–7, 2017, https://arxiv.org/pdf/1610.08452.pdf (letzter Zugriff: 02.09.2019).
Tahar Zanouda/Noora Al Emadi/Sofiane Abbar/Jaideep Srivastava, The Quantified City: Sensing Dynamics in Urban Setting, 2017, https://arxiv.org/abs/1701.04253 (letzter Zugriff: 02.09.2019).
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2020 Springer-Verlag GmbH Deutschland, ein Teil von Springer Nature
About this chapter
Cite this chapter
Heesen, J. (2020). Verantwortlich Forschen mit und zu Big Data-Analysen und Künstlicher Intelligenz. In: Seibert-Fohr, A. (eds) Entgrenzte Verantwortung. Springer, Berlin, Heidelberg. https://doi.org/10.1007/978-3-662-60564-6_14
Download citation
DOI: https://doi.org/10.1007/978-3-662-60564-6_14
Published:
Publisher Name: Springer, Berlin, Heidelberg
Print ISBN: 978-3-662-60563-9
Online ISBN: 978-3-662-60564-6
eBook Packages: Social Science and Law (German Language)