Advertisement

Maschinenethik pp 243-261 | Cite as

Moralische Maschinen

Was die Maschine über die Moral ihrer Schöpferinnen und Schöpfer verrät
  • Stefan Ullrich
Chapter
Part of the Ethik in mediatisierten Welten book series (EMW)

Zusammenfassung

Informationstechnischen Systemen wird oft zugeschrieben, Entscheidungen treffen zu können, dabei findet eine Berechnung statt. Menschen folgen moralischen Gesetzen – oder eben nicht. Ein informationstechnisches System muss den einprogrammierten Gesetzen folgen, so wie der Mensch den zahlreichen Naturgesetzen unterworfen ist. Wenn es eingesetzt wird, um zentrale Bereiche des menschlichen Zusammenlebens zu kontrollieren, zu steuern, zu beobachten oder zu messen, dann muss stets mitgedacht werden, dass es nur auf den kontrollierbaren, steuerbaren, beobachtbaren und den messbaren Bereich Zugriff hat. Doch anstatt sich nun aus diesen unkontrollierbaren, nicht steuer- oder beobachtbaren Domänen des gesellschaftlichen Zusammenlebens zurückzuziehen, wird die soziale Sphäre weitestgehend maschinenlesbar, also berechenbar gestaltet. Der unberechenbare Mensch wird zum Störfaktor, ebenso wie die unberechenbare Sphäre der Moral. Moralische Maschinen sind ein ethisches Gedankenexperiment. Anhand einiger Beispiele soll argumentiert werden, dass es zwar prinzipiell unmöglich ist, moralisch handelnde Maschinen zu erschaffen, wir es aber dennoch versuchen sollten, weil die Beschäftigung mit diesem Thema zwar nicht die informationstechnischen Systeme moralischer macht, wohl aber ihre Schöpferinnen und Schöpfer.

Schlagwörter

Moralische Maschinen handelnde Maschinen Autonomie Informatik Programmierung Heuristik Algorithmen 

Preview

Unable to display preview. Download preview PDF.

Unable to display preview. Download preview PDF.

Literatur

  1. Arendt, Hannah (2006). Vita activa oder Vom tätigen Leben. München: Piper.Google Scholar
  2. Aristoteles (1995). Ethik. In Felix Meiner (Hrsg.), Philosophische Schriften (3). Hamburg: Meiner.Google Scholar
  3. Bauman, Zygmunt und David Lyon (2013). Daten, Drohnen, Disziplin. Frankfurt am Main: Suhrkamp.Google Scholar
  4. Bell, Daniel (1973). The Coming Of Post-Industrial Society. New York: Basic Books.Google Scholar
  5. Black, Edwin (2001). IBM and the Holocaust. The Strategic Alliance between Nazi Germany and America’s Most Powerful Corporation. New York: Dialog Press.Google Scholar
  6. Bundesamt für Sicherheit in der Informationstechnik (2005). Untersuchung der Leistungsfähigkeit von biometrischen Verifikationssystemen – BioP II, öffentlicher Abschlussbericht vom 23. 8. 2005. https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/Publikationen/Studien/BioP/BioPII.pdf.
  7. Coy, Wolfgang (1992). Für eine Theorie der Informatik. In Wolfgang Coy u. a. (Hrsg.), Sichtweisen der Informatik (S. 17–32). Braunschweig/Wiesbaden: Vieweg.Google Scholar
  8. Coy, Wolfgang (1994). Die Turing-Galaxis. In: Computer als Medien. Drei Aufsätze. Bremen: Forschungsbericht des Studiengangs Informatik (S. 7–13). ISSN 0722-8996.Google Scholar
  9. Foot, Philippa (1967). The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices. Oxford Review (5). Oxford: Basil Blackwell.Google Scholar
  10. Freistetter, Florian (2013). Pi: Mehr als 39 Stellen sind Luxus. Scienceblogs, Eintrag vom 25. Februar 2013. http://scienceblogs.de/astrodicticum-simplex/2013/02/25/pi-mehr-als-39-stellen-sind-luxus/.
  11. Graff, Bernd (2016). Rassistischer Chat-Roboter: Mit falschen Werten bombardiert. Süddeutsche Zeitung vom 3. April 2016. http://www.sueddeutsche.de/digital/microsoft-programm-tay-rassistischer-chat-roboter-mit-falschen-werten-bombardiert-1.2928421.
  12. Hodges, Andrew (2012). Alan Turing: The Enigma (The Centenary Edition). London: Vintage Books.Google Scholar
  13. Hopper, Grace (1985). On the Future of Computing. Vortrag am MIT Lincoln Laboratory, gehalten am 25. April 1985. https://www.youtube.com/watch?v=ZR0ujwlvbkQ.
  14. Jonas, Hans (1984). Das Prinzip Verantwortung. Frankfurt am Main: Suhrkamp Taschenbuch Verlag.Google Scholar
  15. Landsteiner, Norbert (2014). Inside Spacewar! Wien: mass:werk. http://www.masswerk.at/spacewar/inside/insidespacewar-pt6-gravity.html.
  16. Lessig, Lawrence (2006). Code. New York: Basic Books. http://codev2.cc/download+remix/Lessig-Codev2.pdf.
  17. Sharif, Mahmood, Bhagavatula, Sruti, Bauer, Lujo and Reiter, Michael (2016). Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition, 23rd ACM Conference on Computer and Communications Security (CCS 2016). DOI: http://dx.doi.org/10.1145/2976749.2978392..
  18. McLuhan, Marshall (1962). The Gutenberg Galaxy. The Making of Typographic Man. Toronto: University of Toronto Press.Google Scholar
  19. Mitchell, Tom (1997). Machine Learning. New York: McGraw Hill.Google Scholar
  20. Orwell, George (1980 [1948]). Nineteen Eighty Four. Middlesex: Penguin Books.Google Scholar
  21. Padua, Sydney (2015). The Marvellous Analytical Engine – How It Works. 2dgoggles, 31. Mai 2015, http://sydneypadua.com/2dgoggles/the-marvellous-analytical-engine-how-it-works/.
  22. Parry, Richard (2008). Episteme and Techne. In Edward N. Zalta (Hrsg.), The Stanford Encyclopedia of Philosophy. http://plato.stanford.edu/archives/fall2008/entries/episteme-techne/.
  23. Platon (1994). Phaidros. In Ursula Wolf (Hrsg.), Sämtliche Werke (S. 543–609). Reinbek bei Hamburg: Rowohlts Enzyklopädie.Google Scholar
  24. Russell, Bertrand (1930). Psychologie und Politik. In Russel Bertrand (Hrsg.), Wissen und Wahn. Skeptische Essays (S. 255–271). München: Drei Masken Verlag.Google Scholar
  25. Sophokles (1957). Antigone. In Heinrich Weinstock (Hrsg.), Die Tragödien. Stuttgart: Alfred Körner Verlag.Google Scholar
  26. Trystero (Hrsg.) (2012). Per Anhalter durch die Turing-Galaxis. Münster: Monsenstein und Vannerdat. http://turing-galaxis.de/epub_final/Coy-5ubv3rs10n-2012_BY_TrYzT3r0_ePub. epub.
  27. Turing, Alan (1936). On Computable Numbers, with an Application to the Entscheidungsproblem. In Michael Singer and Radha Kessar (Hrsg.), Proceedings of the London Mathematical Society (42), S. 230–265.Google Scholar
  28. Turing, Alan (2004). Computing Machinery and Intelligence (1950). In Jack Copeland (Hrsg.), The Essential Turing. Seminal Writings in Computing, Logic, Philosophy, Artificial Intelligence, and Artificial Life plus The Secrets of Enigma (S. 441–464). Oxford: Clarendon Press.Google Scholar
  29. Ullrich, Stefan (2014). Informationelle Mü(n)digkeit. Über die unbequeme Selbstbestimmung. Datenschutz und Datensicherheit 10/2014 (S. 696–700). Berlin: Springer.Google Scholar
  30. Weizenbaum, Joseph (1978). Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt am Main: Suhrkamp Taschenbuch Verlag.Google Scholar
  31. Weizenbaum, Joseph. 1986. Ohne uns geht’s nicht weiter. „Künstliche Intelligenz“ und Verantwortung der Wissenschaftler. Blätter für deutsche und internationale Politik 1986, Sonderdruck Nr. 332 aus Heft 9/1986.Google Scholar
  32. Zemanek, Heinz (1991). Das geistige Umfeld der Informationstechnik. Berlin: Springer.Google Scholar

Copyright information

© Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature 2019

Authors and Affiliations

  1. 1.Weizenbaum-Institut für die vernetzte Gesellschaft / TU BerlinBerlinDeutschland

Personalised recommendations