Zusammenfassung
Informationstechnischen Systemen wird oft zugeschrieben, Entscheidungen treffen zu können, dabei findet eine Berechnung statt. Menschen folgen moralischen Gesetzen – oder eben nicht. Ein informationstechnisches System muss den einprogrammierten Gesetzen folgen, so wie der Mensch den zahlreichen Naturgesetzen unterworfen ist. Wenn es eingesetzt wird, um zentrale Bereiche des menschlichen Zusammenlebens zu kontrollieren, zu steuern, zu beobachten oder zu messen, dann muss stets mitgedacht werden, dass es nur auf den kontrollierbaren, steuerbaren, beobachtbaren und den messbaren Bereich Zugriff hat. Doch anstatt sich nun aus diesen unkontrollierbaren, nicht steuer- oder beobachtbaren Domänen des gesellschaftlichen Zusammenlebens zurückzuziehen, wird die soziale Sphäre weitestgehend maschinenlesbar, also berechenbar gestaltet. Der unberechenbare Mensch wird zum Störfaktor, ebenso wie die unberechenbare Sphäre der Moral. Moralische Maschinen sind ein ethisches Gedankenexperiment. Anhand einiger Beispiele soll argumentiert werden, dass es zwar prinzipiell unmöglich ist, moralisch handelnde Maschinen zu erschaffen, wir es aber dennoch versuchen sollten, weil die Beschäftigung mit diesem Thema zwar nicht die informationstechnischen Systeme moralischer macht, wohl aber ihre Schöpferinnen und Schöpfer.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Preview
Unable to display preview. Download preview PDF.
Similar content being viewed by others
Literatur
Arendt, Hannah (2006). Vita activa oder Vom tätigen Leben. München: Piper.
Aristoteles (1995). Ethik. In Felix Meiner (Hrsg.), Philosophische Schriften (3). Hamburg: Meiner.
Bauman, Zygmunt und David Lyon (2013). Daten, Drohnen, Disziplin. Frankfurt am Main: Suhrkamp.
Bell, Daniel (1973). The Coming Of Post-Industrial Society. New York: Basic Books.
Black, Edwin (2001). IBM and the Holocaust. The Strategic Alliance between Nazi Germany and America’s Most Powerful Corporation. New York: Dialog Press.
Bundesamt für Sicherheit in der Informationstechnik (2005). Untersuchung der Leistungsfähigkeit von biometrischen Verifikationssystemen – BioP II, öffentlicher Abschlussbericht vom 23. 8. 2005. https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/Publikationen/Studien/BioP/BioPII.pdf.
Coy, Wolfgang (1992). Für eine Theorie der Informatik. In Wolfgang Coy u. a. (Hrsg.), Sichtweisen der Informatik (S. 17–32). Braunschweig/Wiesbaden: Vieweg.
Coy, Wolfgang (1994). Die Turing-Galaxis. In: Computer als Medien. Drei Aufsätze. Bremen: Forschungsbericht des Studiengangs Informatik (S. 7–13). ISSN 0722-8996.
Foot, Philippa (1967). The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices. Oxford Review (5). Oxford: Basil Blackwell.
Freistetter, Florian (2013). Pi: Mehr als 39 Stellen sind Luxus. Scienceblogs, Eintrag vom 25. Februar 2013. http://scienceblogs.de/astrodicticum-simplex/2013/02/25/pi-mehr-als-39-stellen-sind-luxus/.
Graff, Bernd (2016). Rassistischer Chat-Roboter: Mit falschen Werten bombardiert. Süddeutsche Zeitung vom 3. April 2016. http://www.sueddeutsche.de/digital/microsoft-programm-tay-rassistischer-chat-roboter-mit-falschen-werten-bombardiert-1.2928421.
Hodges, Andrew (2012). Alan Turing: The Enigma (The Centenary Edition). London: Vintage Books.
Hopper, Grace (1985). On the Future of Computing. Vortrag am MIT Lincoln Laboratory, gehalten am 25. April 1985. https://www.youtube.com/watch?v=ZR0ujwlvbkQ.
Jonas, Hans (1984). Das Prinzip Verantwortung. Frankfurt am Main: Suhrkamp Taschenbuch Verlag.
Landsteiner, Norbert (2014). Inside Spacewar! Wien: mass:werk. http://www.masswerk.at/spacewar/inside/insidespacewar-pt6-gravity.html.
Lessig, Lawrence (2006). Code. New York: Basic Books. http://codev2.cc/download+remix/Lessig-Codev2.pdf.
Sharif, Mahmood, Bhagavatula, Sruti, Bauer, Lujo and Reiter, Michael (2016). Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition, 23rd ACM Conference on Computer and Communications Security (CCS 2016). DOI: http://dx.doi.org/10.1145/2976749.2978392..
McLuhan, Marshall (1962). The Gutenberg Galaxy. The Making of Typographic Man. Toronto: University of Toronto Press.
Mitchell, Tom (1997). Machine Learning. New York: McGraw Hill.
Orwell, George (1980 [1948]). Nineteen Eighty Four. Middlesex: Penguin Books.
Padua, Sydney (2015). The Marvellous Analytical Engine – How It Works. 2dgoggles, 31. Mai 2015, http://sydneypadua.com/2dgoggles/the-marvellous-analytical-engine-how-it-works/.
Parry, Richard (2008). Episteme and Techne. In Edward N. Zalta (Hrsg.), The Stanford Encyclopedia of Philosophy. http://plato.stanford.edu/archives/fall2008/entries/episteme-techne/.
Platon (1994). Phaidros. In Ursula Wolf (Hrsg.), Sämtliche Werke (S. 543–609). Reinbek bei Hamburg: Rowohlts Enzyklopädie.
Russell, Bertrand (1930). Psychologie und Politik. In Russel Bertrand (Hrsg.), Wissen und Wahn. Skeptische Essays (S. 255–271). München: Drei Masken Verlag.
Sophokles (1957). Antigone. In Heinrich Weinstock (Hrsg.), Die Tragödien. Stuttgart: Alfred Körner Verlag.
Trystero (Hrsg.) (2012). Per Anhalter durch die Turing-Galaxis. Münster: Monsenstein und Vannerdat. http://turing-galaxis.de/epub_final/Coy-5ubv3rs10n-2012_BY_TrYzT3r0_ePub. epub.
Turing, Alan (1936). On Computable Numbers, with an Application to the Entscheidungsproblem. In Michael Singer and Radha Kessar (Hrsg.), Proceedings of the London Mathematical Society (42), S. 230–265.
Turing, Alan (2004). Computing Machinery and Intelligence (1950). In Jack Copeland (Hrsg.), The Essential Turing. Seminal Writings in Computing, Logic, Philosophy, Artificial Intelligence, and Artificial Life plus The Secrets of Enigma (S. 441–464). Oxford: Clarendon Press.
Ullrich, Stefan (2014). Informationelle Mü(n)digkeit. Über die unbequeme Selbstbestimmung. Datenschutz und Datensicherheit 10/2014 (S. 696–700). Berlin: Springer.
Weizenbaum, Joseph (1978). Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt am Main: Suhrkamp Taschenbuch Verlag.
Weizenbaum, Joseph. 1986. Ohne uns geht’s nicht weiter. „Künstliche Intelligenz“ und Verantwortung der Wissenschaftler. Blätter für deutsche und internationale Politik 1986, Sonderdruck Nr. 332 aus Heft 9/1986.
Zemanek, Heinz (1991). Das geistige Umfeld der Informationstechnik. Berlin: Springer.
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2019 Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature
About this chapter
Cite this chapter
Ullrich, S. (2019). Moralische Maschinen. In: Rath, M., Krotz, F., Karmasin, M. (eds) Maschinenethik. Ethik in mediatisierten Welten. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-21083-0_15
Download citation
DOI: https://doi.org/10.1007/978-3-658-21083-0_15
Published:
Publisher Name: Springer VS, Wiesbaden
Print ISBN: 978-3-658-21082-3
Online ISBN: 978-3-658-21083-0
eBook Packages: Social Science and Law (German Language)