Abstract
The replacement of traditional deterministic machines by autonomous, self-organizing systems in the realm of security technologies represents a new challenge. Operative and strategic autonomy must be made more distinct, while moral autonomy should remain a human responsibility. Depending on the type of mechanical learning, the systems gain a black box character that impedes the tracing of the authorship of the systems’ actions. The proposed method of monitoring system decisions (Digital Charta Art. 5, DSGVO Art. 22) must deal with complex networks of responsibility. For this reason, a new legal framework and new political terms of negotiation must be developed.
Similar content being viewed by others
References
ADIS: Automatisierte Detektion interventionsbedürftiger Situationen, https://www.sifo.de/files/Mustererkennung_D_ADIS.pdfv, besucht am 01.06.2018
APuZ: Digitale Demokratie (2012) Aus Politik und Zeitgeschichte, Beilage zur ZS Das Parlament, 62. Jg., 7/2012, 13.02.2012
Alpaydin E (2008) Maschinelles Lernen. Oldenbourg Verlag, München
Datenschutz-Grundverordnung 2016/18: https://dsgvo-gesetz.de/art_22_dsgvo/, besucht am 01.06.2018; https://gdpr-info.eu/art-22-gdpr/, besucht am 16.08.2019.
Digital Charta (2018) https://www.zeit-stiftung.de/f/Digital_Charta_deutsch.pdf, besucht am 01.06.2018; https://digitalcharta.eu/wp-content/uploads/Digital_Charter_english_2018.pdf, besucht am 16.08.2019.
EU-Kommission (2017) Bericht mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik, A8-0005/2017 vom 27.01.2017, https://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+REPORT+A8-2017-0005+0+DOC+XML+VO//DE, besucht am 22.05.2018
Futurezone (2018) https://futurezone.at/digital-life/chinas-polizei-erkennt-gesicht-unter-50000-konzertgaesten/400020820. Abs. 1, besucht am 28.04.2018
Günther J-P (2016) Roboter und rechtliche Verantwortung. Herbert Utz Verlag, München, Eine Untersuchung der Benutzer- und Herstellerhaftung
Helbing D, Frey BS, Gigerenzer G, Hafen E, Hagner M, Hofstetter Y, van den Hoven, Jeroen Z, Roberto V, Zwitter A (2015) Digitale Demokratie statt Datendiktatur, das Digital-Manifest, https://www.spektrum.de/thema/das:digital-manifest/1375924, besucht am 01.05.2018; https://www.researchgate.net/publication/303813069_Behavioural_Control_or_Digital_Democracy_-_A_Digital_Manifesto, besucht am 16.08.2019.
Hubig C (1995) Technik und Wissenschaftsethik. Ein Leitfaden, Springer, Berlin
Hubig C (2007) Die Kunst des Möglichen 2. Ethik der Technik als provisorische Moral. transcript Verlag, Bielefeld
Hubig C (2015) Die Kunst des Möglichen 3. Macht der Technik. transcript Verlag, Bielefeld
Kant I (2005 [1790]) Critique of judgement, trans. by. J.H. Bernard, New York: Barnes & Noble Books, [German original title: Kritik der Urteilskraft]
Latour B (1994) On technical mediation. In: idem: Pandora’s hope. essays on the reality of science studies. Harvard University Press, Cambridge, S 29–64
Latour B (2006a) Über technische Vermittlung: philosophie, soziologie und genealogie. In: Belliger A, Krieger DJ (eds), Anthology. Ein einführendes Handbuch zur Akteur-Netzwerk-Theorie, Bielefeld: transcript, S 483–528.
Latour B (2006b) Sozialtheorie und die Erforschung computerisierter Arbeitsumgebungen. In: Belliger A, Krieger DJ (eds), ANThology. Ein einführendes Handbuch zur Akteur-Netzwerk-Theorie. Bielefeld: transcript, S 561–572
Luhmann N (1995) Social systems, trans. by John Bednarz, Jr., with Dirk Baecker. Standford University Press, Standford
Schilling M, Kopp S, Wachsmuth S et al. (2016) Towards a multidimensional perspective on shared autonomy. In: The 2016 AAAI fall symposium series: shared autonomy in research and practice technical report, S 338–344
Wiegerling K (2011) Philosophie intelligenter Welten. Wilhelm Fink Verlag, Paderborn
Author information
Authors and Affiliations
Corresponding author
Additional information
Publisher's Note
Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations.
Rights and permissions
About this article
Cite this article
Hubig, C. Benefits and Limits of Autonomous Systems in Public Security. Eur J Secur Res 5, 25–37 (2020). https://doi.org/10.1007/s41125-019-00057-6
Received:
Accepted:
Published:
Issue Date:
DOI: https://doi.org/10.1007/s41125-019-00057-6