Zusammenfassung
KI-Regulierung bzw. -Normierung und Governance sind nicht nur aufgrund des raschen technischen Wandels ein schwieriges Unterfangen; allein die Komplexität des Feldes und dessen soziale, ökonomische, gesellschaftliche und politische Aspekte selbst bringen weitreichende und miteinander wechselwirkende Herausforderungen mit sich. Angesichts globalisierter Forschung und Entwicklung an sowie des weltweiten Einsatzes von KI sind nationalstaatliche Regulierungen vermutlich zum Scheitern verurteilt; supranationale Normierung, Regulierung, und Governance bringen wiederum das Problem der Durchsetzbarkeit mit sich. Nicht zuletzt deshalb unterscheiden sich aktuelle Gestaltungsansätze bspw. stark in Hinblick auf ihren Entwicklungsstatus und ihre Wirkmächtigkeit, weil die dahinterstehenden Akteur*innen über unterschiedliche Eingriffsreichweiten und -tiefen verfügen. Unterschiedliche Akteur*innengruppen ringen um die Deutungshoheit und verschiedenste Interessenslagen fließen in den Diskurs über Normierung, Regulierung und Governance ein. Die Komplexität wird zudem dadurch erhöht, dass KI direkt und indirekt reguliert und normiert werden kann, es aber gleichzeitig auch Regulierung und Normierung menschlichen Handels durch KI gibt. Der Beitrag soll die Komplexität des Feldes aufzeigen, Typen von Akteur*innen vorstellen, verschiedene Gestaltungsansätze beschreiben und eine vorläufige Abschätzung der Möglichkeiten von Normierung, Regulierung und Governance von KI geben.
This is a preview of subscription content, log in via an institution to check access.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Notes
- 1.
Das CUDOS-Schema stellt eine normative Konzeption von Wissenschaft dar und steht für: C = Communisms (manchmal auch: Communitarianism) – alle Erkenntnisse der Wissenschaft sollen allen Interessierten frei zur Verfügung stehen; U = Universalism – niemand darf aufgrund von ethnischer Zugehörigkeit, Religion, Geschlecht etc. aus der Wissenschaft ausgeschlossen werden; D = Desinterestedness – Wissenschaft soll nicht um der Verfolgung eigennütziger Ziele betrieben werden; OS = Organized Scepticisms – wissenschaftliche Aussagen müssen stets rigoros geprüft, dogmatische Ansprüche müssen abgewiesen werden. Merton hat diese Konzeption von Wissenschaft in Reaktion auf den Umgang mit jüdischen Wissenschaftler:innen im nationalsozialistischen Deutschland entwickelt; sie stellt ein Ideal von Wissenschaft dar, keine Beschreibung. Trotzdem hat CUDOS das (öffentliche) Bild von Wissenschaft stark geprägt (bspw. Bray & von Storch 2017; Kuipers 2009; Macfarlane & Cheng 2008; Meyer & Sandøe 2012; Moriarty 2011) und wird – wenn auch oft implizit – meist dann herbeizitiert, wenn der Eindruck entsteht, dass Wissenschaft ebenfalls ein primär interessengeleitetes Unterfangen sei.
- 2.
https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449, zuletzt besucht am 18.05.20222.
- 3.
https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai, zuletzt besucht am 18.05.2022.
- 4.
- 5.
https://futureoflife.org/ai-principles/, zuletzt besucht am 18.05.2022.
- 6.
https://ai.google/static/documents/recommendations-for-regulating-ai.pdf, zuletzt besucht am 22.06.2022.
- 7.
https://www.din.de/resource/blob/772438/6b5ac6680543eff9fe372603514be3e6/normungsroadmap-ki-data.pdf, zuletzt besucht am 22.06.2022.
- 8.
https://ec.europa.eu/info/strategy/priorities-2019–2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_de, zuletzt besucht am 22.06.2022.
Literatur
Attenberger, U., und M. Reiser. 2022. Future perspectives: Wie beeinflusst künstliche Intelligenz die Entwicklung unseres Berufsfeldes? Der Radiologe, 62(3): 267-270. https://doi.org/https://doi.org/10.1007/s00117-022-00969-w
Autor, D., D. Mindell und E. Reynolds. 2020. The work of the future: Building better jobs in an age of intelligent machines. MIT. https://workofthefuture.mit.edu/wp-content/uploads/2021/01/2020-Final-Report4.pdf
Balsmeier, B., und M. Woerter. 2019. Is this time different? How digitalization influences job creation and destruction. Research Policy, 48(8), 103765. https://doi.org/10.1016/j.respol.2019.03.010
Bareis, J., und C. Katzenbach. 2021. Talking AI into being: The narratives and imaginaries of national AI strategies and their performative politics. Science, Technology, und Human Values, 016224392110300. https://doi.org/10.1177/01622439211030007
Bender, E. M., T. Gebru, A. McMillan-Major, und S. Shmitchell. 2021. On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM conference on fairness, accountability, and transparency, 610–623. https://doi.org/10.1145/3442188.3445922
Bhargava, A., M. Bester, und L. Bolton. 2021. Employees’ perceptions of the implementation of robotics, artificial intelligence, and automation (RAIA) on job satisfaction, job security, and employability. Journal of Technology in Behavioral Science 6(1): 106–113. https://doi.org/10.1007/s41347-020-00153-8
Bijker, W. E., T.P. Hughes, und T.J. Pinch. (Hrsg.). 1987. The social construction of technological systems: New directions in the sociology and history of technology. MIT Press.
Bray, D., und H. von Storch. 2017. The normative orientations of climate scientists. Science and Engineering Ethics, 23(5): 1351–1367. https://doi.org/10.1007/s11948-014-9605-1
Brougham, D., und J. Haar. 2018. Smart technology, artificial intelligence, robotics, and algorithms (STARA): Employees’ perceptions of our future workplace. Journal of Management und Organization 24(2): 239–257. https://doi.org/10.1017/jmo.2016.55
Buolamwini, Joy, und Timnit Gebru. 2018. Gender shades: Intersectional accuracy disparities in commercial gender classification. In Proceedings of the 1st conference on fairness, accountability and transparency, hrsg. S. A. Friedler und C. Wilson, 81: 77–91. PMLR. https://proceedings.mlr.press/v81/buolamwini18a.html
Butcher, J., und I. Beridze. 2019. What is the state of artificial intelligence governance globally? The RUSI Journal, 164(5–6): 88–96. https://doi.org/10.1080/03071847.2019.1694260
Cihon, P., M. M. Maas, und L. Kemp. 2020. Fragmentation and the future: Investigating architectures for international AI governance. Global Policy, 11(5): 545–556. https://doi.org/10.1111/1758-5899.12890
Crootof, Rebecca. 2019. “Cyborg justice” and the risk of technological-legal lock-in. Columbia Law Review, 119(7): 233–251.
Dengler, K., B. Matthes, und G. Wydra-Somaggio. 2018. Regionale Branchen- und Berufsstrukturen prägen die Substituierbarkeitspotenziale. IAB Kurzbericht 22/2018. https://doku.iab.de/kurzber/2018/kb2218.pdf
Etzkowitz, H. 2003. Innovation in innovation: The triple helix of university-industry-government relations. Social Science Information, 42(3): 293–337. https://doi.org/10.1177/05390184030423002
Etzkowitz, H., und L. Leydesdorff. 2000. The dynamics of innovation: From national systems and “mode 2” to a triple helix of university–industry–government relations. Research Policy, 29(2): 109–123. https://doi.org/10.1016/S0048-7333(99)00055-4
Europäische Kommission. 2021. Vorschlag des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0019.02/DOC_1undformat=PDF
Frey, Carl Benedikt, und M. A. Osborne. 2013. The future of employment. Working Paper. Oxford Martin School. https://sep4u.gr/wp-content/uploads/The_Future_of_Employment_ox_2013.pdf
Frey, C. B., und M. A. Osborne. 2017. The future of employment: How susceptible are jobs to computerisation? Technological Forecasting and Social Change, 114: 254–280. https://doi.org/10.1016/j.techfore.2016.08.019
Gasser, U., und V. A. F. Almeida. 2017. A layered model for AI governance. IEEE Internet Computing, 21(6): 58–62. https://doi.org/10.1109/MIC.2017.4180835
Gasser, Urs, und Carolyn Schmitt. 2020. The role of professional norms in the governance of artificial intelligence. In The Oxford handbook of ethics of AI, hrsg. M. D. Dubber, F. Pasquale, und S. Das, 140–159. Oxford University Press. https://doi.org/10.1093/oxfordhb/9780190067397.013.8
Gebru, Timnit. 2020. Race and gender. In The Oxford handbook of ethics of AI, hrsg. M. D. Dubber, F. Pasquale, und S. Das, 251–269. Oxford University Press. https://doi.org/10.1093/oxfordhb/9780190067397.013.16
Hamid, O. H., N. L. Smith, und A. Barzanji. 2017. Automation, per se, is not job elimination: How artificial intelligence forwards cooperative human-machine coexistence. 2017 IEEE 15th International Conference on Industrial Informatics (INDIN), 899–904. https://doi.org/10.1109/INDIN.2017.8104891
Hennemann, M. 2018. Künstliche Intelligenz und Wettbewerbsrecht. Zeitschrift für Wettbewerbsrecht, 16(2): 161–184. https://doi.org/10.15375/zwer-2018-0204
Jipp, Meike, und J. Steil. 2021. Steuern wir oder werden wir gesteuert? Chancen und Risiken von Mensch-Technik-Interaktion. In Zusammenwirken von natürlicher und künstlicher Intelligenz, hrsg. R. Haux, K. Gahl, M. Jipp, R. Kruse, und O. Richter, 17–34. Springer Fachmedien. https://doi.org/10.1007/978-3-658-30882-7_3
Kauffmann, Anna L., J. Hennrich, C. Buch, und T. Eymann. 2022. Künstliche Intelligenz in der Radiologie und Strahlentherapie aus der Perspektive von Ärzten und Medizinphysikexperten: Eine Interviewstudie. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 617–638. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_29
Kleesiek, J., J. M. Murray, C. Strack, S. Prinz, G. Kaissis, und R. Braren. 2021. Künstliche Intelligenz und maschinelles Lernen in der onkologischen Bildgebung. Best practice onkologie, 16(4): 176–185. https://doi.org/10.1007/s11654-021-00298-9
Korinek, A., und J. E. Stiglitz. 2019. Artificial intelligence and its implications for income distribution and unemployment. In The economics of artificial intelligence. An agenda, hsrg. A. Agrawal, J. Gans, und A. Goldfarb, 349–390. University of Chicago Press.
Kretschmer, M., J. Pennekamp, und K. Wehrle. 2021. Cookie banners and privacy policies: Measuring the impact of the GDPR on the Web. ACM Transactions on the Web, 15(4): 1–42. https://doi.org/10.1145/3466722
Krug, H., U. Bittner, V. Rolfes, H. Fangerau und K. Weber. 2020. Verunsicherung des ärztlichen Selbstverständnisses durch Künstliche Intelligenz? Ein Überblick über potenzielle Auswirkungen ihres Einsatzes im ärztlichen Alltag. In Unsicherheit in der Medizin (Jahrbuch für Ethik in der Klinik 2020), hrsg. A. Frewer, L. Bergemann, und E. Langmann, 195–210. Königshausen und Neumann.
Kuipers, T. A. F. 2009. The gray area for incorruptible scientific research: An exploration guided by Merton’s norms conceived as ‘default-norms’. In EPSA Epistemology and Methodology of Science, hrsg. M. Suárez, M. Dorato, und M. Rédei, 149–164. Springer Netherlands. https://doi.org/10.1007/978-90-481-3263-8_13
Kuziemski, M., und G. Misuraca. 2020. AI governance in the public sector: Three tales from the frontiers of automated decision-making in democratic settings. Telecommunications Policy, 44(6), 101976. https://doi.org/10.1016/j.telpol.2020.101976
Leydesdorff, L. 2000. The triple helix: An evolutionary model of innovations. Research Policy 29(2): 243–255. https://doi.org/10.1016/S0048-7333(99)00063-3
Li, H., L. Yu, und W. He. 2019. The impact of GDPR on global technology development. Journal of Global Information Technology Management 22(1): 1–6. https://doi.org/10.1080/1097198X.2019.1569186
Lindgren, P. 2018. GDPR regulation impact on different business models and businesses. Journal of Multi Business Model Innovation and Technology 4(3): 241–254. https://doi.org/10.13052/jmbmit2245-456X.434
Macfarlane, B., und M. Cheng. 2008. Communism, universalism and disinterestedness: Re-examining contemporary support among academics for Merton’s scientific norms. Journal of Academic Ethics 6(1): 67–78. https://doi.org/10.1007/s10805-008-9055-y
Mangini, V., I. Tal, und A.-N. Moldovan. 2020. An empirical study on the impact of GDPR and right to be forgotten—Organisations and users perspective. Proceedings of the 15th International Conference on Availability, Reliability and Security, 1–9. https://doi.org/10.1145/3407023.3407080
Merton, R. K. 1974 [1942]. The normative structure of science. In The sociology of science, hrsg. R. K. Merton, 267–278. University of Chicago Press.
Meyer, G., und P. Sandøe. 2012. Going public: Good scientific conduct. Science and Engineering Ethics, 18(2): 173–197. https://doi.org/10.1007/s11948-010-9247-x
Moriarty, P. 2011. Science as a public good. In A manifesto for the public university, hrsg. J. Holmwood, 56–73. Bloomsbury Academic.
Moser, E. 2021. Gerechtigkeitsüberlegungen zur Robotersteuer: Sollen wir die Automatisierung besteuern, um Arbeitsplätze zu erhalten? Momentum Quarterly, 10(4): 188–260. https://doi.org/10.15203/MOMENTUMQUARTERLY.VOL10.NO4.P208-222
ÓhÉigeartaigh, S. S., J. Whittlestone, Y. Liu, Y. Zeng, und Z. Liu. 2020. Overcoming barriers to cross-cultural cooperation in AI ethics and governance. Philosophy und Technology, 33(4): 571–593. https://doi.org/10.1007/s13347-020-00402-x
Pechmann, L., M. Mildner, T. Suthau, und M. Leucker. 2022. Regulatorische Anforderungen an Lösungen der künstlichen Intelligenz im Gesundheitswesen. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 175–198. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_8
Raji, I. D., T. Gebru, M. Mitchell, J. Buolamwini, J. Lee, und E. Denton. 2020. Saving face: Investigating the ethical concerns of facial recognition auditing. Proceedings of the AAAI/ACM conference on AI, ethics, and society, 145–151. https://doi.org/10.1145/3375627.3375820
Reddy, S., S. Allan, S. Coghlan, und P. Cooper. 2020. A governance model for the application of AI in health care. Journal of the American Medical Informatics Association 27(3): 491–497. https://doi.org/10.1093/jamia/ocz192
Robbins, S., und A. van Wynsberghe. 2022. Our new artificial intelligence infrastructure: Becoming locked into an unsustainable future. Sustainability, 14(8): 4829. https://doi.org/10.3390/su14084829
Roski, J., E. J. Maier, K. Vigilante, E. A. Kane, und M. E. Matheny. 2021. Enhancing trust in AI through industry self-governance. Journal of the American Medical Informatics Association, 28(7): 1582–1590. https://doi.org/10.1093/jamia/ocab065
Schiff, D. S., K. Laas, J. B. Biddle, und J. Borenstein. 2022. Global AI ethics documents: What they reveal about motivations, practices, and policies. In Codes of ethics and ethical guidelines, hrsg. K. Laas, M. Davis, und E. Hildt, 23: 121–143). Springer International Publishing. https://doi.org/10.1007/978-3-030-86201-5_7
Schmitt, L. 2021. Mapping global AI governance: A nascent regime in a fragmented landscape. AI and Ethics. https://doi.org/10.1007/s43681-021-00083-y
Schneider, D. 2022. Ethische und professionsspezifische Herausforderungen. Der Diskurs um algorithmische Systeme der Entscheidungsunterstützung im Kontext der Teilhabeplanung für Menschen mit Behinderung. In Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen, hrsg. A. Sonar, und K. Weber, 87–132. Steiner.
Schneider, D., A. Sonar, und K. Weber. 2022. Zwischen Automatisierung und ethischem Anspruch – Disruptive Effekte des KI-Einsatzes in und auf Professionen der Gesundheitsversorgung. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 325–348. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_14
Slokenberga, S., O. Tzortzatou, und J. Reichel, J. (Hrsg.). 2021. GDPR and biobanking: Individual rights, public interest and research regulation across Europe (Bd. 43). Springer International Publishing. https://doi.org/10.1007/978-3-030-49388-2
Smuha, N. A. 2021. Beyond a human rights-based approach to AI governance: Promise, pitfalls, plea. Philosophy und Technology, 34(S1): 91–104. https://doi.org/10.1007/s13347-020-00403-w
Sonar, A., und K. Weber. 2020. KI gestern und heute: Einsichten aus der Frühgeschichte der KI für aktuelle ethische Überlegungen zum Einsatz von KI in der Medizin. Arbeit, 29(2): 105–122. https://doi.org/10.1515/arbeit-2020-0009
Suedekum, J. 2018. Digitalisierung und die Zukunft der Arbeit: Was ist am Arbeitsmarkt passiert und wie soll die Wirtschaftspolitik reagieren. IZA Standpunkte 90. Institut zur Zukunft der Arbeit. https://ideas.repec.org/p/iza/izasps/sp90.html
Ulnicane, I., W. Knight, T. Leach, B. C. Stahl, und W.-G. Wanjiku. 2021. Framing governance for a contested emerging technology: Insights from AI policy. Policy and Society, 40(2): 158–177. https://doi.org/10.1080/14494035.2020.1855800
Wang, W., und K. Siau. 2019. Artificial intelligence, machine learning, automation, robotics, future of work and future of humanity: A review and research agenda. Journal of Database Management 30(1): 61–79. https://doi.org/10.4018/JDM.2019010104
Weber, K. 2018. Computers as omnipotent instruments of power. The ORBIT Journal 2(1): 1–19. https://doi.org/10.29297/orbit.v2i1.97
Weber, Karsten. 2021. Soziale Roboter in der Science-Fiction: Ein Bericht über das Verhältnis von Herr und Knecht mit wechselnden Rollen für Menschen und Roboter. In Soziale Roboter, hrsg. O. Bendel, 539–556. Springer Fachmedien Wiesbaden. https://doi.org/10.1007/978-3-658-31114-8_28
Weber, Karsten. 2022. Das öffentliche Bild der Künstlichen Intelligenz. In Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen, hrsg. A. Sonar, und K. Weber, 207–226. Steiner.
Wong, P.-H. 2020. Cultural differences as excuses? Human rights and cultural values in global ethics and governance of AI. Philosophy und Technology, 33(4): 705–715. https://doi.org/10.1007/s13347-020-00413-8
Yeung, K., A. Howes, und G. Pogrebna. 2020. AI governance by human rights–centered design, deliberation, and oversight: An end to ethics washing. In The Oxford handbook of ethics of AI, hrsg. M. D. Dubber, F. Pasquale, und S. Das, 75–106. Oxford University Press. https://doi.org/10.1093/oxfordhb/9780190067397.013.5
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2024 Der/die Autor(en), exklusiv lizenziert an Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature
About this chapter
Cite this chapter
Weber, K., Kleine, N. (2024). Normierung, Regulierung, Governance: Wie, von wem und mit welchen Mitteln kann der Einsatz Künstlicher Intelligenz gesellschaftlich gestaltet werden?. In: Heinlein, M., Huchler, N. (eds) Künstliche Intelligenz, Mensch und Gesellschaft. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-43521-9_8
Download citation
DOI: https://doi.org/10.1007/978-3-658-43521-9_8
Published:
Publisher Name: Springer VS, Wiesbaden
Print ISBN: 978-3-658-43520-2
Online ISBN: 978-3-658-43521-9
eBook Packages: Social Science and Law (German Language)