Zusammenfassung
Die Digitalisierung hat in den vergangenen Jahrzehnten eine bahnbrechende Revolution in sämtlichen Bereichen der Gesellschaft ausgelöst und die Sozial- und Gesundheitswirtschaft bildet hier keine Ausnahme. Innerhalb der Digitalisierung hat die künstliche Intelligenz (KI bzw. AI /Artificial Intelligence) einen bemerkenswerten Fortschritt erzielt und ist mit Anwendungen wie DeepL, ChatGPT oder Midjourney Bestandteil des Alltags geworden. Die Bedeutung von künstlicher Intelligenz in der Sozial- und Gesundheitswirtschaft kann hierbei nicht unterschätzt werden. Dieses Buchkapitel richtet den Fokus auf den normativen Rahmen der künstlichen Intelligenz. Zunächst wird die Ausganglage beleuchtet und die Frage adressiert: Wo stehen wir heute? Hierbei werden exemplarische einige Use-Cases sowie die Zeitschiene von KI in Europa vorgestellt. Der nächste Abschnitt analysiert die von KI zentral betroffene Rechtsgüter und adressiert die Frag:e Welche Rechtsgüter wollen wir schützen? Hierbei geht es insbesondere um Grundsätze wie ein faires und rechtsstaatliches Verfahren, Datensouveränität sowie Gleichberechtigung bzw. Antidiskriminierung. Schließlich wird das europäische Großprojekt einer KI-Regulierung analysiert. Es geht um die Frage: Welche inhaltliche Ausgestaltung hat der KI-VO-E? Neben Inhalt und Auslegung des Verordnungsentwurfes geht es darum, die aktuelle Kritik an der weltweit ersten Regulierung von KI aufzuzeigen. Hierbei wird versucht einen stetigen Bogen zur Sozial- und Gesundheitswirtschaft zu spannen. Das Fazit und der Ausblick adressieren am Ende die Frage: Wo geht die Reise hin?
„Würdest du mir bitte sagen, wie ich von hier aus am besten weitergehe?“ fragt Alice im Wunderland die orakelnde Cheshire-Katze. Die maunzt: „Das hängt sehr davon ab, wo du hinwillst!“
Lewis Carrol
This is a preview of subscription content, log in via an institution to check access.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Literatur
Ashwin, A. & Zachary, C.A. (2019). Chinese Public AI R&D Spending: Provisional Findings. CSET Issue Brief. https://doi.org/10.51593/20190031.
Attard, L. (2017). Priority dossiers under the Estonian EU Council Presidency, PE 607.253. Brüssel: European Parliamentary Research Service. https://www.consilium.europa.eu/media/56238/2017-jul-dec-ee-priorities-eparliament.pdf. Zugegriffen: 1. August 2023.
Bundesregierung (Hrsg.) (2020). Nationale KI-Strategie. https://www.ki-strategie-deutschland.de/home.html. Zugegriffen: 1.August.2023.
Brussee, V. (2023). Social Credit: The Warring States of China’s Emerging Data Empire. Singapore: Palgrave Macmillan.
Brussee, V. (2022). China’s social credit score – untangling myth from reality. https://merics.org/de/kommentar/chinas-social-credit-score-untangling-myth-reality. Zugegriffen: 1. August 2023.
Bühler, J. (2023). Wortprotokoll der 17. Sitzung Ausschuss für Digitales Deutscher Bundestag (20(23)80). EU-Verordnung zu Künstlicher Intelligenz unter Einbeziehung von Wettbewerbsfähigkeit im Bereich Künstliche Intelligenz und Blockchain-Technologie. https://www.bundestag.de/resource/blob/944198/a14efb8712cf2ad2e3cf98afe204510e/Wortprotokoll-data.pdf. Zugegriffen: 1. August 2023.
Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. New York: Thomson Reuters. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G. Zugegriffen: 1. August 2023.
Dettling, H-U. & Krüger, S. (2019). Erste Schritte im Recht der Künstlichen Intelligenz. Entwurf der „Ethik-Leitlinien für eine vertrauenswürdige KI. Zeitschrift für IT-Recht und Recht der Digitalisierung, 211–217.
Ebers, M. (2021). Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, Recht Digital, 588–597.
Ebers, M., Hoch, V., Rosenkranz, F., Ruschemeier, H. & Steinrötter, B. (2021). Der Entwurf für eine EU-KI-Verordnung: Richtige Richtung mit Optimierungsbedarf. Eine kritische Bewertung durch Mitglieder der Robotics & AI Law Society (RAILS). Recht Digital, 528–537.
Ebert, A., Spieker, I (2021), Der Kommissionsentwurf für eine KI-Verordnung der EU. Die EU als Trendsetter weltweiter KI-Regulierung. Neue Zeitschrift für Verwaltungsrecht, 1188–1193.
Enders, P. (2018). Einsatz künstlicher Intelligenz bei juristischer Entscheidungsfindung. Juristische Ausbildung, 721–735.
Europarat (Hrsg.). (2017). Algorithms and Human Rights. Study on the human rights dimension of automated data processing techniques and possible regulatory implications. DGI(2017)12.
EU-Kommission (Hrsg.). (2023), New legislative framework, https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en. Zugegriffen: 1. August 2023.
EU-Kommission (Hrsg.). (2022). Digital Economy and Society Index (DESI) 2022 Estonia. https://digital-strategy.ec.europa.eu/en/policies/countries-digitisation-performance. Zugegriffen: 1. August 2023.
EU-Kommission (Hrsg.). (2020). Hochrangige Expertengruppe für künstliche Intelligenz. https://digital-strategy.ec.europa.eu/de/policies/expert-group-ai. Zugegriffen: 1. August 2023.
EU-Kommission (Hrsg.). (2019). Ethik-Leitlinien für eine vertrauenswürdige KI. https://op.europa.eu/de/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a. Zugegriffen: 1. August 2023.
EU-Parlament (Hrsg.). (2023). KI-Gesetz: erste Regulierung der künstlichen Intelligenz. https://europaparl.europa.eu. Zugegriffen: 1. August 2023.
EU-Parlament (Hrsg.). (2020). European Parliament resolution of 20 October 2020 on a framework of ethical aspects of artificial intelligence, robotics and related technologies, 2020/2012(INL).
EU2017.EE. (Hrsg.). (2017). Programme of the Estonian Presidency of the Council of the European Union. https://www.consilium.europa.eu/media/56237/2017-jul-dec-ee-programme.pdf. Zugegriffen: am 1. August 2023.
European Union Agency for Fundamental Right (FRA) (Hrsg.). (2022). Bias in Algorithms – Artificial Intelligence and Discrimination. Luxembourg: Publications Office of the European Union.
Friedrich-Naumann-Stiftung (Hrsg.). (2021). X-Road für Deutschland. Lehren aus der estnischen Verwaltungsdigitalisierung. https://shop.freiheit.org/#!/Publikation/1047. Zugegriffen: am 1. August 2023.
Geminn, C. (2021), Die Regulierung Künstlicher Intelligenz. Anmerkungen zum Entwurf eines Artificial Intelligence Act. Zeitschrift für Datenschutz, 354–359.
Glauner, P. (2023). Wortprotokoll der 17. Sitzung Ausschuss für Digitales Deutscher Bundestag (20(23)8). EU-Verordnung zu Künstlicher Intelligenz unter Einbeziehung von Wettbewerbsfähigkeit im Bereich Künstliche Intelligenz und Blockchain-Technologie. https://www.bundestag.de/resource/blob/944198/a14efb8712cf2ad2e3cf98afe204510e/Wortprotokoll-data.pdf. Zugegriffen: 1. August 2023.
Guggenberger, L. (2019). Einsatz künstlicher Intelligenz in der Verwaltung. Neue Zeitschrift für Verwaltungsrecht, 844–858.
Guse, R., Thiebes, S., Hennel, P., Rosenkranz, C & Sunyaev, A. (2022). Datenmarktplätze für Künstliche Intelligenz im Gesundheitswesen: Potenziale, Herausforderungen und Strategien zur Bewältigung. Praxis der Wirtschaftsinformatik, 1527–1544.
Haake, D. (2021). Prognose von Wohnungseinbrüchen mithilfe von Machine-Learning-Algorithmen. Wirtschaft und Statistik, 59–71.
Herberger, M. (2018). „Künstliche Intelligenz“ und Recht – Ein Orientierungsversuch. Neue Juristische Wochenschrift, 2825–2929.
Hussy, W., Schreier, M. & Echterhoff, G. (2009). Forschungsmethoden in Psychologie und Sozialwissenschaften, 2. Aufl. Berlin: Springer.
Kritikos, M. (2019). Artificial Intelligence ante portas: Legal & ethical reflections. European Parliamentary Research Service (EPRS). https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/634427/EPRS_BRI(2019)634427_EN.pdf. Zugegriffen: 1. August 2023.
Kelber, U., & Leipold, N. (2022). Personalisierung durch Profiling, Scoring, Microtargeting und mögliche Folgen für die Demokratie – Funktionsweisen und Risiken aus datenschutzrechtlicher Sicht. In I. Dröhmann, M. Westland & R. Campos (Hrsg.), Demokratie und Öffentlichkeit im 21. Jahrhundert – zur Macht des Digitalen (S. 149–176). Baden-Baden: Nomos.
Krügel, T., Schütze, B., & Stoklas, J. (2018). Legal, ethical and social impact on the use of computational intelligence based systems for land border crossings. 2018 International Joint Conference on Neural Networks (IJCNN). doi:https://doi.org/10.1109/ijcnn.2018.84893.
Liu, Y., Jain, A., Eng, C. et al. (2020). A deep learning system for differential diagnosis of skin diseases. Nature Medicine 26, 900–908. https://doi.org/10.1038/s41591-020-0842-3.
Lorse, J. (2021). Entscheidungsfindung durch künstliche Intelligenz Zukunft der öffentlichen Verwaltung? Neue Zeitschrift für Verwaltungsrecht, 1657–1667.
Meyer-Ladewig, J., Nettesheim, M. & von Raumer, S. (2023). EMRK Europäische Menschenrechtskonvention. Kommentar. 5. Aufl. Baden-Baden: Nomos.
Noyen, O. (2021). Estland als Musterbeispiel für Digitalisierung. https://www.euractiv.de/section/innovation/news/estland-als-vorzeigebeispiel-fuer-die-digitalisierung/. Zugegriffen: 1. August 2023.
OECD (Hrsg.). (2019). Scoping the OECD AI Principles. Deliberations of the Expert Group on Artificial Intelligence at the OECD (AIGO). OECD Digital Economy papers No. 291. https://doi.org/10.1787/20716826.
O’Shea, J., Crockett, K., Khan, W., Kindynis, P., Antoniades A., & Boultadakis, G. (2018). Intelligent Deception Detection through Machine Based Interviewing. 2018 International Joint Conference on Neural Networks (IJCNN). doi.org/https://doi.org/10.1109/IJCNN.2018.8489392
Pschyrembel Online (Hrsg.). (2023). Diabetische Retinopathie. https://www.pschyrembel.de/Diabetische%20Retinopathie/K0JSL/doc/. Zugegriffen: 1. August 2023.
Renda, A. & Engler, A. (2023). What`s in a name? Getting the definition of Artificial Intelligence right in the EU’s AI Act. https://cdn.ceps.eu/wp-content/uploads/2023/02/CEPS-Explainer-2023-02_Definition-of-AI-right-in-the-EUs-AI-Act.pdf. Zugegriffen: 1. August 2023.
Rotter, B. (2023a). Richter fällt Urteil nach Befragung von ChatGPT. T3n news vom 3.2.2023. https://t3n.de/news/richter-urteil-chatgpt-ki-1532217/. Zugegriffen: 1. August 2023.
Rotter, B. (2023b). Künstliche Intelligenz soll erstmals Angeklagten vor Gericht vertreten. T3n news vom 14.1.2023. https://t3n.de/news/kuenstliche-intelligenz-ki-gericht-ageklagter-anwalt-1526223/. Zugegriffen: 1. August 2023.
Sandvig, C., Hamilton, K., Karahalios, K. & Langbort, C. (2016). When the Algorithm Itself Is a Racist: Diagnosing Ethical Harm in the Basic Components of Software. International Journal of Communication,10, 4972–4990.
Schreitmüller, Z. (2023), Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO. Baden-Baden: Nomos.
Schwartz, R., Vassilev, A., Greene, K., Perin, L., Burt, A. & Hall, P. (2022). NIST Special Publication 1270 Towards a Standard for Identifying and Managing Bias in Artificial Intelligence. https://doi.org/10.6028/NIST.SP.1270.
Sickert, T. (2016). Künstliche Intelligenz. Vom Hipster-Mädchen zum Hitler-Bot. Hamburg: Spiegel Online. https://www.spiegel.de/netzwelt/web/microsoft-twitter-bot-tay-vom-hipstermaedchen-zum-hitlerbot-a-1084038.html. Zugegriffen: 1. August 2023.
Statistisches Bundesamt (Hrsg.). (2016). Ältere Menschen in Deutschland und der EU.
Sträter, B. (2020), Europäische Regulierung des Medizinprodukterechts, Neue Zeitschrift für Sozialrecht, 530–534.
Valta, M., & Vasel, J. (2021). Kommissionsvorschlag für eine Verordnung über Künstliche Intelligenz. Mit viel Bürokratie und wenig Risiko zum KI-Standort? Zeitschrift für Rechtspolitik, 142–145.
Windoffer, A. (2022). Öffentlich-rechtliche Regulierung des Einsatzes künstlicher Intelligenz. Gewerbearchiv, 131–134.
Wodecki, B. (2022). IDC: China set to more than double AI spending by 2026. AI Business. https://aibusiness.com/verticals/idc-china-set-to-more-than-double-ai-spending-by-2026. Zugegriffen: 1. August 2023.
Yin, R. K. (2009). Case study research. Design and methods. 4. Aufl. Thousand Oaks: Sage.
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2024 Der/die Autor(en), exklusiv lizenziert an Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature
About this chapter
Cite this chapter
Grinblat, R. (2024). Digitalisierung in der Sozial- und Gesundheitswirtschaft. Zum normativen Rahmen der künstlichen Intelligenz. In: Kolhoff, L. (eds) Aktuelle Diskurse in der Sozialwirtschaft V. Perspektiven Sozialwirtschaft und Sozialmanagement. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-43290-4_10
Download citation
DOI: https://doi.org/10.1007/978-3-658-43290-4_10
Published:
Publisher Name: Springer VS, Wiesbaden
Print ISBN: 978-3-658-43289-8
Online ISBN: 978-3-658-43290-4
eBook Packages: Social Science and Law (German Language)