Zusammenfassung
Die Covid-19-Pandemie und die damit einhergehenden Mobilitäts-Begrenzungen, Kontaktverbote, Handy Überwachungs- Apps sowie weitere Strategien zur Eindämmung von Infektionsketten hat im letzten Jahr zu einem eindeutigen Anstieg der Nutzung digitaler Anwendungen im öffentlichen und privaten Gesundheitswesen geführt. Verbesserte Daten-Analysen in der Forschung, Entwicklung und Prüfung von neuen Therapien, sowie das wachsende Potential der Künstlichen Intelligenz für im Eilverfahren entwickelte diagnostische Methoden und Impfstoffkandidaten, resultierte ebenfalls in einer gestiegenen Nachfrage und Anwendung von digitalen Hilfsmitteln unter Ärzten, Patienten, Krankenhäusern, Forschern und Unternehmen. Der Einsatz dieser technischen Innovationen wurde jedoch sowohl von sozioökonomischen und politischen Diskussionen also auch von regen ethischen und rechtlichen Debatten begleitet. Themen wie Datenschutz, Cybersicherheit, Einwilligung, Transparenz, Diskriminierung, Eigentum und eine gerechte Verteilung und Zugang zu den digitalen Möglichkeiten spielen hierbei eine wichtige Rolle. Dieses Kapitel erörtert zentrale ethische und rechtliche Fragestellungen anhand von konkreten Fallbeispielen und liefert eine eingehende Diskussion von ausgewählten Fragestellungen, die nicht nur ethische und rechtliche Problembereiche und Risiken verdeutlicht, sondern auch Lösungsoptionen aufzeigt.
Die Forschung für diesen Beitrag wurde von einer Novo Nordisk-Stiftung für ein wissenschaftlich unabhängiges Forschungsprogramm im biomedizinischen Innovationsrecht (NNF17SA0027784) unterstützt. Ein besonderer Dank geht an die studentische Hilfskraft Verda Sigura für ihre Unterstützung bei der Organisation der Literaturliste. Die Forschung von Timo Minssen wurde auch von der Initiative der Wallenberg-Stiftung für humanistische und sozialwissenschaftliche Forschung in KI und autonomen Systemen (WASP-HS) unterstützt.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Literatur
Abdul A, Vermeulen J, Wang D, Lim BY, Kankanhalli M (2018) Trends and trajectories for explainable, accountable and intelligible systems: an HCI research agenda. Proc 2018 CHI Conf Hum Factors Comput Syst 582. https://doi.org/10.1145/3173574.3174156
Alexy L, Fisahn A, Hähnchen S, Mushoff T, Trepte U (2019) Das Rechtslexikon. Begriffe, Grundlagen, Zusammenhänge, 1. Aufl. Verlag J.H.W. Dietz Nachf., Bonn. Lizenzausgabe: Bundeszentrale für politische Bildung. https://www.bpb.de/nachschlagen/lexika/recht-a-z/324124/subjektives-recht. Zugegriffen am 10.03.2021
Arshadi AK, Webb J, Salem M et al (2020) Artificial Intelligence for COVID-19 Drug Discovery and Vaccine Development. Front Artif Intelligence 3:65
Atik J, Jeutner V (2019) Quantum computing and algorithmic law. Los Angeles Leg Stud Res Pap 38. https://doi.org/10.2139/ssrn.3490930
Babic B, Gerke S, Evgeniou T, Cohen IG (2019) Algorithms on regulatory lockdown in medicine: prioritize risk monitoring to address the „update problem“. Science 366(6470):1202–1204. https://doi.org/10.1126/science.aay9547
Babic B, Cohen IG, Evgeniou T, Gerke S (2021) When machine learning goes off the rails. Harv Bus Rev. https://hbr.org/2021/01/when-machine-learning-goes-off-the-rails. Zugegriffen am 08.02.2021
Banavar G (2016) What it will take for us to trust AI. https://hbr.org/2016/11/what-it-will-take-for-us-to-trust-ai. Zugegriffen am 10.02.2021
Beauchamp TL, Childress JF (2012) Principles of biomedical ethics, 7. Aufl. University Press, Oxford
Bender A, Cortés-Ciriano I (2020) Artificial intelligence in drug discovery: what is realistic, what are illusions? Part 1: ways to make an impact, and why we are not there yet. Drug Discov Today 26(2):511–524. https://doi.org/10.1016/j.drudis.2020.12.009
Bender EM, Friedman B (2018) Data statements for natural language processing: toward mitigating system bias and enabling better science. Trans Assoc Comput Linguist 6:587–604. https://doi.org/10.1162/tacl_a_00041
Bischoff P (2020) Which countries have the worst (and best) cybersecurity? https://www.comparitech.com/blog/vpn-privacy/cybersecurity-by-country/ Zugegriffen am 19.02.2021
Borgesius FZ (2018) Discrimination, artificial intelligence and algorithmic decision-making. https://rm.coe.int/discrimination-artificial-intelligence-and-algorithmic-decision-making/1680925d73. Zugegriffen am 19.02.2021
Bradford L, Aboy M, Liddell K (2021) Standard contractual clauses for cross-border transfers of health data after Schrems II, J Law Biosci 8(1):lsab007. https://doi.org/10.1093/jlb/lsab007
Briscoe F et al (2020) Evolving public views on the value of one’s DNA and expectations for genomic database governance: results from a national survey. PLOS ONE 15(3):e0229044. https://doi.org/10.1371/journal.pone.0229044
Budd J, Miller BS, Manning EM et al (2020) Digital technologies in the public-health response to COVID-19. Nat Med 26:1183–1192. https://doi.org/10.1038/s41591-020-1011-4
Bundeszentrale für Politische Bildung (BPB) mit Verweis auf: Duden Recht A-Z (2020) Fachlexikon für Studium, Ausbildung und Beruf, 3. Aufl. Bibliographisches Institut 2015, Berlin. Lizenzausgabe Bonn: Bundeszentrale für politische Bildung. https://www.bpb.de/nachschlagen/lexika/recht-a-z/22748/recht. Zugegriffen am 10.11.2020
Carroll MW (2015) Sharing research data and intellectual property law: a primer. PLoS Biol 13(8):e1002235. https://doi.org/10.1371/journal.pbio.1002235
Choong YYC, Tan HW, Patel DC et al (2020) The global rise of 3D printing during the COVID-19 pandemic. Nat Rev Mater 5:637–639. https://doi.org/10.1038/s41578-020-00234-3
Cohen GI (2018) Is there a duty to share healthcare data? In: Cohen GI et al (Hrsg) Big data, health law, and bioethics, 1. Aufl. University Press, Cambridge, S 209–222. https://doi.org/10.1017/9781108147972.020
Cohen GI, Evgeniou T, Gerke S, Minssen T (2020a) The European artificial intelligence strategy: implications and challenges for digital health. Lancet Digital Health 2(7):e376–e379. https://doi.org/10.1016/S2589-7500(20)30112-6
Cohen GI, Gostin LO, Weitzner DJ (2020b) Digital smartphone tracking for COVID-19: public health and civil liberties in tension. JAMA 323(23):2371–2372. https://doi.org/10.1001/jama.2020.8570
Commission Nationale Informatique & Libertés (2020) National Council of Free Software vs. Ministry of Solidarities and Health Conseil d’Etat Section du Contentieux Ref. L. 521-2 CJA
Corrales Compagnucci M, Minssen T, Seitz C, Aboy M (2020) Lost on the high seas without a safe harbor or a shield? Navigating cross-border transfers in the pharmaceutical sector after schrems II invalidation of the EU-US privacy shield. Eur Pharm Law Rev (EPLR) 4(3):153–160. https://doi.org/10.21552/eplr/2020/3/5
Cossins D (2018) Discriminating algorithms: 5 times AI showed prejudice. In: New Scientist. https://www.newscientist.com/article/2166207-discriminating-algorithms-5-times-ai-showed-prejudice/. Zugegriffen am 10.02.2021
Currie G, Hawk KE, Rohren EM (2020) Ethical principles for the application of artificial intelligence (AI) in nuclear medicine. Eur J Nucl Med Mol Imaging 47:748–752. https://doi.org/10.1007/s00259-020-04678-1
Danish Medicines Agency (2020) Home-based clinical trials will be possible in the future. https://laegemiddelstyrelsen.dk/en/news/2021/home-based-clinical-trials-will-be-possible-in-the-future/#. Zugegriffen am 10.01.2021
Deutscher Anwaltsverein (DAV) (2020) Verbesserungsvorschläge aus zivilrechtlicher Sicht zum Gesetz zur Abmilderung der Folgen der COVID-19-Pandemie im Zivil-, Insolvenz- und Strafverfahrensrecht – BGBl Teil I 2020 Nr. 14, 27.03.2020, S. 569 – Stellungnahme Nr.: 28/2020 Berlin. https://anwaltverein.de/de/newsroom/sn-28-20. Zugegriffen am 19.02.2021
Deutsches Grundgesetz (GG) (Grundgesetz für die Bundesrepublik Deutschland) vom 23. Mai 1949 (BGBl. S. 1), zuletzt geändert durch Artikel 1 und 2 Satz 2 des Gesetzes vom 29. September 2020 (BGBl. I S. 2048)
Doshi-Velez F, Kortz M (2017) Accountability of AI under the law: the role of explanation. Berkman Klein Center Working Group on Explanation and the Law, Berkman Klein Center for Internet & Society working paper. http://nrs.harvard.edu/urn-3:HUL.InstRepos:34372584. Zugegriffen am 27.02.2021
Druedahl LC, Lebret A, Minssen T (2020) ELSI implications of prioritizing biological therapies in times of COVID-19. J Law Med Ethics 48(3):579–582. https://doi.org/10.1177/1073110520958884
Dubsky D (2020) Angreifer setzen auf Corona und Covid-19 – Interpol warnt vor alarmierender Zunahme von Cyberattacken. https://www.funkschau.de/sicherheit-datenschutz/interpol-warnt-vor-alarmierender-zunahme-von-cyberattacken.178821.html. Zugegriffen am 25.02.2021
EDSA, Europäischer Datenschutzausschuss (2020a) Leitlinien 04/2020 für die Verwendung von Standortdaten und Tools zur Kontaktnachverfolgung im Zusammenhang mit dem Ausbruch von COVID-19. https://edpb.europa.eu/sites/edpb/files/files/file1/edpb_guidelines_20200420_contact_tracing_covid_with_annex_de_0.pdf. Zugegriffen am 15.03.2021
EDSA, Europäischer Datenschutzausschuss (2020b) Statement by the EDPB Chair on the processing of personal data in the context of the COVID-19 outbreak. https://edpb.europa.eu/news/news/2020/statement-edpb-chair-processing-personal-data-context-covid-19-outbreak_de. Zugegriffen am 10.02.2021
EOSC-COVID (2020) COVID-19 highlights the need for EOSC. https://www.eosc-portal.eu/news/covid-19-highlights-need-eosc. Zugegriffen am 28.02.2021
EOSC-DATA (2020) Thousands collaborate over new COVID-19 Data Portal. https://www.eosc-portal.eu/news/thousands-collaborate-over-new-covid-19-data-portal. Zugegriffen am 10.02.2021
EU-Grundrechtecharta (Charter der Grundrecht der Europäischen Union (GRCh)) (2012) OJ C 326, 26.10.2012, S 391–407. http://data.europa.eu/eli/treaty/char_2012/oj. Zugegriffen am 28.02.2021
Europäische Kommission (2020a) The EU’s cybersecurity strategy for the digital decade. https://ec.europa.eu/digital-single-market/en/news/eus-cybersecurity-strategy-digital-decade. Zugegriffen am 28.02.2021
Europäische Kommission (2020b) Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES über Maßnahmen für ein hohes gemeinsames Cybersicherheitsniveau in der Union und zur Aufhebung der Richtlinie (EU) 2016/1148. https://ec.europa.eu/transparency/regdoc/rep/1/2020/DE/COM-2020-823-F1-DE-MAIN-PART-1.PDF. Zugegriffen am 28.02.2021
Europäische Kommission (2020c) Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung. https://ec.europa.eu/info/sites/info/files/report-safety-liability-artificial-intelligence-feb2020_de.pdf. Zugegriffen am 06.03.2021
Europäische Kommission (2020d) Coronavirus: an EU approach for efficient contact tracing apps to support gradual lifting of confinement measures. https://ec.europa.eu/commission/presscorner/detail/en/ip_20_670. Zugegriffen am 10.02.2021
Europäische Kommission (2020e) Commission and Germany’s Presidency of the Council of the EU underline importance of the European Health Data Space. https://ec.europa.eu/commission/presscorner/detail/en/IP_20_2049. Zugegriffen am 10.11.2020
Europäische Kommission (2020f) On artificial intelligence – a European approach to excellence and trust. https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf. Zugegriffen am 10.02.2021
Europäische Menschenrechtskonvention (1950) Konvention zum Schutze der Menschenrechte und Grundfreiheiten, zuletzt geändert durch Protokoll Nr. 14 vom 13.5.2004 m. w. N. 01.06.2010
Europäisches Parlament (2020) Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz – Entschließung des Europäischen Parlaments vom 20. Oktober 2020 mit Empfehlungen an die Kommission für eine Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz (2020/2014(INL)). https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_DE.pdf. Zugegriffen am 07.03.2021
European Medicines Agency (2019) Role of big data for evaluation and supervision of medicines in the EU. https://www.ema.europa.eu/en/news/role-big-data-evaluation-supervision-medicines-eu. Zugegriffen am 10.02.2021
Federle A, Benoit VA (2020) Data access claims under competition law and data privacy requirements. https://www.twobirds.com/en/news/articles/2020/global/data-access-claims-under-competition-law-and-data-privacy-requirements. Zugegriffen am 10.02.2021
Fefegha A (2018) Racial bias and gender bias examples in AI systems. Comuzi J. https://medium.com/thoughts-and-reflections/racial-bias-and-gender-bias-examples-in-ai-systems-7211e4c166a1. Zugegriffen am 15.03.2021
Felzmann H, Villaronga EF, Lutz C, Tamò-Larrieux A (2019) Transparency you can trust: transparency requirements for artificial intelligence between legal norms and contextual concerns. Big Data Soc. https://doi.org/10.1177/2053951719860542
Gerards J, Xenidis R (2020). Algorithmic discrimination in Europe: Challenges and opportunities for gender equality and non-discrimination law. Publications Office of the European Union. https://op.europa.eu/en/publication-detail/-/publication/082f1dbc-821d-11eb-9ac9-01aa75ed71a1/language-en#. Zugegriffen am 10.06.2021
Gerichtshof der Europäischen Union (2017) Urteil des Gerichtshofs (Vierte Kammer) vom 7. Dezember 2017, Rechtssache C-329/16, Syndicat national de l’industrie des technologies médicales (Snitem) und Philips France gegen Premier ministre und Ministre des Affaires sociales et de la Santé, Vorabentscheidungsersuchen des Conseil d’État (Frankreich), GRUR 2018, 333
Gerke S, Minssen T, Yu H, Cohen IG (2019) Ethical and legal issues of ingestible electronic sensors. Nat Electron 2:329–334. https://doi.org/10.1038/s41928-019-0290-6
Gerke S, Shachar C, Chai PR, Cohen IG (2020a) Regulatory, safety, and privacy concerns of home monitoring technologies during COVID-19. Nat Med 26:1176–1182. https://doi.org/10.1038/s41591-020-0994-1
Gerke S, Yeung S, Cohen IG (2020b) Ethical and legal aspects of ambient intelligence in hospitals. JAMA 323(7):601–602. https://doi.org/10.1001/jama.2019.2169
Gerke S, Minssen T, Cohen IG (2020c) Ethical and legal challenges of artificial intelligence-driven healthcare. In Artificial Intelligence in Healthcare 295–336 (Adam Bohr & Kaveh Memarzadeh eds., Elsevier 2020).
Gerke S, Stern AD, Minssen T (2020d) Germany’s digital health reforms in the COVID-19 era: lessons and opportunities for other countries. npj Digital Medicine 3:94. https://doi.org/10.1038/s41746-020-0306-7
Gerke S, Babic B, Evgeniou T, Cohen IG (2020e) The need for a system view to regulate artificial intelligence/machine learning-based software as medical device. npj Dig Med 3:53. https://doi.org/10.1038/s41746-020-0262-2
Gesetz für ein Zukunftsprogramm Krankenhäuser (Krankenhauszukunftsgesetz – KHZG) (2020) Bundesgesetzblatt Jahrgang. Teil I Nr. 48, ausgegeben am 28.10.2020, Seite 2208. https://www.bgbl.de/xaver/bgbl/start.xav#__bgbl__%2F%2F*%5B%40attr_id%3D%27bgbl120s2208.pdf%27%5D__1605180568792. Zugegriffen am 10.02.2021
Gesetz für eine bessere Versorgung durch Digitalisierung und Innovation (Digitale-Versorgung-Gesetz – DVG) (2019) Bundesgesetzblatt Jahrgang. Teil I Nr. 49, ausgegeben am 18.12.2019, Seite 2562. https://www.bgbl.de/xaver/bgbl/start.xav#__bgbl__%2F%2F*%5B%40attr_id%3D%27bgbl119s2562.pdf%27%5D__1605180084567. Zugegriffen am 10.02.2021
Gesetz zur Änderung des Gesetzes gegen Wettbewerbsbeschränkungen für ein fokussiertes, proaktives und digitales Wettbewerbsrecht 4.0 und anderer wettbewerbsrechtlicher Bestimmungen („GWB-Digitalisierungsgesetz“). Bundesgesetzblatt Teil I Nr. 1 vom 18.01.2021. https://www.bgbl.de/xaver/bgbl/start.xav#__bgbl__%2F%2F*%5B%40attr_id%3D%27bgbl121s0002.pdf%27%5D__1614601536463. Zugegriffen am 10.02.2021
Gillon R (2003) Ethics needs principles – four can encompass the rest – and respect for autonomy should be „first among equals.“ J Med Ethics 29(5):307–312. http://dx.doi.org/10.1136/jme.29.5.307
Goodman B, Flaxman S (2016) European Union regulations on algorithmic decision-making and a „right to explanation“. https://arxiv.org/abs/1606.08813. Zugegriffen am 20.02.2021
Google (2021) Exposure notifications: Using technology to help public health authorities fight COVID-19. https://www.google.com/covid19/exposurenotifications/. Zugegriffen am 10.02.2021
Graber-Soudry O, Minssen T, Nilsson D, Corrales M, Wested J, Illien B (2020) Legal interoperability and the FAIR data principles (Version 1.0). Zenodo. https://doi.org/10.5281/zenodo.4471312
Guizzo E, Klett R (2020) How robots became essential workers in the COVID-19 response. https://spectrum.ieee.org/robotics/medical-robots/how-robots-became-essential-workers-in-the-covid19-response. Zugegriffen am 10.02.2021
Gunnarsdóttir H, Cohen IG, Minssen T, Gerke S (2021) The ethics and laws of medical big data. Bevorstehende Publikation. In: Marcello I et al (Hrsg) Cambridge handbook of information technology, life sciences and human rights. https://ssrn.com/abstract=3795470. Zugegriffen am 09.03.2021
Gunnarsdóttir HD, Sinha MS, Gerke S, Minssen T (2020) Applying the proportionality principle to COVID-19 antibody testing. J Law Biosci 7(1):lsaa058. https://doi.org/10.1093/jlb/lsaa058
Hacker P, Krestel R, Grundmann S, Naumann F (2020) Explainable AI under contract and tort law: legal incentives and technical challenges. Artif Intel Law 28:415–439. https://doi.org/10.1007/s10506-020-09260-6
High Level Expert Group on AI (HEG-AI), European Commission (2019) Ethics guidelines for trustworthy AI. https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai. Zugegriffen am 10.02.2021
Holzer S, Reinle M (2018) EuGH: wann gilt eine Software als Medizinprodukt? https://www.mll-news.com/eugh-wann-gilt-eine-software-als-medizinprodukt/. Zugegriffen am 08.03.2021
Hummel P, Braun M, Dabrock P (2020) Own data? Ethical reflections on data ownership. Philos Technol. https://doi.org/10.1007/s13347-020-00404-9
Hurtz S (2020) „Die Corona-App fängt an zu wirken, sobald 15 Prozent mitmachen“. Interview mit Lucie Abeler-Dörner. https://www.sueddeutsche.de/digital/corona-app-oxford-studie-coronavirus-1.4937209. Zugegriffen am 10.02.2021
International Covenant on Economic, Social and Cultural Rights (ICESCR) (UN) (1976) Adopted and opened for signature, ratification and accession by General Assembly resolution 2200A (XXI) of 16 December 1966 entry into force 3 January 1976, in accordance with article 27. https://www.ohchr.org/EN/ProfessionalInterest/Pages/CESCR.aspx. Zugegriffen am 15.03.2021
idigiT, Institute for Digital Transformation in Healthcare (2020) Digital ethics: Corona-Warn-App. https://www.transforming-healthcare.com/wp-content/uploads/2020/09/idigiT-2020-Digital-Ethics-Quick-Check-Corona-Warn-App.pdf. Zugegriffen am 03.03.2021
Jellinek G (1878) Die sozialethische Bedeutung von Recht, Unrecht und Strafe. Alfred Hölder, Wien
Jiménez LJ, Grisoni F, Schneider G (2020) Drug discovery with explainable artificial intelligence. Nat Mach Intell 2:573–584. https://doi.org/10.1038/s42256-020-00236-4
Jo ES, Gebru T (2020) Lessons from archives: strategies for collecting sociocultural data in machine learning. In: FAT* ’20: Proceedings of the 2020 conference on fairness, accountability, and transparency, S 306–316. https://doi.org/10.1145/3351095.3372829
Hughes J (2006) Copyright and incomplete historiographies: of piracy, propertization, and Thomas Jefferson. South Calif Law Rev 79(5):993–1084
Kakkar A, Chauhan VPS & Verma R (2020) COVID-19 and competition law concerns. https://competition.cyrilamarchandblogs.com/2020/03/covid-19-and-competition-law-concerns/. Zugegriffen am 10.02.2021
Kaplan AD, Johnson H (2020) Shifting liability: AI in medical devices. https://www.crowell.com/NewsEvents/AlertsNewsletters/all/Shifting-Liability-AI-in-Medical-Devices. Zugegriffen am 16.02.2021
Katznelson G, Gerke S (2021) The need for health AI ethics in medical school education. Adv Health Sci Educ. https://doi.org/10.1007/s10459-021-10040-3
Kaye D (2018) UN report on the implications of artificial intelligence (AI) technologies for human rights. https://freedex.org/wp-content/blogs.dir/2015/files/2018/10/AI-and-FOE-GA.pdf. Zugegriffen am 10.03.2021
Këllezi P (2019) Data protection and competition law: non-compliance as abuse of dominant position. sui-generis:343. https://doi.org/10.21257/sg.114
Kianzad B (2021) Excessive pricing during the COVID-19 crisis in the EU: an empirical inquiry, February, Concurrences N° 1-2021, Art. N° 98670, S 250–259
Klunzinger E (1993) Rechtsordnung. In: BGB: Grundlagen. Gabler-Studientexte. Gabler Verlag, Wiesbaden. https://doi.org/10.1007/978-3-663-13732-0_1
Knawy BA, Adil M, Crooks G et al. (2020) The Riyadh declaration: the role of digital health in fighting pandemics. Lancet 396(10262):P1537–1539. https://doi.org/10.1016/S0140-6736(20)31978-4
Larsson S (2021) AI in the EU: ethical guidelines as a governance tool. In: Bakardjieva Engelbrekt A, Leijon K, Michalski A, Oxelheim L (Hrsg) The European Union and the technology shift. Palgrave Macmillan/Springer Nature Switzerland AG, Cham, S 85–111
Lebret A, Minssen T (2021) Digital health, artificial intelligence and accessibility to health care in Denmark. Eur Hum Rights Law Rev 1:39–49
Lemley MA, Weiser PJ (2007) Should property or liability rules govern information. Texas Law Rev 85(4):783–842
Lewis D (2020) Why many countries failed at COVID contact-tracing – but some got it right. Nature 588:384–387
Li Y, Shang K, Bian W et al (2020) Prediction of disease progression in patients with COVID-19 by artificial intelligence assisted lesion quantification. Sci Rep 10:22083. https://doi.org/10.1038/s41598-020-79097-1
Loucera C, Esteban-Medina M, Rian K et al (2020) Drug repurposing for COVID-19 using machine learning and mechanistic models of signal transduction circuits related to SARS-CoV-2 infection. Signal Transduct Target Ther 5:290. https://doi.org/10.1038/s41392-020-00417-y
Malgieri G, Comandé G (2017) Why a right to legibility of automated decision-making exists in the general data protection regulation. International Data Privacy Law 7(6):243–265
Merkel A, Frederiksen M, Kaja Kallas K, Marin S (2021) Appell von vier Regierungschefinnen an die EU: „Europa muss seine digitale Souveränität stärken“. Handelsblatt 02.03.2021. https://app.handelsblatt.com/meinung/gastbeitraege/digitalisierung-appell-von-vier-regierungschefinnen-an-die-eu-europa-muss-seine-digitale-souveraenitaet-staerken/26962398.html?ticket=ST-9074674-5C7wueNrsYvF7keg3bvY-ap2. Zugegriffen am 07.03.2021
Meszaros J, Corrales Compagnucci M, Minssen T (2021) The interaction of the medical device regulation and the GDPR – do European rules on privacy and scientific research impair the safety & performance of AI medical devices? 1-11, bevorstehende Publikation. In: Cohen IG, Minssen T, Price WN II, Robertson C, Shachar C (Hrsg) The future of medical device regulation: innovation and protection. University Press, Cambridge
Minssen T (2019) AI in the Health & Life Sciences & the Medicus L(ex) Machina. Setterwalls Life Sciences Report. https://setterwalls.se/aktuellt/artikel/ai-health-life-sciences-medicus-lex-machina. Zugegriffen am 10.02.2021
Minssen T (2020) Cited in: Regulating digital health. Bull World Health Organ 98:235–236. https://doi.org/10.2471/BLT.20.020420. Zugegriffen am 04.03.2021
Minssen T, Pierce J (2018) Big data and intellectual property rights in the health and life sciences. In: Glenn CI, Fernandez Lynch H, Vayena F, Gasser U (Hrsg) Big data, health law, and bioethics. Cambridge University Press, Cambridge, S 311–323
Minssen T, Goldschmieding T, Sandfeld Jakobsen S (2020a) AI, big data & machine learning – 2020a, 2nd edition- Chapter on DENMARK. In: AI, big data & machine learning – 2020, 2. Aufl. Global Legal Insights (GLI), London, S 113–128
Minssen T, Gerke S, Aboy M, Price N, Cohen G (2020b) Regulatory responses to medical machine learning. J Law Biosci:lsaa002. https://doi.org/10.1093/jlb/lsaa002
Minssen T, Seitz C, Aboy M, Corrales Compagnucci M (2020c) The EU-US privacy shield regime for cross-border transfers of personal data under the GDPR. Eur Pharm Law Rev 4(1):34–50. https://doi.org/10.21552/eplr/2020/1/6
Minssen T, Outterson K, Van Katwyk SR, Batista PHD, Chandler C, Ciabuschi F, Harbarth S, Kesselheim A, Laxminarayan R, Liddell K, Osterholm MT, Price LB, Hoffman SJ (2020d) Preparing for antimicrobial resistance in the wake of the COVID-19 pandemic: the vision and „social science“ mission of the INAMRSS network. Harvard Law School’s Bill of Health blog. https://blog.petrieflom.law.harvard.edu/2020/12/11/antimicrobial-resistance-inamrss-network/#more-29568. Zugegriffen am 10.02.2021
Minssen T, Outterson K, Van Katwyk SR, Batista PHD, Chandler C, Ciabuschi F, Harbarth S, Kesselheim A, Laxminarayan R, Liddell K, Osterholm MT, Price L, Hoffman SJ (2020e) Social, cultural and economic aspects of antimicrobial resistance. Bull World Health Organ 98(12):823–824. https://doi.org/10.2471/BLT.20.275875
Minssen T, Mimler M, Mak V (2020f) When does stand-alone software qualify as a medical device in the European Union? – The CJEU’s decision in Snitem and what it implies for the next generation of medical devices. Med Law Rev 28(3):615–624. https://doi.org/10.1093/medlaw/fwaa012. PMID: 32607541
Mirsky Y, Mahler T, Shelef I et al. (2019) CT-GAN: Malicious tampering of 3D medical imagery using deep learning. https://arxiv.org/pdf/1901.03597.pdf. Zugegriffen am 10.05.2019
Mittelstadt B, Allo P, Taddeo M, Wachter S, Floridi L (2016) The ethics of algorithms: mapping the debate. Big Data Soc 3(2). https://doi.org/10.1177/2053951716679679
Monroe C (2020) Quantum computing: how conditions created by the COVID-19 shutdown are delivering ‚the best data we have ever seen‘. Nature 583:10. https://doi.org/10.1038/d41586-020-01937-x
Mori T, Uchihira N (2018) Balancing the trade-off between accuracy and interpretability in software defect prediction. Empir Softw Eng 24:1–47
Oduncu FS (2012) Verteilungsgerechtigkeit, Rationierung und Priorisierung – das Gesundheitswesen im Spannungsfeld zwischen Medizin, Ökonomie, Ethik und Recht. Medizinrecht 30:359–367. https://doi.org/10.1007/s00350-012-3162-x
O’Shea L (2020) Failed COVID-19 tracing apps must be abandoned to restore public trust. https://asia.nikkei.com/Opinion/Failed-COVID-19-tracing-apps-must-be-abandoned-to-restore-public-trust. Zugegriffen am 10.02.2021
Otto C (2020) KI und die geplante EU-Gefährdungshaftung. https://cot.legal/ki-und-die-geplante-eu-gefaehrdungshaftung. Zugegriffen am 02.03.2021
Pearce H (2018) Personality, property and other provocations: Exploring the conceptual muddle of data protection rights under EU law. Eur Data Prot L Rev 4(2): 190–208. https://doi.org/10.21552/edpl/2018/2/8
Preeti PK (2020) AI drug discovery: a key-player in finding cure for COVID-19. https://industrywired.com/ai-drug-discovery-a-key-player-in-finding-cure-for-covid-19/. Zugegriffen am 10.02.2021
Price WN II (2019) Medical AI and contextual bias. Harv J Law Technol 33:66. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3347890
Price WN II, Gerke S, Cohen IG (2019a) Potential liability for physicians using artificial intelligence. JAMA 322:1765–1766. doi:10.1001/jama.2019.15064
Price WN II, Kaminski ME, Minssen T, Spector-Bagdady K (2019b) Shadow health records meet new data privacy laws. Science 363(6426):448–450
Price WN II, Rai AK, Minssen T (2020) Knowledge transfer for large-scale vaccine manufacturing. Science 369(6506):912–914. https://doi.org/10.1126/science.abc9588
Price WN II, Gerke S, Cohen IG (2021) How much can potential jurors tell us about liability for medical artificial intelligence? J Nucl Med. 62(1):15–16. https://doi.org/10.2967/jnumed.120.257196
Price N (2017) Artificial intelligence in health care: applications and legal implications. SciTech Lawyer 14(1):10–13.
Price WN (2015) Black-box medicine. Harv J Law Technol 28:420–467
Purtova N (2015) The illusion of personal data as no one’s property. Law Innov Technol 7(1):83–111. https://doi.org/10.1080/17579961.2015.1052646
Rahman M (2021) Here are the countries using Google and Apple’s COVID-19 contact tracing API. https://www.xda-developers.com/google-apple-covid-19-contact-tracing-exposurenotifications-api-app-list-countries/. Zugegriffen am 10.02.2021
Rajkomar A, Dean J, Kohane I (2019) Machine learning in medicine. N Engl J Med 380:1347–1358. https://doi.org/10.1056/NEJMra1814259
Robert Koch Institut (2021) Kennzahlen zur Corona-Warn-App. https://www.rki.de/DE/Content/InfAZ/N/Neuartiges_Coronavirus/WarnApp/Archiv_Kennzahlen/Kennzahlen_08012021.pdf?__blob=publicationFile. Zugegriffen am 10.02.2021
Rudin C, Ustun B (2018) Optimized scoring systems: toward trust in machine learning for healthcare and criminal justice. Interfaces 48(5):449–466
Sava D (2020) Google Cloud AI and Harvard Global Health Institute Collaborate on new COVID-19 forecasting model. https://cloud.google.com/blog/products/ai-machine-learning/google-cloud-is-releasing-the-covid-19-public-forecasts. Zugegriffen am 10.02.2021
Schweda M, Schreiter FV (2021) The treasure hunt is on … Data access claims after the reform of German competition law. https://www.jdsupra.com/legalnews/the-treasure-hunt-is-on-data-access-1608194/. Zugegriffen am 10.02.2021
Scott C (2000) Why law prevades medicine: an essay on ethics in health care. Notre Dame J Law Ethics Public Policy 14(1):245–303. http://scholarship.law.nd.edu/ndjlepp/vol14/iss1/9
Selbst AD, Powles J (2017) Meaningful information and the right to explanation. Int Data Priv Law 7(4):233–242
Shachar C, Gerke S, Adashi EY (2020) AI surveillance during pandemics: ethical implementation imperatives. Hast Cent Rep 50(3):18–21. https://doi.org/10.1002/hast.1125
Sharkey N (2019) The impact of gender and race bias in AI. Humanit Law Policy. https://blogs.icrc.org/law-and-policy/2018/08/28/impact-gender-race-bias-ai/. Zugegriffen am 10.03.2021
Short E (2020) It turns out Amazon’s AI hiring tool discriminated against women. Silicon Republic. https://www.siliconrepublic.com/careers/amazon-ai-hiring-tool-women-discrimination. Zugegriffen am 10.02.2021
Suchanek A, Lin-Hi N (2018) Revision von Ethik vom 19.02.2018. Gabler Wirtschaftslexikon. https://wirtschaftslexikon.gabler.de/definition/ethik-34332/version-257836. Zugegriffen am 10.02.2021
Szentesi S (2021) COVID-19: competition law implications of the coronavirus crisis. https://ca.practicallaw.thomsonreuters.com/w-024-8054?transitionType=Default&contextData=(sc.Default)&firstPage=true. Zugegriffen am 10.02.2021
Topol EJ (2019) High-performance medicine: the convergence of human and artificial intelligence. Nat Med 25:44–56. https://doi.org/10.1038/s41591-018-0300-7
Vamathevan J, Clark D, Czodrowski P et al (2019) Applications of machine learning in drug discovery and development. Nat Rev Drug Discov 18:463–477. https://doi.org/10.1038/s41573-019-0024-5
Van Dorpe S (2021) Germany shows EU the way in curbing Big Tech. https://www.politico.eu/article/germany-shows-eu-the-way-in-curbing-big-tech/. Zugegriffen am 10.02.2021
Vayena E (2021) Value from health data: European opportunity to catalyse progress in digital health. Lancet 397(10275):652–653. https://doi.org/10.1016/S0140-6736(21)00203-8
Verordnung (EU) 2016/679 (DSGVO) des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung) (Text von Bedeutung für den EWR), OJ L 119, 4.5.2016, S 1–88. http://data.europa.eu/eli/reg/2016/679/oj
Verordnung (EU) 2017/745 des Europäischen Parlaments und des Rates vom 5. April 2017 über Medizinprodukte, zur Änderung der Richtlinie 2001/83/EG, der Verordnung (EG) Nr. 178/2002 und der Verordnung (EG) Nr. 1223/2009 und zur Aufhebung der Richtlinien 90/385/EWG und 93/42/EWG des Rates (Text von Bedeutung für den EWR). http://data.europa.eu/eli/reg/2017/745/oj
Verordnung (EU) 2017/746 des Europäischen Parlaments und des Rates vom 5. April 2017 über In-vitro-Diagnostika und zur Aufhebung der Richtlinie 98/79/EG und des Beschlusses 2010/227/EU der Kommission (Text von Bedeutung für den EWR). https://eur-lex.europa.eu/eli/reg/2017/746/oj
Vorstand der Bundesärztekammer (2020) Digitale Transformation in der Medizin in Pandemiezeiten (Behandlung – Information – Kommunikation – BIK) – Erfahrungen und Perspektiven. https://www.bundesaerztekammer.de/fileadmin/user_upload/downloads/pdf-Ordner/Positionen/2020-05-20_Digitale_Transformation_in_der_Medizin_in_Pandemiezeiten-BIK.pdf. Zugegriffen am 10.02.2021
Wachter S, Mittelstadt B (2019) A right to reasonable inferences: re-thinking data protection law in the age of big data and AI. Columbia Bus Law Rev (2):494–620. https://ssrn.com/abstract=3248829
Wachter S, Mittelstadt B, Floridi L (2017) Why a right to explanation of automated decision-making does not exist in the general data protection regulation. Int Data Privady Law 7(2):76–99
Wachter S, Mittelstadt B, Russell C (2018) Counterfactual explanations without opening the black box: automated decisions and the GDPR. Harv J Law Technol 31(2):842–887
Wachter S, Mittelstadt B, Russell C (2020) Why fairness cannot be automated: bridging the gap between EU non-discrimination law and AI. https://doi.org/10.2139/ssrn.3547922
Wahl B, Cossy-Gantner A, Germann S et al (2018) Artificial intelligence (AI) and global health: how can AI contribute to health in resource-poor settings? BMJ Glob Health 3(4):1–7. https://doi.org/10.1136/bmjgh-2018-000798
Watson AR, Wah R, Thamman R (2020) The value of remote monitoring for the COVID-19 pandemic. Telemed e-Health 26(9):1110–1112. https://doi.org/10.1089/tmj.2020.0134
Whitelaw S, Mamas A, Topol E, Van Spall HGC (2020) Applications of digital technology in COVID-19 pandemic planning and response. Lancet Digital Health 2(8):E435–E440. https://doi.org/10.1016/S2589-7500(20)30142-4
Wieler H (2021) EU-Cybersecurity-Strategien: Europäische Kommission schlägt neue Security-Strategien vor. https://www.infopoint-security.de/europaeische-kommission-schlaegt-neue-security-strategien-vor/a26289/. Zugegriffen am 10.02.2021
Wischmeyer T (2018) Regulierung intelligenter Systeme. Archiv des öffentlichen Rechts 143(1):1–66
Wittbold KA et al (2020) How hospitals are using AI to battle Covid-19. Harvard Business Review. https://hbr.org/2020/04/how-hospitals-are-using-ai-to-battle-covid-19. Zugegriffen am 15.02.2021
World Health Organization (WHO) (2020). COVID-19 technology access pool. https://www.who.int/emergencies/diseases/novel-coronavirus-2019/global-research-on-novel-coronavirus-2019-ncov/covid-19-technology-access-pool. Zugegriffen am 10.02.2021
World Health Organization (WHO) (2021) Smart Vaccination Certificate Working Group. https://www.who.int/groups/smart-vaccination-certificate-working-group. Zugegriffen am 10.02.2021
Wu S (2020) Tracing AI decisions: AI explainability and the GDPR. https://www.airoboticslaw.com/blog/ai-explainability-gdpr. Zugegriffen am 15.02.2021
Yun LT (2020) Regulating digital health. Bull World Health Organ 98:235–236. https://doi.org/10.2471/BLT.20.020420
Zame WR, Bica I, Shen C, Curth A, Lee HS, Bailey S, Weatherall J, Wright D, Bretz F, Schaar MVD (2020) Machine learning for clinical trials in the era of COVID-19. Stat Biopharm Res 12(4):506–517. https://doi.org/10.1080/19466315.2020.1797867
Zuboff S (2021) The coup we are not talking about. The New York Times. https://www.nytimes.com/2021/01/29/opinion/sunday/facebook-surveillance-society-technology.html. Zugegriffen am 10.02.2021
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2021 Der/die Autor(en), exklusiv lizenziert durch Springer-Verlag GmbH, DE, ein Teil von Springer Nature
About this chapter
Cite this chapter
Minssen, T., Gerke, S. (2021). Ethische und rechtliche Herausforderungen digitaler Medizin in Pandemien. In: Reis, A., Schmidhuber, M., Frewer, A. (eds) Pandemien und Ethik. Springer, Berlin, Heidelberg. https://doi.org/10.1007/978-3-662-63530-8_12
Download citation
DOI: https://doi.org/10.1007/978-3-662-63530-8_12
Published:
Publisher Name: Springer, Berlin, Heidelberg
Print ISBN: 978-3-662-63529-2
Online ISBN: 978-3-662-63530-8
eBook Packages: Social Science and Law (German Language)