Advertisement

Artificial Intelligence as a Challenge for Law and Regulation

  • Wolfgang Hoffmann-Riem
Chapter

Abstract

The Introduction begins by providing examples of the fields in which AI is used, along with the varying impact that this has on society. It focuses on the challenges that AI poses when it comes to setting and applying law, particularly in relation to legal rules that seek to preserve the opportunities associated with AI while avoiding or at least minimising the potential risks. The law must aim to ensure good digital governance, both with respect to the development of algorithmic systems generally but also with respect to the use of AI specifically. Particularly formidable are the challenges associated with regulating the use of learning algorithms, such as in the case of machine learning. A great difficulty in this regard is ensuring transparency, accountability, responsibility, and the ability to make revisions, as well as preventing hidden discrimination. The Chapter explores the types of rules and regulations that are available. At the same time, it emphasises that it is not enough to trust that companies that use AI will adhere to ethical principles. Rather, supplementary legal rules are indispensable, including in the areas examined in the Chapter, which are mainly characterised by company self-regulation. The Chapter concludes by stressing the need for transnational agreements and institutions.

References

  1. Bafin (2018) Big Data trifft auf künstliche Intelligenz, Herausforderungen und Implikationen für Aufsicht und Regulierung von Finanzdienstleistungen. www.bafin.de/SharedDocs/Downloads/DE/dl_bdai_studie.html
  2. Baumgartner U, Gausling T (2017) Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen. Zeitschrift für Datenschutz:308–313Google Scholar
  3. Benz A, Dose N (eds) (2010) Governance – Regierung in komplexen Regelsystemen, 2nd edn. VS Verlag für Sozialwissenschaften, WiesbadenGoogle Scholar
  4. Beucher K, Utzerath J (2013) Cybersicherheit – Nationale und internationale Regulierungsinitiativen: Folgen für die IT-Compliance und die Haftungsmaßstäbe. MultiMedia und Recht:362–367Google Scholar
  5. Bishop CM (2008) Pattern recognition and machine learning. Springer-Verlag, BerlinGoogle Scholar
  6. BITKOM (2017) Künstliche Intelligenz verstehen als Automation des Entscheidens. Leitfaden. www.bitkom.org/sites/default/files/file/import/Bitkom-Leitfaden-KI-verstehen-als-Automation-des-Entscheidens-2-Mai-2017.pdf
  7. BITKOM, DIN (ed) (2014) Kompass der IT-Sicherheitsstandards – Auszüge zum Thema Elektronische Identitäten. www.bitkom.org/sites/default/files/file/import/140311-Kompass-der-IT-Sicherheitsstandards.pdf
  8. Boehme-Neßler V (2017) Die Macht der Algorithmen und die Ohnmacht des Rechts. Wie die Digitalisierung das Recht relativiert. Neue Juristische Wochenschrift 70:3031–3037Google Scholar
  9. Bostrom N (2014) Superintelligence. Paths, dangers, strategies. Oxford University Press, OxfordGoogle Scholar
  10. Bozdag A (2013) Bias in algorithmic filtering and personalization. Ethics Inf Technol 15:209–227CrossRefGoogle Scholar
  11. Breidenbach S, Glatz F (eds) (2018) Rechtshandbuch Legal Tech. Beck, MünchenGoogle Scholar
  12. Britz G (2007) Freie Entfaltung durch Selbstdarstellung. Mohr Siebeck, TübingenGoogle Scholar
  13. Buchholtz G (2017) Legal Tech. Chancen und Risiken der digitalen Rechtsanwendung. Juristische Schulung:955–960Google Scholar
  14. Bundesministerium des Innern, für Bau und Heimat/ Bundesministerium der Justiz und für Verbraucherschutz (2018) Leitfragen der Bundesregierung an die Datenethikkommission vom 5. Juni 2018. https://www.bmjv.de/SharedDocs/Downloads/DE/Ministerium/ForschungUndWissenschaft/DEK_Leitfragen.pdf
  15. Bundesnetzagentur (2017) Digitale Transformation in den Netzsektoren. Aktuelle Entwicklungen und regulatorische Herausforderungen. www.bundesnetzagentur.de/SharedDocs/Downloads/DE/Allgemeines/Bundesnetzagentur/Publikationen/Berichte/2017/Digitalisierung.pdf
  16. Bundesregierung (2018) Eckpunkte der Bundesregierung für eine Strategie künstlicher Intelligenz. www.bmbf.de/files/180718%20Eckpunkte_KI-Strategie%20final%20Layout.pdf
  17. Callies C (2006) Schutzpflichten § 44, in: Merten D/ Papier H-J, Handbuch der Grundrechte in Deutschland und Europa, Band II, Auflage, Heidelberg: 963-991. § 44Google Scholar
  18. Castilla A, Elman J (2017) Artificial intelligence and the law. TechCrunch, Bay Area. techcrunch.com/2017/01/28/artificial-intelligence-and-the-law/ Google Scholar
  19. Cath C (2018) Governing artificial intelligence: ethical, legal and technical opportunities and challenges. Philos Trans Royal Soc A 376:20180080.  https://doi.org/10.1098/rsta.2018.0080 CrossRefGoogle Scholar
  20. Chen Y, Cheung ASY (2017) The transparent self under big data profiling: privacy and Chinese Legislation on the Social Credit System. J Comp Law 12:356–378Google Scholar
  21. Cole T (2017) Digitale transformation, 2nd edn. Franz Vahlen, MünchenCrossRefGoogle Scholar
  22. Cornils M (2017) Entterritorialisierung im Kommunikationsrecht. Veröffentlichungen der Vereinigung der Deutschen Staatsrechtslehrer 76:391–437Google Scholar
  23. Creemers R (2018) China’s social credit system: an evolving practice of control. ssrn.com/abstract=3175792 or  https://doi.org/10.2139/ssrn.3175792
  24. Data Ethics Commission (2019) Opinion – executive summary of Oct 23:2019. https://www.bmjv.de/DE/Themen/FokusThemen/Datenethikkommission/Datenethikkommission_EN_node.html Google Scholar
  25. Dai X (2018) Toward a reputation state: the social credit system project of China. ssrn.com/abstract=3193577
  26. Deutsche Telekom (2018) Die neun Leitlinien der Telekom zum Einsatz von künstlicher Intelligenz. www.telekom.com/de/konzern/digitale-verantwortung/details/ki-leitlinien-der-telekom-523904
  27. Djeffal C (2018) Normative Leitlinien für künstliche Intelligenz in Regierung und öffentlicher Verwaltung. In: Kar MR et al (eds) (Un-)Berechenbar? Algorithmen und Automatisierung in Staat und Gesellschaft. Fraunhofer-Institut für Offene Kommunikationssysteme, Berlin, pp 493–515Google Scholar
  28. Dolderer M (2000) Objektive Grundrechtsgehalte. Duncker & Humblot, BerlinCrossRefGoogle Scholar
  29. Ehmann E, Selmayer M (2018) Datenschutz-Grundverordnung, 2nd edn. Beck, MünchenGoogle Scholar
  30. Eidenmüller H (2017) The rise of robots and the law of humans. ZEuP 25:765–777Google Scholar
  31. Eifert M (2001) Regulierte Selbstregulierung und die lernende Verwaltung. Die Verwaltung, Beiheft 4:137–157Google Scholar
  32. Enquête-Kommission (2018) Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale. www.bundestag.de/blob/574748/7c0ecbc8a847bb8019f2045401c1d919/kuenstliche_intelligenz_1-data.pdf
  33. European Commission (2018) Press Release concerning the appointment of a “High-Level Expert Group on Artificial Intelligence” of Dec 17, 2018. ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence
  34. European Group on Ethics in Science and New Technologies (2018) Statement on artificial intelligence, robotics and ‘Autonomous’ systems. ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf
  35. Fischer-Lescano A (2014) Der Kampf um die Internetverfassung: Rechtsfragen des Schutzes globaler Kommunikationsstrukturen von Überwachungsmaßnahmen. JuristenZeitung 69:965–974CrossRefGoogle Scholar
  36. Floridi L (ed) (2015) The Onlife Manifesto. Being human in a hyperconnected World. Springer, ChamGoogle Scholar
  37. Floridi L (2018) Soft Ethics, the governance of the digital and the General Data Protection Regulation. Philos Trans Royal Soc A 376:20180081.  https://doi.org/10.1098/rsta.2018.0081 CrossRefGoogle Scholar
  38. Franzius C (2009) Gewährleistung im Recht: Grundlagen eines europäischen Regelungsmodells öffentlicher Dienstleistungen. Mohr Siebeck, TübingenCrossRefGoogle Scholar
  39. Gasson MN, Koops B-J (2013) Attacking human implants: a new generation of cybercrime. Law Innov Technol 5:248–277CrossRefGoogle Scholar
  40. Goodfellow I et al (2016) Deep Learning. MIT Press, CambridgeGoogle Scholar
  41. Google (2015) The Advisory Council to Google on the right to be forgotten. drive.google.com/file/d/0B1UgZshetMd4cEI3SjlvV0hNbDA/view?pli=1
  42. Google (2018) AI at Google: Our Principles. blog.google/technology/ai/ai-principles/
  43. Harris D et al (eds) (2018) Law of the European Convention on human rights. Oxford University Press, OxfordGoogle Scholar
  44. Hartung M, Bues M-M, Halbleib G (eds) (2018) Legal Tech: die Digitalisierung des Rechtsmarkts. Beck, MünchenGoogle Scholar
  45. Hauser M (2015) Das IT-Grundrecht. Schnittfelder und Auswirkung. Duncker & Humblot, BerlinCrossRefGoogle Scholar
  46. Hawking S (2018) Kurze Antworten auf große Fragen. Klett-Cotta, StuttgartGoogle Scholar
  47. Hildebrandt M (2015) Smart technologies and the End(s) of Law. Novel entanglements of law and technology. Edward Elgar, CheltenhamGoogle Scholar
  48. Hildebrandt M (2017) Saved by design? The case of legal protection by design. Nanoethics 11:307–311CrossRefGoogle Scholar
  49. Himma KW, Tavani HT (eds) (2008) The handbook of information and computer ethics. John Wiley & Sons, HobokenGoogle Scholar
  50. Hoeren T, Niehoff M (2018) KI und Datenschutz – Begründungserfordernisse automatisierter Entscheidungen. Rechtswissenschaft 9:47–66CrossRefGoogle Scholar
  51. Hoffmann-Riem W (2016) Innovation und Recht – Recht und Innovation. Mohr, TübingenCrossRefGoogle Scholar
  52. Hoffmann-Riem W (2017) Verhaltenssteuerung durch Algorithmen – eine Herausforderung für das Recht. Archiv des öffentlichen Rechts 142:1–43CrossRefGoogle Scholar
  53. Hoffmann-Riem W (2018) Rechtliche Rahmenbedingungen für und regulative Herausforderungen durch Big Data. In: Hoffmann-Riem W (ed) Big Data – Regulative Herausforderungen. Nomos, Baden-Baden, pp 11–78CrossRefGoogle Scholar
  54. Jakobs J (2016) Vernetzte Gesellschaft. Vernetzte Bedrohungen. Wie uns die künstliche Intelligenz herausfordert. Cividale, BerlinGoogle Scholar
  55. Just N, Latzer M (2016) Governance by algorithms: reality construction by algorithmic selection on the Internet. Media Cult Soc:1–21Google Scholar
  56. Kaplan J (2016) Artificial intelligence. Oxford University Press, New YorkGoogle Scholar
  57. Knebel SV (2018) Die Drittwirkung der Grundrechte und -freiheiten gegenüber Privaten. Regulierungsmöglichkeiten sozialer Netzwerke. Nomos, Baden-BadenCrossRefGoogle Scholar
  58. Kolany-Raiser B, Heil R, Orwat C, Hoeren T (2018) Big Data und Gesellschaft. Eine multidisziplinäre Annäherung. Springer, WiesbadenCrossRefGoogle Scholar
  59. Körber T (2017) Konzeptionelle Erfassung digitaler Plattformen und adäquate Regulierungsstrategien. Zeitschrift für Urheber- und Medienrecht 61:93–101Google Scholar
  60. Kroll J (2018) The fallacy of inscrutability. Philos Trans Royal Soc A 376:20180084.  https://doi.org/10.1098/rsta.2018.0084 CrossRefGoogle Scholar
  61. Kulwin N (2018) The Internet Apologizes … Even those who designed our digital world are aghast at what they created. A breakdown of what went wrong – from the architects who built it. nymag.com/intelligencer/2018/04/an-apology-for-the-internet-from-the-people-who-built-it.html
  62. Latzer M et al (2016) The economics of algorithmic selection of the internet. In: Bauer JM et al (eds) Handbook on the economics of the internet. Edward Elgar Publishing, Cheltenham, pp 395–425Google Scholar
  63. Leisterer H (2018) Internetsicherheit in Europa. Mohr Siebeck, TübingenGoogle Scholar
  64. Lenzen M (2018) Künstliche Intelligenz. Was sie kann & was uns erwartet. Beck, MünchenCrossRefGoogle Scholar
  65. Leonelli S (2016) Locating ethics in data science: responsibility and accountability in global and distributed knowledge production systems. Philos Trans Royal Soc A 374:20160122.  https://doi.org/10.1098/rsta.2016.0122 CrossRefGoogle Scholar
  66. Leopoldina (2018) Nationale Akademie der Wissenschaften, acatech. In: Union der deutschen Akademien der Wissenschaften (ed) Stellungnahme: Privatheit in Zeiten der Digitalisierung. Köthen, BerlinGoogle Scholar
  67. Luch AD (2011) Das neue “IT_Grundrecht” – Grundbedingung einer “Online-Handlungsfreiheit”. MMR 14:75–79Google Scholar
  68. Marauhn T (2015) Sicherung grund- und menschenrechtlicher Standards gegenüber neuen Gefährdungen durch private und ausländische Akteure. Veröffentlichungen der Vereinigung der Deutschen Staatsrechtslehrer 74:373–400Google Scholar
  69. Marsch N (2018) Das europäische Datenschutzgrundrecht. Grundlagen – Dimensionen –Verflechtungen. Mohr Siebeck, TübingenCrossRefGoogle Scholar
  70. Martini M, Nink D (2017) Wenn Maschinen entscheiden. NVwZ Extra 10(2017):1–14Google Scholar
  71. Misselhorn C (2018) Grundfragen der Maschinenethik. Reclam, DitzingenGoogle Scholar
  72. Müller AC, Guido S (2017) Einführung in Machine Learning mit Python. O’Reilly, HeidelbergGoogle Scholar
  73. Nemitz P (2018) Constitutional democracy and technology in the age of artificial intelligence. Philos Trans Royal Soc A 376:20180089.  https://doi.org/10.1098/rsta.2018.0089 CrossRefGoogle Scholar
  74. NETmundial (2014) NETmundial Multistakeholder Statement. www.alainet.org/images/NETmundial-Multistakeholder-Document.pdf
  75. Otto P, Gräf E (eds) (2018) 3TH1CS. Die Ethik der digitalen Zeit. Bundeszentrale für politische Bildung, BonnGoogle Scholar
  76. Pagallo U (2016) Even angels need the rules. ECAI 285:209–215Google Scholar
  77. Pfliegl R, Seibt C (2017) Die digitale Transformation findet statt. e&i 134:334–339Google Scholar
  78. Pieper F-U (2018) Künstliche Intelligenz: Im Spannungsfeld von Recht und Technik. Zeitschrift zum Innovations- und Technikrecht:9–15Google Scholar
  79. Precht RD (2018) Jäger, Hirten, Kritiker. Eine Utopie für die digitale Gesellschaft, 3rd edn. Goldmann, MünchenGoogle Scholar
  80. Rath M, Krotz F, Karmasin M (2018) Maschinenethik. Normative Grenzen autonomer Systeme. Springer VS, WiesbadenGoogle Scholar
  81. Rolf A (2018) Weltmacht Vereinigte Daten. Die Digitalisierung und Big Data verstehen. Metropolis-Verlag, MarburgGoogle Scholar
  82. Roßnagel A (2003) Handbuch Datenschutzrecht. Beck, MünchenGoogle Scholar
  83. Roßnagel A (2017) Das neue Datenschutzrecht. Beck, MünchenGoogle Scholar
  84. Ruge R (2004) Die Gewährleistungsverantwortung des Staates und der Regulatory State. Duncker & Humblot, BerlinCrossRefGoogle Scholar
  85. Russell S, Norvig P (2012) Künstliche Intelligenz. Ein moderner Ansatz, 3rd edn. Pearson, HallbergmoosGoogle Scholar
  86. Sattler A (2017) Schutz von maschinengenerierten Daten. In: Sassenberg T, Faber T (eds) Rechtshandbuch Industrie 4.0 und Internet of Things. Beck, MünchenGoogle Scholar
  87. Saurwein F et al (2015) Governance of algorithms: options and limitations. info 17(6):35–49CrossRefGoogle Scholar
  88. Scherer M (2016) Regulating artificial intelligence systems: risks, challenges, competencies, and Strategies. Harv J Law Technol 29:354–400Google Scholar
  89. Schliesky U et al (2014) Schutzpflichten und Drittwirkungen im Internet: Das Grundgesetz im digitalen Zeitalter. Nomos, Baden-BadenCrossRefGoogle Scholar
  90. Schmidt J-H (2017) Social media, 2nd edn. Springer SV, WiesbadenGoogle Scholar
  91. Schneider I (2018) Bringing the state back in: big data-based capitalism, disruption, and novel regulatory approaches in Europe. In: Saetnan AR et al (eds) The politics of big data. Routledge, London, pp 129–175Google Scholar
  92. Schulze-Fielitz H (2012) Grundmodi der Aufgabenwahrnehmung. In: Hoffmann-Riem W et al (eds) Grundlagen des Verwaltungsrechts. Col. 1, 2nd edn. Beck, München, § 10Google Scholar
  93. Schuppert GF (2003) The Ensuring State. In: Giddens R (ed) The progressive manifesto. New ideas for the centre-left. Polity Press, Cambridge, p 54 et seqGoogle Scholar
  94. Schuppert GF (2011) Alles Governance oder was? Nomos, Baden-BadenCrossRefGoogle Scholar
  95. Simitis S, Hornung G, Spiecker genannt Döhmann I (eds) (2019) Datenschutzrecht. Nomos, Baden BadenGoogle Scholar
  96. Smith B (2017) The need for a Digital Geneva Convention (posted Feb. 14, 2017). blogs.microsoft.com/on-the-issues/2017/02/14/need-digital-geneva-convention/
  97. Spiecker genannt Döhmann I (2016) Zur Zukunft systemischer Digitalisierung – Erste Gedanken zur Haftungs- und Verantwortungszuschreibung bei informationstechnischen Systemen. CR 32:698–704Google Scholar
  98. Stetter F, Heukrodt-Bauer S (2017) IT-Grundschutzkataloge des BSI — Last oder Mehrwert? Wirtschaftsinformatik & Management 9(4):62–66CrossRefGoogle Scholar
  99. Surden H (2014) Machine learning and law. Washington Law Rev 89:87–114Google Scholar
  100. Tegmark M (2017) Lie 3.0: being a human in the age of artificial intelligence. Knopf, New YorkGoogle Scholar
  101. Tutt A (2017) An FDA for algorithms. Adm Law Rev 69:83–123Google Scholar
  102. Van den Hoven et al (eds) (2015) Handbook of ethics, values, and technological design. Springer Reference, WiesbadenGoogle Scholar
  103. Veale M, Binns R, Edwards L (2018) Algorithms that remember: model inversion attacks and data protection law. Philos Trans Royal Soc A 376:20180083.  https://doi.org/10.1098/rsta.2018.0083 CrossRefGoogle Scholar
  104. Vesting T (2017) Digitale Entgrenzung. In: Lomfeld B (ed) Die Fälle der Gesellschaft. Eine neue Praxis soziologischer Jurisprudenz. Mohr Siebeck, Tübingen, p 81 et seqGoogle Scholar
  105. Voßkuhle A, Wischmeyer T (2017) The “Neue Verwaltungsrechtswissenschaft” Against the Backdrop of Traditional Administrative Law Scholarship in Germany. In: Rose-Ackerman S, Lindseth PL (eds) Comparative administrative law, 2nd edn. Edward Elgar Publishing, Cheltenham, p 85 et seqGoogle Scholar
  106. Wehage J-C (2013) Das Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme und seine Auswirkungen auf das bürgerliche Recht. Universitätsverlag Göttingen, GöttingenCrossRefGoogle Scholar
  107. Welfens JJ et al (2010) Internetwirtschaft 2010. Perspektiven und Auswirkungen. Physica-Verlag, HeidelbergGoogle Scholar
  108. Winfield AFT, Jirotka M (2018) Ethical governance is essential to building trust in robotics and artificial intelligence systems. Philos Trans Royal Soc A 376:2018008085.  https://doi.org/10.1098/rsta.2018.0085 CrossRefGoogle Scholar
  109. Wischmeyer T (2017) Informationssicherheitsrecht. IT-Sicherheitsgesetzgesetz und NIS-Richtlinie als Elemente eines Ordnungsrechts für die Informationsgesellschaft. Die Verwaltung 50:155–188CrossRefGoogle Scholar
  110. Wischmeyer T (2018) Regulierung intelligenter Systeme. Archiv des öffentlichen Rechts 143:1–66CrossRefGoogle Scholar
  111. Wu SS, Goodman M (2013) Neural implants and their legal implications. GPSolo 30:68–69Google Scholar
  112. Yeung K (2008) Towards an understanding of regulating by design. In: Brownsword R, Yeung K (eds) Regulating technologies: legal futures, regulation, frames and technological fixes. Hard Publishing, LondonGoogle Scholar
  113. Yeung K (2017) Algorithmic regulation: a critical interrogation. Regul Gov 12:505–523CrossRefGoogle Scholar

Copyright information

© Springer Nature Switzerland AG 2020

Authors and Affiliations

  • Wolfgang Hoffmann-Riem
    • 1
  1. 1.Bucerius Law SchoolHamburgGermany

Personalised recommendations