Skip to main content
SpringerLink
Log in

A Legal Framework for Autonomous Systems

  • Chapter
  • First Online:
Law and Technology in a Global Digital Society

  • 1433 Accesses

Abstract

Artificial intelligence and autonomous systems are a central technological basis for the global transformation of the economy and society into the so-called “digital society”. This transformation process requires an adaptation of the legal framework for this technology, the scope of which goes far beyond partial amendments in matters of detail, but raises fundamental questions of law. The question of the role of machines in law is relevant in numerous areas of law and calls for new legal concepts.

The following article outlines the current legal discussion on the legal framework for autonomous systems and describes legal challenges of artificial intelligence in the field of civil and commercial law.

This is a preview of subscription content, log in via an institution to check access.

Access this chapter

Log in via an institution
Chapter
USD 29.95
Price excludes VAT (USA)
  • Available as PDF
  • Read on any device
  • Instant download
  • Own it forever
eBook
USD 129.00
Price excludes VAT (USA)
  • Available as EPUB and PDF
  • Read on any device
  • Instant download
  • Own it forever
Softcover Book
USD 169.99
Price excludes VAT (USA)
  • Compact, lightweight edition
  • Dispatched in 3 to 5 business days
  • Free shipping worldwide - see info
Hardcover Book
USD 169.99
Price excludes VAT (USA)
  • Durable hardcover edition
  • Dispatched in 3 to 5 business days
  • Free shipping worldwide - see info

Tax calculation will be finalised at checkout

Purchases are for personal use only

Institutional subscriptions

Notes

  1. 1.

    Oppermann and Stender-Vorwachs (2020) offer an insight into numerous aspects of autonomous driving.

  2. 2.

    See an overview of this topic in Phaneuf (2020), Report from 9 September 2020, available at https://www.businessinsider.com/ai-in-finance?r=DE&IR=T. Accessed 28 August 2021.

  3. 3.

    A prominent example of this is the virtual intelligent agent “Watson” developed by IBM, see the IBM-Blog for a description, available at https://www.ibm.com/cloud/watson-assistant. Accessed 28 August 2021; For analysis of legal questions raised by machines (“Legal Tech”) generally, see Frese (2015), pp. 2091 f.; Galetzka et al. (2021), pp. 20 ff.; Hähnchen et al. (2020), pp. 625 ff.; Kilian (2017), pp. 3048 ff.; Prior (2017), pp. 575 ff.; Römermann and Günther (2019), pp. 551 ff.; J. Wagner (2017b), pp. 898 ff.

  4. 4.

    Household robots (e.g. vacuum cleaners and lawn mowers) are commercially successful with an estimated 30–40% annual increase in the number of robots sold (see the Executive Summary World Robotics 2020 Service Robots https://ifr.org/img/worldrobotics/Executive_Summary_WR_2020_Service_Robots.pdf. Accessed 28 August 2021).

  5. 5.

    When the introduction of autonomous vehicles is complete, the expectation is that there will be a drastic reduction of up to 90% in the number of accidents (according to a prediction by McKinsey, summary available at https://www.mckinsey.com/industries/automotive-and-assembly/our-insights/ten-ways-autonomous-driving-could-redefine-the-automotive-world. Accessed 28 August 2021; Also, similarly for market penetration of 90% Fagnant and Kockelman (2015), pp. 167, 173). For the significance of this situation for the implementation of autonomous vehicles from an ethical and legal perspective, see the report of the German Ethics Commission on Automated and Connected driving, thesis 5 (p. 10) und thesis 18 (p. 13), available at https://www.bmvi.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommission.pdf?__blob=publicationFile. Accessed 28 August 2021.

  6. 6.

    The estimations differ considerably: While Frey/Osborne argue that 47% of all jobs in the USA are under threat from increasing autonomisation (Frey and Osborne (2017), pp. 254, 265), OECD states that 14% of jobs being at high risk of automation (OECD (ed.), OECD Employment Outlook 2019: The Future of Work, available at https://read.oecd-ilibrary.org/employment/oecd-employment-outlook-2019_9ee00155-en#page1. Accessed 28 August 2021).

  7. 7.

    For an overview regarding the overall impact of digitalisation on different industries in general, see Palka (2018).

  8. 8.

    Symbolic the vision that the creation exceeds the creator, cf. e.g. Kuflik (1999), p. 181 (“the creations ‘outperform’ their creators”).

  9. 9.

    See for example the report of the National Transportation Safety Board (NTSB) of 19 November 2019 on the fatal collision between a vehicle controlled by a developmental automated driving system and a pedestrian, available at, https://www.ntsb.gov/investigations/AccidentReports/Reports/HAR1903.pdf. Accessed 28 August 2021.

  10. 10.

    For a court decision regarding the permissibility of the continuous use of a lawn mower, see AG Siegburg, NZM 2016, p. 526, ECLI:DE:AGSU1:2015:0219.118C97.13.00.

  11. 11.

    Effective from 23 March 2016, a new paragraph 5bis was inserted into Art. 8 of the Convention which enables autonomous vehicles to compatible with the provisions of the convention; see Arzt and Ruth-Schumacher (2017), pp. 61 f.; von Bodungen and Hoffmann (2015), pp. 521 ff.; Jänich et al. (2015), p. 318; Lutz (2015), pp.122 ff.; different von Kaler and Wieser (2018), p. 372, who argue that a further amendment to the Convention is necessary to address Level 4 and 5 driving features.

  12. 12.

    “Achtes Gesetz zur Änderung des Straßenverkehrsgesetzes” from 16 June 2017, BGBl. I 2017, pp. 1648 ff.; for the changes see for example Armbrüster (2017), pp. 83 ff.; Balke (2018), pp. 5 ff.; Berndt (2017), pp. 121 ff.; Grünvogel (2017), pp. 973 ff.; König (2017), pp. 123 ff.; Kütük-Markendorf (2017), pp. 349 ff.; Schirmer (2017), pp. 253 ff.; von Kaler and Wieser (2018), pp. 369 ff.

  13. 13.

    Available at https://www.bmvi.de/SharedDocs/DE/Anlage/Gesetze/Gesetze-19/gesetz-aenderung-strassenverkehrsgesetz-pflichtversicherungsgesetz-autonomes-fahren.pdf?__blob=publicationFile. Accessed 28 August 2021.

  14. 14.

    European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL))—A8-0005/2017, available at http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+TA+P8-TA-2017-0051+0+DOC+PDF+V0//DE. Accessed 28 August 2021; on the resolution of the European Parliament see also Günther (2017), p. 651; Keßler (2017), p. 589; Lohmann (2017), p. 168.

  15. 15.

    Communication from the Commission of 6.5.2015, COM (2015) 192 final, available at http://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52015DC0192. Accessed 28 August 2021.

  16. 16.

    Digitising European Industry: Reaping the Full Benefits of a Digital single Market Communication from the Commission of 19.4.2016, COM(2016) 180 final.

  17. 17.

    Communication from the Commission of 10.1.2017, COM (2017) 9 final.

  18. 18.

    Communication from the Commission of 10.5.2017, COM(2017) 228 final.

  19. 19.

    COM(2018) 237 final, at pp. 5 ff.

  20. 20.

    Id. at p. 20.

  21. 21.

    Detailed information on the Group available at https://ec.europa.eu/transparency/expert-groups-register/screen/expert-groups/consult?do=groupDetail.groupDetail&groupID=3591&news=1. Accessed 28 August 2021.

  22. 22.

    Available at https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419. Accessed 28 August 2021.

  23. 23.

    Detailed information on the Group available at https://ec.europa.eu/transparency/expert-groups-register/screen/expert-groups/consult?do=groupDetail.groupDetail&groupID=3592. Accessed 28 August 2021.

  24. 24.

    Report from the Expert Group on Liability and New Technologies—New Technologies Formation, Executive Summary, p. 3 f., available at https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2020/01-09/AI-report_EN.pdf. Accessed 28 August 2021.

  25. 25.

    COM(2020) 65 final.

  26. 26.

    COM (2020) 64 final.

  27. 27.

    European Parliament resolution of 20 October 2020 on a framework of ethical aspects of artificial intelligence, robotics and related technologies, 2020/2012(INL), available at https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_EN.pdf. Accessed 28 August 2021.

  28. 28.

    European Parliament resolution of 20 October 2020 on a civil liability regime for artificial intelligence, 2020/2014(INL), available at https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_EN.pdf. Accessed 28 August 2021.

  29. 29.

    European Parliament resolution of 20 October 2020 on intellectual property rights for the development of artificial intelligence technologies, 2020/2015(INI), available at https://www.europarl.europa.eu/doceo/document/TA-9-2020-0277_EN.pdf. Accessed 28 August 2021.

  30. 30.

    European Parliament Draft Report, Artificial intelligence in criminal law and its use by the police and judicial authorities in criminal matters, 2020/2016(INI), available at https://www.europarl.europa.eu/doceo/document/LIBE-PR-652625_EN.pdf. Accessed 28 August 2021.

  31. 31.

    European Parliament Draft Report, Artificial intelligence in education, culture and the audiovisual sector, 2020/2017(INI), available at http://www.europarl.europa.eu/RegData/seance_pleniere/textes_adoptes/definitif/2021/05-19/0238/P9_TA(2021)0238_EN.pdf. Accessed 28 August 2021.

  32. 32.

    European Parliament Draft Report, Artificial intelligence in education, culture and the audiovisual sector, 2020/2017(INI), p. 8, No. 15, available at http://www.europarl.europa.eu/RegData/seance_pleniere/textes_adoptes/definitif/2021/05-19/0238/P9_TA(2021)0238_EN.pdf. Accessed 28 August 2021.

  33. 33.

    2020/2012(INL), (supra note 27).

  34. 34.

    2020/2014(INL), (supra note 28).

  35. 35.

    COM(2021) 205 final.

  36. 36.

    COM(2021) 205 final, p. 1.

  37. 37.

    COM(2021) 205 final, p. 3 f.

  38. 38.

    COM(2021) 205 final, p. 4.

  39. 39.

    Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts of 21 April 2021, COM(2021) 206 final.

  40. 40.

    The Host Country Agreement with the Netherlands was concluded on 7 October 2017, see the relevant notification on the webpage of UNICRI, available at http://www.unicri.it/news/article/2017-09-07_Establishment_of_the_UNICRI. Accessed 28 August 2021.

  41. 41.

    The impact of the technological revolution on labour markets and income distribution, p. 3, available at https://www.un.org/development/desa/dpad/wp-content/uploads/sites/45/publication/2017_Aug_Frontier-Issues-1.pdf. Accessed 28 August 2021.

  42. 42.

    Available at https://undocs.org/A/C.3/73/L.49/Rev.1. Accessed 28 August 2021.

  43. 43.

    See the Report of the 178th session of the World Forum for Harmonization of Vehicle Regulations, p. 10, No. 27, available at https://unece.org/DAM/trans/doc/2019/wp29/ECE-TRANS-WP.29-1147e.pdf. Accessed 28 August 2021.

  44. 44.

    The Revised Framework document on automated/autonomous vehicles, issued by the United Nations, Economic Commission for Europe (ECE), available at https://unece.org/fileadmin/DAM/trans/doc/2019/wp29/ECE-TRANS-WP29-2019-34-rev.1e.pdf. Accessed 28 August 2021.

  45. 45.

    Cf. the report in Forbes, available at https://www.forbes.com/sites/lanceeliot/2019/09/06/key-insights-about-the-uns-new-framework-for-globalization-of-self-driving-cars/?sh=591a789b799b (Accessed 28 August 2021), and other journals e.g. Intelligent Transport, available at https://www.intelligenttransport.com/transport-news/87152/un-publishes-new-framework-for-autonomous-vehicles-with-safety-at-core. Accessed 28 August 2021.

  46. 46.

    ECE/TRANS/505/Rev.3/Add.156, available at https://unece.org/sites/default/files/2021-03/R157e.pdf. Accessed 28 August 2021.

  47. 47.

    Available at https://www.oecd.org/going-digital/project/going-digital-information-note.pdf. Accessed 28 August 2021. With its project “Going Digital”, OECD is striving to achieve the goal of developing a universal and comprehensive political approach in order to be able to better utilise the advantages brought about by the digital transformation.

  48. 48.

    At the OECD Conference “AI: Intelligent Machines, Smart Policies”, held 26 and 27 October 2017, Data Protection, IT-Security, as well as responsibility and liability for AI-systems were discussed; lectures available at http://www.oecd.org/going-digital/ai-intelligent-machines-smart-policies/conference-agenda/. Accessed 28 August 2021.

  49. 49.

    Available at https://www.oecd.org/going-digital/ai/principles/. Accessed 28 August 2021.

  50. 50.

    G20 Ministerial Statement on Trade and Digital Economy, available at https://www.mofa.go.jp/files/000486596.pdf. Accessed 28 August 2021.

  51. 51.

    Recommendation of the Council on AI, No. 2.3. lit. b), available at https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. Accessed 28 August 2021.

  52. 52.

    Available at https://www.nitrd.gov/pubs/national_ai_rd_strategic_plan.pdf. Accessed 28 August 2021.

  53. 53.

    Available at https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf. Accessed 28 August 2021.

  54. 54.

    Executive Order 13859 of 11 February 2019, available at https://www.federalregister.gov/documents/2019/02/14/2019-02544/maintaining-american-leadership-in-artificial-intelligence. Accessed 28 August 2021.

  55. 55.

    Available at https://www.ilga.gov/legislation/publicacts/fulltext.asp?Name=101-0260. Accessed 28 August 2021.

  56. 56.

    H.R.2231—Algorithmic Accountability Act of 2019—116th Congress (2019–2020), available at https://www.congress.gov/bill/116th-congress/house-bill/2231. Accessed 28 August 2021.

  57. 57.

    See the reported plan of Senator Wyden, available at https://www.meritalk.com/articles/sen-wyden-to-reintroduce-ai-bias-bill-in-coming-months. Accessed 28 August 2021.

  58. 58.

    “Klarheit und Kontrolle bei Algorithmen”, article from the German Federal Government of 3 July 2017, available at https://www.bundesregierung.de/Content/DE/Artikel/2017/07/2017-03-07-maas-algorithmen.html. Accessed 28 August 2021.

  59. 59.

    German National AI Strategy, available at https://www.bundesregierung.de/resource/blob/975226/1550276/3f7d3c41c6e05695741273e78b8039f2/2018-11-15-ki-strategie-data.pdf?download=1. Accessed 28 August 2021.

  60. 60.

    German National AI Strategy, available at https://www.bundesregierung.de/resource/blob/975226/1550276/3f7d3c41c6e05695741273e78b8039f2/2018-11-15-ki-strategie-data.pdf?download=1. Accessed 28 August 2021.

  61. 61.

    German National AI Strategy, p. 38, available at https://www.bundesregierung.de/resource/blob/975226/1550276/3f7d3c41c6e05695741273e78b8039f2/2018-11-15-ki-strategie-data.pdf?download=1. Accessed 28 August 2021.

  62. 62.

    Report available at https://www.bmi.bund.de/SharedDocs/downloads/DE/publikationen/themen/it-digitalpolitik/gutachten-datenethikkommission.pdf?__blob=publicationFile&v=6. Accessed 28 August 2021.

  63. 63.

    Update available at https://www.bmwi.de/Redaktion/DE/Publikationen/Technologie/strategie-kuenstliche-intelligenz-fortschreibung-2020.pdf?__blob=publicationFile&v=10. Accessed 28 August 2021.

  64. 64.

    See, for example: Gibbs (2017), Jansen, Elon Musk warnt vor 3. Weltkrieg durch Künstliche Intelligenz, Report from 4 September 2017, available at http://www.faz.net/aktuell/wirtschaft/kuenstliche-intelligenz/elon-musk-tesla-chef-warnt-vor-kuenstlicher-intelligenz-15182958.html. Accessed 28 August 2021.

  65. 65.

    See, as an example for the lack of terminological consistency, Keßler (2017), p. 589 (“Deep Learning” and “maschinelles Lernen”; “intelligente Roboter”; “künstliche Intelligenz”; “intelligente Software-Agents”); Linke (2021), p. 32 and Taeger (2016), pp. 3764 ff. (“system” and “agent” used synonymously); in respect of inventory, see Lohmann (2017), p. 169; Pieper (2016), p. 189.

  66. 66.

    On the different definitions of “agents” from a technical perspective, see for example Franklin and Graesser (1996), pp. 22 ff.

  67. 67.

    On the term ‘robot’, see Beck (2009), p. 226; on the term and classification Müller (2014), pp. 596 ff.; The used terms are slightly different between Denga (2018), pp. 69 f. (“AI robot”) and Lohmann (2017), p. 169 (“autonomous robot”).

  68. 68.

    The term is used, for example, by Pieper (2016), p. 189; Reichwald and Pfisterer (2016), p. 208.

  69. 69.

    For the term “autonomous system”, see e.g. Borges (2018), p. 977; Foerster (2019), p. 422; Grützmacher and Heckmann (2019), p. 554; Kainer and Förster (2020), pp. 279 f.; Kirn and Müller-Hengstenberg (2017), passim; Kluge and Müller (2017), p. 24; Linke (2021), pp. 29 f.; Pieper (2016), pp. 189 f.; Reichwald and Pfisterer (2016), p. 212; Riehm (2014), pp. 113 ff.; Russell and Norvig (2010), p. 40; Schirmer (2019), pp. 716 f.; Schulz (2015), passim; Sosnitza (2016), p. 765; Sommer (2020), passim; Stiemerling (2015), p. 765; Thöne (2020), pp. 5–12; G. Wagner (2017a), pp. 707 ff.; Zech (2019), p. 199; for the term “autonomous robot”, id., (2016), pp. 170 f.

  70. 70.

    For similar definitions, see Linke (2021), p. 32; Sommer (2020), p. 37; Sosnitza (2016), p. 765; Zech (2019), p. 198; equally for the term of “AI Systems” used by the European Commission, COM(2018) 237 final, p. 1.

  71. 71.

    Thöne (2020), p. 10.

  72. 72.

    See e.g. Gomille (2019), pp. 969 ff.; Lauber-Rönsberg (2019), pp. 244 ff.; Samuelson (1986), pp. 1185 ff.; Schaub (2017), pp. 346 ff.; Specht-Riemenschneider (2021), pp. 273 ff.; in the outline also Solum (1992), p. 1257 (with note 88); in the context of AI and patent law, see Nägerl et al. (2019), pp. 336 ff.

  73. 73.

    Samuelson (1986), pp. 1192 ff.

  74. 74.

    According to the general view held to date, only natural persons can be inventors in the sense of § 6 PatG (Kraßer and Ann (2016), § 19 at mn. 7; Melullis (2015), mn. 31; Mes (2015), mn. 10), or “Schöpfer” in the sense of § 7 UrhG (Begr. RegE zu § 7 UrhG, BT-Drucks. IV/270, p. 41; Ahlberg (2018), mn. 7; Schulze (2018), mn. 2; Thum (2019), mn. 13).

  75. 75.

    But see Schaub (2017), pp. 342 ff., who does not consider it necessary to develop the protection of independent autonomous systems or de lege lata (ibid., pp. 347 ff.) nor de lege ferenda (ibid pp. 348 ff.) further.

  76. 76.

    The deliberations in Schaub (2017), pp. 343 ff. are limited to the manufacturers of systems and the programmers of software.

  77. 77.

    On the question of the attribution of rights to the user, see in particular Samuelson (1986), pp. 1200 ff.

  78. 78.

    See e.g. Berberich (2010), passim; Zech (2012), passim.

  79. 79.

    The European Parliament also posed this question in its resolution (supra note 14), cf. para. 18 (p. 9).

  80. 80.

    For example in the area of the increasing automisation of industry (Industry 4.0), the question of the ownership of data is the focus of discussion; see e.g. IT-Sicherheit für die Industrie 4.0, Studie im Auftrag des Bundesministeriums für Wirtschaft und Energie, Final Report, pp. 103 ff., available at https://www.bmwi.de/Redaktion/DE/Publikationen/Studien/it-sicherheit-fuer-industrie-4-0.pdf?__blob=publicationFile&v=4. Accessed 28 August 2021.

  81. 81.

    Resolution No. 28 of the 71st DJT (Deutscher Juristentag, Essen 2016).

  82. 82.

    Working Party “Digital Restart” of the Conference of the German State Ministers of Justice, Report from 15 May 2017, pp. 29 ff., available at https://jm.rlp.de/fileadmin/mjv/Jumiko/Fruehjahrskonferenz_neu/Bericht_der_AG_Digitaler_Neustart_vom_15._Mai_2017.pdf. Accessed 28 August 2021.

  83. 83.

    See, e.g. Hoeren (2019), pp. 5 ff. revising his earlier opinion published in id., (2013), pp. 486 ff.

  84. 84.

    Cf. Teubner (2018), pp. 177 ff.

  85. 85.

    Faust (2021), § 2 at mn. 4; Grigoleit and Herresthal (2015), mn. 6; Leipold (2019), § 10 at mn. 17.

  86. 86.

    For an overview, see Borges (2008), pp. 194 f.; Borges and Sesing (2018), pp. 189 ff.

  87. 87.

    OLG Frankfurt, MMR 2003, 405, 406, ECLI:DE:OLGHE:2002:1120.9U94.02.0A.

  88. 88.

    OLG Hamm, MMR 2004, 761, 762, ECLI:DE:OLGHAM:2004:0112.13U165.03.00; similarly LG Köln, MMR 2003,p. 482, ECLI:DE:LGK:2003:0416.9S289.02.00.

  89. 89.

    Wiebe (2002), pp. 214 ff. (attribution of the declaration according to risk sphere); Schulz (2015), p. 104; similarly already Brehmer (1992), pp. 80 ff.

  90. 90.

    Faust (2021), § 2 at mn. 4; Grigoleit and Herresthal (2015), mn. 6; Leipold (2019), § 10 at mn. 17.

  91. 91.

    Arnold (2020), mn. 5a; Borges and Sesing (2018), p. 191; Cornelius (2002), pp. 355 f.; Faust (2021), § 2 at mn. 5; Kuhn (1991), pp. 70 ff.; Leipold (2019), § 10 at mn. 21; Paulus (2019), pp. 963 ff.; Paulus and Matzke (2018), pp. 440 ff.; Singer (2017), mn. 57; Spindler (2019), mn. 6; Wiebe (2002), p. 139.

  92. 92.

    For example von Bodungen and Hoffmann (2016), p. 508; Grützmacher (2016), pp. 697 f.; Spindler (2015), p. 774; specifically for systems with embedded software Wagner (2019), p. 36.

  93. 93.

    Resolution of the European Parliament of 16 February 2017 (supra note 14), para. 58, p. 15; Beck (2013), p. 256; rejected by Hanisch (2014), p. 43.

  94. 94.

    European Parliament resolution of 16 February 2017, (supra note 14), pp. 17 f., para. 53 ff.

  95. 95.

    European Parliament resolution of 20 October 2020 with the recommendations to the Commission on a civil liability regime for artificial intelligence (2020/2014(INL)), (supra note 18), p. 7, para. 14.

  96. 96.

    European Parliament resolution of 16 February 2017 (supra note 14), p. 18, para. 57.

  97. 97.

    See for example Expert Group on Liability and New Technologies—New Technologies Formation, Liability for Artificial Intelligence and other emerging digital technologies, 2019 (supra note 24), p. 62.

  98. 98.

    Borges (2019), pp. 156 f.; cf. Hanisch (2014), p. 58; Horner and Kaulartz (2016b), p. 26; explicitly for autonomous vehicles Lutz (2015), p. 121; Spiecker gen. Döhmann (2016), p. 704; Spindler (2015), pp. 775 f.

  99. 99.

    For an introduction of compulsory insurance, see e.g. Spindler (2015), p. 775; reserved support also from Horner and Kaulartz (2016a), p. 14.

  100. 100.

    European Parliament resolution of 16 February 2017 (supra note 14), para. 59 ff., p. 15.

  101. 101.

    Abbot and Sarch (2019), pp. 376 f.; Armbrüster (2017), p. 85; Denga (2018), p. 77; Bryson et al. (2017), pp. 273 ff.; cf. Kainer and Förster (2020), p. 298; Koch (2019), p. 115; Karner (2019), pp. 123 f.; Lohmann (2017), p. 171; Müller-Hengstenberg and Kirn (2014), pp. 307 ff.; Riehm (2014), Schaub (2017), p. 348; Solum (1992), pp. 1281 ff.; Spiecker gen. Döhmann (2016), p. 702; Spindler (2015), pp. 774 ff.

  102. 102.

    Available at http://www.robotics-openletter.eu/. Accessed 28 August 2021.

  103. 103.

    Regarding this dilemma, see Bonnefon et al. (2016), pp. 1573 ff.; On the significance of the ethical discussion for autonomous cars see for example Gerdes and Thornton (2015), pp. 87 ff.; For legal discussion on the ethical questions of autonomous driving, see for example Weber (2016), pp. 249 ff. In its final report, the Ethics-Commission on Autonomous and Connected Driving set up by the German Federal Ministry for Transport and Digital Infrastructure considered that this dilemma situation could not be solved by legislation (supra note 5). For the details, see thesis 8 (p. 11).

  104. 104.

    See, e.g. Gesellschaft für Informatik (GI), Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren, Studien und Gutachten im Auftrag des Sachverständigenrats für Verbraucherfragen, 2018, passim, available at https://www.svr-verbraucherfragen.de/wp-content/uploads/GI_Studie_Algorithmenregulierung.pdf. Accessed 28 August 2021; Hartmann (2019), pp. 421 f.; Steege (2019), pp. 715 ff.

  105. 105.

    The statement was made in response to an inquiry from Google regarding the interpretation of the term “driver” or “driving seat” in the Federal Motor Vehicle Safety Standards (FMVSS). In its response, NHTSA assumed on the basis of numerous requirements, that the entity which has the driving control of the vehicle should be considered the driver—in case of autonomous vehicles, this would be the system itself; cf. the second paragraph in the “Discussion” section of NHTSA’s letter, available at https://isearch.nhtsa.gov/files/Google%20%2D%2D%20compiled%20response%20to%2012%20Nov%20%2015%20interp%20request%20%2D%2D%204%20Feb%2016%20final.htm. Accessed 28 August 2021.

  106. 106.

    Wulf and Burgenmeister (2015), p. 407; similarly Wolf (1989), pp. 901 f.; similar (depending on the degree of autonomy of the respective machine) Hacker (2018), pp. 248 ff.

  107. 107.

    Hacker (2018), pp. 249 ff.

  108. 108.

    Hacker (2018), pp. 256 ff.

  109. 109.

    Freyler (2020), pp. 288 f.; Günther and Böglmüller (2017), p. 55; Horner and Kaulartz (2016a), p. 7; Müller-Hengstenberg and Kirn (2014), p. 311; in favor of a solution de lege ferenda Klingbeil (2019), pp. 723 ff.

  110. 110.

    Gless et al. (2016), p. 416; Hilgendorf (2012), pp. 128 ff.; Joerden (2013), pp. 203 ff.; Ziemann (2013), pp. 183 ff.

  111. 111.

    Beck (2009), pp. 227 ff.; Grützmacher (2016), p. 696; Hilgendorf (2013), pp. 11, 16 ff.; Lohsse et al. (2019), p. 20; Müller (2014), p. 605; from a philosophical perspective Matthias (2010), pp. 72 ff.; Spiecker gen. Döhmann (2016), p. 701; Spindler (2015), pp. 766 f.

  112. 112.

    Cf. Förster (2021), mn. 9; Kötz and Wagner (2021), chap. 4, II at mn. 32; Wagner (2020), mn. 46.

  113. 113.

    Expert Group on Liability and New Technologies—New Technologies Formation, Liability for Artificial Intelligence and other emerging digital technologies, 2019 (supra note 24), p. 52.

  114. 114.

    European Parliament resolution of 20 October 2020 with recommendations to the Commission on a civil liability regime for artificial intelligence (2020/2014(INL)) (supra note 28), p. 8, para. 6.

  115. 115.

    European Parliament resolution of 20 October 2020 with recommendations to the Commission on a civil liability regime for artificial intelligence (2020/2014(INL)) (supra note 28), p. 5, para. 5.

References

  • Abbot, R., & Sarch, A. (2019). Punishing artificial intelligence: Legal fiction or science fiction. UC Davis Law Review, 53(1), 323–384.

    Google Scholar 

  • Ahlberg, H. (2018). § 7. In H. Ahlberg & H.-P. Götting (Eds.), Beck online-Kommentar-Urheberrecht (25th ed.). C.H. Beck.

    Google Scholar 

  • Armbrüster, C. (2017). Automatisiertes Fahren – Paradigmenwechsel im Straßenverkehrsrecht? Zeitschrift für Rechtspolitik (ZRP), 50(3), 83–86.

    Google Scholar 

  • Arnold, A. (2020). Vorb. § 116 BGB. In H. P. Westermann, B. Grunewald, & G. Maier-Reimer (Eds.), Erman BGB Kommentar (16th ed.). Otto-Schmidt-Verlag.

    Google Scholar 

  • Arzt, C., & Ruth-Schumacher, S. (2017). Zulassungsrechtliche Rahmenbedingungen der Fahrzeugautomatisierung. Neue Zeitschrift für Verkehrsrecht (NZV), 30(2), 57–62.

    Google Scholar 

  • Balke, R. (2018). Automatisiertes Fahren – Begriffsbestimmungen und haftungsrechtliche Fragestellungen im Zusammenhang mit dem automatisierten Fahren. Straßenverkehrsrecht (SVR), 18(1), 5–8.

    Google Scholar 

  • Beck, S. (2009). Grundlegende Fragen zum rechtlichen Umgang mit der Robotik. Juristische Rundschau (JR), 225–230.

    Google Scholar 

  • Beck, S. (2013). Über Sinn und Unsinn von Statusfragen – zu Vor- und Nachteilen der Einführung einer elektronischen Person. In E. Hilgendorf & J.-P. Günther (Eds.), Robotik und Gesetzgebung (pp. 239–262). Nomos.

    Chapter  Google Scholar 

  • Berberich, M. (2010). Virtuelles Eigentum. Mohr Siebeck.

    Google Scholar 

  • Berndt, S. (2017). Der Gesetzentwurf zur Änderung des Straßenverkehrsgesetzes – ein Überblick – Das automatisierte Fahren auf dem Vormarsch – oder doch nur ein Schnellschuss? Straßenverkehrsrecht (SVR), 17(4), 121–127.

    Google Scholar 

  • Bonnefon, J., Shariff, A., & Rahwan, I. (2016). The social dilemma of autonomous vehicles. Science, 352(6293), 1573–1576.

    Article  Google Scholar 

  • Borges, G. (2008). Verträge im elektronischen Geschäftsverkehr. Nomos.

    Book  Google Scholar 

  • Borges, G. (2018). Rechtliche Rahmenbedingungen für autonome Systeme. Neue Juristische Wochenschrift (NJW), 71(14), 977–982.

    Google Scholar 

  • Borges, G. (2019). New liability concepts: The potential of insurance and compensation funds. In S. Lohsse, R. Schulze, & D. Staudenmayer (Eds.), Liability for artificial intelligence and the internet of things (pp. 145–164). Nomos.

    Chapter  Google Scholar 

  • Borges, G., & Sesing, A. (2018). Der Irrtum des Kühlschranks und andere Fragen zu Willenserklärungen von Maschinen: Eine Bestandsaufnahme. In A. Matusche-Beckmann & T. Sato (Eds.), Saar-Tage 2016: Rechtsprobleme der Informationsgesellschaft (pp. 179–201). Verlag Alma Mater.

    Google Scholar 

  • Brehmer, N. (1992). Wille und Erklärung: Zu Geltungsgrund, Tatbestand und Zurechnung der Willenserklärung. Nomos.

    Google Scholar 

  • Bryson, J. J., Diamantis, M. E., & Grant, T. D. (2017). Of, for, and by the people: The legal lacuna of synthetic persons. Artificial Intelligence and Law, 25(3), 273–291.

    Article  Google Scholar 

  • Cornelius, K. (2002). Vertragsabschluss durch autonome elektronische Agenten. Multimedia und Recht (MMR), 5(6), 353–358.

    Google Scholar 

  • Denga, M. (2018). Deliktische Haftung für künstliche Intelligenz. Computer und Recht (CR), 69–78.

    Google Scholar 

  • Fagnant, D. J., & Kockelman, K. (2015). Preparing a nation for autonomous vehicles: Opportunities, barriers and policy recommendations. Transportation Research Part A: Policy and Practice, 77(C), 167–181.

    Google Scholar 

  • Faust, F. (2021). Bürgerliches Gesetzbuch Allgemeiner Teil (7th ed.). Nomos.

    Book  Google Scholar 

  • Foerster, M. (2019). Automatisierung und Verantwortung im Zivilrecht. Zeitschrift für die gesamte Privatrechtswissenschaft (ZfPW), 5(4), 418–435.

    Google Scholar 

  • Förster, C. (2021). § 823. In R. Poseck & W. Hau (Eds.), Beck-Online Kommentar BGB (57th ed.). C.H. Beck.

    Google Scholar 

  • Franklin, S., & Graesser, A. (1996). In J. Müller, M. J. Wooldridge, & N. R. Jennings (Eds.), Intelligent agents III. Agent theories, architectures, and languages – ECAI’ 96 workshop (ATAL), Budapest, Hungary, 12–13 August 1996. Proceedings (pp. 21–35). New York: Springer.

    Google Scholar 

  • Frese, Y. (2015). Recht im zweiten Maschinenzeitalter. Neue Juritische Wochenschrift (NJW), 68(29), 2090–2092.

    Google Scholar 

  • Frey, C. B., & Osborne, M. A. (2017). The future of employment: How susceptible are jobs to computerisation? Technological Forecasting and Social Change, 114(C), 254–280.

    Article  Google Scholar 

  • Freyler, C. (2020). Robot-Recruiting, Künstliche Intelligenz und das Antidiskriminierungsrecht. Neue Zeitschrift für Arbeitsrecht (NZA), 37(5), 284–290.

    Google Scholar 

  • Galetzka, C., Garling, S., & Partheymüller, J. (2021). Legal tech – “Smart law” oder Teufelszeug? – Übersicht der aktuellen Rechtsprechung zu legal tech zwischen Rechtspolitik und technischer Entwicklung. Multimedia und Recht (MMR), 24(1), 20–26.

    Google Scholar 

  • Gerdes, J. C., & Thornton, S. M. (2015). Implementable ethics for autonomous vehicles. In M. Maurer, J. C. Gerdes, B. Lenz, & H. Winner (Eds.), Autonomes Fahren – Technische, rechtliche und gesellschaftliche Aspekte (pp. 87–102). Springer Vieweg.

    Google Scholar 

  • Gibbs, S. (2017). Elon Musk: Regulate AI to combat ‘existential threat’ before it’s too late. Retrieved August 28, 2021, from https://www.theguardian.com/technology/2017/jul/17/elon-musk-regulation-ai-combat-existential-threat-tesla-spacex-ceo

  • Gless, S., Silverman, E., & Weigend, T. (2016). If robots cause harm, who is to blame? Self-driving cars and criminal liability. New Criminal Law Review, 19(3), 412–436.

    Article  Google Scholar 

  • Gomille, C. (2019). Kreative künstliche Intelligenz und das Urheberrecht. Juristen Zeitung (JZ), 969–975.

    Google Scholar 

  • Grigoleit, H. C., & Herresthal, C. (2015). BGB Allgemeiner Teil (3rd ed.). C.H. Beck.

    Google Scholar 

  • Grünvogel, T. (2017). Das Fahren von Autos mit automatisierten Funktionen. Monatsschrift für deutsches Recht (MDR), 973–975.

    Google Scholar 

  • Grützmacher, M. (2016). Die deliktische Haftung für autonome Systeme – Industrie 4.0 als Herausforderung für das bestehende Recht? Computer und Recht (CR), 695–698.

    Google Scholar 

  • Grützmacher, M., & Heckmann, J. (2019). Autonome Systeme und KI – vom vollautomatisierten zum autonomen Vertragsschluss? – Die Grenzen der Willenserklärung. Computer und Recht (CR), 553–561.

    Google Scholar 

  • Günther, J., & Böglmüller, M. (2017). Künstliche Intelligenz und Roboter in der Arbeitswelt. Betriebs-Berater (BB), 53–58.

    Google Scholar 

  • Günther, J.-P. (2017). Europäische Regelungen im Bereich Robotik – alles noch Science Fiction? Der Betrieb (DB), 651–653.

    Google Scholar 

  • Hacker, P. (2018). Verhaltens- und Wissenszurechnung beim Einsatz von Künstlicher Intelligenz. Rechtswissenschaft (RW), 243–288.

    Google Scholar 

  • Hähnchen, S., Schrader, P., Weiler, F., & Wischmeyer, T. (2020). Legal Tech – Rechtsanwendung durch Menschen als Auslaufmodell? Juristische Schulung (JuS), 60(7), 625–635.

    Google Scholar 

  • Hanisch, J. (2014). Zivilrechtliche Haftungskonzepte für Robotik. In E. Hilgendorf (Ed.), Robotik im Kontext von Recht und Moral (pp. 27–63). Nomos.

    Google Scholar 

  • Hartmann, F. (2019). Diskriminierung aus der Black Box – Neue Herausforderungen durch KI-gestützte Personalentscheidungen. Europäische Zeitschrift für Arbeitsrecht (EuZA), 12(4), 421–422.

    Google Scholar 

  • Hilgendorf, E. (2012). Können Roboter schuldhaft handeln? Zur Übertragbarkeit unseres normativen Grundvokabulars auf Maschinen. In S. Beck (Ed.), Jenseits von Mensch und Maschine (pp. 119–132). Nomos.

    Chapter  Google Scholar 

  • Hilgendorf, E. (2013). Das Recht vor den Herausforderungen der modernen Technik. In E. Hilgendorf & S. Hötitzsch (Eds.), Das Recht vor den Herausforderungen der modernen Technik (pp. 11–40). Nomos.

    Google Scholar 

  • Hoeren, T. (2013). Dateneigentum – Versuch einer Anwendung von § 303a StGB im Zivilrecht. Multimedia und Recht (MMR), 16(8), 486–491.

    Google Scholar 

  • Hoeren, T. (2019). Datenbesitz statt Dateneigentum – Erste Ansätze zur Neuausrichtung der Diskussion um die Zuordnung von Daten. Multimedia und Recht (MMR), 22(1), 5–8.

    Google Scholar 

  • Horner, S., & Kaulartz, M. (2016a). Haftung 4.0 Verschiebung des Sorgfaltsmaßstabs bei Herstellung und Nutzung autonomer Systeme. Computer und Recht (CR), 7–19.

    Google Scholar 

  • Horner, S., & Kaulartz, M. (2016b). Haftung 4.0. Zeitschrift für Innovation und Technikrecht (InTeR), 22–27.

    Google Scholar 

  • Jänich, V. M., Schrader, P. T., & Reck, V. (2015). Rechtsprobleme des autonomen Fahrens. Neue Zeitschrift für Verkehrsrecht (NZV), 28(7), 313–318.

    Google Scholar 

  • Joerden, J. C. (2013). Strafrechtliche Perspektiven der Robotik. In E. Hilgendorf & J.-P. Günther (Eds.), Robotik und Gesetzgebung (pp. 195–211). Nomos.

    Chapter  Google Scholar 

  • Kainer, F., & Förster, L. (2020). Autonome Systeme im Kontext des Vertragsrechts. Zeitschrift für die gesamte Privatrechtswissenschaft (ZfPW), 6(3), 275–303.

    Google Scholar 

  • Karner, E. (2019). Liability for robotics: Current rules, challenges, and the need for innovative concepts. In S. Lohsse, R. Schulze, & D. Staudenmayer (Eds.), Liability for artificial intelligence and the internet of things (pp. 117–124). Nomos.

    Chapter  Google Scholar 

  • Keßler, O. (2017). Intelligente Roboter – neue Technologien im Einsatz – Voraussetzungen und Rechtsfolgen des Handelns informationstechnischer Systeme. Multimedia und Recht (MMR), 20(9), 589–594.

    Google Scholar 

  • Kilian, M. (2017). Die Zukunft der Juristen – Weniger, anders, weiblicher, spezialisierter, alternativer – und entbehrlicher? Neue Juristische Wochenschrift (NJW), 70(42), 3043–3050.

    Google Scholar 

  • Kirn, S., & Müller-Hengstenberg, C. D. (2017). Rechtliche Risiken autonomer und vernetzter Systeme – Eine Herausforderung. DeGruyter Oldenbourg.

    Google Scholar 

  • Klingbeil, S. (2019). Schuldnerhaftung für Roboterversagen: Zum Problem der Substitution von Erfüllungsgehilfen durch Maschinen. Juristen Zeitung (JZ), 718–725.

    Google Scholar 

  • Kluge, V., & Müller, A.-K. (2017). Autonome Systeme. Zeitschrift zum Innovations- und Technikrecht (InTeR), 24–31.

    Google Scholar 

  • Koch, B. (2019). Product liability 2.0 – Mere update or new version? In S. Lohsse, R. Schulze, & D. Staudenmayer (Eds.), Liability for artificial intelligence and the internet of things (pp. 97–116). Nomos.

    Chapter  Google Scholar 

  • König, C. (2017). Die gesetzlichen Neuregelungen zum automatisierten Fahren. Neue Zeitschrift für Verkehrsrecht (NZV), 30(3), 123–128.

    Google Scholar 

  • Kötz, H., & Wagner, G. (2021). Deliktsrecht (14th ed.). Verlag Franz Vahlen.

    Book  Google Scholar 

  • Kraßer, R., & Ann, C. (2016). Patentrecht – Lehrbuch zum Deutschen und Europäischen Patentrecht und Gebrauchsmusterrecht (7th ed.). C.H. Beck.

    Google Scholar 

  • Kuflik, A. (1999). Computers in control: Rational transfer of authority or irresponsible abdication of autonomy? Ethics and Information Technology, 1, 173–184. Retrieved August 28, 2021, from https://doi.org/10.1023/A:1010087500508

  • Kuhn, M. (1991). Rechtshandlungen mittels EDV und Telekommunikation. C.H. Beck.

    Google Scholar 

  • Kütük-Markendorf, M. (2017). IT und Software. Die hoch- oder vollautomatisierte Fahrfunktion als Vorstufe zum autonomen Fahren. Compuer und Recht (CR), 349–355.

    Google Scholar 

  • Lauber-Rönsberg, A. (2019). Autonome “Schöpfung” – Urheberschaft und Schutzfähigkeit. Gewerblicher Rechtschutz und Urheberrecht (GRUR), 121(3), 244–253.

    Google Scholar 

  • Leipold, D. (2019). BGB I, Einführung und Allgemeiner Teil (10th ed.). Mohr Siebeck.

    Google Scholar 

  • Linke, C. (2021). Digitale Wissensorganisation – Wissenszurechnung beim Einsatz autonomer Systeme. Nomos.

    Book  Google Scholar 

  • Lohmann, M. F. (2017). Ein europäisches Roboterrecht – überfällig oder überflüssig? Zeitschrift für Rechtspolitik (ZRP), 50(6), 168–171.

    Google Scholar 

  • Lohsse, S., Schulze, R., & Staudenmayer, D. (2019). Liability for artificial intelligence. In S. Lohsse, R. Schulze, & D. Staudenmayer (Eds.), Liability for artificial intelligence and the internet of things (pp. 11–23). Nomos.

    Google Scholar 

  • Lutz, L. S. (2015). Autonome Fahrzeuge als rechtliche Herausforderung. Neue Juristische Wochenschrift (NJW), 68(3), 119–124.

    Google Scholar 

  • Matthias, A. (2010). Automaten als Träger von Rechten. Plädoyer für eine Gesetzesänderung (2nd ed.). Logos Verlag.

    Google Scholar 

  • Melullis, K.-J. (2015). § 6. In G. Benkhard, (founder) Benkard Patentgesetz (11th ed.). C.H. Beck.

    Google Scholar 

  • Mes, P. (2015). § 6. In P. Mes (Ed.), Patentgesetz, Gebrauchsmustergesetz, Kommentar (4th ed.). C.H. Beck.

    Google Scholar 

  • Müller, M. F. (2014). Roboter und Recht. Aktuelle juristische Praxis – Pratique juridique Actuelle (AJP), 595–608.

    Google Scholar 

  • Müller-Hengstenberg, C. D., & Kirn, S. (2014). Intelligente (Software-)Agenten: Eine neue Herausforderung unseres Rechtssystems – Rechtliche Konsequenzen der “Verselbstständigung” technischer Systeme. Multimedia und Recht (MMR), 17(5), 307–313.

    Google Scholar 

  • Nägerl, J., Neuburger, B., & Steinbach, F. (2019). Künstliche Intelligenz: Paradigmenwechsel im Patentsystem. Gewerblicher Rechtsschutz und Urheberrecht (GRUR), 121(4), 336–341.

    Google Scholar 

  • Oppermann, B., & Stender-Vorwachs, J. (2020). Autonomes Fahren, Rechtsfolgen, Rechtsprobleme, technische Grundlagen (2nd ed.). C.H. Beck.

    Book  Google Scholar 

  • Palka, A. (2018). Digitalisierung gefährdet Millionen von Jobs – welche besonders betroffen sind. Retrieved August 28, 2021, from https://www.handelsblatt.com/unternehmen/management/digitaletransformation/oecd-studie-zur-zukunft-des-arbeitsmarktes-digitalisierunggefaehrdet-millionen-von-jobs-welche-besonders-betroffen-sind/21217278.html

  • Paulus, D. (2019). Die automatisierte Willenserklärung. Juristische Schulung (JuS), 960–965.

    Google Scholar 

  • Paulus, D., & Matzke, R. (2018). Smart Contracts und das BGB – Viel Lärm um nichts? Zeitschrift für die gesamte Privatrechtswissenschaft (ZfPW), 4(4), 431–465.

    Google Scholar 

  • Phaneuf, A. (2020). Artificial intelligence in financial services: Applications and benefits of AI in finance. Retrieved August 28, 2021, from https://www.businessinsider.com/ai-in-finance

  • Pieper, F.-U. (2016). Die Vernetzung autonomer Systeme im Kontext von Vertrag und Haftung. Zeitschrift zum Innovations- und Technikrecht (InTeR), 188–194.

    Google Scholar 

  • Prior, P. (2017). Legal Tech – Digitalisierung der Rechtsberatung. Zeitschrift für Anwaltspraxis (ZAP), 575–581.

    Google Scholar 

  • Reichwald, J., & Pfisterer, D. (2016). Autonomie und Intelligenz im Internet der Dinge. Computer und Recht (CR), 208–212.

    Google Scholar 

  • Riehm, T. (2014). Von Drohnen, Google-Cars und Software-Agenten – Rechtliche Herausforderungen autonomer Systeme. Der IT-Rechtsberater (ITRB), 113–115.

    Google Scholar 

  • Römermann, V., & Günther, T. (2019). Legal tech als berufsrechtliche Herausforderung – Zulässige Rechtsdurchsetzung mit Prozessfinanzierung und Erfolgshonorar. Neue Juristsiche Wochenschrift (NJW), 72(9), 551–555.

    Google Scholar 

  • Russell, S., & Norvig, P. (2010). Artificial intelligence: A modern approach (3rd ed.). Prentice Hall.

    Google Scholar 

  • Samuelson, P. (1986). Allocating ownership rights in computer generated works. University of Pittsburgh Law Review, 47, 1185–1228.

    Google Scholar 

  • Schaub, R. (2017). Interaktion von Mensch und Maschine – Haftungs- und immaterialgüterrechtliche Fragen bei eigenständigen Weiterentwicklungen autonomer Systeme. Juristen Zeitung (JZ), 342–349.

    Google Scholar 

  • Schirmer, J.-E. (2017). Augen auf beim automatisierten Fahren! Die StVG-Novelle ist ein Montagsstück. Neue Zeitschrift für Verkehrsrecht (NZV), 30(6), 253–257.

    Google Scholar 

  • Schirmer, J.-E. (2019). Von Mäusen, Menschen und Maschinen – Autonome Systeme in der Architektur der Rechtsfähigkeit. Juristen Zeitung (JZ), 711–718.

    Google Scholar 

  • Schulz, T. (2015). Verantwortlichkeit bei autonom agierenden Systemen – Fortentwicklung des Rechts und Gestaltung der Technik. Nomos.

    Google Scholar 

  • Schulze, G. (2018). § 7. In T. Dreier & G. Schulze (Eds.), Urheberrechtsgesetz, Verwertungsgesellschaftengesetz, Kunsturhebergesetz Kommentar (6th ed.) C.H. Beck.

    Google Scholar 

  • Singer, R. (2017). Vorb. §§ 116–144. In N. Habermann (Ed.), Staudinger Kommentar zum BGB (Vol. 1). DeGruyter.

    Google Scholar 

  • Solum, L. B. (1992). Legal personhood for artificial intelligences. North Carolina Law Review, 70, 1231–1287.

    Google Scholar 

  • Sommer, M. (2020). Haftung für autonome Systeme – Verteilung der Risiken selbstlernender und vernetzter Algorithmen im Vertrags- und Deliktsrecht. Nomos.

    Book  Google Scholar 

  • Sosnitza, O. (2016). Das Internet der Dinge – Herausforderung oder gewohntes Terrain für das Zivilrecht? Computer und Recht (CR), 764–772.

    Google Scholar 

  • Specht-Riemenschneider, L. (2021). Urheberrechtlicher Schutz für Algorithmenerzeugnisse? – Phasenmodell de lege lata, Investitionsschutz de lege ferenda? Wettbewerb in Recht und Praxis (WRP), 273–278.

    Google Scholar 

  • Spiecker gen. Döhmann, I. (2016). Zur Zukunft systemischer Digitalisierung – Erste Gedanken zur Haftungs- und Verantwortungszuschreibung bei informationstechnischen Systemen. Computer und Recht (CR), 698–704.

    Google Scholar 

  • Spindler, G. (2015). Roboter, Automation, künstliche Intelligenz, selbst-steuernde Kfz – Braucht das Recht neue Haftungskategorien? – Eine kritische Analyse möglicher Haftungsgrundlagen für autonome Steuerungen. Computer und Recht (CR), 766–776.

    Google Scholar 

  • Spindler, G. (2019). Vorb. §§ 116 ff. BGB. In G. Spindler & F. Schuster (Eds.), Recht der elektronischen Medien – Kommentar (4th ed.). C.H. Beck.

    Google Scholar 

  • Steege, H. (2019). Algorithmenbasierte Diskriminierung durch Einsatz von Künstlicher Intelligenz – Rechtsvergleichende Überlegungen und relevante Einsatzgebiete. Multimedia und Recht (MMR), 22(11), 715–721.

    Google Scholar 

  • Stiemerling, O. (2015). “Künstliche Intelligenz” – Automatisierung geistiger Arbeit, Big Data und das Internet der Dinge – Eine technische Perspektive. Computer und Recht (CR), 762–765.

    Google Scholar 

  • Taeger, J. (2016). Die Entwicklung des IT-Rechts im Jahr 2016. Neue Juristische Wochenschrift (NJW), 69(52), 3764–3770.

    Google Scholar 

  • Teubner, G. (2018). Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer Softwareagenten. Archiv für die civilistische Praxis (AcP), 218(2-4), 155–205.

    Article  Google Scholar 

  • Thöne, M. (2020). Autonome Systeme und deliktische Haftung. Verschulden als Instrument adäquater Haftungsallokation? Mohr Siebeck.

    Book  Google Scholar 

  • Thum, D. (2019). § 7. In A.-A. Wandtke & W. Bullinger (Eds.), Praxiskommentar zum Urheberrecht (5th ed.). C.H. Beck.

    Google Scholar 

  • von Bodungen, B., & Hoffmann, M. (2015). Belgien und Schweden schlagen vor: Das Fahrsystem soll Fahrer werden! Neue Zeitschrift für Verkehrsrecht (NZV), 28(11), 521–526.

    Google Scholar 

  • von Bodungen, B., & Hoffmann, M. (2016). Autonomes Fahren – Haftungsverschiebung entlang der Supply Chain? (2. Teil). Neue Zeitschrift für Verkehrsrecht (NZV), 29(11), 503–509.

    Google Scholar 

  • von Kaler, M., & Wieser, S. (2018). Weiterer Rechtsetzungsbedarf beim automatisierten Fahren. Neue Zeitschrift für Verwaltungsrecht (NVwZ), 37(6), 369–373.

    Google Scholar 

  • Wagner, G. (2017a). Produkthaftung für autonome Systeme. Archiv für die civilistische Praxis (AcP), 217(6), 707–765.

    Article  Google Scholar 

  • Wagner, J. (2017b). Legal Tech und Legal Robots in Unternehmen und den diese beratenden Kanzleien. Betriebs-Berater (BB), 898–905.

    Google Scholar 

  • Wagner, G. (2019). Roboter als Haftungssubjekte? Konturen eines Haftungsrechts für autonome Systeme. In F. Faust & H.-B. Schäfer (Eds.), Zivilrechtliche und rechtsökonomische Probleme des Internet und der künstlichen Intelligenz (pp. 1–39). Mohr Siebeck.

    Google Scholar 

  • Wagner, G. (2020). Vorb. § 823. In F. J. Säcker, R. Rixecker, H. Oetker, & B. Limperg (Eds.), Münchner Kommentar zum BGB (Vol. 8, 8th ed.). C.H. Beck.

    Google Scholar 

  • Weber, P. (2016). Dilemmasituationen beim autonomen Fahren. Neue Zeitschrift für Verkehrsrecht (NZV), 29(6), 249–254.

    Google Scholar 

  • Wiebe, A. (2002). Die elektronische Willenserklärung. Mohr Siebeck.

    Google Scholar 

  • Wolf, M. (1989). Schuldnerhaftung bei Automatenversagen. Juristische Schulung (JuS), 899–902.

    Google Scholar 

  • Wulf, H. M., & Burgenmeister, C. (2015). Industrie 4.0 in der Logistik – Rechtliche Hürden beim Einsatz neuer Vernetzungs-Technologien. Computer und Recht (CR), 404–412.

    Google Scholar 

  • Zech, H. (2012). Information als Schutzgegenstand. Mohr Siebeck.

    Google Scholar 

  • Zech, H. (2016). Zivilrechtliche Haftung für den Einsatz von Robotern – Zuweisung von Automatisierungs- und Autonomierisiken, Intelligente Agenten und das Recht. In S. Gless & K. Seelmann (Eds.), Intelligente Agenten und das Recht (pp. 165–204). Nomos.

    Google Scholar 

  • Zech, H. (2019). Künstliche Intelligenz und Haftungsfragen. Zeitschrift für die gesamte Privatrechtswissenschaft (ZfPW), 5(2), 198–218.

    Google Scholar 

  • Ziemann, S. (2013). Wesen, Wesen, seid’s gewesen? Zur Diskussion über ein Strafrecht für Maschinen. In E. Hilgendorf & J.-P. Günther (Eds.), Robotik und Gesetzgebung (pp. 183–195). Nomos.

    Chapter  Google Scholar 

Download references

Author information

Authors and Affiliations

  1. Institute of Legal Informatics, Saarland University, Saarbrücken, Germany

    Georg Borges

Authors
  1. Georg Borges
    View author publications

    You can also search for this author in PubMed Google Scholar

Corresponding author

Correspondence to Georg Borges .

Editor information

Editors and Affiliations

  1. Institute of Legal Informatics, Saarland University, Saarbrücken, Germany

    Georg Borges

  2. Institute of Legal Informatics, Saarland University, Saarbrücken, Germany

    Christoph Sorge

Rights and permissions

Reprints and permissions

Copyright information

© 2022 Springer Nature Switzerland AG

About this chapter

Check for updates. Verify currency and authenticity via CrossMark

Cite this chapter

Borges, G. (2022). A Legal Framework for Autonomous Systems. In: Borges, G., Sorge, C. (eds) Law and Technology in a Global Digital Society. Springer, Cham. https://doi.org/10.1007/978-3-030-90513-2_1

Download citation

  • DOI: https://doi.org/10.1007/978-3-030-90513-2_1

  • Published:

  • Publisher Name: Springer, Cham

  • Print ISBN: 978-3-030-90512-5

  • Online ISBN: 978-3-030-90513-2

  • eBook Packages: Law and CriminologyLaw and Criminology (R0)

Publish with us

Policies and ethics

Search

Navigation