Advertisement

Artificial Intelligence and the Fundamental Right to Data Protection: Opening the Door for Technological Innovation and Innovative Protection

  • Nikolaus MarschEmail author
Chapter

Abstract

The use of AI—insofar as personal data are processed—poses a challenge to the current data protection law as the underlying concept of data protection law conflicts with AI in many ways. It is debateable whether this has to be the case from the perspective of fundamental rights. If the fundamental data protection right in Article 8 of the EU Charter of Fundamental Rights (CFR) recognised a right to informational self-determination, to make a personal decision on the use of one’s personal data, then the limitations of the legislator, at least with regard to the use of AI by public bodies would be strict—i.e. the use of AI would thus be largely prohibited in this regard. However, it seems to be more convincing to interpret Article 8 CFR as a duty of the legislator to regulate the handling of data by the state—and thus also the use of AI—in such a way that fundamental rights are protected as far as possible. A fundamental right to data protection interpreted in this way would be open to technical innovations, because it would enable the legislature to deviate in parts from the traditional basic concept of data protection law and instead to test innovative protective instruments that could even prove to be more effective. At the same time, it does not leave the individual unprotected, since it obliges the legislator, among other things, to base its regulations on a comprehensive concept for the protection of fundamental rights, which must also take account of data processing by private individuals.

References

  1. Albers M (2005) Informationelle Selbstbestimmung. Nomos, Baden-BadenCrossRefGoogle Scholar
  2. Albers M (2014) Realizing the complexity of data protection. In: Gutwirth S, Leenes R, De Hert P (eds) Reloading data protection: multidisciplinary insights and contemporary challenges. Springer, Dordrecht, Heidelberg, London, New York, pp 213–235CrossRefGoogle Scholar
  3. Altman M, Wood A, O’Brien DR, Gasser U (2018) Practical approaches to big data privacy over time. Int Data Priv Law 8:29–51CrossRefGoogle Scholar
  4. Article 29 Data Protection Working Party (2013) Opinion 03/2013 on purpose limitation (2.4.2013). http://ec.europa.eu/justice/article-29/documentation/opinion-recommendation/files/2013/wp203_en.pdf. Accessed 18 Sept 2018
  5. Bernsdorff N (2014) Art. 8. In: Meyer J (ed) Charta der Grundrechte der Europäischen Union, 4th edn. Nomos, Baden-BadenGoogle Scholar
  6. Boehme-Neßler V (2017) Die Macht der Algorithmen und die Ohnmacht des Rechts. Neue Juristische Wochenschrift 70:3031–3037Google Scholar
  7. Britz G (2010) Informationelle Selbstbestimmung zwischen rechtswissenschaftlicher Grundsatzkritik und Beharren des Bundesverfassungsgerichts. In: Hoffmann-Riem W (ed) Offene Rechtswissenschaft: Ausgewählte Schriften von Wolfgang Hoffmann-Riem mit begleitenden Analysen. Mohr Siebeck, Tübingen, pp 561–596Google Scholar
  8. Butterworth M (2018) The ICO and artificial intelligence: the role of fairness in the GDPR framework. Comput Law Secur Rev 34:257–268CrossRefGoogle Scholar
  9. Cate FH, Cullen P, Mayer-Schönberger V (2014) Data protection principles for the 21st century: revising the 1980 OECD guidelines. https://www.oii.ox.ac.uk/archive/downloads/publications/Data_Protection_Principles_for_the_21st_Century.pdf
  10. Conrad CS (2017) Künstliche Intelligenz — Die Risiken für den Datenschutz. Datenschutz und Datensicherheit 41:740–744CrossRefGoogle Scholar
  11. Conrad CS (2018) Kann die Künstliche Intelligenz den Menschen entschlüsseln? — Neue Forderungen zum Datenschutz. Datenschutz und Datensicherheit 42:541–546CrossRefGoogle Scholar
  12. Cornils M (2014) Schrankendogmatik. In: Grabenwarter C (ed) Enzyklopädie Europarecht II: Europäischer Grundrechtsschutz. Nomos, Baden-Baden, § 5Google Scholar
  13. Cornils M (2015) Der grundrechtliche Rahmen für ein (trans-)nationales Datenschutzrecht im digitalen Zeitalter. In: Hain K-E, Peifer K-N (eds) Datenschutz im digitalen Zeitalter – global, europäisch, national: Vortragsveranstaltung des Instituts für Rundfunkrecht an der Universität zu Köln vom 16. Mai 2014. Beck, München, pp 11–50Google Scholar
  14. Council of Europe’s Consultative Committee of Convention 108 (2017) Guidelines on the protection of individuals with regard to the processing of personal data in a world of Big Data. https://rm.coe.int/CoERMPublicCommonSearchServices/DisplayDCTMContent?documentId=09000016806ebe7a
  15. Craig PP, Hofmann H, Schneider J-P, Ziller J (eds) (2017) ReNEUAL model rules on EU administrative procedure. Oxford University Press, Oxford, New York, NYGoogle Scholar
  16. Eichenhofer J (2016) Privatheit im Internet als Vertrauensschutz: Eine Neukonstruktion der Europäischen Grundrechte auf Privatleben und Datenschutz. Der Staat 55:41–67CrossRefGoogle Scholar
  17. Forgó N, Hänold S, Schütze B (2017) The principle of purpose limitation and big data. In: Corrales M, Fenwick M, Forgó N (eds) New technology, big data and the law, vol 17. Springer, Singapore, pp 17–42CrossRefGoogle Scholar
  18. González Fuster G, Gutwirth S (2013) Opening up personal data protection: a conceptual controversy. Comput Law Secur Rev 29:531–539CrossRefGoogle Scholar
  19. Grafenstein M (2018) The principle of purpose limitation in data protection laws: the risk-based approach, principles, and private standards as elements for regulating innovation. Nomos, Baden-BadenCrossRefGoogle Scholar
  20. Hoeren T, Niehoff M (2018) KI und Datenschutz – Begründungserfordernisse automatisierter Entscheidungen. RW 9:47–66CrossRefGoogle Scholar
  21. Hoffmann-Riem W (1998) Informationelle Selbstbestimmung in der Informationsgesellschaft: Auf dem Wege zu einem neuen Konzept des Datenschutzes. Archiv des öffentlichen Rechts 123:513–540Google Scholar
  22. Hoffmann-Riem W (2018) Rechtliche Rahmenbedingungen für und regulative Herausforderungen durch Big Data. In: Hoffmann-Riem W (ed) Big Data - Regulative Herausforderungen. Nomos, Baden-Baden, pp 9–78CrossRefGoogle Scholar
  23. Hornung G (2015) Grundrechtsinnovationen. Mohr Siebeck, TübingenCrossRefGoogle Scholar
  24. Hornung G (2018) Erosion traditioneller Prinzipien des Datenschutzrechts durch Big Data. In: Hoffmann-Riem W (ed) Big Data - Regulative Herausforderungen. Nomos, Baden-Baden, pp 79–98CrossRefGoogle Scholar
  25. Hornung G, Herfurth C (2018) Datenschutz bei Big Data: Rechtliche und politische Implikationen. In: König C, Schröder J, Wiegand E (eds) Big Data: Chancen, Risiken, Entwicklungstendenzen. Springer VS, Wiesbaden, pp 149–183CrossRefGoogle Scholar
  26. Information Commissioner’s Office (2017) Big data, artificial intelligence, machine learning and data protection. https://ico.org.uk/media/for-organisations/documents/2013559/big-data-ai-ml-and-data-protection.pdf. Accessed 18 Sept 2018
  27. Kamarinou D, Millard C, Jatinder S (2017) Machine learning with personal data. In: Leenes R, van Brakel R, Gutwirth S, de Hert P (eds) Data protection and privacy: the age of intelligent machines. Bloomsbury Publishing PLC, Oxford, Portland, pp 89–114Google Scholar
  28. Kingreen T (2016) Art. 8 GRC. In: Calliess C, Ruffert M (eds) EUV/AEUV: Das Verfassungsrecht der Europäischen Union mit Europäischer Grundrechtecharta – Kommentar, 5th edn. MünchenGoogle Scholar
  29. Kroll JA, Huey J, Barocas S, Felten EW, Reidenberg JR, Robinson DG, Yu H (2017) Accountable algorithms. Univ Pa Law Rev 165:633–705Google Scholar
  30. Marsch N (2018) Das europäische Datenschutzgrundrecht: Grundlagen - Dimensionen - Verflechtungen. Mohr Siebeck, TübingenCrossRefGoogle Scholar
  31. Martini M (2017) Algorithmen als Herausforderung für die Rechtsordnung. JuristenZeitung 72:1017–1025CrossRefGoogle Scholar
  32. Mayer-Schönberger V, Cukier K (2013) Big data: a revolution that will transform how we live, work, and think. Houghton Mifflin Harcourt, BostonGoogle Scholar
  33. Naumann K (2008) Art. 52 Abs. 3 GrCh zwischen Kohärenz des europäischen Grundrechtsschutzes und Autonomie des Unionsrechts. Europarecht 43:424–435CrossRefGoogle Scholar
  34. Oostveen M, Irion K (2018) The golden age of personal data: how to regulate an enabling fundamental right? In: Bakhoum M, Conde Gallego B, Mackenrodt M-O, Surblytė-Namavičienė G (eds) Personal data in competition, consumer protection and intellectual property law: towards a holistic approach? Springer, Berlin, pp 7–26CrossRefGoogle Scholar
  35. Poscher R (2012) Die Zukunft der informationellen Selbstbestimmung als Recht auf Abwehr von Grundrechtsgefährdungen. In: Gander H-H, Perron W, Poscher R, Riescher G, Würtenberger T (eds) Resilienz in der offenen Gesellschaft. Nomos, Baden-Baden, pp 167–190CrossRefGoogle Scholar
  36. Poscher R (2017) The right to data protection: a no-right thesis. In: Miller RA (ed) Privacy and power: a transatlantic dialogue in the shadow of the NSA-Affair. Cambridge University Press, Cambridge, pp 129–141CrossRefGoogle Scholar
  37. Rademacher T (2017) Predictive Policing im deutschen Polizeirecht. Archiv des öffentlichen Rechts 142:366–416CrossRefGoogle Scholar
  38. Rost M (2018) Künstliche Intelligenz. Datenschutz und Datensicherheit 42:558–565CrossRefGoogle Scholar
  39. Siemen B (2006) Datenschutz als europäisches Grundrecht. Duncker & Humblot, BerlinGoogle Scholar
  40. Spiecker gen. Döhmann I (2017) Big und Smart Data: Zweckbindung zwecklos? Spektrum der Wissenschaften Spezial:56–62Google Scholar
  41. Trute H-H (2003) Verfassungsrechtliche Grundlagen. In: Roßnagel A (ed) Handbuch Datenschutzrecht: Die neuen Grundlagen für Wirtschaft und Verwaltung. Beck, München, Kap. 2.5Google Scholar
  42. Trute H-H (2018) Rechtliche Herausforderungen der Digitalisierung. In: Bär C, Grädler T, Mayr R (eds) Digitalisierung im Spannungsfeld von Politik, Wirtschaft, Wissenschaft und Recht: 2. Volume: Wissenschaft und Recht. Springer Gabler, Berlin, pp 313–330CrossRefGoogle Scholar
  43. Trute H-H, Broemel R (2016) Alles nur Datenschutz? Zur rechtlichen Regulierung algorithmenbasierter Wissensgenerierung. Berliner Debatte Initial 27:50–65Google Scholar
  44. Wischmeyer T (2018) Regulierung intelligenter Systeme. Archiv des öffentlichen Rechts 143:1–66CrossRefGoogle Scholar

Copyright information

© Springer Nature Switzerland AG 2020

Authors and Affiliations

  1. 1.Rechtswissenschaftliche FakultätSaarland UniversitySaarbrückenGermany

Personalised recommendations