Zusammenfassung
Als Gegenthese zum unreflektierten breiten Einsatz von künstlicher Intelligenz (KI) als gehypte Supertechnologie, die alle Probleme löst und sogar die Intelligenz von Menschen überflügeln sollte, werden in diesem Beitrag nach einer kurzen Einführung in die wichtigsten KI-Aspekte fünf prinzipielle Problembereiche der KI-Technologie erörtert: Modellierbarkeit – wie leiten wir aus Daten Modelle der realen Welt ab und wie stellen wir ein Modell ohne Vorurteile und Fehler her; Verifizierbarkeit – wie überprüfen wir die KI-Algorithmen; Erklärbarkeit – wie können wir Entscheidungsfindungen von KI-Systemen nachvollziehen; Ethik – wie stellen wir sicher, dass die Einhaltung ethischer Grundsätze und Werte garantiert werden; und schließlich Verantwortlichkeit – wer trägt die Verantwortung für getroffene Entscheidungen des Systems. Weiterhin werden grundsätzliche gesellschaftliche Bedrohungspotenziale im Kontext unserer Informationsgesellschaft thematisiert und die Grenzen der KI-Technologie als klare Abgrenzung zu menschlicher Intelligenz erörtert. Zusammenfassend wird hervorgehoben, dass KI-Technologieentwicklungen sowie die Rahmenbedingungen so gestaltet werden, dass KI als ein effektives und verantwortungsvolles Werkzeug für uns alle eingesetzt werden kann.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Notes
- 1.
In drei Tagen zum Internationalen Schachmeister, Spiegel, 17.9.2015, https://www.spiegel.de/netzwelt/web/kuenstliche-intelligenz-computer-lernt-in-72-stunden-schach-a-1053338.html (letzter Zugriff am 22.09.2020).
- 2.
KI von Elon-Musk-Startup zerstörte bei Computerspiel-Duell weltbesten Spieler, DerStandard, 12.8.2017, https://derstandard.at/2000062596518/KI-von-Elon-Musk-Startup-zerstoerte-bei-Computerspiele-Duell-weltbesten (letzter Zugriff am 22.09.2020).
- 3.
Computer schreibt sechstes Buch von Game of Thrones, Frankfurter Allgemeine, 30.8.2017, https://www.faz.net/aktuell/wirtschaft/kuenstliche-intelligenz/game-of-thrones-kuenstliche-intelligenz-schreibt-sechstes-buch-15175025.html (letzter Zugriff am 22.09.2020).
- 4.
Kunstwort aus „chat“ (Plaudern) und „bot“ (Roboter).
- 5.
www.ofai.at (letzter Zugriff am 22.09.2020).
- 6.
KIRAS Projekt FLORIDA – Flexibles, teilautomatisiertes Analysesystem zur Auswertung von Videomassendaten nach Terroranschlägen, https://www.kiras.at/gefoerderte-projekte/detail/d/florida/ und EU Projekt VICTORIA – Video analysis for Investigation of Criminal and TerrORIst Activities, https://www.victoria-project.eu/ (letzte Zugriffe am 22.09.2020).
- 7.
EU H2020 Projekt COPKIT, https://copkit.eu/ (letzter Zugriff am 22.09.2020).
- 8.
WWTF-Projekt Big-DAMA – Big Data Analytics for network traffic Monitoring and Analysis, https://bigdama.ait.ac.at/ (letzter Zugriff am 22.09.2020).
- 9.
Forschungsprojekt "Natural Language Search" erfolgreich abgeschlossen, 06.03.2018, https://www.pressebox.de/pressemitteilung/ser-gruppe/Forschungsprojekt-Natural-Language-Search-erfolgreich-abgeschlossen/boxid/896124 (letzter Zugriff am 22.09.2020).
- 10.
KIRAS Projekt CAIS Cyber Attack Information System, https://www.kiras.at/gefoerderte-projekte/detail/d/cais-cyber-attack-information-system/ (letzter Zugriff am 22.09.2020).
- 11.
FFG Forschungsprojekt „Mal2“, https://www.malzwei.at/ (letzter Zugriff am 22.09.2020).
- 12.
FFG Forschungsprojekt „Primming“, https://projekte.ffg.at/projekt/3280774 (letzter Zugriff am 22.09.2020).
- 13.
KIRAS Projekt „Defalsif-AI – Detektion von Falschinformationen mittels Artificial Intelligence“, www.defalsifai.at
- 14.
https://www.know-center.tugraz.at/en/ (letzter Zugriff am 22.09.2020).
- 15.
https://igi-web.tugraz.at/people/maass/ (letzter Zugriff am 22.09.2020).
- 16.
Bei modernen Prozessortechnologien werden Milliarden Transistoren auf einem Quadratzentimeter verbaut.
- 17.
An in-depth look at Google’s first Tensor Processing Unit (TPU), Google Cloud Blog, https://cloud.google.com/blog/big-data/2017/05/an-in-depth-look-at-googles-first-tensor-processing-unit-tpu (letzter Zugriff am 22.09.2020).
- 18.
Intel zahlt 15,3 Mrd. Dollar für Autozulieferer, Handelsblatt, 13.03.2017, https://www.handelsblatt.com/unternehmen/it-medien/mobileye-intel-zahlt-15-3-milliarden-dollar-fuer-autozulieferer/19508066.html (letzter Zugriff: 22.9.2020).
- 19.
Nicole Hemsoth, Intel, Nervana Shed Light on Deep Learning Chip Architecture, January 11, 2018, https://www.nextplatform.com/2018/01/11/intel-nervana-shed-light-deep-learning-chip-architecture/ (letzter Zugriff am 22.9. 2020).
- 20.
A List of Chip/IP for Deep Learning, 11.8.2017, https://medium.com/@shan.tang.g/a-list-of-chip-ip-for-deep-learning-48d05f1759ae (letzter Zugriff am 22.09.2020).
- 21.
https://en.wikipedia.org/wiki/MAWI (letzter Zugriff am 22.9. 2020).
- 22.
A large-scale dataset of manually annotated audio events, https://research.google.com/audioset/ (letzter Zugriff am 22.09. 2020).
- 23.
Um ähnliche Daten in Cluster zu gruppieren, werden z. B. der k-Means-Algorithmus oder auch die Methode der hierarchischen Cluster verwendet.
- 24.
Die Macht des Aberglaubens, 12.03.2004, https://www.spiegel.de/wissenschaft/mensch/psychologie-die-macht-des-aberglaubens-a-290219.html (letzter Zugriff am 22.09.2020).
- 25.
Sogenannte Face-Morphing-Angriffe auf Gesichtserkennungssysteme.
- 26.
Selbstfahrender Tesla übersieht weißen Lkw vor Wolkenhimmel, Welt, 1.7.2016, https://www.welt.de/wirtschaft/article156727084/Selbstfahrender-Tesla-uebersieht-weissen-Lkw-vor-Wolkenhimmel.html (letzter Zugriff am 22.09.2020).
- 27.
https://www.enable-s3.eu/ (letzter Zugriff am 22.9. 2020).
- 28.
https://autodrive-project.eu/ (letzter Zugriff am 22.09. 2020).
- 29.
https://valu3s.eu/ (letzter Zugriff am 22.9. 2020).
- 30.
https://vvpatterns.ait.ac.at/ (letzter Zugriff am 22.09. 2020).
- 31.
Künstliche Intelligenz: Die Europäische Kommission beginnt Arbeit um Ethikstandards und modernste Technik zusammen zu bringen, Pressemitteilung der EC, 09.03.2018, https://europa.eu/rapid/press-release_IP-18-1381_de.htm (letzter Zugriff am 22.9. 2020).
- 32.
Von der FFG gefördertes FEMtech Projekt „PRIMMING“, https://projekte.ffg.at/projekt/3280774, https://dynamic-pricing.at/ (letzte Zugriffe am 22.09.2020).
- 33.
Von Netidee gefördertes Projekt „Preiswert“, https://www.netidee.at/preiswert (letzter Zugriff am 22.09.2020).
- 34.
Aufdeckung von Preisdiskriminierung: AIT und ÖIAT verstärken Forschungskooperation, Horizont, 4.2.2020, https://www.horizont.at/digital/news/aufdeckung-von-preisdiskriminierung-ait-und-oeiat-verstaerken-forschungskooperation-73253 (letzter Zugriff am 22.09.2020).
- 35.
Deepfake: Betrüger erleichterte Firma dank gefälschter Stimme um 220.000 €, DerStandard, 5.9.2019, https://www.derstandard.at/story/2000108225039/deepfake-betrueger-erleichterte-firma-dank-gefaelschter-stimme-um-220-000 (letzter Zugriff am 22.09.2020).
- 36.
Pelosi videos manipulated to make her appear drunk are being shared on social media, Youtube, https://www.youtube.com/watch?v=sDOo5nDJwgA (letzter Zugriff am 22.09.2020).
Literatur
Aichernig BK, Ba P, Jöbstl E, Kann S, Korosec R, Krenn W, Mateis C, Schlick R, Schumi R (2019) Learning and statistical model checking of system response times. Softw Qual J 27(2):757–795
AIM (2018) Artificial Intelligence Mission Austria (AIM AT) 2030 – Die Zukunft der Künstlichen Intelligenz in Österreich gestalten. Bundesministerium für Verkehr, Innovation und Technologie (BMVIT) und Bundesministerium für Digitalisierung und Wirtschaftsstandort (BMDW), Wien. www.bmk.gv.at, www.bmdw.gv.at
Bartocci E, Deshmukh J, Gigler F, Mateis C, Ničkovic, D, Qin X (2020) Mining shape expressions from positive examples. International Conference on Embedded Software (EMSOFT), Hamburg, Germany, 20–25 September 2020
Bartocci E, Ferrère T, Manjunath N, Ničković D (2018) Localizing faults in simulink/stateflow models with STL. In: Proceedings of the 21st International Conference on Hybrid Systems: Computation and Control HSCC '18, part of CPS Week, April 2018, S. 197–206, https://doi.org/10.1145/3178126.3178131
Bartocci E, Manjunath N, Mariani L, Mateis C, Nickovic D (2019) Automatic failure explanation in CPS models. SEFM 2019:69–86
Brundage M et al (2018) The malicious use of artificial intelligence: forecasting, prevention, and mitigation, future of humanity institute, University of Oxford. Centre for the Study of Existential Risk. University of Cambridge, Center for a New American Security, Electronic Frontier Foundation, OpenAI (February 2018)
Buolamwini J (2020) The coded gaze: bias in AI, DLD conference “What are you adding?”, Munich, January 18–20, 2020. https://www.dld-conference.com/, und https://www.youtube.com/watch?v=rjesnx_Pp5w&list=PLxaUSBUUlSviSAoJ9Xuoet0s2rDOSHcey&index=29. Zugegriffen: 22. Sept. 2020
EnliteAI (2020) AI landscape Austria – the Austrian AI landscape: an overview of the entire ecosystem covering startups, companies, research institutions as well as their geographic distribution and growth. October 2020. https://www.enlite.ai/works/ailandscapeaustria. Zugegriffen: 22. Sept. 2020
Europäische Kommission (2019) Verhaltenskodex für den Bereich der Desinformation nach einem Jahr: Online-Plattformen legen Selbstbewertungsberichte vor. Erklärung der Europäischen Kommission, 29. Oktober 2019. https://ec.europa.eu/commission/presscorner/detail/de/statement_19_6166. Zugegriffen: 22. Sept. 2020
Evtimov I, Eykholt K, Fernandes E, Li B (2017) Physical adversarial examples against deep neural networks. BAIR Berkely Artificial Intelligence Research, Dec 30, 2017. https://bair.berkeley.edu/blog/2017/12/30/yolo-attack/. Zugegriffen: 22. Sept. 2020
Eykholt K, Evtimov I, Fernandes E, Li B, Rahmati A, Xiao C, Prakash A, Kohno T, Song D. (2018) Robust physical-world attacks on deep learning visual classification. CVPR 2018 conference, 10. April 2018
Fellner A, Krenn W, Schlick R, Tarrach T, Weissenbacher G (2019) Model-based, Mutation-driven Test-case Generation Via Heuristic-guided Branching Search. ACM Trans Embed Comput Syst 18(1):4:1–4:28
Ferrère Th, Nickovic D, Donzé A, Ito H, Kapinski J (2019) Interface-aware signal temporal logic. HSCC 2019:57–66
Friedman TL (2007) The world is flat: the globalized world in the twenty-first century: a brief history of the globalized world in the twenty-first century. Penguin publisher, 5.7.2007, ISBN 9780141034898
Gershgorn D (2016) Fooling the machine – the byzantine science of deceiving artificial intelligence. Popular Science, March 30. https://www.popsci.com/byzantine-science-deceiving-artificial-intelligence. Zugegriffen: 22. Sept. 2020
Graves L, Cherubini F (2016) The rise of fact-checking sites in Europe. Reuters Institute for the Study of Journalism. https://reutersinstitute.politics.ox.ac.uk/our-research/rise-fact-checking-sites-europe
High Level Expert Group on Fake News and Online Disinformation (2018) Final report of the high level expert group on fake news and online Disinformation. 12 March 2018. https://ec.europa.eu/digital-single-market/en/news/final-report-high-level-expert-group-fake-news-and-online-disinformation. Zugegriffen: 22. Sept. 2020
Hintermayer N (2020) Innovative sicherheit. FORBES, Nr. 6–20, S. 96–99. https://lnkd.in/e22Rf5H
Hochrangige Expertengruppe für künstliche Intelligenz (2019) Ethik-Leitlinien für eine vertrauenswürdige KI. Europäische Kommission, Report, 8. April 2019. https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai. Zugegriffen: 26. Sept. 2020.
Jaksic S, Bartocci E, Grosu R, Nguyen T, Nickovic D (2018) Quantitative monitoring of STL with edit distance. Formal Methods Syst Des 53(1):83–112
Kurzweil, R. (2005) Singularity Is Near. VIKING, published by the Penguin Group, Erstausgabe 2005, ISBN 0–670–03384–7
Leitner, K.-H. (2003) Von der Idee zum Markt: die 50 besten Innovationen Österreichs. Böhlau, Wien S. 268 ff.
Leopold H (2017) Social communication for corporate innovation management. Lancaster University, School of Computing and Communications, Lancaster, UK, PhD
Leopold H, Bleier T, Skopik F (2015) Cyber Attack Information System – Erfahrungen und Erkenntnisse aus der IKT-Sicherheitsforschung. Springer, Berlin. ISBN 978–3–662–44306–4
Leopold H, Krenn W, King R, Mateis C (2020) Artificial Intelligence Landscape – An Introduction in Technology Fields & Research Areas. AIT Technical Report, March 17, 2020. https://www.researchgate.net/publication/332471378_Artificial_Intelligence_Landscape_-_An_Introduction_in_Technology_Fields_Research_Areas
Lohr S (2018) Facial recognition is accurate, if you’re a white guy. New York Times, Feb. 9, 2018. https://www.nytimes.com/2018/02/09/technology/facial-recognition-race-artificial-intelligence.html
Manhart, K. (2018) Eine kleine Geschichte der Künstlichen Intelligenz. Computerwoche, 17.1.2018, https://www.computerwoche.de/a/eine-kleine-geschichte-der-kuenstlichen-intelligenz,3330537,2. Zugegriffen: 25. Sept. 2020
Nations D (2020) What is a CAPTCHA Code?, updated on February 27, 2020. https://www.lifewire.com/what-is-a-captcha-test-2483166
Ničković D, Lebeltel O, Maler O, Ferrere T, Ulus D (2020) AMT 2.0: qualitative and quantitative trace analysis with extended signal temporal logic. Int J Softw Tools Technol Transfer, 3. August 2020. https://doi.org/10.1007/s10009-020-00582-z
Nickovic D, Lebeltel O, Maler O, Ferrère T, Ulus D (2018) AMT 2.0: qualitative and quantitative trace analysis with extended signal temporal logic. TACAS (2) 2018: 303–319
Precht RD (2020) Künstliche Intelligenz und der Sinn des Lebens. Wilhelm Goldmann, München
Reichl P, Frauenberger C, Funk M (2020) Homo Digitalis – Wiener Kreis zur Digitalphilosophischen Anthropologie. Letzter Update im Jänner 2020. http://www.homodigitalis.at/
Ribeiro MT, Singh S, Guestrin C, (2016) “Why should i trust you?”: explaining the predictions of any classifier. ACM, KDD, (2016) San Francisco. CA, USA
Samuels M (2017) Hacking risk for computer vision systems in autonomous cars. SecurityIntelligence, 10.8.2017. https://securityintelligence.com/news/hacking-risk-for-computer-vision-systems-in-autonomous-cars/
Schindler A. (2018) AI and the need of a responsible and inclusive Innovation Policy. In: OVE Newsletter Social Media, „Beherrschen wir die künstliche Intelligenz“, November 2018
Silver D, Schrittwieser J, Simonyan K et al. (2017) Mastering the game of go without human knowledge. Nature 550:354–359. https://doi.org/10.1038/nature24270
Silver, N. (2012) The signal and the noise: why so many predictions fail – but some don't, Penguin Group, 27 September 2012
Turing AM (1950) I. Computing machinery and intelligence, mind – a quarterly review of psychology and philosophy. LIX(2360):433–460 (October 1950) https://doi.org/10.1093/mind/LIX.236.433
Zhang JM, Harman M, Ma L, Liu Y (2020) Machine learning testing: survey, landscapes and horizons. In: IEEE Transactions on Software Engineering, doi: https://doi.org/10.1109/TSE.2019.2962027
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2021 Der/die Autor(en), exklusiv lizenziert durch Springer-Verlag GmbH, DE, ein Teil von Springer Nature
About this chapter
Cite this chapter
Leopold, H. (2021). Warum wir der künstlichen Intelligenz nicht blind vertrauen dürfen – fünf Ansätze um künstliche Intelligenz zu beherrschen. In: Altenburger, R., Schmidpeter, R. (eds) CSR und Künstliche Intelligenz. Management-Reihe Corporate Social Responsibility. Springer Gabler, Berlin, Heidelberg. https://doi.org/10.1007/978-3-662-63223-9_4
Download citation
DOI: https://doi.org/10.1007/978-3-662-63223-9_4
Published:
Publisher Name: Springer Gabler, Berlin, Heidelberg
Print ISBN: 978-3-662-63222-2
Online ISBN: 978-3-662-63223-9
eBook Packages: Business and Economics (German Language)