Zusammenfassung
Die Digitalisierung ist eines der zentralen politischen Themen der Gegenwart und Zukunft. Der mit ihr einhergehende ‚technologische Wandel‘ zählt auch zu den zentralen Impulsen internationaler Sicherheitspolitik (vgl. Lahl & Varwick, 2021, S. 130–136). Dabei werden Chancen und Risiken bezüglich der Nutzung Künstlicher Intelligenz (KI) kontrovers diskutiert. Denn das von KI-Technologien ausgehende Potential an Sprunginnovationen deutet an, „dass mit einer unbestimmten Menge an unknown unknowns im Bereich sicherheitspolitischer Herausforderungen durch KI gerechnet werden muss“ (Stulpe & Schaal, 2019, S. 254). In der Sicherheitspolitik gilt dieser Befund vor allem dem Einsatz und der Entwicklung militärischer Robotik und Drohnentechnologie, sogenannte unbemannte Systeme. Diese Systeme zählen zu den vieldiskutierten Problematiken des Einsatzes Künstlicher Intelligenz, weil sie die menschliche Verantwortung für einen potentiell tödlichen Einsatz relativieren und Entscheidungsprozesse im Einsatz unter Umständen so stark beschleunigen können, dass sie das Risiko bergen, der menschlichen Kontrolle ganz oder teilweise entzogen zu werden. Die anhaltende Proliferation dieser Systeme sowie die politischen Bemühungen, vor allem demokratischer Staaten, auf ihre nachhaltige internationale Regulierung hinzuwirken, geben Anlass, sich den Auswirkungen KI-gestützter Militärtechnologien auf demokratische Sicherheitspolitik zu widmen. Auch mit Blick auf die Bewaffnung und den Einsatz deutscher Drohnen diskutiert dieser Beitrag folgende Fragen:
-
Welche Bedeutung hat KI in der Sicherheitspolitik?
-
Sind die bestehenden Legitimationsmechanismen für eine wirksame Kontrolle KI-basierter Systeme geeignet?
-
Wie verändern sich in Deutschland die Rahmenbedingungen parlamentarischer Kontrolle von Sicherheitspolitik durch ihren Einsatz?
-
Und wie können eventuelle Kontrolldefizite wirksam kompensiert werden?
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Similar content being viewed by others
Notes
- 1.
Schlagwortsuche im Dokumentations- und Informationssystem für Parlamentsmaterialien (DIP) mit Bool‘schen Operatoren (AND, OR, NOT) kombiniert und nach Sachgebiet (Verteidigung), Wahlperiode (15. bis 19. WP) sowie Vorgangstyp (Anfrage/Frage) gefiltert; Verschlagwortung 1: „Drohne“ OR „unbemannte Systeme“ OR „autonome Waffensysteme“ OR „UAV“ OR „Unbemanntes Fluggerät“; Verschlagwortung 2: „KI“ OR „Künstliche Intelligenz“ OR „autonome Systeme“ AND „Militär“ OR „Bundeswehr“ OR „Streitkräfte“.
Literatur
Benda, S. R. (1997). Committees in legislatures. A division of labour. In L. D. Longley & A. Ágh (Hrsg.), The Changing Roles of Parliamentary Committees (S. 17–50). International Political Science Association.
Bossong, N., Rieks, A., & Koch, W. (2022). Künstliche Intelligenz für die Landesverteidigung (S. 18). Frankfurter Allgemeine Zeitung v. 31.1.2022.
Brundage, M., Avin, S., Clark, J., Toner, H., Eckersley, P., Garfinkel, B., et al. (2018). The malicious use of artificial intelligence: Forecasting, prevention, and mitigation. http://arxiv.org/abs/1802.07228. Zugegriffen: 8. März 2022.
Bundesministerium für Bildung und Forschung. (2022). Antwort der Bundesregierung auf eine Kleine Anfrage der Abgeordneten Anke Domscheit-Berg, Dr. Petra Sitte u. a. und der Fraktion DIE LINKE „Künstliche Intelligenz im Geschäftsbereich der Bundesregierung“ (BT–Drs. 20/317). https://mdb.anke.domscheit-berg.de/wp-content/uploads/2022/01/220114_Antwort_KA_KI.pdf. Zugegriffen: 25. Febr. 2022.
Bundesrechnungshof. (2013). Bericht an den Haushaltsausschuss des Deutschen Bundestages nach § 88 Abs. 2 BHO zur Entwicklung des Euro Hawk Systems, IV 5 – 2010 – 0460 (VS-NfD).
Bundesregierung. (2016). Weissbuch 2016: Zur Sicherheit und zur Zukunft der Bundeswehr. https://www.bmvg.de/resource/blob/13708/015be272f8c0098f1537a491676bfc31/weissbuch2016-barrierefrei-data.pdf. Zugegriffen: 5. Febr. 2022.
Bundeswehr. (2019). Künstliche Intelligenz in den Landstreitkräften. Ein Positionspapier des Amts für Heeresführung. https://www.bundeswehr.de/resource/blob/156024/d6ac452e72f77f3cc071184ae34dbf0e/download-positionspapier-deutsche-version-data.pdf. Zugegriffen: 28. Febr. 2022.
Clausewitz, C. von. (1832). Vom Kriege: Hinterlassenes Werk des Generals Carl von Clausewitz: Vollständige Ausgabe im Urtext, drei Teile in einem Band. Dümmler.
Dahlmann, A., & Dickow, M. (2019). Präventive Regulierung autonomer Waffensysteme: Handlungsbedarf für Deutschland auf verschiedenen Ebenen. SWP-Studie, 19(1), 1–30.
Deutscher Bundestag. (2009). BT-Drs. 16/12481 Antwort der Bundesregierung auf die Kleine Anfrage Drucksache 16/12193 – Einführung und Bedeutung unbemannter militärischer Fahrzeuge und Luftfahrzeuge. https://dserver.bundestag.de/btd/16/124/1612481.pdf. Zugegriffen: 10. Aug. 2022.
Deutscher Bundestag. (2011). BT-Drs. 17/6904 Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung: Stand und Perspektiven der militärischen Nutzung unbemannter Systeme. https://dserver.bundestag.de/btd/17/069/1706904.pdf. Zugegriffen: 25. Febr. 2022.
Deutscher Bundestag. (2015). BT-Drs. 18/5000 Unterrichtung durch die Kommission zur Überprüfung und Sicherung der Parlamentsrechte bei der Mandatierung von Auslandseinsätzen der Bundeswehr (Rühe-Kommission).
Deutscher Bundestag. (2019a). BT-Drs. 19/7742 Beschlussempfehlung und Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung. https://dserver.bundestag.de/btd/19/077/1907742.pdf. Zugegriffen: 27. Febr. 2022.
Deutscher Bundestag. (2019b). BT-Drs. 19/15757 Beschlussempfehlung und Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung. https://dserver.bundestag.de/btd/19/157/1915757.pdf. Zugegriffen: 27. Febr. 2022.
Deutscher Bundestag. (2019c). Öffentliche Anhörung zum Thema „Aktuelle Entwicklungen und die Rolle Deutschlands im Kontext internationaler Bemühungen zur Prohibition oder Restriktion letaler autonomer Waffensysteme“. https://www.bundestag.de/webarchiv/Ausschuesse/ausschuesse19/a03/ua_arn/OeffentlicheAnhoerungen/687188-687188. Zugegriffen: 25. Febr. 2022.
Deutscher Bundestag. (2020a). BT-Drs. 19/23672 Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung: Autonome Waffensysteme. https://dserver.bundestag.de/btd/19/236/1923672.pdf. Zugegriffen: 25. Febr. 2022.
Deutscher Bundestag. (2020b). BT-Drs. 19/23700 Abschlussbericht der Enquete-Kommission Künstliche Intelliegenz. https://dserver.bundestag.de/btd/19/237/1923700.pdf. Zugegriffen: 10. Aug. 2022.
Erlenbruch, T. (2019). Künstliche Intelligenz und Big Data. Das Gemeinsame Lagezentrum Cyber- und Infomrationsraum. Europäische Sicherheit & Technik, 68(9), 68–70.
Franke, U., & Scheidt, S. (2020). Zur aktuellen Drohnendebatte – Überblick und Einschätzung bewaffneter Drohnen für Deutschland. Mit anschließendem Factsheet: Befwaffnete Drohnen – ein Überblick (Bd. 2, 4. Aufl.). #GIDSstatement.
Frau, R. (2022). § 9 B. Militärische Waffensysteme. In K. Chibanguza, C. Kuß, & H. Steege (Hrsg.), Künstliche Intelligenz: Recht und Praxis automatisierter und autonomer Systeme (1. Aufl., S. 1215–1228). Nomos.
Ganser, H. W., Lapins, W., & Puhl, D. (2018). Was bleibt vom Westen? – Wohin geht die NATO? Friedrich-Ebert-Stiftung.
Gauseweg, S. (2014). Der konstitutive Parlamentsvorbehalt beim Einsatz bewaffneter Drohnen. In Drohnen und das Recht: Völker- und verfassungsrechtliche Fragen automatisierter und autonomer Kriegsführung (S. 177–192). Mohr Siebeck.
Geist, E., & Lohn, A. (2018). How might artificial intelligence affect the risk of nuclear war? RAND Corporation. https://doi.org/10.7249/PE296.
George, B., & Graham, A. (1994). Defense Committees in Democratic and Democratising Legislatures. Paper Presented to the Workshop of Parliamentary Scholars and Parliamentarians (S. 12–13, 22).
Golla, S. J. (2022). § 9 A. KI-Einsatz bei der Polizei. In K. Chibanguza, C. Kuß, & H. Steege (Hrsg.), Künstliche Intelligenz: Recht und Praxis automatisierter und autonomer Systeme (1. Aufl., S. 1201–1214). Nomos.
Hansel, M. (2011). Eine revolution in military affairs? – Visionäre und Skeptiker. In T. Jäger & R. Beckmann (Hrsg.), Handbuch Kriegstheorien (1. Aufl., S. 298–309). VS Verlag.
Harfst, P., & Schnapp, K.-U. (2003). Instrumente parlamentarischer Kontrolle der Exekutive in westlichen Demokratien. Discussion Paper SP IV 2003–201. Wissenschaftszentrum Berlin für Sozialforschung (WZB).
von Krause, U. (2013). Innovation im Militär. In M. Mai (Hrsg.), Handbuch Innovationen: Interdisziplinäre Grundlagen und Anwendungsfelder (S. 299–317). Springer VS.
Krause, U. von. (2021). Künstliche Intelligenz im Militär: Chancen und Risiken für die Sicherheitspolitik. Springer VS.
Lahl, K., & Varwick, J. (2021). Künstliche Intelligenz und autonome Waffensysteme. In Sicherheitspolitik verstehen: Handlungsfelder, Kontroversen und Lösungsansätze (2., aktualisierte und erweiterte Auflage., S. 130–136). Wochenschau.
Libicki, M. (1996). The emerging primacy of information. Orbis, 40(2), 261–274. https://doi.org/10.1016/S0030-4387(96)90064-2.
Macintosh, J. P. (1971). Reform in the house of commons. In G. Loewenberg (Hrsg.), Modern parliaments: Change or decline? (S. 33–63). Aldine·Atherton.
Malbin, M. J. (1980). Unelected representatives: Congressional staff and the future of representative government. Basic Books Inc.
Mätzig, A. (2004). Entscheidungsprozesse im Verteidigungsausschuss: Unter besonderer Berücksichtigung der 13. Wahlperiode (1994–1998). Lang.
Münzing, E., & Pilz, V. (1998). Der Auswärtige Ausschuß des Deutschen Bundestages: Aufgaben Organisation und Arbeitsweise. Zeitschrift für Parlamentsfragen, 29(4), 575–604.
NATO. (2021). Summary of the NATO artificial intelligence strategy. NATO. https://www.nato.int/cps/en/natohq/official_texts_187617.html. Zugegriffen: 24. Febr. 2022.
Ondarza, N. von. (2012). Legitimatoren ohne Einfluss? Nationale Parlamente in Entscheidungsprozessen zu militärischen EU- und VN-Operationen im Vergleich. Nomos.
Petermann, T., Socher, M., & Wennrich, Ch. (1996). Kontrollkriterien für die Bewertung und Entscheidung bezüglich neuer Technologien im Rüstungsbereich (No. Arbeitsbericht Nr. 45). Büro für Technikfolgenabschätzung beim Deutschen Bundestag.
Pilniok, A. (2021). Das Zeitalter der Künstlichen Intelligenz als Herausforderung für die Parlamente. Zeitschrift für Parlamentsfragen, 52(1), 159–181.
Pilz, V. (2008). Der Auswärtige Ausschuss des Deutschen Bundestages und die Mitwirkung des Parlaments an der auswärtigen und internationalen Politik. Duncker & Humblot.
Raunio, T., & Wagner, W. (2019). Towards parlamentarisation of foreign and security policy? In T. Raunio & W. Wagner (Hrsg.), Challenging executive dominance: Legislatures and foreign affairs (S. 1–19). Routledge.
Raunio, T., & Wagner, W. (Hrsg.). (2019b). Challenging executive dominance: Legislatures and foreign affairs. Routledge.
Reitmeier, G. (2020). Licence to Kill. Artificial intelligence in weapon systems and new challenges for arms control. Policy Paper Friedrich Naumann Stiftung. https://shop.freiheit.org/download/P2@953/335163/Policy%20Paper%20LAWS-ENG-Final.pdf. Zugegriffen: 10. Aug. 2022.
Ruhnke, S. D. (2018). Von Revolution in Military Affairs zu Vernetzte Sicherheit. Die Entwicklung und eingeschränkte Umsetzung des Vernetzungsgedankens in der deutschen Außen- und Sicherheitspolitik. Universität zu Köln.
Schmidt-Radefeldt, R. (2005). Parlamentarische Kontrolle der internationalen Streitkräfteintegration. Duncker & Humblot.
Schmidt-Radefeldt, R. (2013). Drohnen im Krieg – Krieg der Drohnen. Neue Zeitschrift für Wehrrecht, 55(3), 89–104.
Schörnig, N. (2012). Die Automatisierung des Kreiges: Eine kritische Bestandsaufnhame. In R. Schmidt-Radefeldt & C. Meissler (Hrsg.), Automatisierung und Digitalisierung des Krieges: Drohnenkrieg und Cyberwar als Herausforderungen für Ethik, Völkerrecht und Sicherheitspolitik (S. 33–59). Nomos.
Seyffarth, M. (2018). Kommentar zum Parlamentsbeteiligungsgesetz (ParlBG): Unter gleichzeitiger Berücksichtigung neuester Änderungsvorschläge zum ParlBG. C.F. Müller.
Staack, M., Schwalb, R., & Bläsius, K. H. (2022). Atomkrieg aus Versehen und Ukraine Krieg. Atom-Krieg-aus-Versehen.
Strøm, K. (1997). Parliamentary committees in european democracies. In L. D. Longley & A. Ágh (Hrsg.), The changing roles of parliamentary committees (S. 51–85). International Political Science Association.
Stulpe, A., & Schaal, G. S. (2019). Künstliche Intelligenz als sicherheitspolitische Herausforderung. In D. Jacobi & G. Hellmann (Hrsg.), Das Weißbuch 2016 und die Herausforderungen von Strategiebildung (S. 249–267). Springer Fachmedien. https://doi.org/10.1007/978-3-658-23975-6_16.
Varwick, J. (2015). KOM-Drs. K-18(26)016b Schriftliches Statement zur 5. Sitzung der Kommission zur Überprüfung und Sicherung der Parlamentsrechte bei der Mandatierung von Auslandseinsätzen der Bundeswehr v. 11.09.2014. https://dserver.bundestag.de/btd/18/CD05000/Anlage03.pdf.
Werkner, I.-J., & Hofheinz, M. (Hrsg.). (2019). Unbemannte Waffen und ihre ethische Legitimierung. Springer VS.
Wiefelspütz, D. (2008). Auslandseinsätze deutscher Streitkräfte und der Bundestag: Ist eine Reform geboten? Zeitschrift für Parlamentsfragen, 39(2), 203–219.
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2023 Der/die Autor(en), exklusiv lizenziert an Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature
About this chapter
Cite this chapter
Varwick, J., Prust, O. (2023). Künstliche Intelligenz als Herausforderung für demokratische Sicherheitspolitik. In: Wagener, A., Stark, C. (eds) Die Digitalisierung des Politischen. Sozialwissenschaften und Berufspraxis . Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-38268-1_4
Download citation
DOI: https://doi.org/10.1007/978-3-658-38268-1_4
Published:
Publisher Name: Springer VS, Wiesbaden
Print ISBN: 978-3-658-38267-4
Online ISBN: 978-3-658-38268-1
eBook Packages: Social Science and Law (German Language)