Zusammenfassung
Obwohl die Konkurrenz um Künstliche Intelligenz kein klassischer Rüstungswettlauf ist, hält sich das Narrativ eines AI Arms Race in der internationalen Debatte und ein KI-Wettbewerb ist klar erkennbar. Der Essay beleuchtet die Entstehung des Narrativs und rekonstruiert den KI-Wettlauf sowie die strategischen Ausrichtungen der USA, Chinas und der EU.
Abstract
Although the competition for Artificial Intelligence is not a classic arms race, the narrative of an “AI Arms Race” persists in the international debate and an AI competition is clearly discernible. The essay examines the emergence of the narrative and reconstructs the AI race as well as the strategic orientations of the USA, China and the EU.
Explore related subjects
Discover the latest articles, news and stories from top researchers in related subjects.Avoid common mistakes on your manuscript.
1 Einleitung
In den USA, China, Russland, aber auch in Deutschland und Europa wird derzeit von einem „Artificial Intelligence (AI) Arms Race“ gesprochen. So formulierte beispielsweise Mark Hughes (2017) für das World Economic Forum „Artificial intelligence is now an arms race“, die Washington Post proklamierte ein „New Arms Race in AI“ (Barnes und Chin 2018) und die Financial Times veröffentlichte eine ganze Artikelreihe unter dieser Überschrift. Außerdem warnt die 2013 initiierte „Campaign To Stop Killer Robots“ vor der Militarisierung von KI. Ein offener Brief der Kampagne warnte schon 2015 vor einem „global AI arms race“ (Future of Life Institute 2015) und sowohl in den USA, China als auch der Europäischen Union wurde der Begriff auch von staatlicher Seite verwendet. Am markigsten drückte der russische Präsident Wladimir Putin diese Idee 2017 aus: „whoever becomes the leader in this sphere will be the ruler of the world“ (Asaro 2019, S. 46).
Das Narrativ eines globalen Wettstreits um die Marktführerschaft im Bereich Künstlicher Intelligenz (KI) verfing zunächst in US-amerikanischen Medien und Policy-Kreisen und hat sich seither global verbreitet. KI-Entwicklung gilt als Zeichen von nationalem Prestige und technologischen Fähigkeiten. Das latente Gefühl, dass die USA ihre technologische Führerschaft in diesem Sektor verlieren könnten, entstand 2017 durch massive chinesische Investitionen in diesen Sektor. Weiter trug die oben zitierte Aussage Putins zur Entstehung der Arms Race-Erzählung bei. Bereits zuvor wurde in den USA ein „Third Offset“ diskutiert, also eine Transformationstechnologie, die bisherige Verteidigungskapazitäten obsolet machen würden (Gentile et al. 2021, S. iii). KI-Komponenten spielen in dieser Strategie eine zentrale Rolle. So erklärte die National Security Commission on Artificial Intelligence (NSCAI) der USA, man müsse neue, KI-unterstützte Kampfkonzepte entwickeln, „to continuously out-innovate potential adversaries“ (NSCAI, 2021, S. 77). US-Verteidigungsminister Lloyd Austin betonte im Juli 2021: „in the AI realm as in many others, we understand that China is our pacing challenge“ (Department of Defense 2021b). Ähnliches hört man aus China, wo in Militärkreisen das „Arms Race“ in KI immer wieder angesprochen wird und „intelligentized warfare“ Teil des letzten Fünfjahresplans war (Dahm 2020). Auch der deutsche Außenminister Heiko Maas erklärte gegenüber der Deutschen Welle (Walker 2021), man sei mitten im AI Arms Race. Die EU ist zwar weit weniger als die USA und China auf militärisch nutzbare KI fokussiert, investiert und forscht aber ebenfalls in großem Maße im Bereich KI und erklärte im Juni 2019, man wolle gegenüber den „frontrunners in the so-called race for AI supremacy“ aufholen (Csernatoni 2019).
In den USA, in China sowie in der EU hat sich die Ansicht einer generellen Konkurrenz um KI und eine Nullsummenrhetorik durchgesetzt, wofür der Begriff des AI Arms Race als zentrales Deutungsmuster dient. Darin werden allerdings zwei Phänomene vermengt: im engsten Sinne die spezifische Rüstungsspirale bei den KI-Komponenten von letalen autonomen Waffensystemen (LAWS, vgl. Schörnig und Reinhold 2022)Footnote 1 und im weiteren Sinne der Wettlauf zwischen Großmächten um die Vorreiterrolle bei der Entwicklung von KI-Technologie generell. Der Essay argumentiert, dass das AI Arms Race vor allem durch Interaktions- und Lernprozesse zwischen den USA und China angetrieben wird, deren Dynamik sich seit etwa 2017 deutlich beschleunigt, sieht die Kategorisierung als Rüstungswettlauf allerdings skeptisch, insbesondere in der generelleren Verwendung des Begriffs. Zwar handelt es sich beim AI Arms Race um einen Wettlauf, aber jenseits des Teilbereichs autonomer Waffensysteme hat dieser nur wenige Ähnlichkeiten mit klassischen Rüstungsdynamiken. Obwohl sich der Begriff hartnäckig in der medialen Debatte hält, ist er konzeptionell irreführend, da es sich bei KI weder um eine Waffe handelt noch die Konkurrenz darum dem politikwissenschaftlichen Konzept eines Rüstungswettlaufs entspricht (Asaro 2019; Roff 2019; Scharre 2021). Allerdings sind eindeutig militärische Ambitionen der Großmächte USA und China im Bereich KI und ihrer militärischen Nutzung in Form von LAWS erkennbar. Da der globale Wettbewerb um KI bislang wenig politikwissenschaftlich erforscht ist, rekonstruiert dieser Essay die Entstehung des allgemeinen Wettbewerbes um KI zwischen den Großmächten USA, China und EU und das Narrativ des AI Arms Race. Dies soll der Klärung der Frage dienen, welche Wettbewerbsdynamiken bei ziviler und militärischer KI zu finden sind.
Der nächste Abschnitt skizziert einen theoretischen Rahmen für die Untersuchung, der sich auf sozialkonstruktivistische Konzepte von Technik und deren Bedeutung für Großmachtpolitik beruft. Im Anschluss werden im Detail die Deutungsprozesse untersucht, die sich im Rahmen des AI Arms Race rund um KI-Technologie abspielen. Der Fokus liegt dabei auf den Stakeholdern in Politik und Militär, die für die Politisierung von KI von einer ursprünglich technischen und wirtschaftlichen Innovation zu einer geostrategisch relevanten Schlüsseltechnologie verantwortlich waren. Dazu wurden Policy-Dokumente, Debattenbeiträge und Sekundärliteratur für die USA, China und die EU gesichtet. Methodisch orientiert sich der Essay dabei an den Anmerkungen von John Gerring zu deskriptiver Inferenz (Gerring 2012). Mittels einer dichten, empirisch reichhaltigen Beschreibung wird in Abschnitt 3 der Prozess der Entstehung des AI Arms Race rekonstruiert, um ihn danach in Abschnitt 4 einer kritischen Betrachtung zu unterziehen.
2 KI im Tech War: Technologie als internationales Statusobjekt
Die Idee eines AI Arms Race ist nur im Kontext aktueller geopolitischer Konstellationen zu verstehen (Sahin und Barker 2021; Franke 2021). In deren Zentrum steht eine Großmachtkonfrontation zwischen den USA und China, welche in den letzten Jahren durch die Aggressivität der Trump-Administration sowie die zunehmend konfliktbereite Außenpolitik der Regierung Xi Jinpings befeuert wurde (Lake 2018). Dieser Konflikt spielt sich auch prominent auf dem Feld digitaler Technologien ab. Im „Tech War“ (Christakis 2020, S. 43) der Großmächte geht es um Marktanteile, Technologieführerschaft und Standardsetzung. Digitale Technologien und Innovationskapazität sind Marker von Status und Sicherheit: „In the twenty-first century, technological innovation is driving geopolitical, economic and military competition“ (Sahin und Barker 2021, S. 2). Hierbei geht es nicht nur um militärische oder Dual-Use-Technologien, sondern um digitale Technologien allgemein, die als zukunftsweisend und transformativ gelten.
Diese Politisierung von digitaler Hochtechnologie findet nicht nur in Bezug auf KI statt, sondern auch für Halbleiterchips und andere Industrien. Sprecher*innen aus den USA, China und der EU heben das strategische Potenzial dieser Technologien hervor und fordern, dass die eigene Seite darin autonome Kapazitäten auf- und ausbauen müsse. Derartige Narrative des Tech War sind aber nicht nur Produkt internationaler Konkurrenz, sondern treiben diese Konfliktdynamiken ihrerseits. Uns interessiert besonders diese diskursive Konstruktion von Technologie als Spielfeld des Tech War, weniger die konkreten materiellen Auswirkungen technologischer Innovation. Indem Technologien eine Bedeutung in der Auseinandersetzung der Großmächte zugeschrieben wird, verändern sich Kalkül und Verhalten zentraler Akteure.
Basierend auf der Social Construction of Technology (SCOT)-Theorie (Pinch und Bijker 1984) geht der Essay davon aus, dass Technologien keine immanenten Eigenschaften haben, sondern ihre Bedeutungen sozial konstruiert und geformt sind. Dies entsteht in einem Prozess der Auseinandersetzung zwischen sozialen Akteuren, die ihre Interpretationen einer Technologie durchzusetzen versuchen. Im KI-Sektor sind dies vor allem organisierte Interessen im Kontext bestehender Institutionen (Regierungen, Militär, Wissenschaft, Privatwirtschaft). Durch die Globalisierung von Wissenschaftspraktiken kann man auch von einer Mehrebenenlogik der Aushandlungsprozesse sprechen, die gleichzeitig in nationalen, internationalen und transnationalen Kontexten stattfinden. Jeglicher Konsens über die Interpretation einer Technologie ist aber nur zeitweise stabil, wie das Beispiel KI deutlich zeigt. Die Wurzeln von KI sind inzwischen sehr alt und der Begriff besteht bereits seit 1956. Seither hat die Technologie mehrere Boom- und Bust-Zyklen durchlaufen, so dass wir uns inzwischen in der „dritten Generation“ der KI-Forschung befinden, die das Feld durch neue Methoden des maschinellen Lernens und Big-Data-Trainingsdatensätze revolutioniert hat. Erst in dieser aktuellen Boom-Phase, konkret seit etwa 2016, hat sich das Narrativ eines AI Arms Race entwickelt. Zwar zeichnet sich die dritte Generation auch durch große technologische Fortschritte aus, dieser Essay sieht die Ursachen dieses Konkurrenzdenkens aber primär in politischen Faktoren.
Regierungen, als zentrale Akteure in diesen Deutungskämpfen, verbinden vielfältige Hoffnungen mit KI-Technologieführerschaft: wirtschaftliche Prosperität, Zukunftsfähigkeit, militärische Kapazitäten. Außerdem ist KI-Innovationsfähigkeit ein wichtiges internationales Statussymbol (Gilady 2018). Status ist hierbei zu verstehen als eine bestimmte Form von Anerkennung, die die Zugehörigkeit zur internationalen Staatengemeinschaft sowie die Positionierung in sozialen Hierarchien regelt (MacDonald und Parent 2021). Technologische Kapazität gilt international schon seit langem als wichtiger Ursprung symbolischen Kapitals (Musgrave und Nexon 2018), auch wissenschaftliche Erfolge sind eine bedeutsame Quelle von Anerkennung (Yao 2021).
3 KI-Politik
KI gilt als wichtige Zukunftstechnologie, aber, wie Heather Roff feststellt: „talking about technological competition […] is not really an arms race“ (Roff 2019, S. 97, Hervorhebung im Original). Ein Rüstungswettlauf beschreibt ein wechselseitig beschleunigendes Wettrennen von zwei oder mehr Staaten um qualitative oder quantitative Überlegenheit in der Produktion militärischer Rüstung (Asaro 2019, S. 47). Der Begriff des AI Arms Race ist daher in zweierlei Hinsicht irreführend. Erstens fehlt im KI-Sektor die für einen Rüstungswettlauf charakteristische Eskalationsdynamik. Paul Scharre (2021, S. 123) zeigt, dass zwar ausgeglichene Kräfteverhältnisse herrschen, die Verteidigungsausgaben in KI aber nicht annähernd ausreichen, um von einer schnell beschleunigenden Rüstungsspirale sprechen zu können. Außerdem hat KI-Technologie zwar militärischen Nutzen, Ambition zu rüsten müsse für ein „Arms Race“ aber aus dem Militär selbst kommen. Die geopolitische KI-Konkurrenz bezieht sich jedoch eher auf die privat geführte KI-Forschung der großen internationalen Tech-Konzerne und entzieht sich auch einer solchen staatlichen Rüstungslogik. Zweitens ist es fraglich, inwiefern KI überhaupt als Waffe verstanden werden kann. KI ist eine Schlüsseltechnologie, die trotz großen Dual-Use-Potenzials vor allem zivil entwickelt und genutzt wird. Sie ist stets von anderen Systemen abhängig und kann deshalb nicht als Waffe, sondern höchstens als Komponente in Waffensystemen verstanden werden (Roff 2019, S. 96–97).
Entsprechend handelt es sich bei KI weder um „Arms“ noch bei der Konkurrenz um sie um ein „Arms Race“. Peter Asaro (2019, S. 50) meint: „it seems a bit silly to think that there might be a global arms race amongst the great powers to devise the best logical and statistical modeling techniques“, und erklärt, es sei zutreffender, von einem „math race“ zu sprechen. Das Potenzial für ein AI Arms Race hätte wohl eine „artificial general intelligence“ (AGI) – also eine vollständig autonome Superintelligenz (Bostrom 2014). Sie könnte fundamentale militärische Vorteile durch waffentechnologische Überlegenheit erreichen und so z. B. das nukleare Gleichgewicht dramatisch verändern. Dies hätte große sicherheitspolitische Implikationen und könnte einen globalen Rüstungswettlauf um KI anstoßen. Die Entwicklung solcher Superintelligenzen ist aber, wenn überhaupt möglich, noch in weiter Ferne. Der Begriff AI Arms Race lässt sich also vor allem der medialen Aufmerksamkeitsökonomie vornehmlich in den USA zuordnen, hält dem politikwissenschaftlichen Konzept eines Rüstungswettlaufs allerdings nicht stand und ist eher als diskursives Symbol denn als saubere Analyse zu verstehen.
Allerdings argumentiert Scharre (2021 S. 124), dass es sich bei der Konkurrenz um militärische KI durchaus um ein Sicherheitsdilemma (Jervis 1978) handelt, in dem Unsicherheit zu unproduktiven Verteidigungsbemühungen führt. Ebenso räumt Roff (2019, S. 96) ein, dass LAWS im Speziellen durchaus das Kriterium einer Waffe erfüllen. Es ist also zu unterscheiden zwischen a) der sicher unzutreffenden Bezeichnung AI Arms Race für die globale Konkurrenz um KI als Transformationstechnologie, b) einem Paradigmenwechsel durch Superintelligenzen, der noch in weiter Ferne steht und c) einem möglichen militärischen Wettrennen um LAWS als KI-unterstützte Waffen im engeren Sinne. Solche haben zwar kein Offsetpotential, sie bringen aber entscheidende Vorteile in Kampfoperationen und sind somit für die Kriegsführung der Zukunft von Bedeutung.
Automated Weapon Systems (AWS) versprechen Vorteile in Punkto Geschwindigkeit, Agilität, einer Beschleunigung des „observe-orient-decide-act loop“ in zeitkritischen Situationen, sowie Präzision (Boulanin und Verbruggen 2017, S. 61–63). Erste Tests, wie die von der Defense Advanced Research Projects Agency (DARPA) ausgerichteten „dogfights“, in denen KI-gesteuerte Flugzeuge menschlich geführten Flugzeugen deutlich überlegen waren, zeigen, dass KI die Kriegsführung der Zukunft verändern kann (Sullivan 2021). An einem solchen Vorteil haben Großmächte ein starkes Interesse. Der Einsatz von LAWS ist aber Subjekt des Völkerrechts, der Rüstungskontrolle sowie gesellschaftlicher Debatten. Die UN-Konvention über bestimmte konventionelle Waffen (CCV), die das Thema seit 2014 behandelt, bestätigte im Dezember 2019, dass im gesamten Lebenszyklus von LAWS menschliche Verantwortung und Kontrolle ausgeübt werden muss (Vereinte Nationen 2019, S. 10). Der Entwicklung und Verwendung autonomer Letalität sind also gewisse Grenzen gesetzt. Es geht also auch hier nicht um uneingeschränktes Wettrüsten, sondern um technologische Fortschritte in LAWS-ermöglichender KI. In der LAWS-Debatte ist vor allem die menschliche Kontrolle dieser Technologien von Bedeutung, die komplexe rechtliche und ethische Fragen aufwirft (Kania 2020, S. 7). Zwar stellen die Überwachbarkeit, die Voraussicht und Kontrolle der Verwendung von Rüstungsentwicklung von sehr komplexen Systemen Herausforderungen dar, die völkerrechtlichen Bestimmungen scheinen allerdings bislang bei allen Parteien akzeptiert zu werden. Hier sind vor allem die weitere völkerrechtliche Regelung von LAWS und die Schwellwerte für menschliche Kontrolle sowie die staatlichen Selbstbeschränkungen und technischen Lösungen im Bereich des TEVV (Test, Evaluation, Validation, Verification) entscheidend, um ein „race to the bottom“ im Bereich der Kontrolle von LAWS zu verhindern (Scharre 2021, S. 126)
Entsprechend sollten die Debatten über den Innovationswettlauf um eine generelle Zukunftstechnologie, die Entwicklung von Superintelligenz und die militärische Nutzung von KI in LAWS klarer voneinander getrennt werden als in der irreführenden Phrase AI Arms Race. Dieser Essay sieht die allgemeine Wettbewerbsdynamik vor allem durch Interaktions- und Lernprozesse zwischen den USA und China sowie als Reaktion auf technologische Innovationen bedingt. Die EU verfügt ebenfalls über großes Potenzial in der KI-Entwicklung, tritt aber bislang durch fehlende regulative Kohärenz eher als Nachzügler auf. Allerdings versucht sie neuerdings mit der Etablierung eines Markenkerns wertebasierter KI-Politik zu einem dritten relevanten Player auf dem Weltmarkt aufzusteigen. Während Russland rhetorisch früh eine KI-Führungsrolle beanspruchte und dieser im LAWS-Bereich zumindest teilweise gerecht wird, ist es durch den deutlich unterlegenen Forschungsstandort und die fehlende Investitionsfähigkeit global nicht konkurrenzfähig. Südkorea, Japan, Taiwan und weitere KI-Mittelmächte verfügen über teils herausragende Forschung, Entwicklung und Hardwareproduktion, formulieren aber keine weitreichende geopolitische Ambition (World Intellectual Property Organization 2019).
Im Folgenden wird der Versuch unternommen, diese wechselseitige Dynamik zwischen USA, China und EU akteursbezogen zu rekonstruieren (vgl. Abb. 1). Dabei sollen sowohl die allgemeinen staatlichen Bemühungen um KI, die jeweiligen strategischen Ambitionen als auch die militärischen Potenziale und Dynamiken im Bereich der LAWS aufgezeigt werden. Dies soll, neben der Erschließung der allgemeinen KI-Großmachtkonkurrenz, klären, ob im Teilbereich der LAWS ein „Arms Race“ im engeren Sinne vorliegt und inwiefern der globale Wettbewerb um KI ein sicherheitspolitisch relevantes Thema ist.
3.1 USA: Die Third Offset Strategy und das Primat der technologischen Vorreiterrolle
In den USA begann die staatliche Förderung der KI-Entwicklung um 2014. Den Auftakt gab die Diskussion um die Third Offset Strategy, welche der KI das Potenzial zuschreibt, eine militärische Revolution auszulösen, in der bisherige strategische Vorteile nivelliert würden (Asaro 2019, S. 61).Footnote 2 Diese Strategie zielte darauf, das Ende der militärischen Vormacht der USA durch disruptive Technologien zu verhindern (Boulanin und Verbruggen 2017, S. 59). Im Oktober 2016 folgte mit dem „Administration’s Report on the Future of Artificial Intelligence“ eine Policy Road Map für die KI-Politik und ein „economic call to arms“ (Metz 2018), der jedoch keine umfassende KI-Strategie wie die Chinas von 2017 darstellte (Horowitz 2018, S. 55). Daneben veröffentlichte die Obama-Administration 2014-2016 zwei weitere KI-Reports sowie drei große Studien zu Big Data (Brattberg et al. 2020, S. 8). Die Regierungspläne waren nicht explizit militärisch, sondern zielten vor allem darauf ab, die USA zu einem konkurrenzfähigen Standort für KI-Technologie zu machen. Dennoch waren die USA 2017 die einzige große Waffenexportnation, die die Erweiterung der LAWS-Fähigkeiten als zentrale strategische Ambition verstand (Boulanin und Verbruggen 2017, S. 58–59).
Die Pläne der Obama-Regierung „to make the US an AI powerhouse“ (PricewaterhouseCoopers 2018, S. 19) wurden von der Trump-Regierung aufgegeben und die KI-Forschungsgelder reduziert. Der Mangel einer klaren Strategie und die restriktivere Einwanderungspolitik schwächten die Wettbewerbsfähigkeit der amerikanischen KI-Wirtschaft (Brattberg et al. 2020, S. 8), weshalb viele Unternehmen begannen, Forschung und Entwicklung in Standorte außerhalb der USA zu verlagern. Dies zeigt, dass in den USA, anders als in China, private und staatliche Akteure teils deutlich unterschiedliche Positionen vertreten und die USA im AI Arms Race keineswegs als homogener Akteur zu verstehen sind. Staatliche Wettbewerbsambition und private Innovationstätigkeit sind relativ klar voneinander entkoppelt. Der Ausstieg von Google aus dem „Project Maven“Footnote 3, einem militärischen KI-Projekt des Pentagons, zeigt außerdem, dass die öffentlich-private KI-Kooperation für Unternehmen nicht ohne Risiko ist (Asaro 2019, S. 63).
Allerdings rüstete die Trump-Regierung rhetorisch deutlich auf und verschärfte, passend zu ihrer chinakritischen Haltung generell, auch die Rhetorik im KI-Bereich (Scharre 2019, S. 7). Der AI Arms Race-Frame wurde allerdings keineswegs nur in der US-amerikanischen Rechten verbreitet. Insbesondere das „Center for a New American Security“ (CNAS), ein überparteilicher Think Tank, hat den Begriff des AI Arms Race sowie das Thema KI in der Washingtoner Policy-Landschaft gefördert. CNAS-Vertreter*innen werden in vielen einschlägigen Berichten zitiert und das CNAS unterhält enge Verbindungen zur US-Rüstungsindustrie. Der ehemalige CNAS-CEO Robert Work war selbst einer der Väter der Third Offset Strategy.
Obwohl die chinesische Strategie von 2017 ein „Sputnik Moment“ (Cohen 2017) gewesen sei, hielt sich die Trump-Administration mit konkreten Maßnahmen lange zurück. Erst 2018 griff sie das Thema KI mit der Gründung des „Joint Artificial Intelligence Center“ (JAIC) auf, einem Hub für militärische KI-Forschung und -Koordination in der „AI Strategy“ des Verteidigungsministeriums (Gentile et al. 2021, S. iii). Das JAIC und die Strategie waren von chinesischen Vorbildern inspiriert, sind aber weniger weitreichend (Tucker 2018). Die militärische KI-Forschung des Pentagon – von Überwachungs‑, Erkennungs‑, Verarbeitungssoftware bis hin zu AWS – wird vor allem im JAIC und der DARPA vorangetrieben. Seit September 2018 wird in der DARPA „AI Next Campaign“ für 2 Mrd. US-$ an der nächsten Generation von militärischer KI geforscht, ebenfalls wird das JAIC von 2021-2026 mit 1,5 Mrd. US-$ gefördert (Department of Defense 2021b). Im Februar 2019 wurden die Ambitionen mit der „Executive Order on Maintaining American Leadership in Artificial Intelligence“ rhetorisch unterstrichen und die Gründung der „American Artificial Intelligence Initiative“ und der „National Security Commission on Artificial Intelligence“ (NSCAI) beschlossen, deren Co-Vorsitzender neben Ex-Google-CEO Eric Schmidt abermals Robert Work ist.
Der NSCAI Interim Report von November 2019 präsentierte eine Initiative „to boost investment in AI research, standard setting, workforce training, and outreach to allies“ (Brattberg et al. 2020, S. 9). Zwar gebe es einen innovativen und aktiven Privatsektor, eine strategische Entwicklung könne aber nur durch von der Regierung koordinierte Investments implementiert werden (Horowitz 2018, S. 55). Die NSCAI spielt eine entscheidende Rolle in der militärstrategischen Zuspitzung der allgemeinen KI-Konkurrenz. Sie argumentiert, dass Entwicklungen in KI als Teil der steigenden geopolitischen Konkurrenz zu China gesehen werden sollten (NSCAI 2019, S. 1). In der NSCAI zeigt sich auch eine neue Strategie staatlich-privater Kooperation: Sie vereint Angehörige von Regierung und Militär mit führenden Köpfen der US-Tech-Giganten. Ein AI Arms Race, das mit einer Bedrohungskulisse die Relevanz von KI betont und Milliardenprojekte zwischen Militär und Privatindustrie vermittelt, ist somit in allseitigem Interesse.
Der NSCAI „Final Report“ von März 2021 zeichnet ein dramatisches Bild: „America is not prepared to defend or compete in the AI era“ (NSCAI 2021, S. 1). Der Bericht selbst entwirft nach eigener Aussage eine integrierte nationale Strategie für eine politische Neuaufstellung zur Wettbewerbsfähigkeit in einem Zeitalter „beschleunigten Wettbewerbs“ (NSCAI 2021, S. 8). Bis 2025 müssten die USA militärisch „AI-ready“ sein, um ihre militärtechnologische Überlegenheit nicht zu verlieren (NSCAI 2019, S. 61). Lucy Suchman (2021) weist hierzu auf die „self-reinforcing dynamic“ des mit Vorständen führender Technologieunternehmen besetzten NSCAI hin, der durch das Framing eines AI Arms Race erhöhte öffentliche Ausgaben in die KI-Forschung fordert. Noch ist unklar, wie China LAWS und militärische KI entwickeln und einsetzen will, aber in einem neuen Bericht des Pentagons werden ausführlich die großen Militärausgaben und die weitreichend aufgebauten Fähigkeiten der chinesischen Armee in „intelligentized warfare“ referiert (Department of Defense 2021a, S. iii).
Ob die Biden-Administration den Empfehlungen der NSCAI folgt, bleibt abzusehen. Erste Schritte sind die Förderung der Halbleiterindustrie mit 50 Mrd. US-$ in einem „chip ‚arms race‘ with China“ (Xiang 2021) und Präsident Bidens Aussage, dass KI-Fortschritte stets auf demokratischen Werten basieren müssten (Overly und Heikkilä 2021). Sie zeigen, dass Biden KI als Teil des globalen Wettstreits zwischen Demokratien und Autokratien – vor allem aber zwischen USA und China – sieht. Auch US- Verteidigungsminister Austin betont in Gegenüberstellung zu China den verantwortungsvollen Umgang mit KI: „We’re going to compete to win, but we’re going to do it the right way. We’re not going to cut corners on safety, security, or ethics“ (Department of Defense 2021b). Das neue US-Credo der „Responsible AI“ betont anhand der vier Kriterien „equitable, traceable, reliable, and governable“ die menschliche Kontrolle in der Entwicklung und Verwendung militärischer KI (Department of Defense 2021b). Man bemühe sich außerdem um sinoamerikanischen Dialog und eine stabile Verteidigungsbeziehung (Department of Defense 2021a, S. xii). Gleichwohl betont ein Bericht des Kongresses vom Dezember 2020, die USA verfügten zwar nicht über LAWS, deren Entwicklung sei allerdings politisch denkbar, sofern „potential U.S. adversaries“ diesen Schritt gingen (Sayler 2020, S. 1). Es bleibt also abzuwarten, ob die Biden-Administration militärische KI-Forschung weiter beschleunigen wird, oder ob man „Responsible AI“ (Department of Defense 2021b) zu einem Markenkern jenseits eskalierender Rüstungsdynamiken macht.
3.2 China: Geplante Wachablösung mittels KI
Der Einstieg Chinas in das AI Arms Race wird oft als Reaktion auf die US Road Map von 2016 sowie den Sieg der KI-Anwendung AlphaGo über den weltbesten Go-Spieler Lee Sedol im März 2016 interpretiert (Metz 2018; Horowitz 2018, S. 45). War man auf die Third Offset Strategy der USA noch eine Antwort schuldig geblieben (Boulanin und Verbruggen 2017, S. 60), entwickelte China in der Folge schnell umfassende Pläne: Im Juli 2017 veröffentlichte die Regierung den „Next Generation Artificial Intelligence Development Plan“ (AIDP) – das wohl wichtigste chinesische KI-Papier –, um einen „first-mover advantage“ in der KI-Entwicklung zu gewinnen (State Council 2017, S. 1). Zwar orientierte sich die Strategie an der US-amerikanischen Road Map (vgl. Metz 2018), formulierte aber die weitreichendste Ambition der führenden KI-Nationen (Brattberg et al. 2020, S. 10; PricewaterhouseCoopers 2018, S. 20): KI sei der neue Fokus im internationalen Wettbewerb und „the strategic technology that leads the future“ (Cohen 2017).
Mittels eines Aktionsplans wurden Milliardeninvestitionen in kritische Technologien geplant (Ding und Triolo 2018; Roberts et al. 2020). 2017 wurde ein Innovationszentrum an der Tsinghua University gegründet, um militärische KI-Forschung zu bündeln und technische Innovation voranzubringen, 2018 folgten zwei weitere nationale Forschungszentren in Beijing unter Obhut des Verteidigungsministeriums (Allen 2019, S. 7). Hier zeigt sich, dass der AIDP auch eine militärische Dimension hat, die in früheren Dokumenten weniger präsent war. Gleichwohl dominieren wirtschaftliche Frames: Bereits im Mai 2015 sah die „Made in China 2025“-Strategie ausführliche Investitionen in KI vor, um mit der Konkurrenz auf Augenhöhe zu kommen (Allen 2019, S. 15). Ferner war KI eine von sechs Entwicklungsprioritäten im Fünfjahresplan von 2016 (Roberts et al. 2020, S. 60). Im Juni 2020 folgte mit „China Standards 2035“ der nächste Schritt: Bis 2025 wolle man nicht nur bisherige Nachteile ausgleichen, sondern entlang der „Digital Silk Road“ selbst die Standards für KI-Entwicklung setzen (Fiedler 2020).
Der Fokus auf KI-Förderung wird also aus chinesischer Sicht nicht nur als explizite Großmachtkonkurrenz, sondern vor allem als technologische Opportunität und Teil der generellen wirtschaftlichen Ambitionen des Landes dargestellt. China habe bei KI in den vergangenen zwei Jahrzehnten eine gigantische Lücke zu den USA aufgeholt und z. B. mit Baidu, Alibaba und Tencent innovative und wirtschaftskräftige Unternehmen aufgebaut (Li et al. 2021). Die chinesischen Techkonzerne sind designierte „national champions“, die als „AI ‚national team‘“ explizit strategische Ziele der politischen Führung verfolgen, und viel enger mit der Regierung verflochten als ihre US-Gegenparts (Roberts et al. 2020, S. 61). Der chinesische Staatskapitalismus arbeitet offenkundig anders als die über Regierungsaufträge organisierte Silicon Valley-Innovation. Die Ambitionen in der KI-Entwicklung sind sowohl militärisch als auch wirtschaftlich motiviert, so dass diese beiden Aspekte nicht trennscharf abgegrenzt werden können.
Wirtschaftlich wird ein klarer Führungsanspruch formuliert. Angesichts des Zugangs zu internationaler Forschung, Märkten und Kooperationen (Allen 2019, S. 10) scheint ein chinesischer Innovationsvorteil mittelfristig durchaus möglich (Scharre 2019). Dabei sind drei Ressourcen von zentraler Bedeutung: Daten, Chips und Talente. In punkto Daten ergeben die staatlich-private Nähe, der nutzerstarke Binnenmarkt und niedrige Datenschutzstandards einen Wettbewerbsvorteil in der Speisung von Deep Learning-Anwendungen mit Trainingsdaten (Haner und Garcia 2019, S. 333). Durch die große Ausstattung mit seltenen Erden verfügt China auch bei Chips über eine gute Ausgangsposition, auch wenn die USA bei der Halbleiterproduktion noch führend sind (Xiang 2021). Das Rennen um die klügsten Köpfe ist in vollem Gange. China verfügt über herausragende KI-Forschung mit zahlreichen Forschungsclustern, investiert mehr als die USA, publiziert mehr einschlägige Forschungspapiere und wirbt internationale Top-Wissenschaftler*innen an (Horowitz 2018, S. 56; Tucker 2018). Dennoch liegen in diesem Punkt die USA immer noch vorne (Ding und Triolo 2018; Allen 2019, S. 11).
Militärisch sehe China KI als Chance für ein „leapfrog development“, mittels dessen technologische Nachteile wettgemacht werden können (Allen 2019, S. 8). Seit dem AIDP 2017 ist KI im strategischen Verständnis Chinas eine Trumpfkarte, die China trotz eines niedrigeren Militärbudgets Überlegenheit gegenüber den USA verschaffen kann (Roberts et al. 2020, S. 63). Dabei setzt China auf eine starke „Military-Civil Fusion“, die mit Dual-Use-Technologien „intelligentized warfare“ anstrebe (Department of Defense 2021a, S. 24). China versuche so, KI-Fortschritte in Chinas Privatsektor für militärische Modernisierung auszunutzen, vermutet das US-Verteidigungsministerium (Department of Defense 2021a, S. xi). Dies beinhalte auch starke Investitionen in militärische KI, Robotik und LAWS (Department of Defense 2021a, S. 145).Footnote 4
Diese Entwicklung spielt sich in einem Wechselverhältnis mit dem US-Militär ab. Während sich chinesische Militäranalysten in militärischer KI klar hinter den USA verorten (Dahm 2020), erregte im Oktober 2021 der zurückgetretene Chef-Entwickler des Pentagon Aufsehen mit der Aussage, China habe das „AI battle“ bereits gewonnen (Reuters 2021). Durch die staatlich koordinierte KI-Forschung habe man auch in militärischer KI bedeutende Fortschritte gemacht, die in den USA große Sorge auslösten (Horowitz 2021). Dabei helfe es China auch, keine Pfadabhängigkeit und Verbindlichkeiten in traditionellen Militärtechnologien wie die USA zu haben, die einem KI-Fokus im Wege stünden (Brattberg et al. 2020, S. 10). Mit dem Weißpapier „China’s National Defense in the New Era“ im Juli 2019 und dem „Chinese PLA Joint Operations Outline“ im November 2020 formulierte China eine neue Doktrin für eine Modernisierung der Volksbefreiungsarmee mit der Zielsetzung einer vollständigen Transformation der Armee zu einem „Weltklasseheer“ bis 2049 (Department of Defense 2021a, S. 30, 36). Dies zeigt nicht nur die deutlich gesteigerte militärische Ambition Chinas in KI, sondern auch das direkte und reaktive Verhältnis der beiden Supermächte in militärischer KI, in der die USA ihre eigene strategische Ausrichtung an derjenigen Chinas orientieren und hier auch den Bereich KI inkludieren.
Allerdings sendet China auch kooperative Signale. 2017 setzte es sich für eine Ächtung von LAWS auf dem Schlachtfeld ein (Haner und Garcia 2019, S. 335), 2019 sprach man sich in den Vereinten Nationen für eine rechtlich bindende Regelung von LAWS zur Verhinderung von automatisierten Tötungen aus (Kania 2020, S. 5). China betont, wie auch die USA, die menschliche Kontrolle in LAWS, sieht die Autonomisierung der Streitkräfte aber als logische Evolution der Militärtechnologie (Dahm 2020). Zwar spricht China von einem „threat of the new technology to mankind“ durch militärische KI, deren militärische Nutzung sei allerdings unumgänglich (Allen 2019, S. 4, 7). Bislang setze man vor allem auf KI-verstärkte Software- und Logistikanwendungen, durch bisherige Fortschritte in der Drohnenforschung, automatischer Zielerkennung und allgemeiner KI sei man jedoch schnell in der Lage, LAWS in Operation zu bringen (Kania 2020, S. 3, 4). Die chinesische Führung versucht also den Spagat, den ambitioniertesten KI-Entwicklungsplan für sowohl wirtschaftliche und militärische Zwecke zu verfolgen und mit KI die eigene Ambition zu projizieren, nach außen aber durch moderate Rhetorik die Risiken eines AI Arms Race herunterzuspielen (Roberts et al. 2020, S. 63). Sie hat allerdings mehrfach Ambivalenz zwischen Abrüstungsrhetorik und deutlicher Ambition sowie Ambiguität im Verständnis von LAWS gezeigt (Kania 2020, S. 5).
3.3 EU: Zurückliegender Konkurrent mit wertebasiertem Markenkern
Die EU-Staaten sind in der Summe ein Schwergewicht in der KI-Industrie, wie z. B. Messgrößen wie Veröffentlichungen, Patente und Talente zeigen (Haner und Garcia 2019, S. 33). Es mangelt jedoch an einer einheitlichen Ausrichtung und einem Pooling dieser Ressourcen. Ein fragmentierter Digitalmarkt und fehlendes Investment haben die globale Wettbewerbsfähigkeit der EU bislang verhindert (Brattberg et al. 2020, S. 1). Allerdings wurde die Wichtigkeit einer konkurrenzfähigen KI-Industrie längst erkannt: Bundeskanzlerin Angela Merkel, der französische Präsident Emmanuel Macron und auch die EU-Kommission haben KI zur Top-Priorität erklärt. Den Aufschlag dazu gab im Oktober 2017 der Europäische Rat (2017, S. 7), der erklärte, man müsse einen „sense of urgency“ für die dynamische Entwicklung von KI und einen europäischen Ansatz entwickeln. Nach anfänglichen Unsicherheiten begann mit dem Kommuniqué „Artificial Intelligence for Europe“ im April 2018 ein neuer Abschnitt der europäischen KI-Politik (Franke 2021, S. 2). Es ist eine erste Strategieinitiative und eine Identitätssuche zugleich, auf die eine gesteigerte Ambition in der Innovationsförderung und Regulation (Brattberg et al. 2020, S. 1), die schrittweise Veröffentlichung von 21 nationalen KI-Strategien sowie erste Investmentpläne (Franke 2021, S. 2) folgten. Im April 2019 gründete die Kommission eine „High-Level Expert Group on AI“, die in zwei Richtliniendokumenten den ethischen Charakter von KI zur zentralen Priorität der EU erklärt (Franke 2021, S. 6). Im Juni 2019 machte diese Gruppe eine Reihe von Empfehlungen, um die europäische KI-Industrie zu stärken, im „race for AI supremacy“ aufzuholen und gleichzeitig den Werten und Standards der EU treu zu bleiben (Csernatoni 2019).
Im Februar 2020 beschloss die Kommission in einem KI-Weißpapier einen „European approach to excellence and trust“ zur Bündelung nationaler und europäischer Bemühungen für innovative KI-Lösungen in öffentlich-privater Partnerschaft (Europäische Kommission 2020, S. 3), um ein „global leader in innovation“ zu werden (Csernatoni 2021). Die von der Leyen-Kommission hat KI als zentralen Bestandteil der digitalen Strategie der EU identifiziert und will mit strategischen KI-Investitionen im EU-Haushalt – 20 Mrd. € für öffentlich-private Partnerschaften (Csernatoni 2021) – und einer Reform des fragmentierten Digitalmarktes „tech sovereignty“ erreichen (Leyen 2020, S. 2). Im April 2021 wurde der erste Entwurf einer europäischen KI-Regulation veröffentlicht. Sie setzt auf strenge Einschränkung von „high-risk“ KI, die zur Desinformation, Manipulation oder öffentlichen Überwachung verwendet werden könnte, und eine klare Haltung gegenüber China, um „global leader in trustworthy AI“ zu werden (Heikkilä 2021). Ein „wertebasierter“ Umgang mit Technologien soll den Kern der KI-Initiative „made in Europe“ ausmachen (Brattberg et al. 2020, S. 1). Dabei ist das nachdrückliche Beharren auf „trustworthy AI“ ein „unique selling point für die EU“ (Franke 2021, S. 9), der ein Standortvorteil für die EU werden soll.
Obwohl sich die EU stark für einen ökonomisch und technologisch konkurrenzfähigen KI-Standort einsetzt, ist die europäische Haltung bislang kaum geopolitisch unterfüttert (Franke 2021, S. 8). Passend zu ihrem Markenkern der „trustworthy AI“ verabschiedete das Parlament im Juli 2018 eine Resolution, die sich für Bemühungen in Richtung eines Verbots von Entwicklung, Produktion und Verwendung von LAWS einsetzt (Franke 2021, S. 5) und votierte außerdem im Januar 2021 für einen gesetzlichen Rahmen für militärische KI-Anwendungen (Europäisches Parlament 2021). Auch wenn LAWS als extremstes Beispiel militärischer KI in der Kritik stehen, gibt es in der EU andere militärische KI-Anwendungen, die weit weniger kritisch betrachtet werden (Franke 2021, S. 11).
Die europäische Verteidigungsagentur (EDA) arbeitet seit 2016 an einer gemeinsamen Perspektive auf die Entwicklung von KI-Fähigkeiten (Boulanin et al. 2020, S. 6). Die Förderung KI-befähigter Anwendungen im europäischen Verteidigungsfonds (EDF) – mit Ausnahme von LAWS – sollen die EU strategisch autonom und in neuen Verteidigungstechnologien konkurrenzfähig machen (Csernatoni 2021). Im Mai 2019 forderten mehrere Mitgliedstaaten – u. a. Frankreich und Deutschland – mehr Verteidigungskollaboration der EU in KI (Boulanin et al. 2020, S. 1) und die Kommission hat im Februar 2021 einen Aktionsplan für Synergien zwischen ziviler, Verteidigungs- und Weltraumtechnologie beschlossen (Csernatoni 2021). Militärische Zukunftstechnologien sollen auch im EDF und der Permantenten Strukturierten Zusammenarbeit (PESCO) weiter an Bedeutung gewinnen (Boulanin et al. 2020, S. 4, 6). Trotz des Konsenses gegen die Verwendung von LAWS hat die EU also noch Abstimmungsbedarf über die Risken und Potenizale anderer militärischer KI-Anwendungen und benötigt dringend Richtlinien über deren verantwortungsvolle Verwendung (Boulanin et al. 2020, S. 3–5).
Daraus ergibt sich die Frage: Wie ordnet sich die EU in der „fierce global competition“ (Europäische Kommission 2020, S. 1) um KI ein? Klar ist: Die EU steht mit ihrem wertebasierten Ansatz ohne natürliche Partner auf der internationalen Bühne. China zeigt immer wieder, dass seiner KI-Ambition nicht die gleichen Normen zugrunde liegen wie der EU. Aber auch die transatlantische Distanz ist in digitalen Fragen deutlich spürbar – noch immer sind US-Techkonzerne, nicht chinesische, das Hauptziel europäischer Digitalregulation und es gibt große Zweifel, ob die USA und die EU in Bezug auf ethische AI-Prinzipien auf einer Linie sind (Franke 2021, S. 9–10). Dieser „dritte Weg“ wurde vom NCSAI-Vorsitzenden Eric Schmidt kritisiert, der eine gemeinsame Haltung von EU und USA gegenüber China forderte (Heikkilä 2021). Das Thema LAWS könnte Ausdruck der europäischen Eigenständigkeit in KI-Fragen und des verantwortungsbewussten Markenkerns sein, ohne die allgemeine technologische Konkurrenzfähigkeit aus den Augen zu verlieren. Damit kann die EU ihren digitalen und außenpolitischen Markenkern, „technologische Souveränität“ und „strategische Autonomie“ sowie „trustworthy AI“ vereinen und eine entscheidende Rolle in der Großmachtkonkurrenz um KI einnehmen (Csernatoni 2021). So kann die EU – im besten Fall – zur Normunternehmerin und Mediatorin werden, die sich für eine Deeskalation der aufgeheizten Rhetorik sowie für die prominentere Diskussion rechtlicher und ethischer Fragen in der globalen KI-Entwicklung einsetzt.
Die Präsidentschaft Joe Bidens könnte dabei eine transatlantische Annäherung ermöglichen. Liberale Allianzen zum Umgang mit KI, wie die „Global Partnership on Artificial Intelligence“ und die „AI Partnership for Defence“, die im Juni und September 2020 begründet wurden, könnten einen Ausgangspunkt hierfür bilden. Sie beinhalten neben den USA und EU-Staaten eine Reihe von weiteren liberalen Demokratien (Franke 2021, S. 12) und treten für einen wertebasierten Umgang mit KI ein. Nichtsdestotrotz ist das Streben der EU nach digitaler Souveränität eine Belastung für das transatlantische Verhältnis (Franke 2021, S. 9). Zumindest hat man der Regierung Biden mit dem Weißpapier „A New EU-US Agenda for Global Change“ den Spielball zugeworfen (Meltzer und Kerry 2021). Kurz gesagt: die EU hat als nichtkohärente Akteurin gegenüber den USA und China Nachholbedarf, jedoch industriell und ideologisch das Potenzial, im „AI Race“ eine wichtigere Rolle einzunehmen. Ob dies gelingt, ist noch offen.
4 Kein Arms Race, aber was dann?
Übereinstimmend mit verschiedenen Autor*innen (Asaro 2019; Roff 2019; Scharre 2021) halten auch wir die Beschreibung des geschilderten Prozesses als Rüstungswettlauf für unangebracht. Der wahrgenommene Wettlaufcharakter ist unbestreitbar, jedoch fehlt es an weiteren notwendigen Elementen für eine Einstufung als Rüstungswettlauf (Glaser 2004). Erstens sind Zweifel angebracht, ob Staaten in diesem Rennen kohärente nationale Akteure sein können. Selbst für China, wo die Integration von Politik und Wirtschaft am engsten ist, ist dies eine problematische Annahme – chinesische Wissenschaftler*innen und Firmen kooperieren grenzüberschreitend mit Gegenparts in anderen Ländern. Die Forschungslandschaft ist transnational und kooperativ organisiert, so dass sich weite Teile der KI-Innovation staatlichen Zugriffs entziehen (Asaro 2019, S. 54–55). Zweitens ist die Gleichsetzung von KI mit einem Waffensystem eine sehr reduzierte Lesart dessen, was KI ist bzw. sein kann (Roff 2019). KI-Technologie kann eine zentrale Rolle in der industriellen Automatisierung spielen und als Schlüsseltechnologie weite Teile der wirtschaftlichen und gesellschaftlichen Entwicklung prägen. Insofern kann ein KI-Rennen allen Beteiligten mehr bringen als das für einen Rüstungswettlauf typische Null- oder Negativsummenspiel.
Konkurrenzdynamiken gibt es natürlich trotzdem. Der industrielle Fortschritt in KI kann aber eher als ein Race privater Akteure verstanden werden, deren Produkt als nationales Prestigeobjekt staatliche Aufmerksamkeit auf sich zieht und in entsprechende innovations- und industriepolitische Überlegungen eingebunden wird (Scharre 2021, S. 122). Dies gilt insbesondere in Bezug auf die USA, wo private und staatliche Forschung stärker entkoppelt sind und entsprechend Fortschritte nur in geringem Maße staatliche Zugewinne im Sinne eines Großmachtwettbewerbs bedeuten. Die jeweiligen marktlichen Zusammenhänge und die staatliche Involviertheit der führenden KI-Nationen ist also von großer Relevanz und sollte mehr in den Blickpunkt rücken als bislang. Dies konstituiert aber noch kein AI Arms Race, was eine unzulässige Zuspitzung der Großmachtkonkurrenz um die Zukunftstechnologie KI ist.
Aus einer SCOT-Perspektive lassen sich eindeutige Deutungskämpfe feststellen, wie KI als Technologie sozial konstruiert wird. Gerade in den USA ist das Framing als AI Arms Race wichtig für Politiker*innen und Unternehmer*innen, um für ihre jeweiligen Anliegen rund um KI zu werben und sich gleichzeitig in das Mäntelchen der nationalen Sicherheit zu hüllen. Daraus entsteht ein iterativer transnationaler Prozess des gegenseitigen Belauerns, da sich in keinem der untersuchten Länder relevante soziale Gruppen finden, die der Lesart von KI als strategischer Schlüsseltechnologie widersprechen. Auf diese Weise wird ein Hype befeuert, um den sich die neue Bedeutung von KI vorerst stabilisiert hat. Dies muss jedoch nicht von Dauer sein. Technologien unterliegen auch politisch demselben Hypezyklus wie in der Geschäftswelt und durchleben oft erst eine Phase übergroßer Erwartungen, ehe man zu realistischen Nutzungsszenarien gelangt. Diese Entwicklung ist auch für KI denkbar, wenn die erwarteten Durchbrüche ausbleiben. Aber selbst dann kann eine erneute diskursive Öffnung des technologischen Frames nur eintreten, wenn entscheidende Akteure ihre Erwartungen ändern und so eine neue Phase der Kontestation und Reinterpretation beginnt. KI als technologische Innovation weckt Hoffnungen auf wirtschaftlichen und militärischen Fortschritt. Wie Peter Asaro festhält, geht es bei diesem Wettlauf weniger um den besten Algorithmus, sondern um die öffentlichen Erwartungen, die auf KI projiziert werden (Asaro 2019). KI ist ein Statussymbol in einem internationalen System mit derzeit zunehmenden Konkurrenzdynamiken. In KI zu investieren, heißt heutzutage, eine moderne und technologisch fortschrittliche Nation zu sein, die sich im globalen Wettstreit behaupten kann.Footnote 5
Zum Teil separat von diesen allgemeinen Diskussionen, zum Teil darin verwickelt ist auch ein militärisches Interesse an „Narrow AI“-Anwendungen festzustellen. Dies ist allerdings aufgrund der nur graduellen und potenziellen Vorteile lediglich ein kleiner Baustein der allgemeinen Wettbewerbsdynamik zwischen den Großmächten. Hier gibt es erste Ansätze für wechselseitige Dynamiken und verstärktes Interesse an der militärischen Nutzung von KI in LAWS. Institutionalisierte Kooperation von Privatunternehmen und Militärs wie im Project Maven und der NSCAI zeigen das gemeinsame Interesse der USA an einer militärtechnologischen Ausrichtung von KI-Forschung und eine engere staatlich-private Kooperation. Auch China setzt auf zivil-militärische Fusion in der Entwicklung von militärischer KI. Im LAWS-Bereich lassen sich also durchaus Elemente eines Rüstungswettlaufs im eigentlichen Sinne erkennen, wenn auch der Einsatz vollautonomer Kampfsysteme völkerrechtlich verboten ist. Allerdings sind diese Bestrebungen in die allgemeinen Großmachtkonkurrenz zwischen den USA und China um globale Vorherrschaft einzuordnen; ein „Third Offset“ durch Superintelligenz, der ein allgemeines AI Arms Race auslösen könnte, ist aktuell unrealistisch.
Entsprechend wird es in der Debatte um LAWS vermehrt um die rechtlichen und technischen Schwellwerte für menschliche Kontrolle und die Verstärkung von Waffensystemen durch KI, weniger aber um vollautonome „Killerroboter“ gehen, wie es zivilgesellschaftliche Akteure anklingen lassen (Rosert und Sauer 2021). Ein „Arms Race“ entsteht vor allem durch Unsicherheiten über die Zuverlässigkeit des Gegenübers. Hier können rechtliche und technische Standards und Kontrollmöglichkeiten von großer Bedeutung sein, die in internationalen Foren und der UN verhandelt werden und in der die EU als Normunternehmerin ihren verantwortungsvollen KI-Markenkern in die Tat umsetzen kann. Allerdings sollten die wechselseitigen Dynamiken im Teilbereich militärischer und Dual-Use-KI, in der zunehmend auch staatliche Akteure mitmischen, verstärkt betrachtet werden.
Die Gesamtschau zeigt also, dass die Debatte um ein AI Arms Race nicht nur konzeptionell irreführend ist, sondern für die Außen- und Sicherheitspolitik wenig Mehrwert bringt, weshalb rhetorisch „abgerüstet“ werden sollte. Allerdings werden LAWS große Bedeutung für die Kampf- und Kriegsführung der Zukunft haben und zeigen z. B. mit „Kamikaze-Drohnen“ im Bergkarabach-Konflikt bereits ihre Relevanz für die Sicherheitsforschung. Zukünftige Kriegsführung mit deutlich geringerem menschlichem Risiko ist mit LAWS vorstellbar und wird Implikationen für Kampfeinsätze haben, da die Hemmschwelle für Militäroperationen absehbar sinkt und neue Operationsformen möglich werden. Es ist aber nicht absehbar, dass dies einen allgemeinen Rüstungswettlauf um KI in Gange setzt. Insofern sollte man differenzieren zwischen den Rüstungsdynamiken im LAWS-Bereich einerseits und der „technogeopolitischen“ Großwetterlage andererseits. Statt ein unzutreffendes AI Arms Race zu debattieren, sollte sich zukünftige sicherheitspolitische Forschung auf die konkreten strategischen, technischen und rechtlichen Implikationen von Entwicklungen in LAWS (Rosert und Sauer 2021) und auf die allgemeine Großmachtkonkurrenz um Fortschritte in KI beziehen, die man eher als „Innovation Race“ bezeichnen könnte.
5 Fazit
Dieser Essay hat eine skeptische, differenzierende Perspektive auf das AI Arms Race dargelegt. Zwar sind deutliche Konkurrenzdynamiken im Feld der KI-Technologie und auch in der militärischen Dimension der LAWS erkennbar, dennoch ist eine Einordnung als Rüstungswettlauf irreführend. Gleichwohl ist unbestreitbar, dass der Begriff Konjunktur hat und das Narrativ eines Wettlaufs von Entscheidungsträger*innen, Think Tanks und Medien in verschiedenen Ländern aufgegriffen wird. Dies liegt aus unserer Sicht an der sich generell verschlechternden politischen Großwetterlage: Ein AI Arms Race fügt sich nahtlos in den sich immer deutlicher abzeichnenden Systemwettstreit zwischen den USA und China ein, während die diesem Großnarrativ widersprechenden transnationalen Verflechtungen von Wissenschaft und Forschung ausgeblendet werden. Die übersteigerte Rhetorik des AI Arms Race ist nützlich, um in der hektischen Aufmerksamkeitsökonomie in Washington, aber auch in Beijing und Brüssel für politische Prioritäten zu werben, darf aber nicht als akkurate Beschreibung der Situation missverstanden werden. Für zukünftige außen- und sicherheitspolitische Forschung zu KI sollte klarer zwischen der allgemeinen außenpolitischen Großmachtkonkurrenz um Innovationsführerschaft der Zukunftstechnologie KI und der sicherheitspolitischen KI-Forschung unterschieden werden. Hier kann KI mit dem Einsatz von LAWS die Kriegsführung der Zukunft verändern, was zumindest in der militärischen Forschung gewisse Rüstungsdynamiken hervorbringt.
Notes
Es existiert keine allgemeingültige Definition über LAWS. Während die UN-Konvention über bestimmte konventionelle Waffen (CCW) den Begriff LAWS verwendet, sprechen Boulanin und Verbruggen (2017) von AWS, da die Entscheidung über Letalität nicht die Technologie, sondern der Mensch treffe. Das Pentagon verwendet LAWS als „weapon system[s] that, once activated, can select and engage targets without further intervention by a human operator“ also eine „Human out of the loop“-Technologie, im Gegensatz zu menschlich überwachten „Human on the loop“- bzw. semi-autonomen „Human in the loop“-Systemen (Sayler 2020, S. 1). In diesem Essay wird LAWS nach der genannten Definition verwendet, jedoch sei auf die rechtlichen und moralischen Implikationen menschlicher Kontrolle und die große Bandbreite von AWS zwischen „smart weapons“ und vollautonomen LAWS (Kania 2020, S. 2) hingewiesen.
Der Begriff ist militärstrategischen Diskussionen um nukleare Parität (first offset) und der konventionellen Überlegenheit der Sowjetunion in den 1970er-Jahren (second offset) entlehnt.
Im Project Maven forschte Google für das Pentagon seit 2017 an einer Gesichtserkennungssoftware. Im April 2018 beendete Google die Zusammenarbeit auf Druck einer öffentlichen Stellungnahme von über 3000 Mitarbeiter*innen (Shane und Wakabayashi 2018).
Chinesische Militärstrateg*innen verwenden eher die Begriffe „AI weapons“ und „intelligentized weapons“, als von LAWS oder AWS zu sprechen (Kania 2020, S. 2).
Für ein vergleichbares Argument bezüglich Weltraumtechnologie vgl. Sönnichsen und Lambach (2020).
Literatur
Allen, G. C. (2019, 6 Febr.). Understanding China’s AI strategy: clues to Chinese strategic thinking on artificial intelligence and national security. Center for a New American Security. https://www.cnas.org/publications/reports/understanding-chinas-ai-strategy. Zugegriffen: 26. Juli 2022.
Asaro, P. (2019). What is an artificial intelligence arms race anyway? I/S: Journal of Law and Policy for the Information Society, 15, 45–64.
Barnes, J. E., & Chin, J. (2018, 2. März). The new arms race in AI. The Wall Street Journal. https://www.wsj.com/articles/the-new-arms-race-in-ai-1520009261. Zugegriffen: 26. Juli 2022.
Bostrom, N. (2014). Superintelligence: paths, dangers, strategies. Oxford: Oxford University Press.
Boulanin, V., & Verbruggen, M. (2017). Mapping the development of autonomy in weapon systems. Stockholm International Peace Research Institute. https://www.sipri.org/sites/default/files/2017-11/siprireport_mapping_the_development_of_autonomy_in_weapon_systems_1117_1.pdf. Zugegriffen: 26. Juli 2022.
Boulanin, V., Goussac, N., Bruun, L., & Richards, L. (2020). Responsible military use of artificial intelligence. Stockholm International Peace Research Institute. https://www.sipri.org/sites/default/files/2020-11/responsible_military_use_of_artificial_intelligence.pdf. Zugegriffen: 26. Juli 2022.
Brattberg, E., Csernatoni, R., & Rugova, V. (2020, 9. Juli). Europe and AI: leading, lagging behind, or carving its own way? Carnegie Endowment for International Peace. https://carnegieendowment.org/2020/07/09/europe-and-ai-leading-lagging-behind-or-carving-its-own-way-pub-82236. Zugegriffen: 25. Juli 2022.
Christakis, T. (2020, 7. Dez.). “European digital sovereignty”: successfully navigating between the “brussels effect” and Europe’s quest for strategic autonomy. Social Science Reseach Network. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3748098. Zugegriffen: 25. Juli 2022.
Cohen, Z. (2017, 29. Nov.). US risks losing artificial intelligence arms race to China and Russia. CNN politics. https://edition.cnn.com/2017/11/29/politics/us-military-artificial-intelligence-russia-china/index.html. Zugegriffen: 26. Juli 2022.
Csernatoni, R. (2019, 21. Aug.). Beyond the hype: the EU and the AI global ‘arms race’. European Leadership Network. https://www.europeanleadershipnetwork.org/commentary/beyond-the-hype-the-eu-and-the-ai-global-arms-race/. Zugegriffen: 26. Juli 2022.
Csernatoni, R. (2021, 12. Aug.). The EU’s rise as a defense technological power: from strategic autonomy to technological sovereignty. Carnegie Europe. https://carnegieeurope.eu/2021/08/12/eu-s-rise-as-defense-technological-power-from-strategic-autonomy-to-technological-sovereignty-pub-85134. Zugegriffen: 26. Juli 2022.
Dahm, M. (2020, 5. Juni). Chinese debates on the military utility of artificial intelligence. War on the Rocks. https://warontherocks.com/2020/06/chinese-debates-on-the-military-utility-of-artificial-intelligence/. Zugegriffen: 26. Juli 2022.
Department of Defense (2021a). Military and security developments involving the People’s Republic of China. https://media.defense.gov/2021/Nov/03/2002885874/-1/-1/0/2021-CMPR-FINAL.PDF. Zugegriffen: 26. Juli 2022.
Department of Defense (2021b, 13. Juli). Secretary of Defense Austin remarks at the Global Emerging Technology Summit of The National Security Commission on artificial intelligence (as delivered). https://www.defense.gov/News/Transcripts/Transcript/Article/2692943/secretary-of-defense-austin-remarks-at-the-global-emerging-technology-summit-of/. Zugegriffen: 26. Juli 2022.
Ding, J., & Triolo, P. (2018, 24. Jan.). Translation: excerpts from China’s ‘White paper on artificial intelligence standardization’. New America. https://www.newamerica.org/cybersecurity-initiative/digichina/blog/translation-excerpts-chinas-white-paper-artificial-intelligence-standardization/. Zugegriffen: 26. Juli 2022.
Europäische Kommission (2020). White paper. Artificial intelligence – a European approach to excellence and trust. https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf. Zugegriffen: 26. Juli 2022.
Europäischer Rat (2017). European Council meeting (19 October 2017) – conclusions. https://data.consilium.europa.eu/doc/document/ST-14-2017-INIT/en/pdf. Zugegeriffen: 26. Juli 2022.
Europäisches Parlament (2021, 20. Jan.). Guidelines for military and non-military use of artificial intelligence. https://www.europarl.europa.eu/news/en/press-room/20210114IPR95627/guidelines-for-military-and-non-military-use-of-artificial-intelligence. Zugegriffen: 26. Juli 2022.
Fiedler, T. (2020, 25. Juni). Wie China mit einem 15-Jahres-Plan die Standards der weltweiten Tech-Branche setzen will. Business Insider. https://www.businessinsider.de/wirtschaft/wie-china-mit-einem-15-jahres-plan-standards-der-weltweiten-tech-branche-setzen-will-1/. Zugegriffen: 26. Juli 2022.
Franke, U. (2021, 20. Jan.). Artificial divide: how Europe and America could clash over AI. European Council on Foreign Relations. https://ecfr.eu/publication/artificial-divide-how-europe-and-america-could-clash-over-ai/. Zugegriffen: 26. Juli 2022.
Future of Life Institute. (2015, 28. Juli). Autonomous weapons: an open letter from AI & robotics researchers. https://futureoflife.org/open-letter-autonomous-weapons/?cn-reloaded=1. Zugegriffen: 26. Juli 2022.
Gentile, G., Shurkin, M., Evans, A. T., Grisé, M., Hvizda, M., & Jensen, R. (2021). A history of the Third Offset, 2014–2018. RAND Corporation. https://www.rand.org/pubs/research_reports/RRA454-1.html. Zugegriffen: 26. Juli 2022.
Gerring, J. (2012). Mere description. British Journal of Political Science, 42(4), 721–746.
Gilady, L. (2018). The price of prestige: conspicuous consumption in international relations. Chicago: University of Chicago Press.
Glaser, C. L. (2004). When are arms races dangerous? Rational versus suboptimal arming. International Security, 28(4), 44–84.
Haner, J., & Garcia, D. (2019). The artificial intelligence arms race: trends and world leaders in autonomous weapons development. Global Politics, 10(3), 331–337.
Heikkilä, M. (2021, 21. April). Europe throws down gauntlet on AI with new rulebook. Politico. https://www.politico.eu/article/europe-throws-down-gauntlet-on-ai-with-new-rulebook/. Zugegriffen: 26. Juli 2022.
Horowitz, M. (2021, 4. Nov.). DoD’s 2021 China military power report: how advances in AI and emerging technologies will shape China’s military. Council on Foreign Relations. https://www.cfr.org/blog/dods-2021-china-military-power-report-how-advances-ai-and-emerging-technologies-will-shape. Zugegriffen: 26. Juli 2022.
Horowitz, M. C. (2018). Artificial intelligence, international competition, and the balance of power. Texas National Security Review, 1(3), 36–57.
Hughes, M. (2017, 10. Nov.). Artificial intelligence is now an arms race. What if the bad guys win? World Economic Forum. https://www.weforum.org/agenda/2017/11/cybersecurity-artificial-intelligence-arms-race/. Zugegriffen: 26. Juli 2022.
Jervis, R. (1978). Cooperation under the security dilemma. World Politics, 30(2), 167–214.
Kania, E. B. (2020). “AI weapons” in China’s military innovation. Brookings Institution. https://www.brookings.edu/wp-content/uploads/2020/04/FP_20200427_ai_weapons_kania_v2.pdf. Zugegriffen: 26. Juli 2022.
Lake, D. A. (2018). Economic openness and great power competition: lessons for China and the United States. The Chinese Journal of International Politics, 11(3), 237–270.
Leyen, U. von der (2020, 19. Feb.). Shaping Europe’s digital future. European Commission. https://ec.europa.eu/commission/presscorner/detail/en/ac_20_260. Zugegriffen: 4. Aug. 2022.
Li, D., Tong, T. W., & Xiao, Y. (2021, 18. Feb.). Is China emerging as the global leader in AI? Harvard Business Review. https://hbr.org/2021/02/is-china-emerging-as-the-global-leader-in-ai. Zugegriffen: 26. Juli 2022.
MacDonald, P. K., & Parent, J. M. (2021). The status of status in world politics. World Politics, 73(2), 1–34.
Meltzer, J. P., & Kerry, C. F. (2021, 17. Feb.). Strengthening international cooperation on artificial intelligence. Brookings. https://www.brookings.edu/research/strengthening-international-cooperation-on-artificial-intelligence/. Zugegriffen: 26. Juli 2022.
Metz, C. (2018, 12. Febr.). As China marches forward on A.I., the White House is silent. New York Times. https://www.nytimes.com/2018/02/12/technology/china-trump-artificial-intelligence.html. Zugegriffen: 26. Juli 2022.
Musgrave, P., & Nexon, D. H. (2018). Defending Hierarchy from the Moon to the Indian Ocean: Symbolic capital and political dominance in early modern China and the Cold War. International Organization 72(3), 591–626.
National Security Commssion on Artificial Intelligence (2019). Interim Report. https://www.nscai.gov/wp-content/uploads/2021/01/NSCAI-Interim-Report-for-Congress_201911.pdf. Zugegriffen: 26. Juli 2022.
National Security Commssion on Artificial Intelligence (2021). Final Report. https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf. Zugegriffen: 26. Juli 2022.
Overly, S., & Heikkilä, M. (2021, 2. März). China wants to dominate AI. The US and Europe need each other to tame it. Politico. https://www.politico.eu/article/china-wants-to-dominate-ai-the-us-and-europe-need-each-other-to-tame-it/. Zugegriffen: 26. Juli 2022.
Pinch, T. J., & Bijker, W. E. (1984). The social construction of facts and artefacts: or how the sociology of science and the sociology of technology might benefit each other. Social Studies of Science, 14(3), 399–441.
PricewaterhouseCoopers (2018). 2018 AI predictions: 8 insights to shape business strategy. https://www.pwc.com/us/en/advisory-services/assets/ai-predictions-2018-report.pdf. Zugegriffen: 26. Juli 2022.
Reuters (2021, 11. Oct.). China has won AI battle with U.S., Pentagon’s ex-software chief says. https://www.reuters.com/technology/united-states-has-lost-ai-battle-china-pentagons-ex-software-chief-says-2021-10-11/. Zugegriffen: 26. Juli 2022.
Roberts, H., Cowls, J., Morley, J., Taddeo, M., & Floridi, L. (2020). The Chinese approach to artificial intelligence: an analysis of policy, ethics, and regulation. AI & SOCIETY, 36(3), 59–77.
Roff, H. M. (2019). The frame problem: the AI “arms race” isn’t one. Bulletin of the Atomic Scientists, 75(3), 95–98.
Rosert, E., & Sauer, F. (2021). How (not) to stop the killer robots: A comparative analysis of humanitarian disarmament campaign strategies. Contemporary Security Policy, 42(1), 4–29.
Sahin, K., & Barker, T. (2021, 22. April). Europe’s capacity to act in the global tech race: charting a path for Europe in times of major technological disruption. German Council on Foreign Relations. https://dgap.org/en/research/publications/europes-capacity-act-global-tech-race. Zugegriffen: 26. Juli 2022.
Sayler, M. K. (2020, 1. Dez.). Defense primer: U.S. policy on lethal autonomous weapon systems. Congressional Reseach Service. https://apps.dtic.mil/sti/pdfs/AD1121848.pdf. Zugegriffen: 26. Juli 2022.
Scharre, P. (2019). Killer apps. The real dangers of an AI arms race. Foreign Affairs. https://www.foreignaffairs.com/articles/2019-04-16/killer-apps. Zugegriffen: 26. Juli 2022.
Scharre, P. (2021). Debunking the AI arms race theory. Texas National Security Review, 4(3), 21–132.
Schörnig, N., & Reinhold, T. (Eds.). (2022). Armament, arms control and artificial intelligence: the impact of software, machine learning and artificial intelligence on armament and arms control. Berlin: Springer.
Shane, S., & Wakabayashi, D. (2018, 4. April). ‘The business of war’: Google employees protest work for the Pentagon. The New York Times. https://www.nytimes.com/2018/04/04/technology/google-letter-ceo-pentagon-project.html. Zugegriffen: 26. Juli 2022.
Sönnichsen, A., & Lambach, D. (2020). A developing arms race in outer space? De-constructing the dynamics in the field of anti-satellite weapons. S&F Sicherheit und Frieden, 38(1), 5–9. DOI:10.5771/0175-274X-2020-1‑5.
State Council (2017). Notice of the State Council issuing the new generation of artificial intelligence development plan. https://www.unodc.org/res/ji/import/policy_papers/china_ai_strategy/china_ai_strategy.pdf. Zugegriffen: 26. Juli 2022.
Suchman, L. (2021, 31. März). Six unexamined premises regarding artificial intelligence and national security. Medium. https://medium.com/@AINowInstitute/six-unexamined-premises-regarding-artificial-intelligence-and-national-security-eff9f06eea0. Zugegeriffen: 26. Juli 2022.
Sullivan, M. (2021, 27. Mai). The U.S. is alarmingly close to an autonomous weapons arms race. Fast Company. https://www.fastcompany.com/90640573/autonomous-weapons-war. Zugegriffen: 26. Juli 2022.
Tucker, P. (2018, 11. Juli). China, Russia, and the US are all building centers for military AI. Defense One. https://www.defenseone.com/technology/2018/07/china-russia-and-us-are-all-building-centers-military-ai/149643.
Vereinte Nationen (2019). Meeting of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the use of certain conventional weapons which may be deemed to be excessively injurious or to have indiscriminate effects. https://undocs.org/CCW/MSP/2019/9. Zugegriffen: 26. Juli 2022.
Walker, R. (2021, 7. Juni). Germany warns: AI arms race already underway. Deutsche Welle. https://www.dw.com/en/artificial-intelligence-cyber-warfare-drones-future/a-57769444. Zugegriffen: 26. Juli 2022.
World Intellectual Property Organization (2019). WIPO Technology Trends 2019. Artificial Intelligence. https://www.wipo.int/edocs/pubdocs/en/wipo_pub_1055.pdf. Zugegriffen: 26. Juli 2022.
Xiang, N. (2021, 17. April). Biden’s chip ‘arms race’ with China will add to global uncertainty. Nikkei Asia. https://asia.nikkei.com/Opinion/Biden-s-chip-arms-race-with-China-will-add-to-global-uncertainty. Zugegriffen: 26. Juli 2022.
Yao, J. (2021). An international hierarchy of science: conquest, cooperation, and the 1959 Antarctic Treaty System. European Journal of International Relations, 27(4), 995–1019.
Funding
Open Access funding enabled and organized by Projekt DEAL.
Author information
Authors and Affiliations
Corresponding author
Rights and permissions
Open Access Dieser Artikel wird unter der Creative Commons Namensnennung 4.0 International Lizenz veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden.
Die in diesem Artikel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
Weitere Details zur Lizenz entnehmen Sie bitte der Lizenzinformation auf http://creativecommons.org/licenses/by/4.0/deed.de.
About this article
Cite this article
Diehl, C., Lambach, D. (K)ein „AI Arms Race“? Technologieführerschaft im Verhältnis der Großmächte. Z Außen Sicherheitspolit 15, 263–282 (2022). https://doi.org/10.1007/s12399-022-00915-7
Received:
Accepted:
Published:
Issue Date:
DOI: https://doi.org/10.1007/s12399-022-00915-7