1 Vorwort

Digitale Technologien sind heutzutage aus dem Alltag nicht mehr wegzudenken. Insbesondere Applikationen und Systeme, die auf künstlicher Intelligenz (KI) bauen, gewinnen sowohl in Unternehmen als auch im privaten Umfeld zunehmend an Akzeptanz – von der automatischen Bilderkennung über die roboter-basierte Prozessautomatisierung bis hin zu virtuellen Assistenten, die mit Menschen einen Dialog führen oder für sie Aufgaben erledigen können. Immer häufiger werden KI-basierte Systeme in den unterschiedlichsten Anwendungsfällen eingesetzt, um zu unterstützen oder konkrete Lösungen zu erarbeiten. Typische Beispiele sind: Die automatisierte Vorauswahl von Bewerber:innen im Rekrutierungsprozess, die digitale Beratung im Online-Shop durch einen Chatbot, die Erstellung von Werbeslogans mittels Deep Learning, aber auch längst erprobte KI-basierte Verfahren für Forecasts, etwa in der Produktion, in der Finanzindustrie, in der Volkswirtschaft oder auch in den Naturwissenschaften. Doch welchen Einfluss und Konsequenzen können all diese digitale Technologien auf unser Leben haben?

Dieses HMD-Schwerpunktheft widmet sich der Thematik „Digitale Ethik im KI-Zeitalter“. Besonders jetzt, mit der steigenden Nutzung und zunehmender Akzeptanz von künstlicher Intelligenz, sollte vermehrt die Diskussion geführt werden, welche Werte in der Entwicklung und mit Blick auf die (spätere) Nutzung neuer Systeme berücksichtigt werden sollen. Im Fokus steht das gemeinsame Verständnis über ethisch nachhaltige Aspekte der Digitalisierung für die öffentliche und private Hand sowie für die Gesellschaft. Dieses Heft soll u. a. Antworten zu folgenden Fragestellungen liefern: Was bedeutet Ethik im digitalen Raum? Wie sieht eine „ethisch-korrekte“ Handhabung von Daten und Informationen durch digitale Technologien aus? Können Maschinen ethisch sein und ethisch handeln? Dürfen Algorithmen selbstständig Entscheidungen treffen? Welche Werte sollten von Maschinen übernommen werden? Es freut uns, dass wir hierzu zahlreiche interessante Beiträge erhalten haben.

Der Beitrag von Barton und Pöppelbuß skizziert ethische Herausforderungen, denen Organisationen in der digitalen Transformation begegnen und auch Bedenken, die in der Gesellschaft durch die zunehmende Nutzung von künstlicher Intelligenz aufkommen. Um diesen Bedenken zu begegnen, schlagen sie ein Modell mit sechs Prinzipien für die ethische Nutzung künstlicher Intelligenz vor. Basierend auf diesen Prinzipien werden Handlungsempfehlungen im Umgang mit KI-Anwendungen vorgestellt. Kirchschläger geht in seinem Beitrag auf die Diskussion ein, ob die heutigen Systeme mit künstlicher Intelligenz gleichgesetzt werden sollten oder ob nicht eher der Begriff „datenbasierte Systeme“, das beschreibt, was die heutigen Systeme eigentlich darstellen. Zudem plädiert er in der Entwicklung von „intelligenten“ Systemen, die Menschenrechte als ethischen Referenzpunkt heranzuziehen, weil diese universell begründet sind. Er liefert eine Sichtweise, wie Ethik im digitalen Raum unter Berücksichtigung der Menschenrechte verstanden werden kann und fordert auf, menschenrechts- und datenbasierte Systeme zu entwickeln, mit der Überzeugung, dass diese am ehesten den technologiebasierten Fortschritt und Ethik in Einklang bringen werden.

Rebstadt et al. widmen sich in ihrem Beitrag spezifisch nicht-diskriminierenden resp. vertrauenswürdigen KI-Services. Am Beispiel eines Intelligenten Pförtners im Ökosystem „Smart Living“ erheben sie mittels Literaturanalyse und Experteninterviews Anforderungen an KI-Systemen und leiten daraus für Forscher:innen und Praktiker:innen 25 Handlungsempfehlungen für die Entwicklung von nicht-diskriminierenden KI-Services ab. In der Entwicklung von vertrauenswürdigen KI-Services wird häufig auch von „ethics by design“ gesprochen. Darunter wird verstanden, dass das technische Design im Einklang mit ethischen Werten und Prinzipien stehen soll. Zwei Beiträge widmen sich dieser Thematik, indem sie dafür plädieren, die Entwicklung KI-basierter Dienstleistungen mithilfe des Ansatzes Value Sensitive Design zu unterstützen, einem Ansatz, der ethische Werte in einer systematischen Weise während des Entwicklungsprozesses berücksichtigt. Jacobs und Jacobs präsentieren anhand der vier Dimensionen Informationstechnik, Organisation, Wertschöpfung und Compliance, wie Value Sensitive Design und in Kombination spezifischer Methoden der Wirtschaftsinformatik für die digitale Transformation genutzt werden kann. Lüthi et al. hingegen fokussieren auf die Operationalisierung von Wertetabellen, die mithilfe des Value Sensitive Design entwickelt wurden. Anhand der algorithmenbasierten Gefahrenerkennung beim Predictive Policing zeigen sie, wie ein dreistufiges Operationalisierungsverfahren für Entscheidungsunterstützungssystemen unter Berücksichtigung des ethics by design aussehen kann.

Ein weiterer Beitrag zur Operationalisierung von ethischen Rahmenwerken kommt von Kaufmann und Meier. Sie schlagen ein „Radarsystem“ für die Bewertung von Ethizität im Digitalzeitalter vor, welches auf der Grundlage von Menschenrechten und bestehenden Ethik-Rahmenwerken aus sechs Dimensionen besteht. Anhand des Fallbeispiels „Privacy Setting Framework“ wird das vorgeschlagene Radarsystem evaluiert. Dieser Beitrag stellt eine Vertiefung zum Grundlagenartikel dieses Schwerpunktheftes zu Computational Ethics dar.

Die nächsten zwei Beiträge behandeln das Thema digitale Ethik aus einer weiteren Perspektive. Herm et al. untersuchen mittels Literaturanalyse welche verschiedenen kognitiven Verzerrungen innerhalb eines KI-Projektes auftreten können. Sie identifizieren und klassifizieren mögliche Verzerrungen, die aufzeigen, welchen menschlichen Einfluss pro Entwicklungsphase in einem KI-Projekt auftreten kann. Drewes und Nissen widmen sich hingegen der Prozessakzeptanz. Sie testen anhand eines generischen Einkaufsprozess, welchen Einfluss die Selbstheilungsfähigkeiten eines Prozesses sowie welchen Einfluss ein damit verbundener Verlust der Kontrolle der Beteiligten über die Daten auf die Prozessakzeptanz haben kann.

Wudel und Schulz analysieren in ihrem Beitrag anhand des Fallbeispiels Gesichtserkennungssoftware im Bereich der Strafverfolgung den aktuellen Stand von KI-Systemen in Europa (inkl. Großbritannien) im Vergleich zu den USA. Dabei gehen sie auf die Fragen ein, ob und inwieweit ein Unterschied im Einsatz von KI aufgrund der geografischen Lage existiert und welche Chancen und Herausforderungen ein globales Regelwerk für den ethischen Einsatz von KI aus europäischer Perspektive birgt.

Die folgenden zwei Beiträge befassen sich mit digitaler Ethik im Kontext des Hochschulwesens. Greiff untersucht zum einen, was Studierende unter dem Begriff digitale Ethik verstehen. Zum andern untersucht er mittels digitalem Studienassistenten, welche ethische Treiber dessen Nutzung begünstigen und welche ethischen Barrieren einer Nutzung entgegenstehen. Schlimbach et al. diskutieren in ihrem Beitrag die Chancen und Herausforderungen, die sich durch den Einsatz von Lern-Companions, also Conversational Agents im Bildungskontext, ergeben. Basierend auf den gewonnenen Erkenntnisse aus der Literatur und Experteninterviews leiten sie sieben praktische Handlungsempfehlungen zur Gestaltung virtueller Lern-Companions aus ethischer Sicht ab. Der Beitrag von Hefti durchleuchtet die Thematik von Voice Assistants, indem sie die soziale und ethische Problematik weiblich konzipierter Voice Assistants darlegt. Sie zeigt auf, wie die weibliche Inszenierung der Technologie Geschlechterstereotype nicht nur abbilden, sondern ggf. auch negativ verstärken können. Mögliche Handlungsfelder um diesen negativen Effekten entgegenzuwirken runden den Beitrag ab.

Wilke und Bendel befassen sich mit dem KI-gestützten Rekruting und fassen dabei die wichtigsten technischen Grundlagen, die wirtschaftlichen Chancen und Risiken wie auch die ethischen und sozialen Herausforderungen zusammen. Anhand ihrer Zusammenstellung unterbreiten sie zehn umsetzbare Handlungsempfehlungen, um die identifizierten Chancen zu nutzen und den Herausforderungen entsprechend entgegenzuwirken. Der letzte Beitrag dieses Schwerpunktheftes von Haas und Sessler befasst sich mit „Moral Stories“. Die Autor:innen zeigen anhand des Fallbeispiels KI-basiertes Lerntagebuchs für Jugendliche, wie wichtig die Einbeziehung von ethischen Aspekten in der Entwicklungsphase ist. Sie schlagen vor im Scrum-Prozess die User-Stories mit ethischen Aspekten sowie entsprechenden Akzeptanzkriterien zu erweitern.

Das Heft schließt mit zwei Spektrumsbeiträgen: Flörecke widmet sich der Fragestellung welche Tool-Kategorien hinsichtlich Self-Service-Portal mit Schwerpunkt Service-Request-Management existieren und auch dafür geeignet sind, während Behne und Teuteberg sich mit der intersektoralen Vernetzung im Gesundheitswesen beschäftigen und aufzeigen, wie mithilfe einer fundierten Prozessanalyse und Anforderungserhebung und dem potenziellen Einsatz von einer erweiterten Plattform, die sektorenübergreifende Zusammenarbeit verbessert werden kann.

Zwei Rezensionen zu den Titeln „Invisible Hands: Wie Algorithmen die Gesellschaft von Morgen ermächtigen und entmündigen“ und „The Age of A.I.: And Our Human Future“ runden das Schwerpunktheft ab.

Wir möchten uns herzlichst bei den Autor:innen für die interessanten Beiträge bedanken. Ebenfalls möchten wir unser Dank an unsere Gutachter:innen aussprechen, die mit ihren wertvollen Reviews zur Verbesserung der Qualität dieses Schwerpunktheftes beigetragen haben. Ein großes Dankeschön geht auch an das HMD-Herausgebergremium wie dem gesamten HMD-Springer-Team für die Unterstützung.

Liebe Leser:innen, dieses Schwerpunktheft beleuchtet die künstliche Intelligenz aus der ethischen Perspektive, diskutiert die Chancen und Risiken von KI-basierten Services und zeigt Lösungsansätze auf, wie künftig Systeme nachhaltig ethisch agieren könn(t)en. Wir sind die Architekt:innen unserer Zeit, es liegt also an uns, die Technologie so zu entwickeln, dass sie in unserem Sinne handelt.

Herzliche Grüße aus der Schweiz und bleiben Sie gesund!

Sara D’Onofrio und Edy Portmann