Chefredakteur Peter Pagel sprach mit den Gastherausgebern dieses Schwerpunkts, Edy Portmann, Hubert Österle und Sara D’Onofrio.

FormalPara Peter Pagel:

Maschinelle Intelligenz ist heute schon allgegenwärtig. Wie kann sichergestellt werden, dass deren Einsatz zu einer verbesserten Lebensqualität der Menschen führt?

FormalPara Hubert Österle:

Der erste Schritt ist zu akzeptieren, dass maschinelle Intelligenz unser Leben in allen Bereichen von der Kommunikation über die Gesundheit bis zur Mobilität verändert. Es geht nicht nur um die Nutzung von TikTok oder Twitter, sondern um die private Administration, um Virtuelle Welten in Spielen, um Fahrassistenten, um die Wissensvermittlung, um die Heizungssteuerung usw.

Der zweite Schritt ist, die Wirkung auf die Lebensqualität verstehen zu lernen. Es wird immer klarer, dass die maschinelle Intelligenz die Mechanismen von Wirtschaft und Gesellschaft grundsätzlich verändert und dass wir uns bemühen müssen, diese Veränderungen zum Wohl der Menschen zu beeinflussen. Als eine von zahlreichen Organisationen versucht die IEEE mit ihren 7000-er Standards Leitlinien zum Umgang mit maschineller Intelligenz zu schaffen.

FormalPara Sara D’Onofrio:

Einerseits ist es wichtig sicherzustellen, dass eine Technologie einen Wert für Menschen schafft und diese befähigt. Andererseits muss transparent sein, wie diese Technologie funktioniert und welche Daten sie nutzt. Darauf aufbauend gilt es einem „digital first“ statt „digital only“-Ansatz zu folgen. Sonst besteht die Gefahr, Bevölkerungsgruppen mit einer schwachen Affinität zur digitalen Welt zu benachteiligen. Die Entscheidung sollte schlussendlich bei uns liegen, ob und wie wir einen digitalen Dienst in unserem Alltag nutzen möchten.

FormalPara Edy Portmann:

Immer mehr Forscher glauben, dass unsere Algorithmen tendenziös sein können. Digitale Ethik, die von Forschern der Universität Oxford in „hart“ und „soft“ eingeteilt wird, wird also wohl immer wichtiger. Als softe Ethik bezeichnet man da den multidisziplinären Raum der Diskussionen, wie wir also leben wollen, und als harte Ethik die Implementation unserer Erkenntnisse und Beschlüsse in Technologie und deren Regulation. Gemeinsam können wir in so einem Prozess von der Diskussion hin zur Implementation wohl die bestmöglichen Rahmenbedingungen für eine möglichst optimale Lebensqualität eruieren und umsetzen.

FormalPara Peter Pagel:

Da passt das Stichwort „Value-based Engineering“ – was ist der Grundgedanke dahinter?

FormalPara Hubert Österle:

Die Grundlage der Marktwirtschaft ist das „Capital-based Engineering“. Unternehmen entwickeln und betreiben jene digitalen Dienste, die den größten wirtschaftlichen Wert versprechen. Das ist grundsätzlich nichts Schlechtes, denn es ist die Basis unseres heutigen Lebensstandards. Alternative Wirtschaftsmodelle leisten das bis heute nicht. Wir brauchen die marktwirtschaftliche Steuerung weiterhin.

Aber: Die maschinelle Intelligenz, also die digitalen Dienste und ihre Daten, ermöglichen uns, die eindimensionale Optimierung des Kapitals zu überwinden und um die Lebensqualität zu erweitern, weil wir die Faktoren der Lebensqualität zunehmend besser verstehen und messen können. Der erwähnte IEEE-Standard 7010 versucht genau das. Er geht von den Social Development Goals (SDG) der UNO aus und gibt Richtlinien für ethisch wertvolle digitale Services vor.

FormalPara Sara D’Onofrio:

Die eigentlichen Interessengruppen, also wir selbst, müssen dabei in den ganzen Entwicklungsprozess eingebunden werden. Nur so kann sichergestellt werden, dass die Algorithmen Lebensqualität richtig messen. Standards und Richtlinien sind ein erster Schritt, um den Einsatz von Technologien im Sinne der Bevölkerung zu regulieren. Jedoch braucht es auch Wege, die es ermöglichen, die Bevölkerung – die betroffene Interessengruppe – in dieser Entwicklung miteinzubeziehen.

FormalPara Edy Portmann:

Eine Herausforderung für das heutige Value-based Engineering ist, dass unter Umständen qualitative in quantitativ-messbare Digitalwerte umgewandelt werden müssen. Um einen Entschluss bei vagen oder unpräzisen Sachverhalten und unter Berücksichtigung qualitativer Einflussfaktoren für unsere Lebensqualität zu fassen, könnten klassische Systeme zum Beispiel mit unscharfen Konzepten erweitert werden. Solche Konzepte können für eine präzise Erfassung des Unpräzisen, beispielsweise in der Modellierung von Unschärfe in umgangssprachlichen Beschreibungen von Werten, herangezogen werden.

Unsere menschlichen Werte sind nämlich nicht immer „scharf“ als Ja oder Nein klassifizierbar, sondern es geht häufig darum, verschiedene Werte gegeneinander abzuwägen. Die Antwort lautet dann „ja, unter Vorbehalt“ oder „sowohl, als auch“. Sie ist also unscharf und nicht in jedem Fall richtig oder falsch. Aber das geht die Forschung im Bereich der Lebensqualität momentan gezielt an.

FormalPara Sara D’Onofrio:

Gelingt uns dies, wird es uns möglich sein, einfacher und realitätsnaher die Meinungen und Bedenken der Bevölkerung in zukünftigen digitalen Lösungen einzubinden.

FormalPara Peter Pagel:

Im Internet der Dinge verschmelzen physische und digitale Welt. Wie groß ist die Veränderung, die das für unser Leben und Arbeiten bedeutet?

FormalPara Edy Portmann:

Mit dem Internet der Dinge können heute Unternehmen ihre Geschäftsprozesse sowie die dazugehörigen Produkte und Services optimieren. Damit stellen diese Unternehmen, etwa um wettbewerbsfähig zu bleiben, die Optimierung ihrer Prozesse mit Digitaltechnologie in den Mittelpunkt. Human Life Engineering möchte den Fokus nun aber von einer reinen Investitionsrentabilität zu einer Erhöhung der Lebensqualität der Gesellschaft verschieben.

FormalPara Hubert Österle:

Die Zusammenarbeit von Mensch und Maschine wird immer enger. Fast ohne es zu merken, nutzen wir immer mehr digitale Dienste, die immer mehr über uns wissen und damit unser Verhalten immer besser verstehen. Negativ gesehen bedeutet das, dass dominante Unternehmen ihre Marktposition und ihre Kapitalstärke vergrößern oder dass politische Eliten ihre Machtposition ausbauen. Positiv gesehen heißt es, dass die maschinelle Intelligenz uns weiter wachsenden Nutzen bietet, weil sie unsere Bedürfnisse kennt und weiß, was uns glücklich oder unglücklich macht. Das Ziel muss sein, nicht Kapitalkonzentration oder Machtmonopole zu fördern, sondern die Gesundheit, die Sicherheit, die Privatheit, die Freiheit, den Selbstwert und andere humanistische Werte zu stärken. Die maschinelle Intelligenz wird dann zur Chance, ethische Ideale umzusetzen.

FormalPara Sara D’Onofrio:

Es kommt darauf an, wie intensiv wir die maschinelle Intelligenz nutzen wollen. Sie wird zur großen Chance, wenn wir uns wirklich damit auseinandersetzen und gemeinsam diskutieren, welche Prozesse und Dienste in welcher Form digitalisiert werden sollen und welche dieser Dienste die Menschen zu nutzen wünschen. So stellt das Internet der Dinge einen technologischen Trend dar, welcher durch Sensoren öffentliche sowie private Daten sammelt und diese auswertet, um im Anschluss ggf. eingreifende Massnahmen abzuleiten. Beispielsweise können auf diese Weise Verkehrsflüsse besser gesteuert, oder es können Aussagen über die Luftqualität in der eigenen Wohnung gemacht werden. Beide Szenarien beeinflussen positiv die eigene Lebensqualität. Allerdings bedingt der Einsatz von Technologie eben auch das individuelle Einverständnis, dass die gesammelten Daten zweckorientiert genutzt werden dürfen. Darüber hinaus besteht ein Risiko in eine gewisse Abhängigkeit zu einzelnen Dienstleistern zu geraten (Beispiel: Google). Die Verschmelzung der physischen und digitalen Welt ist im Gange, aber es liegt an uns zu definieren, auf welche digitale Dienste wir uns einlassen.

FormalPara Peter Pagel:

Wie können wir sicherstellen, dass europäische Vorgaben zu Datenschutz und -sicherheit eingehalten werden?

FormalPara Sara D’Onofrio:

Eine der Voraussetzungen ist, dass jede Organisation aber auch jeder Mensch sich mit der Thematik auseinandersetzt. Das Bewusstsein für und ein ausreichend tiefgehendes Verständnis über Datenschutz und -sicherheit sowie deren Bedeutung muss flächendeckend aufgebaut werden.

FormalPara Hubert Österle:

Die Datenschutz-Grundverordnung (DSGVO) fungiert für viele Staaten als Vorbild und entwickelt daher Wirkung. Allerdings wächst die Zahl derer, die in der DSGVO nicht nur ein Bürokratiemonster sehen, sondern eine Stärkung der Internetgiganten, denn die Menschen nutzen weiterhin die dominanten digitalen Services wie Navigation, Suche und Kommunikation und geben bereitwillig ihre Zustimmung zur Nutzung ihrer Daten, ohne die Folgen wirklich zu verstehen.

Wenn wir Wahlfreiheit bei den digitalen Diensten wollen, darf die Nutzung dieser Daten nicht auf Google, Amazon, Facebook und dergleichen beschränkt sein. Kleine, innovative Unternehmen müssen die Chance bekommen, neue Dienste als Alternative oder Ergänzung zu den heute dominanten anzubieten. Die Datenstrategie der deutschen Bundesregierung setzt daher auf das Datentreuhandmodell, das nicht nur für gleich lange Spieße der Anbieter sorgen soll, sondern Monopole aufbrechen und die Datennutzung kontrollieren soll. Der kontrollierte Zugriff auf die Personen- und Sachdaten ist entscheidend für die Wettbewerbsfähigkeit und damit für die digitale Souveränität.

FormalPara Edy Portmann:

Im amerikanischen Raum entstanden mit der Idee von „Vermittler von Einzeldaten“ ähnliche Modelle. Der Informatiker Jaron Lanier, der unter anderem die Europäische Union (EU) diesbezüglich berät, und der Ökonom Glen Weyl beschrieben diese Idee 2018 in einem Artikel in der Harvard Business Review. Ihrer Ansicht nach sollten die Datenvermittler am besten als Gewerkschaften („Unions“) organisiert werden. Ein wichtiges Element dieser Unions ist, dass alle Daten, die es „nur“ gibt, weil es die Menschen gibt, die diese durch ihr pures Sein produzieren, auch besitzen sollten.

Dadurch können Plattform entstehen, auf der wir Menschen unsere Online-Aktivitäten gebündelt einsehen und so möglichst einfach die Kontrolle über unsere Daten haben können. In einem zugehörigen Datenmarktplatz können diese Daten zudem mit anderen geteilt werden. In so einem Marktplatz lassen sich Daten zum Beispiel spenden oder es lässt sich Geld mit diesen verdienen. Unions könnten so also als Vermittler respektive Intermediäre unserer Einzeldaten dienen.

FormalPara Peter Pagel:

Werden Unternehmen, die das Wohlergehen der Menschen in den Vordergrund stellen, davon ökonomisch profitieren?

FormalPara Hubert Österle:

Wäre es nicht eine ideale Welt, wenn Unternehmen und staatliche Organisationen ihre Dienste ausschließlich an der Lebensqualität ausrichten würden? Ja, wenn diese Unternehmen so viel Kapital erwirtschaften könnten, dass sie diese qualitativ hochwertigen Dienste dauerhaft anbieten und weiterentwickeln könnten. Was erzeugt aber einen höheren Umsatz, der Verkauf eines Energy-Drinks oder die Aufforderung zum Wassertrinken mit dem Hinweis auf den Body-Mass-Index? Der Verkauf einer Schlaftablette oder die Aufforderung zum Weglegen des Smartphones und zu einem Spaziergang? Eine rassistische Verunglimpfung oder die sorgfältige Diskussion unterschiedlicher Kulturen. Die schnelle Bedürfnisbefriedigung (Hedonia) ist rentabler als die Vermittlung von Lebenssinn und Zufriedenheit (Eudaimonia).

FormalPara Sara D’Onofrio:

Das ist genau die Herausforderung bzw. das Dilemma, mit dem wir derzeit konfrontiert sind. Kurzfristig wird es vermutlich nicht leicht werden, weil diese Absicht erkannt und verstanden werden muss. Langfristig jedoch bestehen gute Chancen dafür. Durch die gezielte Wahl und den gezielten Einsatz von Technologie könnten wir den Menschen als Kunden zudem aktiv dabei unterstützen, dass Unternehmen Entscheidungen im Sinne unseres eigenen Wohlergehens treffen.

FormalPara Hubert Österle:

So ungern ich es feststelle, Entwicklung in Richtung Lebensqualität braucht Regulierung. Ein erster Schritt kann sein, digitale Services aus Sicht der Lebensqualität zu bewerten und die Verbraucher dafür zu sensibilisieren. Ein weiterer Schritt ist die Bewertung von Unternehmen anhand ihres ökologischen, sozialen und Führungsverhaltens (ESG- oder CSR-Kriterien). Die Entwicklung der Services sollten wir aber der Marktwirtschaft überlassen, wenn wir wettbewerbsfähige Dienste wollen.

FormalPara Edy Portmann:

Die Schwierigkeit liegt hier wohl wieder in der (automatischen) Bewertung des Einflusses eines Digitalservices auf unser Leben beziehungsweise auf unsere Lebensqualität. Wie beim Value-based Engineering müssen hierzu möglicherweise qualitative in quantitativ-messbare Werte umgewandelt werden. Wer überprüft das? Eine Künstliche Intelligenz? Wie funktioniert diese? Das sind aus meiner Sicht noch offene Forschungsfragen.

FormalPara Peter Pagel:

Künstliche Intelligenz (KI) birgt neben vielen Chancen auch Risiken, worin bestehen diese und was kann getan werden, um negative Entwicklungen zu verhindern?

FormalPara Hubert Österle:

Die Vertreter der Technologieunternehmen überbieten sich mit Versprechungen zu den digitalen Diensten und die Medien nutzen im Buhlen um Aufmerksamkeit die Angst vor dem Unbekannten und Unverstandenen mit unzähligen dystopischen Szenarien. Möglicherweise werden wir uns in zwanzig Jahren fragen, warum wir die Zeichen des Wandels nicht besser erkannt und die Entwicklung nicht besser gesteuert haben.

Es wäre hoch erfreulich, wenn dieses Sonderheft des Informatik Spektrums dazu beitragen könnte, den Umgang mit der maschinellen Intelligenz etwas weniger emotional und etwas häufiger rational zu diskutieren. Wir können den Wandel nicht aufhalten, sondern nur versuchen, ihn zu unserem und unserer Kinder Vorteil zu gestalten.

FormalPara Sara D’Onofrio:

Das größte Risiko sehe ich im unterschiedlichen Verständnis, was Künstliche Intelligenz heute ist und was sie in Zukunft sein kann. Insbesondere ist es erschreckend, dass sich viele nicht wirklich mit der Technologie auseinandersetzen und diskutieren, was sie leisten kann und vor allem was sie nicht leisten kann. Ein zentraler Erfolgsfaktor für die zukünftige Entwicklung digitaler Lösungen ist deshalb die Befähigung der Menschen. Menschen sollen letztendlich im Sinne einer höheren Lebensqualität unterstützt werden und künstliche Intelligenz kann einen wichtigen Beitrag dazu leisten. Dafür braucht es aber auch ein Verständnis des Potentials und der Grenzen. So kann es uns gelingen, den stattfindenden Wandel in unserem Sinne zu beeinflussen.

FormalPara Edy Portmann:

Ich glaube, dass wir in diesem Bereich unbedingt wieder auf eine Harmonie der Menschen, ihrer Gesellschaften sowie der Natur hinarbeiten sollten. Heutige KI spaltet unsere Gemüter aber, wohl vor allem deswegen, weil sie auf binärem Denken respektive dichotom-ausgewerteten Daten baut: „Like gedrückt vs. nicht-gedrückt.“ Unsere Lebenswelt ist aber analog, beinhaltet also physische und digitale Elemente, und das sollte mit „echter“ (Maschinen‑)Intelligenz adressiert werden. Doch gibt es die (schon) künstlich, beziehungsweise wird es diese jemals geben (können)?

Künstliche Intelligenz ist heute (noch) nicht nachhaltig; man denke etwa an die Seltenen Erden, die man für ihre Infrastruktur braucht, die Energie, welche für die Speicherung und Übertragung aufgewendet werden müssen, und/oder die enorm großen, möglicherweise verzerrten Daten für ihr Training. Es braucht hier wohl eine gut durchdachte, möglicherweise kybernetisch zusammengestellte Tech-Regulation, um diese Entwicklungen abzufedern und in die richtigen Bahnen zu lenken.

FormalPara Peter Pagel:

Herr Portmann, Herr Österle und Frau D’Onofrio, besten Dank für das Gespräch. Es bleibt also spannend.