FormalPara David Hesse und Stephan Sigrist

Invisible Hands: Wie Algorithmen die Gesellschaft von Morgen ermächtigen und entmündigen

ISBN: 978-3907291344, NZZ Libero (23. Februar 2021), 109 S., CHF 26.00

Als transdisziplinärer und integrativer (Wirtschafts‑)Informatiker im Bereich digitaler Ethik und Nachhaltigkeit für den Service Public, verschlang ich dieses Buch auf Anraten des CIOs der Schweizerischen Post regelrecht. In vielen KI-Praxisprojekten taucht nämlich immer wieder mal die Frage auf, wie bürgerzentrierte digitale Interfaces, sogenannte „unsichtbare Hände“, konkret eingesetzt werden könnten. David Hesse und Stephan Sigrist von „W.I.R.E.“, einem Think-Tank, der an der Schnittstelle von Wissenschaft und Praxis die Gestaltung der Zukunft vorantreibt, haben im Buch „Invisible Hands“ ihre Erfahrungen aus vielen Praxismandaten ihrer „Future Society“ zusammengefasst. Die Autoren beabsichtigen mit dem Buch, ihren Lesern ins Bewusstsein zu rücken, „wie Algorithmen die Gesellschaft von morgen ermächtigen und entmündigen“.

Die für ein Sachbuch wirklich sehr spannungsreiche Lektüre der Autoren Hesse und Sigrist, welche laut Impressum von ihren praxisnahen Teams beim Verfassen des Buches unterstützt wurden, ist entlang der Projektachse Initialisierung („Initialise“), Verstehen („Understand“), Antizipieren („Anticipate“), Verbinden („Connect“) und Bauen („Build“) gegliedert. Die erste Phase der Initialisierung untersucht dazu einleitend „das Versprechen der digitalen Evolution“ (S. 6ff.), bevor in der zweiten Phase des Verstehens, darauf eingegangen wird, „wie unsichtbare Hände unsere Entscheidungen und Handeln prägen“ (S. 14ff). In der Phase der Antizipation machen sich die Autoren Gedanken zu „künftige[n] Rahmenbedingungen des Entscheidens und Handelns“ (S. 36ff.) und verknüpfen diese anschliessend in der Verbindungsphase mit „immersiver[r] Ermächtigung und algorithmische[r] Entmündigung“ (S. 60ff.), bevor sie in der letzten Phase des Bauens auf „Optimierung nutzen“ und „Imperfektion bewahren“ (S. 94ff.) eingehen.

Mit vielen anschaulichen Beispielen und in einer leicht verständlichen Sprache machen Hesse und Sigrist aus verschiedenen Blickwinkeln die Chancen und Gefahren der Digitalisierung aus und präsentieren diese zum ersten Mal einem breiten Leserkreis. Besonders erfreulich ist, dass die Autoren mit Fallbeispielen („Use Cases“) sehr lebensnah versuchen, neue Digitaldienste, welche oftmals in grossen Datenmengen fussen und mit maschinellem Lernen angereichert werden, ausgewogen zu bewerten, indem sie die jeweiligen Vor- und Nachteile für die einzelnen Bürgerinnen und Bürger beleuchten, aber auch deren Einsatz für die Gesellschaft als Ganzes abwägen. Dazu setzen sie auf „SWOT“-Analysen, welche die jeweiligen Stärken („Strengths“), Schwächen („Weaknesses“), Chancen („Opportunities“) und Risiken („Threats“) bewerten. Im Buch ist die heute weitverbreitete Sorge vor dem Verlust des Menschlichen respektive vor dem Verlust der Bedeutung der Menschen in der und durch die Digitalisierung spürbar. Die Beleuchtung dieses wichtigen, humanistischen Themas betrachte ich persönlich als einen Schritt in die richtige Richtung. Auf jeden Fall machen die zwei Autoren dadurch auch einen wichtigen Trend hin zu einer lebenswert(er)en Zukunft kenntlich.

In diesem Sinne erörtern Hesse und Sigrist Werte progressiver Bürgerinnen und Bürger, wie etwa Selbstverwirklichung, Freiheit, Privatsphäre, Gleichheit, Kreativität, menschliche Kompetenz, Tradition, Individualität und Nachhaltigkeit. Mit ihrem Buch stehen sie ganz hinter diesen Werten, allerdings stellt sich die Frage, ob die Verfolgung dieser Ziele die Qualität des menschlichen Daseins fördert oder behindert und inwieweit digitalethische und -nachhaltige Werte mit anderen menschlichen Bedürfnissen ersetzt werden könn(t)en und soll(t)en. Die Autoren argumentieren, dass die individuellen und wirtschaftlichen Freiheiten zum Wohle der Gesellschaft eingeschränkt werden müssen. Doch wäre es nicht vielleicht sinnvoller, sich auf die Entwicklung ethisch-nachhaltigerer Technologien zu konzentrieren, als auf Einschränkungen? Dazu könnte man sich möglicherweise an der Biologie und/oder Natur orientieren?

Wie auch immer, vor dem Hintergrund der Möglichkeiten der Digitaldienste leiten Hesse und Sigrist mit Blick auf die von ihnen vertretenen Werte eine Reihe von Empfehlungen ab. Für die Betroffenen fordern sie Transparenz von Maschinenentscheidungen, private Räume („Dark Zones“) ohne Datenschutzverletzungen und Datensammlung, den Einsatz unsichtbarer Hände („Invisible Hands“), welche die Gesellschaft zu wünschenswertem Verhalten (Nachhaltigkeit, Fairness etc.) führen, aber auch die Stärkung der Kompetenz der Menschen bei der Nutzung digitaler Dienste. Insbesondere sollen unsichtbare Hände helfen, die Herausforderungen der gegenwärtigen Digitalisierung zu erkennen und konkrete Massnahmen zum Nutzen der Gesellschaft zu entwickeln. Dazu gehören nach Ansicht der Autoren nicht nur ihre vorgeschlagene Zertifizierung digitaler Dienste, sondern auch der Umgang mit monopolistischen Anbietern, die Vermeidung von Überforderung der einzelnen Bürgerinnen und Bürger, die Chancen für zukunftsorientierte, ethisch-nachhaltige Dienstanbieter, der Schutz aller vor Datenmissbrauch und Dienstleistungsmonopolen sowie die Regelungen für den Umgang mit Meinungs- und Manipulationsfreiheit. Wir müssen uns wohl mit aller Kraft auf eine Integration unserer Werte in die schöne, neue Digitalwelt konzentrieren. Das Buch von Hesse und Sigrist leistet de facto einen wertvoller Beitrag dazu und regt zudem zu konkretem Handeln an.