Die Gestaltung des Zusammenwirkens von Mensch und Technik steht im Mittelpunkt des ersten Teils des vorliegenden Buchs. Welche Chancen und Risiken haben lernende, technische Systeme für Menschen? Wie können technische Systeme so gestaltet werden, dass sie Menschen tatsächlich helfen? Was bedeutet eigentlich helfen? Solche Fragen können und müssen inzwischen gestellt werden, denn dank des technologischen Fortschritts können technische Systeme Menschen wertvolle Informationen bereitstellen, beim Treffen von Entscheidungen helfen, bei der Durchführung von Handlungen unterstützen und manche Aktionen auch ganz alleine realisieren. Laut Gransches Analyse können technische Systeme Menschen auf operativer Ebene (Wahl der Mittel) und strategischer Ebene (Wahl der Wege) unterstützen. Welche Unterstützungsfunktionalität nun genau bereitgestellt werden sollten, wurde im Rahmen von Studien untersucht, die im Kapitel von Jipp und Steil zusammengefasst sind. Probanden wurden wiederholt mit einer simulierten Fluglotsenaufgabe konfrontiert und bekamen Unterstützung von einem technologischen System, das Informationen über die Situation bereitstellte. Dieses System lieferte ebenfalls eine Situationsanalyse oder empfahl dem Nutzenden bestimmte Handlungen. Die Ergebnisse waren eindrucksvoll: Probanden mit höheren kognitiven Fähigkeiten erreichten bessere Leistungen, wenn sie Unterstützung von einem technologischen System bekamen, welches höhere kognitive Funktionen wie Informationsanalyse und Entscheidungsfindung übernahm. Eine mögliche Ursache für dieses Ergebnis findet sich in Mostaghim und Mai ebenfalls im vorliegenden Buch: Anspruchsvollere Aufgaben benötigen mehr Kommunikation und Interaktion.

Sollte das Zusammenwirken zwischen Mensch und Technik personalisiert werden? Die Ergebnisse zeigen die Notwendigkeit hierfür auf und bestätigen die Aussage von Gransche, die im entsprechenden Buchkapitel getroffen wird: „Kollektivsingulare sind mitunter ein Indiz für Vorurteile“ (Gransche, im vorliegenden Buch). Um dieses Vorurteil aufzuheben, sollten die Systeme, wie es im Kapitel von Jipp und Steil formuliert ist, kognitiv empathisch agieren können. Die Systeme müssten in die Lage versetzt werden, die Einstellungen, Reaktionen, Emotionen der Nutzerinnen und Nutzer erkennen und interpretieren zu können. Abgesehen davon, dass dieser Ansatz viele Fragen aufwirft, die ebenfalls im Kapitel von Jipp und Steil herausgearbeitet werden, würde dies bedeuten, dass Menschen in Zukunft mit listigen Systemen konfrontiert wären und es ggf. auch heute schon sind. Gransche arbeitet in seinem Kapitel heraus, dass der Preis für die Personalisierung die Daten sind, die neuartige Geschäftsmodelle ermöglichen und über die selten offen kommuniziert bzw. informiert wird. Es geht dabei nicht um eine sogenannte weiße List, die, wie Gransche herausarbeitet, im Zusammenwirken von Mensch und Mensch hin und wieder verwendet wird, zum Beispiel bei der Einladung auf einen „Kaffee, auf den man noch mit reinkommt“ (Gransche, im vorliegenden Buch). Es geht um die List, dass Menschen eine Unterstützung angeboten wird, bei der sich der Mensch nicht darüber im Klaren ist, dass diese List beispielsweise mit persönlichen Daten bezahlt wird. Spätestens hier stellt sich die Frage, welche Systemkomponente die Rolle des Anführers hat. Mensch und Technik können als Systemkomponenten eines übergeordneten Systems betrachtet werden. Sind dann noch weitere Menschen/technische Systeme bei der Erledigung der Aufgabe involviert, steht das Thema der Schwarmintelligenz im Fokus, auf das sich Mostaghim und Mai in ihrem Buchkapitel konzentrieren. Ein Charakteristikum der Schwarmintelligenz ist die Präsenz eines Anführers. Die Emergenz dieses Anführers ist, wie von Mostaghim und Mai betont wird, eines der wesentlichen Elemente zur Lösung einer Aufgabe. Wenn also eine technische Systemkomponente diese Rolle übernimmt, dann stellt sich die Frage, ob nicht auch die normative Ebene (Wahl der Zwecke) an die Technik delegiert werden kann. Wird diese Grenze überschritten, so wären wir gemäß Gransche an dem Punkt angekommen, dass wir von autonomen Subjekten sprechen können, die im Rahmen der eigenen Zwecksetzungsautonomie entscheiden könnten. Zu betonen ist hier, dass dies ein Recht ist, um welches Menschen gekämpft haben, zum Beispiel beim Kampf gegen Unterdrückung und Fremdbestimmung. Wollen wir dieses Recht technischen Systemen überlassen?