Wie vertrauenswürdig ist künstliche Intelligenz?

Zusammenfassung

Bei der Integration von KI-Systemen in medizinische Tätigkeiten ist es entscheidend, sich sowohl mit der Vertrauenswürdigkeit dieser Systeme als auch mit dem Vertrauen der Ärzte und Patienten in diese Systeme zu beschäftigen. Ein zu hohes Maß an Vertrauen kann dazu führen, dass Ärzte sich unkritisch auf diese Technologie verlassen, während zu wenig Vertrauen darin resultieren kann, dass Ärzte die Vorteile dieser Technologie für ihre Entscheidungen nicht nutzen. Um eine Balance zwischen diesen Extremen zu finden, muss die Vertrauenswürdigkeit eines Systems korrekt eingeschätzt werden. Nur so ist es möglich zu entscheiden, ob diesem System vertraut werden kann oder nicht. In diesem Beitrag stellen wir diese Zusammenhänge für den medizinischen Kontext dar. Wir zeigen auf, warum Vertrauenswürdigkeit und Vertrauen eine zentrale Rolle beim Einsatz KI-basierter Systeme spielen, und was nötig ist, damit Personen zu einer akkuraten Einschätzung der Vertrauenswürdigkeit KI-basierter Systeme kommen können.

Abstract

For the integration of artificial intelligence (AI) systems into medical processes it is decisive to address both the trustworthiness of these systems and the trust that physicians and patients have in those systems. Too much trust can result in physicians uncritically relying on this technology, while too little trust may result in physicians not taking advantage of the full potential of AI-based technology in making decisions. To strike a balance between these extremes it is crucial to correctly assess the trustworthiness of a system. Only in this way is it possible to decide whether or the system can be trusted or not. This article describes these relationships for the medical context. We show why trustworthiness and trust are important in the use of AI-based systems and how individuals can come to an accurate assessment of the trustworthiness of AI-based systems.