Künstliche Intelligenz (KI) ist nicht im menschlichen Sinne intelligent, sie arbeitet anhand vom Menschen geschaffener Algorithmen, und die Ergebnisse basieren auf Daten der reellen Welt. Dabei gelten für KI alle rechtlichen Rahmenbedingungen, die auch in anderen Szenarien gelten, insbesondere Datenschutzrecht und auch das Medizinprodukterecht. KI liefert dabei maximal so gute Ergebnisse, wie es die Datenbasis, welche den Lerninhalt der KI bildete, erlaubt. Beinhalten die der KI zugrunde liegenden Daten beispielsweise eine Diskriminierung, so wird diese Diskriminierung von der KI gelernt; da KI nicht wirklich denkt, kann KI auch nicht die eigenen Ergebnisse reflektieren – nur einen Abgleich im Rahmen der Parameter der Vorgaben durch die Softwareentwickler durchführen. Wenn KI eingesetzt wird, muss daher zuvor die Frage nach den eingesetzten Algorithmen und der für die Entscheidung zugrunde liegenden Datenbasis geklärt werden und darauf basierend eine Prüfung erfolgen, ob die KI für den Einsatz geeignet ist. Auf Grund der fehlenden Möglichkeit eines echten menschlichen Denkens kann KI keinen Arzt ersetzen, diesen aber bei der täglichen Arbeit unterstützen.