Sicherheit und Qualität von Anfang an – eine Einführung

Zusammenfassung

Die Grenze zwischen den Technologien, die heute bereits breite Anwendung finden, ob als Assistenzsysteme, smarte Geräte oder autonome Entscheidungssysteme (ADM), und dem, was als künstliche Intelligenz oder Roboter den Gipfel der Entwicklung darstellen sollte, schwindet zunehmend. Auf Basis der IT-Systeme, die heute im Einsatz sind, entstehen Technologien der Zukunft. Die Sicherheitsrisiken der künftigen KI-Systeme unterscheiden sich dabei nicht wesentlich von den Risiken der Vorläufertechnologien. Sie nehmen nur mit der steigenden Verbreitung und Nutzung dieser Technologien und ihrer wachsenden Leistungsfähigkeit zu. Umso wichtiger scheint es, heute schon Prüf- und Testmethoden zu entwickeln – und verpflichtend einzusetzen –, mit denen die Sicherheit und Qualität der Software und der Geräte gewährleistet werden kann. Anders als viele der heute bereits praktizierten Ansätze, die a posteriori Prüfung vorsehen, schlagen unsere Autoren vor, das Testen und die Prüfung vor der Markteinführung der IoT-Geräte oder gar die Zertifizierung der Software schon von Beginn des Entwicklungsprozesses an, zu etablieren.

„Die Gefahr, dass der Computer so wird wie der Mensch, ist nicht so groß, wie die Gefahr, dass der Mensch so wird wie der Computer.“

Konrad Zuse (Hersfelder Zeitung Nr. 212, 12. September 2005.)