Liebe Leserin, lieber Leser,

nein, Johann Wolfgang von Goethe hatte natürlich noch keine Kenntnis von moderner Computertechnik. Aber der deutsche Dichterfürst war sehr wohl berufen, jedweder Wissenschaft bis in unsere Tage auch eine Verantwortung für die Folgen ihrer Forschung ins Gewissen zu schreiben: "Herr, die Not ist groß! Die ich rief, die Geister, werd ich nun nicht los" aus seiner Ballade "Der Zauberlehrling" ist seit über 200 Jahren Mahnung und Auftrag zugleich, bei jeglicher Entwicklung die damit verbundenen Risiken nicht aus den Augen zu verlieren.

Eine aktuell intensiv diskutierte Technik, die ein hohes Risikopotenzial in sich birgt, ist die künstliche Intelligenz (KI). Nun haben sich sogar deren Meister selbst mit einem offenen Brief zu Wort gemeldet und fordern eine sechsmonatige Entwicklungspause, während der Sicherheitsprotokolle für KI-Systeme entwickelt, umgesetzt und von unabhängigen Experten geprüft werden sollen. Anlass zur Sorge der Fachleute ist die intelligente Dialogsoftware namens ChatGPT, die unter anderem dazu in der Lage ist, aus nur wenigen Stichworten vernünftige Texte größerer Länge verschiedener Art zu produzieren, die kaum noch von Schriftstücken zu unterscheiden sind, die von Menschen verfasst wurden. Noch deutlich schwerer wiegt jedoch die Tatsache, dass damit auch Programmcode-Zeilen auf einfachste Weise generiert werden können.

Vor der Entwicklung leistungsfähiger KI-Systeme müssen gründliche Untersuchungen durchgeführt werden, um ihre möglichen Auswirkungen und die damit verbundenen Risiken zu bewerten. Es ist von entscheidender Bedeutung, dass bei der Entwicklung dieser Systeme Sicherheit, Transparenz und ethische Überlegungen im Vordergrund stehen.

Ist Ihnen hier etwas aufgefallen? Nein? Der vorige Absatz wurde von ChatGPT erstellt.

Initiator des offenen Briefs war Elon Musk, der schon 2015 ein Schreiben ähnlichen Inhalts auf den Weg gebracht hatte. Derartige Krokodilstränen gerade des Tesla-Chefs rufen aber auch Verwunderung hervor, ist doch sein Unternehmen eine der stärksten Triebfedern von KI. Wie er stehen allerdings alle anderen Automobilhersteller vor einem fast unauflösbaren Dilemma: Damit ein Auto ohne menschliche Eingriffe fahren kann, muss es intelligent sein.

Vielleicht sollte man alle künftigen Fahrzeuge, die in höherem Maße dazu in der Lage sind, automatisierte Fahraufgaben zu übernehmen, zur Sicherheit mit einem großen Schalter mittig in der Instrumententafel ausrüsten, auf dem ein Konterfei des Geheimrates aus Frankfurt am Main prangt. Die einzige Funktion des Goetheknopfs wird es sein, sämtliche Assistenzsysteme in Sekundenbruchteilen zu deaktivieren: "In die Ecke, Besen, Besen! Seids gewesen."

figure 1

Frank Jung

Redakteur