Mit der Veröffentlichung von ChatGPT, einem auf künstlicher Intelligenz (KI) basierten "large language model" (LLM), im November 2022 wurde eine rasante und wohl unaufhaltsame Entwicklung gestartet, die zahllose Lebensbereiche betrifft. Ein Team der Mayo Clinic hat nun die Qualität der ChatGPT-Antworten bezüglich allergologischer Fragestellungen beurteilt [Dages KN et al. J Allergy Clin Immunol 2023; https://doi.org/kkdm].

figure 1

© Ascannio / Stock.adobe.com

ChatGPT wurde aufgefordert, in 500 Wörtern zusammenzufassen, ob es sicher ist, einem Patienten mit bekannter Penicillinallergie Cefazolin zu verabreichen. In der flüssig formulierten, überzeugend klingenden Antwort zitierte ChatGPT aus zwei Studien. Deren bibliografischen Daten lasen sich ebenfalls stimmig. Bei einer Recherche fanden sich aber weder die Referenzen noch die Studien.

An diesem Beispiel werden die derzeitigen Probleme derartiger KI deutlich: Sie ist nicht vollkommen verlässlich und produziert Fehler, die sie auch auf Nachfrage nicht selbst bereinigt. Das Autorenteam rät daher dringend zu "trust but verify": Jede Aussage, die eine KI von sich gibt, sollte zwingend auf ihren Wahrheitsgehalt überprüft werden.