Der Nutzen von Unterstützung durch künstliche Intelligenz im medizinischen Bereich variiert maßgeblich mit dem Fachwissen der nutzenden Personen. Dies geht aus einer Untersuchung zur diagnostischen Assistenz auf Basis von großen Sprachmodellen hervor. Nicht-Experten verließen sich in der Studie auf die automatisierten Diagnosehilfen. Dieses Verhalten zeigte sich selbst in Fällen, in denen die Unterstützung durch das Sprachmodell fehlerhaft war.
Ein deutlich anderes Bild ergab sich beim medizinischen Fachpersonal. Klinikerinnen und Kliniker erkannten die Fehler des KI-Systems und ließen sich nicht von falschen Diagnosevorschlägen beirren. Die Wirksamkeit und Sicherheit diagnostischer Sprachmodelle hängt folglich entscheidend von der vorhandenen Expertise der Anwendenden ab.