Studie enthüllt gefährliche Schwachstelle bei KI-Symptom-Checkern

KI-Chatbots und digitale Symptom-Checker werden zunehmend zum ersten Anlaufpunkt Patienten, die eine Selbst-Triage" durchfhren und frhzeitige Orientierung erhalten, noch bevor ein medizinischer Fachmann beteiligt wird. Nun untersuchen Forscher eine entscheidende neue Frage: Kommunizieren Menschen Maschinen anders als mit rzten?

Antwort könnte weitreichende haben, da selbst die fortschrittlichsten KI-Systeme nur dann verlässliche Einschätzungen vornehmen können, wenn Patienten detaillierte und genaue Informationen bereitstellen. Studie zeigt Kommunikationslücke mit medizinischer KI. Dieses Problem wird in einer neuen Studie in Zeitschrift Nature Health aufgezeigt.

Forschung wurde Universität Würzburg und dem wissenschaftlichen Mitarbeiter Moritz Reis geleitet.

Wissenschaftler Charité – Universitätsmedizin Berlin, Universität

Wissenschaftler Charité – Universitätsmedizin Berlin, Universität Cambridge, Helios Klinikums Emil Klinikums Neukölln haben ebenfalls Arbeit beigetragen. „Die 500 Studienteilnehmerinnen Studienteilnehmer wurden angewiesen, simulierte Symptomberichte für zwei häufige Erkrankungen – ungewöhnliche Kopfschmerzen und grippeähnliche Symptome – zu verfassen", erklärte Moritz Reis.

Teilnehmern wurde mitgeteilt, dass ihre Berichte entweder einem menschlichen Arzt geprüft würden. Anschließend bewerteten Forschenden, wie nützlich Berichte für Einschätzung der medizinischen Dringlichkeit waren.

Ergebnisse zeigten ein klares Muster: Wenn Teilnehmer glaubten, mit einer KI zu kommunizieren, wurden ihre Symptombeschreibungen Vergleich Berichten, die für medizinisches Fachpersonal bestimmt waren, weniger aussagekräftig für die medizinische Einschätzung. Dieser Trend trat auch Teilnehmern auf, die tatsächlich die Fragebogen beschriebenen Symptome erlebten. Kürzere Symptombeschädigungen beeinträchtigen Genauigkeit der KI.

Unterschied zeigte sich in Menge der.

Unterschied zeigte sich in Menge der. Berichte, die für medizinisches Fachpersonal verfasst wurden, hatten durchschnittlich 255,6 Zeichen, während die für Chatbots bestimmten Berichte durchschnittlich 228,7 Zeichen umfassten. Obwohl eine Differenz von 28 Zeichen auf den ersten Blick gering erscheint, betonten Forschenden, dass sie dennoch reale Konsequenzen haben kann.

Selbst fortschrittliche KI-Systeme können ungenaue medizinische Ratschläge liefern, wenn Patient:innen wesentliche Details weglassen. Nach Aussage Teams hängt Wirksamkeit digitaler Gesundheitsbewertungen nicht nur, sondern auch davon, Nutzer:innen ihre Symptome umfassend beschreiben.

Forscher gehen davon aus, dass einer Gründe für diese Zögerlichkeit das sogenannte „Uniqueness Neglect" ist. „Viele Menschen gehen davon aus, dass KI die individuellen Nuancen ihrer persönlichen Situation nicht erfassen kann und stattdessen lediglich standardisierte Muster abgleicht", erklärt Wilfried Kunde.

Vertrauen, Datenschutz und „Uniqueness Neglect" Auch

Vertrauen, Datenschutz und „Uniqueness Neglect" Auch Bedenken hinsichtlich Datenschutzes Skepsis gegenüber algorithmischen Diagnosen können dazu führen, dass Nutzer unvollständige oder vage Informationen bereitstellen.

Moritz Reis beschreibt Problem wie folgt: „Wenn wir einer Maschine nicht vertrauen, unsere Einzigartigkeit zu verstehen, halten wir uns möglicherweise unbewusst Informationen vor, die sie für eine präzise Unterstützung benötigen." Infolgedessen erreichen wichtige medizinische Details System möglicherweise nie, was Diagnosequalität mindert.

Forscher betonen, dass Ergebnisse zeigen, dass allein Verbesserung der KI-Technologie Problem nicht lösen wird. Sie glauben, dass ein besseres UI-Design Kommunikation zwischen Patienten und digitalen Systemen stärken könnte.

Um Qualität Symptombeschreibungen zu verbessern, empfehlen

Um Qualität Symptombeschreibungen zu verbessern, empfehlen Team Entwicklern, Nutzern klare Beispiele für detaillierte und hochwertige Schilderungen zu geben und KI-Systeme zu entwerfen, die bei fehlenden Informationen aktiv Nachfragen stellen. Wenn Patienten ermutigt werden, vollständigere Details zu, können Fehldiagnosen reduziert und Druck auf Gesundheitssystem entlastet werden.

Quelle: „Reduzierte Qualität Symptombeschreibung Mensch–Chatbot- versus Mensch–Arzt-Interaktionen", Florian Reis, Yeun Joon Kim, Aylin Demir, Jess Lim, Matthias I. Groschel, Sebastian D. Boie Wilfried Kunde, 1. Mai 2026, Nature Health. DOI: 10.1038/s44360-026-00116-y