Medizinstudenten nutzen KI, bevor sie gelernt haben, wie Ärzte zu denken

Wichtige Punkte

• Etwa zwei Drittel der US-amerikanischen Ärzte nutzen OpenEvidence, einen speziell für Kliniker entwickelten KI-Chatbot, regelmäßig, um Symptome, Wechselwirkungen zwischen Medikamenten und Behandlungsrichtlinien nachzuschlagen.
• Medizinische Ausbilder befürchten jetzt, dass Nachwuchsmediziner, die KI nutzen, bevor sie klinische Urteilsfähigkeit entwickeln, diese Denkfähigkeit möglicherweise nie aufbauen.
• Diese Sorge hat einen Namen: „Never-Skilling", was sich vom bereits dokumentierten Risiko des „Deskilling" unterscheidet – wenn ausgebildete Fachleute Fähigkeiten vergessen, die sie einmal besaßen.
• Anders als ein Arzt, der von KI abhängig geworden ist, hat ein Arzt, der nie gelernt hat, unabhängig zu denken, möglicherweise keine Grundlage, auf die er zurückgreifen kann.

Ein Tool, das erfahrenen Ärzten hilft, schneller zu arbeiten, könnte bei einem Medizinstudenten im ersten Jahr ganz andere Auswirkungen haben.

OpenEvidence ist ein KI-Chatbot, stilistisch ähnlich wie ChatGPT, aber speziell für Kliniker entwickelt. Er beantwortet Fragen zu rätselhaften Symptomen, Medikamentendosierungen und Behandlungsrichtlinien und liefert innerhalb von Sekunden Antworten, basierend auf aktueller medizinischer Forschung. Die Guardian AI berichtete zuerst über die wachsende Besorgnis von Medizinpädagogen, dass solche Tools, zur falschen Zeit während der Ausbildung genutzt, die nächste Generation von Ärzten stillschweigend aushöhlen könnten.

Was ist „Never-Skilling" und warum ist es wichtig?

Es ist das Risiko, dass ein Nachwuchsmediziner, der sich auf KI verlässt, bevor er grundlegende Urteilsfähigkeit entwickelt hat, diese nie wirklich aufbaut. „Deskilling" beschreibt, was mit einem Experten passiert, der aufhört, eine Fähigkeit zu üben, die er einmal besaß. Diese Person hat eine Grundlage; Genesung ist möglich. Ein Student, der diese Grundlage komplett überspringt, befindet sich in einer anderen Position.

Klinisches Denken – der mentale Prozess, Symptome abzuwägen, Diagnosen auszuschließen und unter Unsicherheit Urteile zu fällen – erfordert Jahre gezielter Übung zum Aufbau. Es wird nicht durch das Lesen einer Antwort gelernt. Es wird durch die Arbeit an der Problemlösung gelernt, durch Fehler und das Verständnis, warum etwas funktioniert.

Wenn ein Tool die richtige Antwort in drei Sekunden liefert, kann ein Nachwuchsmediziner die Prüfung bestehen, ohne selbst zu denken.

Wer ist derzeit betroffen?

Medizinstudenten, Assistenzärzte und Ärzte in Facharztausbildung sind die am stärksten gefährdeten Gruppen. Das sind Menschen in der Phase, in der sich die klinische Urteilsfähigkeit gerade entwickelt.

Etwa zwei Drittel der praktizierenden US-amerikanischen Ärzte nutzen OpenEvidence bereits regelmäßig, was bedeutet, dass Nachwuchsmediziner ein Tool aufgreifen, das sich beruflich normal anfühlt. Das Anliegen ist nicht, dass das Tool falsch ist. Das ist es oft nicht. Das Anliegen ist, dass korrekte Antworten, ohne die Arbeit des Denkens, Ärzte hervorbringen könnten, die fließend KI nutzen können, aber schlecht ohne sie denken können.

Was kommt als Nächstes?

Keine Aufsichtsbehörde hat bisher formale Regeln für die KI-Nutzung in der medizinischen Ausbildung festgelegt. Diese Lücke ist bedeutsam. Medizinische Schulen navigieren dies weitgehend individuell, ohne gemeinsame Standards dafür, wann oder wie Nachwuchsmediziner KI-Tools nutzen sollten.

Für Patienten ist die langfristige Frage einfach: Wenn KI nicht verfügbar ist, unzuverlässig oder bei einem ungewöhnlichen Fall einfach falsch liegt, wird der Arzt im Zimmer in der Lage sein, es allein zu durchdenken?

Experten, die auf dieses Problem hinweisen, argumentieren nicht gegen KI in der Medizin. Sie argumentieren für sequenzielle Abfolge: Bauen Sie zuerst die Urteilsfähigkeit auf, dann fügen Sie das Tool hinzu.

Häufig gestellte Fragen

Bedeutet das, dass KI für medizinische Ausbildung schlecht ist?

Nicht unbedingt. Die Sorge betrifft den Zeitpunkt, nicht die Technologie selbst. Ein erfahrener Kliniker, der KI nutzt, um sein Denken zu überprüfen, unterscheidet sich davon, dass ein Nachwuchsmediziner sie nutzt, um den Denkschritt komplett zu überspringen.

Könnten medizinische Schulen KI-Tools für Studenten einfach verbieten?

Verbote sind schwer durchzusetzen und möglicherweise nicht die richtige Antwort. Pädagogen konzentrieren sich eher darauf, Ausbildungen zu gestalten, die Studenten dazu verpflichten, ihren Denkprozess zu zeigen, nicht nur zu einer korrekten Antwort zu gelangen.