KI in der Notfalldiagnostik: Arzt oder KI-Assistent?

Eine Harvard-Studie zeigt eine höhere Diagnosegenauigkeit eines KI-Modells als bei erfahrenen Notfallmedizinern. Für Kliniken in Deutschland, Österreich und der Schweiz ist die entscheidende Frage jedoch nicht Ersatz, sondern sichere Einbettung.

0. Kontext: Was die Harvard-Studie wirklich zeigt

Die Zahlen sind stark genug, um die Debatte über AI Healthcare, AI Diagnosis und AI vs Doctors neu zu sortieren. Eine Studie der Harvard Medical School, veröffentlicht in Science , testete das OpenAI-Modell o1-preview an 76 realen Triage-Fällen aus der Notaufnahme des Beth Israel Deaconess Medical Center. Es ging nicht um saubere Lehrbuchfälle, sondern um Situationen, in denen Ärztinnen und Ärzte mit unvollständigen Informationen, Zeitdruck und hoher Unsicherheit arbeiten. Das KI-Modell kam in rund 67% der Fälle auf die richtige oder eine sehr nahe Diagnose. Die beiden behandelnden Fachärzte lagen bei 55% und 50%.

In einem zweiten Test mit 143 komplexen medizinischen Fällen enthielt die Antwort der KI in 78% der Fälle die tatsächliche Diagnose unter den Möglichkeiten. Wenn teilweise korrekte Diagnosen mitgezählt wurden, die die Behandlung trotzdem sinnvoll leiten konnten, stieg der Wert auf nahezu 98%.

KI kann einzelne diagnostische Aufgaben besser lösen als einzelne Ärzte. Das macht KI aber nicht zum Arzt.

Genau hier liegt die operative Unterscheidung. ChatGPT, Gemini AI, Claude AI, Llama AI, Grok AI, Deepseek AI und andere LLM-Systeme können klinische Texte analysieren, wahrscheinliche Diagnosen strukturieren und seltene Möglichkeiten schneller erinnern als Menschen. Aber Notfallmedizin ist kein reines Ranking-Problem. Sie besteht auch aus Beobachtung, Kommunikation, Priorisierung, Verantwortung, Einwilligung, Eskalation und Handeln unter Stress.

Die im Ausgangsartikel diskutierten sechs KI-Modelle kamen deshalb zu einer gemeinsamen Diagnose: KI sollte Notfallärzte unterstützen, nicht ersetzen. Diese Position ist keine defensive Vorsichtsformel. Sie ist das sinnvollste Betriebsmodell. Die relevante Frage lautet nicht KI gegen Arzt. Sie lautet: Ist ein Arzt mit KI-Unterstützung besser als ein Arzt ohne KI und besser als KI allein?

1. Problem: Diagnosegenauigkeit ist nicht gleich klinische Entscheidungshoheit

Diagnosegenauigkeit ist eine wichtige Kennzahl. In der Notaufnahme ist sie aber nicht die einzige Kennzahl. Ein Large Language Model kann sehr gut sein, wenn es strukturierte klinische Informationen bekommt und daraus Differenzialdiagnosen generieren soll. Das ist ein Teil der Notfallversorgung. Der andere Teil findet im Raum statt: die Atmung vor dem Sauerstoffabfall, die Körperhaltung, die Diskrepanz zwischen Symptomschilderung und Gesichtsausdruck, die Dynamik mit Angehörigen, die Frage, ob ein Patient etwas aus Angst oder Scham nicht sagt.

Das Risiko wird praktisch, sobald das KI-System den Denkprozess unbemerkt verschiebt. Wenn ein LLM eine Diagnose vorschlägt und die Ärztin sie ohne eigene Prüfung übernimmt, hat die KI faktisch entschieden, auch wenn formal ein Mensch unterschreibt. Wenn ein Triage-System einen Fall als niedriger priorisiert und das Team der Reihenfolge folgt, ohne neu zu beurteilen, steuert das System die Versorgung. Wenn das Modell eine plausible Erklärung liefert, aber Unsicherheit kaschiert, entsteht Automation Bias.

Für Klinikleitungen, CIOs, medizinische Direktoren und Digital-Health-Teams in der DACH-Region ist deshalb nicht die Modell-Demo entscheidend. Entscheidend ist das Betriebsdesign. Eine einfache Nutzenformel lautet:

Klinischer Wert = diagnostischer Zugewinn × Akzeptanz × Qualität der Aufsicht − Automation-Bias-Risiko − Workflow-Reibung.

Ein sehr genaues Modell mit schlechter Nachvollziehbarkeit, unklaren Eskalationsregeln und niedriger ärztlicher Akzeptanz kann weniger Wert schaffen als ein etwas schwächeres Modell, das sauber in den klinischen Alltag integriert ist. In der Notfallmedizin gewinnt nicht das System mit der elegantesten Antwort. Es gewinnt der Prozess, der Teams verlässlich zu schnelleren, sichereren und besser begründeten Entscheidungen führt.

2. Framework: unterstützen, begrenzen, auditieren

Ein verantwortliches KI-Modell für AI Diagnosis benötigt drei Schichten: Unterstützung, Begrenzung und Auditierbarkeit.

Unterstützung bedeutet, dass die KI den Blick der Ärztinnen und Ärzte erweitert. Sie kann Differenzialdiagnosen vorschlagen, seltene, aber gefährliche Erkrankungen markieren, Patientenhistorien zusammenfassen, Laborauffälligkeiten hervorheben und Symptome mit bekannten Mustern abgleichen. Hier sind LLMs stark: schnelle Synthese, breite Erinnerung, Mustererkennung und Zweitmeinungslogik.

Begrenzung bedeutet, dass der Entscheidungsspielraum klar definiert ist. Eine KI sollte nicht autonom entlassen, verordnen, eine klinische Eskalation überstimmen, Hochrisikodiagnosen ohne ärztliche Prüfung kommunizieren oder finale Triage-Entscheidungen in lebensbedrohlichen Kontexten treffen. Praktisch lässt sich das in drei Risikozonen übersetzen: administrative Unterstützung mit Stichprobenkontrolle, diagnostische Assistenz mit verpflichtender ärztlicher Bestätigung und klinische Hochrisikoaktion mit dokumentierter menschlicher Begründung sowie gegebenenfalls Zweitprüfung.

Auditierbarkeit bedeutet, dass jede Empfehlung eine Spur hinterlässt. Erfasst werden sollten Eingangsdaten, Modellversion, Ausgabe, Unsicherheitssignal soweit verfügbar, ärztliche Entscheidung, Override-Grund und Ergebnis. Ohne diese Schleife kann eine Klinik nicht wissen, ob KI die Versorgung verbessert oder nur eine unsichtbare Einflusslogik einführt.

Ein realistischer Governance-Rhythmus für die Notaufnahme könnte so aussehen: tägliche Ausnahmeprüfung bei schweren Abweichungen oder Overrides, wöchentliche interdisziplinäre Fallbesprechung für Grenzfälle, monatliches KPI-Review zu Diagnose-Lift und falscher Beruhigung, quartalsweise Modellprüfung nach Patientenkohorten. Die Kennzahlen sollten über Accuracy hinausgehen: Zeit bis zur ersten Differenzialdiagnose, Zeit bis zur Eskalation, Rate erkannter kritischer Diagnosen, Override-Rate, False-Negative-Rate bei Hochrisikobildern, ärztlicher Trust Score, Dokumentationsqualität und Patientensicherheitsereignisse.

Diese Logik ähnelt reifen KI-Betriebssystemen außerhalb der Diagnostik. In der Arbeit von Ibrahim Tolgar Sasmaz als Head of Digital im DACH-Kontext entsteht Wert nicht durch ein isoliertes Modell, sondern durch gestaltete Workflows. TranslAsset AI kombiniert OCR, LLM-Verarbeitung und Bildrekonstruktion für Lokalisierung, während Marke, Compliance und Freigabe beim Team bleiben. Verifizierte Effekte wie -5% OPEX, +60% CTR und +25% CVR stammen aus der Prozessarchitektur, nicht aus blindem Autopilot. In der Medizin gilt diese Regel noch strenger: Automatisierung darf Arbeit beschleunigen, aber Entscheidungshoheit muss explizit gestaltet werden.

3. Real Example: Arzt plus KI in der Notaufnahme

Ein Patient kommt mit Druckgefühl in der Brust, Übelkeit und unklarer Atemnot. Die Vitalparameter wirken nicht dramatisch. Die Notaufnahme ist voll. Eine Ärztin gibt Symptome, Vorgeschichte, Medikamente und erste EKG-Hinweise in einen freigegebenen klinischen KI-Assistenten ein. Das System liefert eine priorisierte Differenzialdiagnose: akutes Koronarsyndrom, Lungenembolie, Reflux, angstassoziierte Symptomatik und eine seltenere Aortenpathologie. Zusätzlich markiert es, dass atypische Präsentationen in bestimmten Patientengruppen häufiger vorkommen können und welche Warnzeichen sofort geprüft werden sollten.

Die Ärztin übernimmt die Liste nicht als Wahrheit. Sie nutzt sie als Denkstütze. Sie stellt gezieltere Fragen, prüft Atmung und Hautbild, bewertet Risikofaktoren und entscheidet, welche Tests medizinisch gerechtfertigt sind. Wenn die KI eine physische Beobachtung nicht erfassen kann, bleibt die klinische Wahrnehmung das Backup-System. Wenn der Mensch eine seltene, aber gefährliche Möglichkeit übersehen hätte, wird die KI zum Backup-System.

Das sicherste Design ist gegenseitige Redundanz: KI erkennt Datenmuster, die Menschen übersehen; Menschen erkennen Raumsignale, die KI nicht lesen kann.

Hinzu kommt die emotionale Dimension. Eine KI kann eine Fraktur auf einem Röntgenbild korrekt benennen. Sie kann ein verängstigtes Kind aber nicht mit Stimme, Blickkontakt und Berührung beruhigen. Sie kann Angst, Verwirrung, familiäre Spannung oder Sprachbarrieren nur begrenzt einordnen. In der Notfallversorgung sind solche Signale keine weichen Extras. Sie beeinflussen Anamnesequalität, Kooperation, Einwilligung und Therapietreue.

4. Data / KPI: Welche Kennzahlen vor Skalierung zählen

Die Harvard-Werte sind ein starker Ausgangspunkt: rund 67% richtige oder sehr nahe Diagnosen in 76 Triage-Fällen gegenüber 55% und 50% bei zwei Fachärzten in diesem Test. In 143 komplexen Fällen enthielt die KI in 78% die tatsächliche Diagnose; bei teilweise korrekten, behandlungsleitenden Antworten stieg der Wert auf nahezu 98%.

Für einen DACH-Rollout reichen diese Werte nicht aus. Kliniken sollten mindestens fünf KPI-Familien messen:

Diagnostische Leistung: richtige Diagnose, Top-3-Trefferquote, False-Negative-Rate bei zeitkritischen Diagnosen, Vollständigkeit der Differenzialdiagnose.

Workflow-Geschwindigkeit: Zeit bis zur ersten Differenzialdiagnose, Zeit bis zur kritischen Eskalation, eingesparte Dokumentationszeit.

Human Factors: Override-Rate, Hinweise auf Übervertrauen, ärztliche Akzeptanz, Trainingsabschluss.

Patientensicherheit: unerwünschte Ereignisse, verzögerte Diagnosen, Near Misses, fehlgeschlagene Eskalationen.

Governance-Qualität: Audit-Vollständigkeit, Modellversionskontrolle, Datenschutzkonformität, Einhaltung der Review-Zyklen.

Die Go/No-Go-Schwelle muss bei Hochrisikodiagnosen besonders streng sein. Ein KI-Assistent kann sinnvoll sein, wenn er die Top-3-Trefferquote verbessert und gleichzeitig eine sehr niedrige False-Negative-Rate bei zeitkritischen Zuständen hält. Wenn er aber Wachsamkeit reduziert, vorschnelles Schließen fördert oder in Patientengruppen unterschiedlich performt, ist der Netto-Nutzen nicht bewiesen.

Die KPI-Disziplin ist aus anderen KI-Betriebsmodellen bekannt. Bei KI-gestützter Preisvalidierung wird nicht die Schönheit des Outputs gemessen, sondern AOV, Buy Box Share, Deckungsbeitrag, Compliance und Entscheidungsgeschwindigkeit. Im verifizierten Sasmaz-Kontext erzielte KI-basierte Preis- und Wettbewerbsintelligenz +11% AOV, +12pp Buy Box Share, +14pp Deckungsbeitrag, +30% Pricing Compliance, 50% schnellere Entscheidungen und 40% weniger manuellen Pricing-Aufwand. Die Lehre für Kliniken lautet nicht, dass Handelskennzahlen auf die Notaufnahme übertragbar sind. Die Lehre lautet: KI muss an Systemergebnissen gemessen werden, nicht an Demos.

5. Actionable Steps: Verantwortliche Umsetzung in Kliniken

Schritt 1: Entscheidungsgrenzen definieren. Dokumentieren Sie, was die KI tun, vorschlagen und niemals final entscheiden darf. Triage, Entlassung, Medikation, invasive Maßnahmen und Kommunikation von Hochrisikodiagnosen brauchen getrennte Autoritätszonen.

Schritt 2: Mit Zweitmeinungsfällen starten. Der sicherste Einstieg ist nicht autonome Diagnose, sondern Differenzialdiagnose-Support, Rare-Disease-Prompting, Laboranomalie-Prüfung, Übergabezusammenfassung und Dokumentationshilfe.

Schritt 3: Human-in-the-loop ernst nehmen. Ärztinnen und Ärzte sollten festhalten, ob sie einer KI-Empfehlung zustimmen, widersprechen oder sie verändern. Der klinische Grund gehört dazu. So entsteht echte Prüfung statt symbolischer Freigabe.

Schritt 4: Shadow Pilot vor Live-Einfluss. Lassen Sie die KI Fälle analysieren, ohne die Ergebnisse dem Team zu zeigen. Vergleichen Sie retrospektiv, wo sie hilft und wo sie schwach ist. Erst danach sollte sie den Echtzeitprozess beeinflussen.

Schritt 5: Team-Lift messen. Entscheidend ist nicht KI allein gegen Arzt allein. Entscheidend ist Arzt plus KI gegen Arzt ohne KI. Wenn Sicherheit, Geschwindigkeit und Entscheidungsqualität nicht steigen, ist Skalierung zu früh.

Schritt 6: DACH-spezifische Governance einbauen. DSGVO, Medizinprodukterecht, EU AI Act, Klinik-IT-Sicherheit, Betriebsrat, Beschaffung und Haftungsfragen müssen Teil des Designs sein. Vertrauen entsteht nicht durch Kommunikation, sondern durch belastbare Betriebsarchitektur.

Die Harvard-Studie sollte ernst genommen werden. Sie zeigt, dass LLM-basierte klinische Entscheidungsunterstützung operativ relevant wird. Aber die Konsequenz ist nicht Ersatz. Die Konsequenz ist Design: KI, die Notfallärzten hilft, mehr zu sehen, schneller zu entscheiden und besser zu dokumentieren, ist wertvoll. KI, die den Menschen aus der Entscheidungsschleife entfernt, ist ein anderes Risiko.