Einleitung

Bei der Qualifikation von KI-basierter Software zur Erstellung von Medizinberichten als Medizinprodukte steht die Frage im Vordergrund, ob die Software die Diagnose oder die Wahrnehmung der Ärztinnen und Ärzte beeinflussen kann. Wichtig ist hier der Verwendungszweck. Wenn die Software beispielsweise medizinische Daten für eine Krankenhausstatistik auswertet oder für die Vergütung von Krankenkassen umformatiert, dann erfüllt sie keine medizinischen Funktionen.

Auch wenn eine Software grundsätzlich unter die Definition eines Medizinprodukts fällt, gilt sie nicht als solches, wenn sie ausschliesslich Funktionen wie Speicherung, Archivierung, verlustfreie Kompression, einfache Suche oder Kommunikation von Daten übernimmt. Diese funktionalen Ausnahmen sind im geltenden Recht definiert. Sie lassen sich jedoch nicht eindeutig auf KI-Systeme wie LLMs übertragen – insbesondere im Hinblick auf deren Kommunikationsfunktionen oder semantische Suchfähigkeiten. Hier besteht derzeit keine einheitliche Auslegung durch Zulassungsstellen und Aufsichtsbehörden.

LLMs bringen ganz neue Risiken mit sich, und gängige regulatorische Konzepte wie Reproduzierbarkeit, algorithmische Transparenz, generell akzeptierte Metriken für Genauigkeit und Robustheit sind nur beschränkt anwendbar. Regulierungsbehörden in verschiedenen Ländern sind momentan dabei, Konzepte für die Klassifizierung und Dokumentation von solchen Systemen zu erarbeiten. Es wird aber vermutlich noch einige Jahre dauern, bis sich ein allgemeiner Konsens zu diesen Themen herausschält und erste Leitlinien und Leiturteile von Gerichten vorliegen.

Verschiedene KI-Anwendungsfälle in der medizinischen Dokumentation

Die nachfolgenden Szenarien unterscheiden sich in ihrer technischen Umsetzung und regulatorischen Einordnung. KI-gestützte Lösungen für medizinische Berichte können dabei auch mehrere Funktionalitäten der beschriebenen Szenarien kombinieren.

I. Transkription eines ärztlichen Diktats

In diesem Anwendungsfall diktieren die Ärztinnen und Ärzte den medizinischen Bericht nach einer vorgegebenen Struktur. Das KI-gestützte System wandelt das Diktat mithilfe von Speech-to-Text-Technologie in Text um. In manchen Fällen wird die Transkription automatisch in eine standardisierte Berichtsvorlage eingefügt, was die Konsistenz der medizinischen Dokumentation erhöht. Der fertiggestellte Bericht kann anschliessend von einer medizinischen Fachperson überprüft und freigegeben werden. Die automatische Transkription reduziert den manuellen Aufwand erheblich und spart Zeit im Arbeitsalltag. Damit eignet sich dieses Szenario besonders für niedergelassene Ärztinnen und Ärzte, und für Kliniken, die eine unkomplizierte Unterstützung bei der Dokumentation benötigen.

Eine zentrale Herausforderung liegt in der Genauigkeit der Spracherkennung, insbesondere beim Umgang mit medizinischer Fachterminologie. Obwohl eine ärztliche Nachbearbeitung vorgesehen ist, zeigen erste Praxiserfahrungen, dass dieser Schritt aus Zeitgründen teilweise ausgelassen wird. Dadurch erhöht sich das Risiko von inhaltlichen Fehlern. Eine Überprüfung durch qualifiziertes Fachpersonal – idealerweise medizinische Schreibdienste oder sogenannte Medical Scribes mit entsprechender Ausbildung – ist daher essenziell. Der Nutzen solcher Systeme liegt jedoch klar in der Effizienzsteigerung und der Verbesserung der strukturellen Qualität von Berichten.

II. Optimierung eines bestehenden Berichts

In diesem Anwendungsfall werden LLMs eingesetzt, um bestehende ärztliche Berichte sprachlich zu überarbeiten oder in andere Sprachen zu übersetzen. Die KI verbessert Formulierungen, optimiert den sprachlichen Stil und sorgt für eine klare, konsistente Ausdrucksweise – ohne den fachlichen Inhalt zu verändern. Besonders in internationalen oder mehrsprachigen Gesundheitseinrichtungen kann dies die Verständlichkeit und die Qualität der medizinischen Kommunikation deutlich erhöhen. Entsprechend eignet sich dieses Szenario vor allem für Spitäler, internationale Praxen und Forschungseinrichtungen, die eine effiziente sprachliche Standardisierung und Übersetzung medizinischer Dokumentationen anstreben.

Die zentrale Herausforderung besteht darin, sicherzustellen, dass durch die sprachliche Optimierung keine inhaltlichen Bedeutungsveränderungen entstehen. Auch wenn die Funktion der KI auf stilistische Anpassungen beschränkt ist, kann nicht vollständig ausgeschlossen werden, dass durch Umformulierungen auch der fachliche Gehalt beeinflusst wird. Daher ist besondere Sorgfalt bei der Überprüfung der überarbeiteten Texte geboten.

III. Erstellung eines Berichts aus der Patienteninteraktion

In diesem Anwendungsfall wird ein Gespräch zwischen einer medizinischen Fachperson und einer Patientin oder einem Patienten aufgezeichnet und mithilfe eines Speech-to-Text-Modells transkribiert und in eine strukturierte Berichtsvorlage überführt. Die sogenannte Ambient Clinical Intelligence ist insbesondere bei längeren, freien Interaktionen – etwa in der Psychiatrie oder in der hausärztlichen Versorgung – von Bedeutung. Ziel ist es, den Inhalt der Konsultation automatisch zu erfassen und für die medizinische Dokumentation nutzbar zu machen, ohne dass eine manuelle Nachbearbeitung erforderlich ist.

Der Einsatz solcher Systeme kann die Dokumentationslast erheblich reduzieren und die Arbeitsabläufe effizienter gestalten, insbesondere in Einrichtungen mit hohem Patientendurchlauf. Das KI-System muss dabei in der Lage sein, medizinisch relevante Informationen aus oft unstrukturierten, unvollständigen oder widersprüchlichen Gesprächen herauszufiltern und in eine standardisierte Form zu bringen – ohne dabei den fachlichen Inhalt zu interpretieren oder zu verändern. Genau darin liegt jedoch eine zentrale Herausforderung: In der Praxis besteht ein erhöhtes Risiko, dass LLMs Inhalte halluzinieren oder falsch gewichten. Besonders kritisch ist dies, wenn die KI nicht nur transkribiert, sondern auch Zusammenfassungen oder strukturierte Auswertungen erstellt.

Des Weiteren erfassen KI-Systeme zur Transkription primär gesprochene Inhalte, nicht jedoch klinische Beobachtungen oder vorläufige Hypothesen der medizinischen Fachperson, beispielsweise ein auffälliges Erscheinungsbild oder Verdachtsdiagnosen. Solche ergänzenden Informationen müssen weiterhin manuell dokumentiert werden, da sie wesentliche Grundlagen für die weitere medizinische Betreuung darstellen.

IV. Bericht aus multiplen Datenquellen

In diesem Anwendungsfall kombinieren KI-gestützte Systeme unterschiedliche Datenquellen – etwa ärztliche Diktate, elektronische Patientenakten oder Gesprächsaufzeichnungen – und überführen sie in eine konsolidierte, strukturierte medizinische Dokumentation. Durch den Einsatz von LLMs können medizinische Fachpersonen auf eine integrierte Darstellung der Patientenhistorie zugreifen, was die Übersichtlichkeit verbessert und potenziell diagnostische und therapeutische Entscheidungen unterstützt.

Die Chancen solcher Systeme liegen in der Effizienzsteigerung und im besseren Zugang zu relevanten Informationen über verschiedene Dokumentationsformen hinweg. Gleichzeitig bestehen erhebliche Herausforderungen in der zuverlässigen Zusammenführung und Interpretation der Inhalte. Insbesondere widersprüchliche Diagnosen, mögliche unvollständige Angaben oder mehrdeutige Formulierungen aus unterschiedlichen Quellen können zu fehlerhaften oder irreführenden Ausgaben führen. Es ist daher entscheidend, dass KI-Systeme Herkunft, Kontext und Bedeutung der Informationen korrekt zuordnen und transparent darstellen, damit medizinisches Fachpersonal die Inhalte überprüfen kann. Um die medizinische Relevanz und die Richtigkeit der generierten Informationen fundiert beurteilen zu können, braucht es ausreichend klinische Erfahrung.

V. Chatbot für die Patientenakte

In diesem Anwendungsfall ermöglicht ein KI-gestützter Chatbot medizinischem Fachpersonal, gezielt Informationen aus der Patientenakte abzurufen – etwa um relevante Befunde zu identifizieren, Zusammenhänge zu erkennen oder Differenzialdiagnosen in Betracht zu ziehen. Die Abfrage kann zudem um medizinische Leitlinien und Standards ergänzt werden, was eine evidenzbasierte Entscheidungsfindung unterstützt und zur Standardisierung der Behandlung beitragen kann. Durch die zeitnahe Bereitstellung relevanter Informationen lassen sich klinische Entscheidungen effizienter treffen, was insbesondere in zeitkritischen Situationen die Versorgungsqualität verbessern kann.

Die Herausforderung liegt in der sinnvollen Verknüpfung und Interpretation verschiedenartiger Datenquellen. Wie bei anderen Szenarien mit multiplen Datenquellen können auch hier widersprüchliche, unvollständige oder mehrdeutige Informationen auftreten, die die Aussagekraft des Chatbots beeinträchtigen. Je besser das System in der Lage ist, komplexe Informationen zusammenzuführen und klinisch relevante Antworten zu formulieren, desto höher ist sein Nutzen – aber auch sein Risiko, insbesondere wenn es in sicherheitskritischen Situationen zum Einsatz kommt, etwa zur Identifikation von Kontraindikationen vor einer Medikamentengabe.

VI. KI-gestützte Vorschläge für Differenzialdiagnosen

In diesem Anwendungsfall wird ein ärztliches Diktat zunächst mittels eines Speech-to-Text-Modells transkribiert und in eine strukturierte Berichtsvorlage überführt. Anschliessend analysiert ein LLM die erfassten Informationen – etwa Symptome, anamnestische Angaben, Laborbefunde oder andere relevante Daten – und generiert daraufhin eine Liste möglicher Differenzialdiagnosen. Diese werden dem medizinischen Fachpersonal zur weiteren Prüfung, Ergänzung oder Verwerfung angezeigt. Die finale Diagnoseentscheidung bleibt ausdrücklich bei den behandelnden Ärztinnen und Ärzten.

Solche Systeme können die diagnostische Entscheidungsfindung sinnvoll unterstützen, indem sie relevante, aber nicht sofort offensichtliche Alternativen aufzeigen und so die diagnostische Sicherheit erhöhen. Sie können zudem helfen, seltene oder schwer erkennbare Erkrankungen frühzeitig zu berücksichtigen, und auf Basis strukturierter Informationen klinisch fundierte Vorschläge generieren. Besonders in diagnostisch komplexen Fachbereichen – etwa in der inneren Medizin oder in der Notfallaufnahme – bietet diese Technologie das Potenzial, fundierte Einschätzungen schneller zu ermöglichen. Gleichzeitig besteht jedoch ein erhöhtes Risiko von Fehlinformationen oder sogenannten Halluzinationen durch das Sprachmodell. Daher ist es essenziell, dass die KI-Ausgaben klar als Vorschläge gekennzeichnet sind und die ärztliche Kontrolle jederzeit gewährleistet bleibt.

VII. Automatisierte Abrechnung

In diesem Anwendungsfall erstellt eine KI-gestützte Software auf Basis eines medizinischen Berichts – und gegebenenfalls weiterer Datenquellen wie etwa Sprechstundenaufzeichnungen – automatisch eine Leistungsabrechnung. Besonders grössere Gemeinschaftspraxen und Spitäler können durch den Einsatz von LLMs die Abrechnungsprozesse vereinheitlichen und so Diskrepanzen zwischen den einzelnen Leistungserbringenden reduzieren. Ein typisches Beispiel ist die automatisierte Zuordnung eines passenden ICD-Codes zu einer gestellten Diagnose, um eine konsistente Dokumentation und Abrechnung zu unterstützen.

Die Vorteile liegen vor allem in der Effizienzsteigerung und der Standardisierung administrativer Abläufe. Gleichzeitig besteht die Herausforderung darin, dass auch rein organisatorische Prozesse in einen medizinisch relevanten Bereich übergehen können – insbesondere wenn die KI nicht nur Informationen verarbeitet, sondern diese auch auswertet und auf ihre medizinische Relevanz hin beurteilt.

VIII. Automatisches Aufgebot von Patientinnen und Patienten

Beim automatischen Aufgebot handelt es sich um eine KI-basierte Anwendung, bei der Patientinnen und Patienten basierend auf vordefinierten Kriterien, medizinischen Berichten, Patientenakten und Terminplänen automatisch zu einem Untersuchungstermin eingeladen werden. Die KI unterstützt dabei die Terminverwaltung und trägt zur effizienten Auslastung vorhandener Ressourcen bei, insbesondere in stark frequentierten Praxen oder Spitälern. Ziel ist es, administrative Prozesse zu entlasten und die Versorgungsplanung zu optimieren. Die Herausforderung bei diesem Einsatz besteht in der Unterscheidung zwischen rein administrativen Abläufen und medizinisch motivierten Entscheidungen. Wird das Aufgebot beispielsweise aufgrund fixer Kontrollintervalle oder bekannter Therapieschemata generiert, bleibt die Funktion im administrativen Bereich. Kritischer wird es, wenn die KI aufgrund der Auswertung medizinischer Inhalte – etwa durch Erkennen einer Auffälligkeit in einem Bericht – eigenständig entscheidet, ob und wann eine Patientin oder ein Patient aufgeboten werden soll. In diesem Fall liegt eine medizinische Entscheidungsunterstützung vor.

Regulatorische Einordnung medizinischer Software

Die aufgezeigten Anwendungsfälle verdeutlichen, wie eng die Einstufung einer Software als Medizinprodukt mit ihrer konkreten Zweckbestimmung und Funktionalität verknüpft ist. Sobald eine Software medizinische Inhalte analysiert, interpretiert oder potenziell Entscheidungsprozesse beeinflusst, unterliegt sie den Anforderungen der Medizinprodukteverordnung. Umso wichtiger sind daher eine technisch saubere Umsetzung, transparente Funktionsbeschreibungen sowie eine klare Trennung zwischen administrativen Funktionen und medizinischer Entscheidungsunterstützung – als Grundlage für regulatorische Konformität und Patientensicherheit. Gerade bei Anwendungen, deren Qualifikation nicht ganz klar ist, sollte man sich von regulatorischen Beratungsunternehmen Unterstützung holen und z.B. eine Regulatory Opinion erstellen lassen.