Haftpflicht-Bagatellfälle im Spital: Dossiers mit einer in der Schweiz gehosteten KI sortieren

Kurz gesagt. Ein Spital kann die Bearbeitung seiner kleinen Haftpflichtschäden (der «Bagatellfälle») deutlich entlasten, indem es einem KI-Modell eine einzige Aufgabe überträgt: jedes eingehende Dossier zu lesen und in eine von zwei Warteschlangen einzuordnen. Auf der einen Seite stehen die Dossiers, die alle vom Spital festgelegten Bedingungen für eine automatische Regulierung erfüllen. Auf der anderen Seite die wenigen Dossiers, die einen menschlichen Blick brauchen. Das Modell entscheidet weder über die Regeln noch über die Beträge; es wendet ein vom Haus geschriebenes Raster an, und alles Zweifelhafte geht an einen Sachbearbeiter. Da diese Dossiers Patientendaten enthalten, ist ein in der Schweiz gehostetes Open-Source-Modell hier die am einfachsten zu verteidigende Wahl.

Dieser Artikel beschreibt ein typisches Szenario, repräsentativ für die Triage-Projekte, die wir durchführen. Es handelt sich nicht um einen genannten Kunden, und wir geben keine bezifferten Ergebnisse an: Die nützlichen Zahlen sind diejenigen, die Ihr eigener Pilot liefert.

Worum es geht: Bagatellfälle in der Haftpflicht

In diesem Szenario betrifft ein Teil der Haftpflichtforderungen an das Spital keine ärztlichen Fehler, sondern kleine Sachschäden: eine bei einer Verlegung abhandengekommene Zahnprothese, eine zerbrochene Brille, ein verlorenes Hörgerät, ein beschädigtes Kleidungsstück, ein vom Nachttisch verschwundenes Telefon. Die Beträge sind gering. Je nach Haftpflichtvertrag des Hauses können sie unter dem Selbstbehalt liegen, und das Spital reguliert sie dann selbst.

Einzeln betrachtet sind diese Dossiers einfach. Zusammen können sie den Rechtsdienst oder die Versicherungsabteilung über ihre finanzielle Bedeutung hinaus beschäftigen: Man muss die Forderung lesen, den Aufenthalt prüfen, den fehlenden Beleg anfordern, die betroffene Abteilung nachfassen, eine Antwort verfassen. Die Bearbeitungskosten können den geforderten Betrag übersteigen, und die ernsthaften Dossiers warten in der Zwischenzeit. Der betroffene Anteil an Dossiers und Zeit wird im Pilot gemessen.

Der Prozess vorher und nachher

Vorher. Jede Forderung trifft per Post, E-Mail oder Formular ein. Ein Sachbearbeiter eröffnet ein Dossier, erfasst die Angaben, kontrolliert die Belege, befragt die Pflegeeinheit, beurteilt die Haftung, entscheidet und antwortet. Derselbe Ablauf gilt für eine Brille wie für eine komplexe Forderung.

Nachher. Der Ablauf teilt sich schon beim Eingang in zwei.

1. Die Forderung wird digitalisiert und einem Aufenthalt zugeordnet.
2. Das Modell extrahiert die nützlichen Angaben: Art des Schadens, Gegenstand, geforderter Betrag, Datum, Einheit, Anhänge.
3. Es prüft jedes Kriterium des Rasters des Spitals und erstellt einen begründeten Triage-Vorschlag.
4. Sind alle Kriterien erfüllt, geht das Dossier in die Warteschlange «automatische Regulierung»: Die Zahlung wird nach dem Tarif des Spitals vorbereitet, und das Antwortschreiben wird erzeugt.
5. In allen anderen Fällen geht das Dossier in die Warteschlange «menschliche Prüfung», mit der Zusammenfassung des Modells und dem Grund der Weiterleitung.

Der Sachbearbeiter verschwindet nicht. Er hört auf, Dossiers ohne Tragweite zu bearbeiten, und widmet seine Zeit denen, bei denen es darauf ankommt.

Die Regeln und Schwellenwerte gehören dem Spital

Das ist der zentrale Punkt des Projekts. Das Modell sagt nicht, was richtig ist: Es prüft, ob ein Dossier in einen Rahmen passt, den die Direktion, der Rechtsdienst und der Versicherer schriftlich festgelegt haben. Ein typisches Raster sieht so aus:

Drei Grundsätze ergänzen das Raster. Erstens genügt ein einziges nicht erfülltes Kriterium, um das Dossier an einen Menschen weiterzuleiten. Zweitens spricht das Modell nie eine Ablehnung aus: Eine Forderung, die nicht automatisch bezahlt werden kann, wird von einer Person geprüft, nicht von einer Maschine abgewiesen. Drittens werden die Schwellenwerte in einer Konfigurationsdatei eingestellt, die das Spital kontrolliert, nicht im Modell. Sie zu ändern erfordert kein erneutes Training.

Der Mensch im Prozess, konkret

Die menschliche Kontrolle beschränkt sich nicht auf die Prüf-Warteschlange. In einem gut konzipierten Projekt finden sich:

• eine Stichprobenkontrolle der automatischen Warteschlange, in einem vom Spital festgelegten Rhythmus, um zu prüfen, ob die bezahlten Dossiers die Zahlung verdient haben;
• ein Rückholrecht: Jeder Sachbearbeiter kann ein Dossier vor der Zahlung aus der automatischen Warteschlange nehmen;
• eine benannte fachliche Verantwortliche oder ein benannter fachlicher Verantwortlicher, die oder der jede Änderung einer Regel oder eines Schwellenwerts freigibt;
• ein Notstopp: Die automatische Warteschlange kann jederzeit ausgesetzt werden, und alle Dossiers gehen dann zurück in die manuelle Bearbeitung.

Audit-Trail und Erklärbarkeit

Jede Triage-Entscheidung muss sich Monate später rekonstruieren lassen. Für jedes Dossier bewahrt das System die angewandte Version des Rasters, die Version des Modells, die extrahierten Angaben, das Ergebnis pro Kriterium, die gewählte Warteschlange und gegebenenfalls das Eingreifen eines Sachbearbeiters auf.

Die gelieferte Erklärung ist keine undurchsichtige Begründung. Sie ist eine Liste: «Betrag unter dem Schwellenwert: ja; ausschliesslich Sachschaden: ja; Rechnung vorhanden: ja; erste Forderung: ja». Eine interne Revision, der Versicherer oder die Patientin beziehungsweise der Patient selbst können sie nachvollziehen.

Die Fehler: welche, und wer sie trägt

Ein Modell irrt sich manchmal. Das muss man von Anfang an sagen und entscheiden, wer jede Art von Fehler trägt.

• Dossier automatisch bezahlt, obwohl es hätte geprüft werden müssen. Die Kosten sind durch den Betragsschwellenwert begrenzt, den das Spital in Kenntnis der Sachlage gewählt hat. Das Haus trägt sie. Die Stichprobenkontrolle dient dazu, die Häufigkeit solcher Fälle zu messen.
• Dossier zur Prüfung geschickt, obwohl es hätte bezahlt werden können. Die Kosten sind Zeit des Sachbearbeiters. Das ist der am wenigsten schwerwiegende Fehler, und das System ist so eingestellt, dass es ihn vorzieht.
• Nicht erkannte Körperverletzung. Das ist der Fehler, der vorrangig zu vermeiden ist. Man behandelt ihn mit strengen Regeln: Bestimmte Wörter, bestimmte Belege (zum Beispiel ein ärztliches Zeugnis) oder bestimmte Abteilungen führen unabhängig von der Einschätzung des Modells zu einer automatischen Weiterleitung in die Prüfung.

Die Patientin oder der Patient darf nie einen Fehler des Systems tragen: Im Zweifelsfall wird das Dossier von einer Person gelesen.

Arztgeheimnis und Datenschutz

Diese Dossiers enthalten Patientendaten. Einige Anhaltspunkte, die Ihr Rechtsdienst und Ihre oder Ihr Datenschutzbeauftragter validieren sollten:

• Berufsgeheimnis. Art. 321 des Strafgesetzbuchs (StGB) nennt namentlich Ärzte, Pflegepersonen und andere Gesundheitsfachpersonen, «sowie ihre Hilfspersonen». Die Offenbarung ist nicht strafbar, wenn sie mit Einwilligung der betroffenen Person oder mit schriftlicher Bewilligung der vorgesetzten Behörde oder Aufsichtsbehörde erfolgt. Die Stellung eines technischen Dienstleisters, der auf die Dossiers zugreifen könnte, muss deshalb vor dem Projekt geprüft werden, und die vorsichtigste Architektur ist diejenige, in der er keinen Zugriff hat.
• Sensible Daten. Das Datenschutzgesetz (DSG) zählt Gesundheitsdaten zu den besonders schützenswerten Personendaten (Art. 5 lit. c). Es gilt für private Personen und Bundesorgane (Art. 2): Eine Privatklinik unterliegt ihm, während ein kantonales öffentliches Spital grundsätzlich unter das kantonale Datenschutzrecht fällt. Das anwendbare Regime ist für jede Einrichtung zu prüfen.
• Automatisierte Entscheidung. Art. 21 DSG verpflichtet dazu, die betroffene Person zu informieren, wenn eine Entscheidung ausschliesslich automatisiert getroffen wird und für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt; die Person kann verlangen, dass die Entscheidung von einer natürlichen Person überprüft wird. Das Gesetz sieht Ausnahmen vor, namentlich wenn die Entscheidung in unmittelbarem Zusammenhang mit einem Vertrag steht und dem Begehren der Person stattgegeben wird. Das hier beschriebene Schema beschränkt die Automatisierung auf Fälle, in denen dem Begehren stattgegeben wird, doch die rechtliche Einordnung ist im Einzelfall zu bestätigen.
• Folgenabschätzung. Art. 22 DSG verlangt eine vorgängige Datenschutz-Folgenabschätzung, wenn eine Bearbeitung voraussichtlich ein hohes Risiko mit sich bringt, und nennt die umfangreiche Bearbeitung besonders schützenswerter Daten. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) weist darauf hin, dass das DSG direkt auf Bearbeitungen anwendbar ist, die KI einsetzen.
• Auftragsbearbeitung. Art. 9 DSG lässt die Auftragsbearbeitung zu, wenn ein Vertrag oder das Gesetz sie vorsieht und unter anderem keine gesetzliche oder vertragliche Geheimhaltungspflicht sie verbietet.

Warum ein in der Schweiz gehostetes Open-Source-Modell zu diesem Fall passt

Die Aufgabe ist eng: ein kurzes Dossier lesen, einige Angaben extrahieren, eine Liste von Kriterien prüfen. Sie verlangt nicht das leistungsstärkste Modell des Marktes. Ein Open-Source-Modell mittlerer Grösse, etwa aus den Familien Llama, Mistral, Qwen oder Gemma, kann genügen, sofern man es an Ihren eigenen Dossiers prüft.

Der Vorteil liegt woanders. Das Modell läuft auf den Servern des Spitals oder in einem Rechenzentrum in der Schweiz. Die Dossiers werden an keinen Modell-Anbieter übermittelt. Die Zugriffe sind auf benannte Personen beschränkt. Die Protokolle bleiben im Haus. Die Fragen der Bekanntgabe ins Ausland (Art. 16 DSG) und der Offenbarung gegenüber Dritten stellen sich dann viel weniger. Die Kosten werden zudem planbar, da sie nicht von der Zahl der bearbeiteten Dossiers abhängen.

Diese Wahl erläutern wir ausführlich in unserer Entscheidungshilfe zu in der Schweiz gehosteten Open-Source-Modellen.

Wie ein Pilot abläuft und gemessen wird

Ein Pilot wird in drei Phasen durchgeführt.

1. Test am Archiv. Das Modell sortiert bereits abgeschlossene Dossiers, und seine Triage wird mit den tatsächlich getroffenen Entscheidungen verglichen. Keine Patientin und kein Patient ist betroffen.
2. Parallelbetrieb. Das Modell sortiert die neuen Dossiers, aber die Sachbearbeiter bearbeiten weiterhin alles. Man vergleicht beides.
3. Begrenzte Automatisierung. Die automatische Warteschlange wird mit einem tiefen Schwellenwert und verstärkter Stichprobenkontrolle geöffnet und, wenn die Ergebnisse es erlauben, schrittweise erweitert.

Die Kennzahlen werden vor dem Start festgelegt:

Wir geben keine erwarteten Ergebnisse an: Sie hängen von der Qualität der Dossiers, den gewählten Schwellenwerten und der Organisation ab. Ein Pilot dient gerade dazu, sie zu ermitteln.

Grenzen: wann nicht automatisiert werden sollte

• Sobald eine Gesundheitsschädigung vorliegt, auch eine geringfügige.
• Wenn die Haftung bestritten ist oder der Sachverhalt nicht feststeht.
• Wenn sich die Regel nicht aufschreiben lässt: Entscheiden zwei erfahrene Sachbearbeiter dasselbe Dossier unterschiedlich, muss zuerst die Praxis geklärt werden.
• Wenn die Volumen zu klein sind, um das Projekt zu rechtfertigen.
• Wenn niemand bestimmt ist, der die Regeln verantwortet und die Fehler verfolgt.

Häufige Fragen

Entscheidet das Modell über die Zahlung? Nein. Es prüft, ob ein Dossier die vom Spital festgelegten Bedingungen erfüllt. Der Betrag folgt dem Tarif des Hauses, und jedes Dossier, das aus dem Rahmen fällt, wird von einer Person bearbeitet.

Kann man für diesen Fall einen US-amerikanischen KI-Dienst nutzen? Technisch ja, doch das wirft Fragen zum Berufsgeheimnis und zur Bekanntgabe von Daten ins Ausland auf, die ein Hosting in der Schweiz weitgehend vermeidet. Das zu beurteilen ist Sache Ihres Rechtsdienstes.

Muss das Modell mit unseren Dossiers trainiert werden? In der Regel nein. Das Kriterienraster und einige Beispiele genügen für den Start. Eine weitergehende Anpassung ist nur gerechtfertigt, wenn der Pilot eine konkrete Grenze zeigt.

Was passiert, wenn das System ausfällt? Alle Dossiers gehen zurück in die manuelle Bearbeitung. Der bestehende Prozess bleibt die Rückfalllösung.

Wie lange dauert ein Pilot? Das hängt vom Dossiervolumen und von der Verfügbarkeit der Teams ab. Die Dauer wird mit Ihnen bei der Konzeption festgelegt, abhängig von der Anzahl Dossiers, die nötig ist, um etwas Verlässliches zu messen.

Weiterführend

Dasselbe Schema gilt für andere Berufsfelder: die Triage kleiner Schadenfälle bei einem Versicherer, die Triage von Rechnungen und Spesenabrechnungen im Treuhandbüro oder die Triage von KYC-Dossiers und Alarmen.

Haben Sie einen Prozess dieser Art? Unsere KI-Beratung beginnt mit einem Discovery-Workshop. Kontaktieren Sie uns, um darüber zu sprechen.

Referenzen

• Schweizerisches Strafgesetzbuch, Art. 321 (Berufsgeheimnis) – Fedlex
• Bundesgesetz über den Datenschutz (DSG) – Fedlex
• KI und Datenschutz – Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)