Kurz gesagt. Ein Chat-Assistent auf einer Seite, die Versicherung, Gesundheit oder Recht erklärt, sollte weniger sagen, als das Modell könnte. Die Seite guide-assurance.ch, die Versicherungen in der Westschweiz erklärt, hat einen solchen Assistenten online gestellt. Er antwortet aus den veröffentlichten Ratgebern, nennt seine Quellen, lehnt persönliche Beratung ab, erhebt keine Gesundheitsdaten, speichert keine Gespräche und übergibt an ein Rückrufformular, in dem die Einwilligung ausserhalb des Chats erteilt wird. So werden diese Regeln zu technischen Entscheidungen.
Das Risiko: ein Assistent, der mehr sagt als die Seite
Eine seriöse Informationsseite erklärt die Regeln, nennt ihre Quellen und lässt die Leserin entscheiden. Ein Sprachmodell hat diese Reflexe nicht von selbst. Fragt man es, welche Krankenkasse man wählen soll, liefert es eine flüssige, persönliche Antwort, mal richtig, mal erfunden, immer selbstsicher. In der Versicherung ist die Beratung einer Person im Hinblick auf einen Vertrag eine geregelte Tätigkeit (Art. 45 VAG regelt die Informationspflichten des Vermittlers). Der Assistent muss deshalb bei allgemeiner Information bleiben.
Was der Assistent im Beispiel tut
Allgemeine Antworten, immer mit Quelle
Der Assistent antwortet nur aus den Ratgebern der Seite, die er in den veröffentlichten Seiten sucht. Jede Antwort endet mit einer Zeile «Quellen», die auf die Seite und auf den amtlichen Text verweist (Fedlex, Bundesamt für Gesundheit). Der Server entfernt jeden Link, der weder eine Seite der Website noch eine in einem Ratgeber zitierte Quelle ist. Decken die Ratgeber die Frage nicht ab, sagt der Assistent das und verweist auf die nächstliegende Seite oder amtliche Quelle.
Keine persönliche Beratung
Auf «Welche Kasse ist am günstigsten?» oder «Welche empfehlen Sie?» rangiert er keinen Versicherer, empfiehlt keinen und berechnet keine individuelle Prämie. Er erklärt die massgebenden Kriterien (Franchise, Modell, Deckung), erinnert daran, dass die Grundleistungen überall gleich sind, und verweist auf den offiziellen Prämienrechner. Ein fester Satz, vom Server und nicht vom Modell angefügt, schliesst jede Antwort ab: allgemeine Information, keine persönliche Beratung.
Keine Gesundheitsdaten
Der Assistent fragt nie nach der Gesundheit. Erwähnt jemand eine Krankheit, wiederholt er sie nicht, sagt, dass er diese Angabe nicht braucht, und nennt die allgemeine Regel. Gesundheitsdaten sind besonders schützenswerte Personendaten (Art. 5 Bst. c DSG): Am sichersten ist es, sie gar nicht erst in den Ablauf zu lassen.
Keine gespeicherten Gespräche
Der Server bewahrt keine Gespräche auf und verknüpft sie mit keiner Anfrage. Die Protokolle enthalten nur Messwerte ohne Inhalt: Antwortzeit, Länge, ob ein Rückruf angeboten wurde. Das Gespräch bleibt im Browser-Tab und verschwindet beim Schliessen. Das Modell läuft bei einem in Europa gehosteten Anbieter, mit einem Inhaltsfilter gegen Umgehungsversuche.
Übergabe an das Formular, Einwilligung ausserhalb des Chats
Zeigt die Besucherin eine Absicht (Versicherer wechseln, Hilfe für ein Unternehmen, Umzug in die Schweiz), bietet der Assistent einmal einen Rückruf durch eine Beraterin oder einen Berater eines Partnermaklers an. Er fragt weder nach Namen noch nach Telefonnummer oder E-Mail. Die Schaltfläche öffnet das Rückrufformular der Seite, vorausgefüllt nur mit den im Gespräch genannten Kriterien (Bereich, Postleitzahl, Geburtsjahr, Haushaltsgrösse), die der Server einzeln prüft. Die Besucherin prüft alles und erteilt die Einwilligung im Formular. Ein im Chat geschriebenes «Ja» übermittelt nichts.
Die Regeln in Architektur übersetzen
- Anweisungen und Daten getrennt. Die Verhaltensregeln stehen in einer versionierten Datei; Auszüge aus den Ratgebern werden jeder Frage mit Adresse und Quellen beigefügt.
- Kontrollen auf dem Server. Gefilterte Links, einzeln geprüfte Vorausfüllkriterien, Schlusshinweis nach der Antwort: Was zählt, hängt nicht vom guten Willen des Modells ab.
- Nutzungsgrenzen. Bot-Prüfung bei der ersten Nachricht, Sitzungstoken, Nachrichten pro Gespräch und Tagesobergrenze.
- Messung ohne Inhalt. Öffnen des Assistenten, Anzahl Nachrichten, Wechsel zum Formular: nichts von dem, was die Besucherin schreibt.
Tests vor dem Livegang
Rund zwanzig Referenzfragen werden bei jeder Änderung der Anweisungen erneut durchgespielt: Kündigungsfristen, Grenzgängerfragen, Ranglisten, verdeckte Beratung, erwähnte Krankheit, im Chat genannte Telefonnummer, Fragen ausserhalb des Themas. Eine einzige Antwort, die einen Vertrag empfiehlt, eine Zahl erfindet oder Gesundheitsdaten wiederholt, verhindert die Freigabe. Die Serie dient auch als Nachweis, wenn jemand fragt, wie der Assistent geprüft wurde.
Häufige Fragen
Darf der Assistent wenigstens auf ein Produkt hinweisen? Er kann die Auswahlkriterien erklären und auf amtliche Hilfsmittel verweisen. Die Wahl bleibt bei der Person oder einer befugten Fachperson.
Muss das Modell in der Schweiz gehostet werden? Nicht unbedingt. Man muss wissen, wohin die Daten gehen, was der Anbieter damit macht, und es dokumentieren können. Für eine Seite mit gesundheitsnahen Fragen vereinfacht ein Hosting in der Schweiz oder in Europa die Diskussion.
Genügt ein Hinweis? Nein. Er informiert die Nutzenden, ersetzt aber weder Kontrollen auf dem Server noch getestete Ablehnungen.
Weiterführend
Die KI-Beratung von houle.ai hilft, solche Projekte zu rahmen: Umfang, Wahl von Modell und Hosting, Testserien. Kontaktieren Sie houle.ai, um darüber zu sprechen.