In der Schweiz gehostete Open-Source-Modelle: wann sie besser sind als ein US-amerikanisches KI-Abonnement
Kurz gesagt. Ein in der Schweiz gehostetes Open-Source-Modell ist einem US-amerikanischen KI-Abonnement in vier Situationen vorzuziehen: Ihre Daten unterliegen einem Berufs- oder Arztgeheimnis, die Aufgabe ist repetitiv und klar definiert, Ihre Volumen machen die nutzungsabhängige Abrechnung teuer, oder Sie möchten nicht von einem einzigen Anbieter abhängig sein. In den übrigen Fällen (abwechslungsreiche Anwendungen, kleine Volumen, kein Team für den Betrieb einer Infrastruktur) kann ein Managed Service die beste Wahl bleiben. Beide Ansätze lassen sich auch kombinieren.
Dieser Leitfaden richtet sich an Geschäftsleitungen und IT-Verantwortliche, die entscheiden müssen. Er enthält weder Preise noch ein Ranking von Modellen: Beides ändert sich zu schnell, und der einzige Vergleich, der zählt, ist derjenige, den Sie an Ihren eigenen Dokumenten vornehmen.
Worum es geht
Ein US-amerikanisches KI-Abonnement ist ein Online-Dienst (ChatGPT, Copilot, Claude und andere) oder eine nutzungsabhängig abgerechnete API. Das Modell gehört dem Anbieter und läuft auf dessen Infrastruktur. Sie senden Ihre Texte und erhalten eine Antwort.
Ein Open-Source-Modell ist ein Modell, dessen Gewichte veröffentlicht sind und das Sie selbst installieren können: Die Familien Llama, Mistral, Qwen oder Gemma sind Beispiele dafür. «Open Source» umfasst unterschiedliche Lizenzen, einige mit Nutzungsbeschränkungen. Man muss sie vor jeder Bereitstellung lesen.
In der Schweiz gehostet bedeutet, dass das Modell auf Maschinen in der Schweiz läuft: Ihren eigenen oder denen eines Schweizer Hosters.
Die beiden Welten sind nicht dicht voneinander getrennt. Einige proprietäre Modelle werden in Cloud-Regionen in der Schweiz angeboten, und einige offene Modelle werden als Managed Service angeboten. Die eigentliche Frage lautet daher nicht «amerikanisch oder schweizerisch», sondern: Wer betreibt das Modell, wo laufen die Berechnungen, und wer kann auf die Inhalte zugreifen.
Was «in der Schweiz gehostet» konkret bedeutet
Der Ausdruck kann vage bleiben. Damit er etwas bedeutet, müssen vier Punkte schriftlich festgehalten werden.
- Wo die Inferenz läuft. Auf welchen Maschinen, in welchem Rechenzentrum, von wem betrieben.
- Wo die Daten liegen. Die Dokumente, aber auch die Suchindizes, die temporären Dateien, die Backups und die Ergebnisse.
- Wer Zugriff hat. Eine namentliche Liste: interne Administratoren, Dienstleister, Hoster. Mit welchen Rechten und mit welcher Nachvollziehbarkeit.
- Was protokolliert wird. Die Zugriffe und die Entscheidungen sollten es sein. Der Inhalt der Dokumente sollte es nur im notwendigen Mass sein, mit einer festgelegten Aufbewahrungsdauer.
Ein Punkt, den man nicht vergessen sollte: Ein Hosting in der Schweiz beantwortet für sich allein nicht die Frage, welches Recht für den Betreiber gilt. Gehört die Infrastruktur einem ausländischen Konzern, muss Ihr Rechtsdienst beurteilen, was das bedeutet. Ein Modell, das auf Ihren eigenen Servern oder bei einem Schweizer Hoster betrieben wird, vereinfacht diese Analyse; es beseitigt sie nicht.
Fünf Kriterien für die Entscheidung
1. Die Daten
Dieses Kriterium ist als Erstes zu prüfen. Stellen Sie drei Fragen.
- Unterliegen die Inhalte einem Berufsgeheimnis? Art. 321 des Strafgesetzbuchs (StGB) nennt namentlich Rechtsanwälte, Notare, Ärzte und ihre Hilfspersonen. Es gibt weitere Geheimnisse, zum Beispiel das Bankgeheimnis.
- Handelt es sich um besonders schützenswerte Personendaten im Sinne des Datenschutzgesetzes (DSG), etwa Gesundheitsdaten (Art. 5 lit. c)?
- Findet eine Bekanntgabe ins Ausland statt? Art. 16 DSG knüpft sie an Bedingungen: ein vom Bundesrat festgestelltes angemessenes Schutzniveau oder, andernfalls, geeignete Garantien. Und Art. 9 DSG lässt die Auftragsbearbeitung nur zu, wenn keine gesetzliche oder vertragliche Geheimhaltungspflicht sie verbietet.
Das bedeutet nicht, dass ein US-amerikanischer Dienst verboten ist. Es bedeutet, dass er eine Analyse und vertragliche Garantien verlangt, während ein im eigenen Haus betriebenes Modell deutlich weniger verlangt. Bei einem Geschäftsbrief oder einer internen Notiz ohne Personendaten stellt sich die Frage kaum.
2. Die Kosten
Die beiden Kostenmodelle sind von Natur aus verschieden.
- Ein Abonnement oder eine API verursacht variable Kosten: pro Nutzer oder pro Menge verarbeiteten Textes. Sie sind anfangs gering und wachsen mit der Nutzung.
- Ein selbst gehostetes Modell verursacht überwiegend fixe Kosten: Hardware oder gemietete Rechenkapazität, Einrichtung, Betrieb. Sie sind anfangs höher und ändern sich mit dem Volumen kaum.
Der Kipppunkt hängt von Ihren Volumen ab. Ein Prozess, der den ganzen Tag Dokumente verarbeitet, etwa eine Dossier-Triage, erreicht diesen Punkt viel schneller als ein Assistent, der gelegentlich genutzt wird. Vergessen Sie in der Rechnung die menschliche Arbeitszeit nicht: Der Betrieb eines Modells braucht jemanden.
3. Die Qualität
Die grossen proprietären Modelle liegen bei offenen Aufgaben weiterhin vorn: langes Schlussfolgern, nuanciertes Schreiben, unvorhergesehene Fragen. Bei engen Aufgaben (einordnen, Felder extrahieren, ein kurzes Dokument zusammenfassen, eine Liste von Kriterien prüfen) können offene Modelle mittlerer Grösse ausreichende Ergebnisse liefern.
«Können» heisst nicht «immer». Die einzig verlässliche Methode besteht darin, eine Stichprobe Ihrer Dokumente mit den erwarteten Antworten zusammenzustellen und zwei oder drei Modelle darüber laufen zu lassen. Achten Sie auch auf die Sprachen: Ein Modell, das im Englischen sicher ist, kann im Französischen, im Deutschen oder bei einer Mischung beider schwächer sein.
4. Die Wartung
Bei einem Managed Service kümmert sich der Anbieter um alles, auch um den Wechsel des Modells. Das ist bequem und zugleich ein Risiko: Ein zurückgezogenes oder verändertes Modell kann das Verhalten Ihres Prozesses ändern, ohne dass Sie es entschieden haben.
Bei einem selbst gehosteten Modell ändert sich nichts ohne Sie. Im Gegenzug übernehmen Sie die Sicherheitsupdates, die Überwachung, die Kapazität und die Tests vor jedem Versionswechsel. Für einen Prozess, der prüfbar sein muss, ist diese Stabilität ein echter Vorteil.
5. Die Kompetenzen des Teams
Der Betrieb eines Modells verlangt Infrastrukturkompetenz und ein Minimum an Know-how in der Evaluation. Wenn Sie diese Kompetenzen nicht haben und sie nicht aufbauen möchten, gibt es drei Möglichkeiten: einen Managed Service, ein Hosting in der Schweiz, bei dem der Betrieb einem Dienstleister anvertraut wird, oder einen Wartungsvertrag. Wichtig ist zu wissen, wer Pikettdienst hat, wenn das System nicht mehr antwortet.
Vergleichstabelle
| Kriterium | Abonnement oder API eines US-Anbieters | In der Schweiz gehostetes Open-Source-Modell |
|---|---|---|
| Ort der Verarbeitung | Infrastruktur des Anbieters; die Region hängt vom Angebot und vom Vertrag ab | Ihre Server oder ein Rechenzentrum in der Schweiz |
| Übermittlung der Inhalte an Dritte | Ja, an den Anbieter, im Rahmen des Vertrags | Nein, ausser an einen allfälligen Hoster |
| Kostenstruktur | Variabel, nach Nutzern oder Volumen | Überwiegend fix, wenig volumenabhängig |
| Inbetriebnahme | Schnell | Länger: Infrastruktur, Tests, Sicherheit |
| Qualität bei offenen Aufgaben | Im Vorteil bei grossen Modellen, an Ihrem Fall zu prüfen | Variabel, an Ihrem Fall zu prüfen |
| Qualität bei gezielten Aufgaben | Sehr gut | Kann genügen, an Ihren Dokumenten zu prüfen |
| Weiterentwicklung des Modells | Vom Anbieter entschieden | Von Ihnen entschieden |
| Betriebsaufwand | Gering | Real: Updates, Überwachung, Kapazität |
| Abhängigkeit | Von einem Anbieter und seinen Bedingungen | Von Ihren Kompetenzen oder Ihrem Dienstleister |
| Prüfbarkeit | Je nach den vom Anbieter gelieferten Protokollen | Vollständig, wenn Sie sie organisieren |
Wann Open Source in der Schweiz gehostet die richtige Wahl ist
- Triage sensibler Dossiers, etwa die Haftpflicht-Bagatellfälle im Spital oder die Triage von KYC-Dossiers und Alarmen.
- Verarbeitung grosser Dokumentenmengen, etwa die Triage von Rechnungen und Spesenabrechnungen im Treuhandbüro.
- Interner Assistent auf Dossiers, die einem Berufsgeheimnis unterliegen.
- Prozess, der über mehrere Jahre stabil und prüfbar bleiben muss.
Wann ein Managed Service vorzuziehen bleibt
- Abwechslungsreiche Büroanwendungen in einer Umgebung, in der Ihre Inhalte bereits liegen, zum Beispiel Microsoft 365.
- Anspruchsvolles Schreiben, Analysieren oder Schlussfolgern bei wenig sensiblen Inhalten.
- Kleine Volumen oder der Bedarf, innerhalb weniger Tage zu starten.
- Keine Ressourcen für den Betrieb einer Infrastruktur und kein Wille, den Betrieb auszulagern.
Die Grenzen, die man kennen sollte
- Es ist nicht gratis. Das Fehlen einer Lizenz beseitigt weder die Hardware noch den Betrieb noch die Tests.
- Es ist keine Compliance. Das Hosting in der Schweiz vereinfacht die rechtliche Analyse, regelt aber weder die Information der Personen noch die Sicherheit noch die Governance der Zugriffe.
- Auch das Modell irrt sich. Ein offenes Modell hat dieselben Schwächen wie die anderen: Fehler, erfundene Antworten, Empfindlichkeit gegenüber der Formulierung. Schutzmechanismen bleiben nötig.
- Die Lizenzen sind unterschiedlich. Einige schränken die kommerzielle Nutzung ein oder stellen Bedingungen. Das ist für jedes Modell zu prüfen.
- Die Hardware hat ihre Grenzen. Kapazität, Lieferzeiten, Verbrauch: Man dimensioniert besser an einem realen Fall als nach Gefühl.
Eine einfache Methode zur Entscheidung
- Ordnen Sie Ihre Anwendungsfälle nach Sensibilität der Daten und Volumen.
- Testen Sie für die sensiblen oder umfangreichen Fälle zwei oder drei offene Modelle an einer Stichprobe Ihrer Dokumente.
- Vergleichen Sie mit einem proprietären Modell an derselben Stichprobe, sofern Ihre internen Regeln es erlauben, anonymisierte Testdaten damit zu verarbeiten.
- Beziffern Sie beide Optionen über drei Jahre, einschliesslich Betrieb.
- Entscheiden Sie von Fall zu Fall. Eine gemischte Architektur ist eine völlig gesunde Option.
Häufige Fragen
Ist ein Open-Source-Modell schlechter als ein proprietäres Modell? Bei offenen Aufgaben kann das der Fall sein. Bei gezielten Aufgaben verringert sich der Abstand und kann vernachlässigbar werden. Nur ein Test an Ihren Dokumenten kann das beantworten.
Muss man Server kaufen? Nicht unbedingt. Die Rechenkapazität lässt sich bei einem Hoster in der Schweiz mieten. Ein Kauf ist bei Dauernutzung oder bei besonderen Anforderungen an die Kontrolle gerechtfertigt.
Werden unsere Daten zum Training des Modells verwendet? Bei einem selbst gehosteten Modell nein: Die Gewichte sind festgelegt, und Ihre Texte verlassen Ihre Infrastruktur nicht. Bei einem Managed Service hängt die Antwort vom Vertrag und von den Einstellungen ab; sie muss überprüft werden.
Kann man das Modell später wechseln? Ja, wenn die Integration dafür ausgelegt wurde. Wir trennen immer die fachlichen Regeln, die Daten und das Modell, damit Letzteres ersetzt werden kann, ohne alles neu zu machen.
Lassen sich die beiden Ansätze kombinieren? Ja: ein Managed Service für die Büroanwendungen, ein in der Schweiz gehostetes Modell für die Prozesse, die sensible Daten berühren.
Weiterführend
Die Modellwahl ist ein Schritt unserer KI-Beratung: Wir testen mehrere Optionen an Ihren Dokumenten und übergeben Ihnen eine begründete Empfehlung, einschliesslich ihrer Grenzen. Wenn Sie eine einsatzbereite Plattform bevorzugen, sehen Sie sich Swiss GPT an. Kontaktieren Sie uns für einen ersten Austausch.