Ratgeber · September 2026 · 8 Min Lesezeit
Lokale KI für Unternehmen in der Schweiz: der komplette Leitfaden
Inhalt
Was ist eine lokale KI? (Und was nicht)
Eine lokale KI — auch private KI, On-Premise-KI oder KI ohne Cloud genannt — ist ein Sprachmodell, das vollständig auf eigener Hardware im Unternehmen läuft. Die Modelle sind frei verfügbar (sogenannte Open-Weight-Modelle wie Llama, Qwen, Gemma oder Mistral); installiert wird ein Programm wie Ollama oder llama.cpp auf einem Server oder Arbeitsplatzrechner im eigenen Haus.
Der entscheidende Unterschied zu ChatGPT, Claude oder Microsoft Copilot: Die Anfrage verlässt das Gebäude nie. Kein API-Aufruf, kein Rechenzentrum eines Drittanbieters, kein Trainingsmitschliff an Ihren Dokumenten. Was bei Cloud-Diensten eine Vertragszusicherung ist («Ihre Daten werden nicht zum Trainieren verwendet»), ist bei lokaler KI eine physikalische Tatsache: Es gibt keinen Empfänger.
Wichtig für die Erwartung: «Lokal» heisst nicht «schlechter». Aktuelle Modelle mit 30–70 Milliarden Parametern erreichen bei abgrenzbaren Aufgaben — Dokumente beantworten, Entwürfe aus eigenen Vorlagen, strukturierte Recherche im eigenen Bestand — das Niveau der grossen Cloud-Modelle. Bei offenem Weltwissen und extrem komplexem Reasoning liegen die Cloud-Flaggschiffe noch vorn.
Warum Unternehmen 2026 von Cloud-KI abrücken
Drei Kräfte treiben den Wechsel:
- Die Rechnungen wachsen schneller als der Nutzen. Cloud-KI wird pro Benutzer und Token abgerechnet (z. B. 25–35 USD pro Person/Monat für Business-Tarife plus Nutzungsabrechnung). Mit jedem Teammitglied und jedem Dokumenten-Chat steigt die Fixkostenkurve — für immer.
- Die Hardware wurde consumer-tauglich. Geräte wie die NVIDIA DGX Spark (ein Rechner in Aktenordner-Grösse, ein Petaflop KI-Leistung, 128 GB gemeinsamer Speicher) bringen Server-Leistung ins Büro — ohne Serverschrank, ohne Lüfterlärm, ohne Spezialkühlung.
- Der regulatorische Wind dreht. Das revidierte Datenschutzgesetz (revDSG, seit 1.9.2023) macht jede Bekanntgabe ins Ausland dokumentationspflichtig. Wer Berufsgeheimnis schützt (Anwälte Art. 321 StGB, Ärzte, Treuhänder), kann Cloud-KI schlicht nicht verantworten — Vertrag hin, Vertrag her.
Was kostet lokale KI in der Schweiz?
Die ehrliche Rechnung, in Franken:
| Modell | Kosten | Gut für |
|---|---|---|
| Kauf (Hardware + Installation) | CHF 15'000–40'000 einmalig, danach Strom (~CHF 15–30/Monat) und eigener IT-Aufwand | Firmen mit eigenem IT-Personal, die Wartung selbst tragen |
| BYOD-Abo | ab CHF 490/Monat auf vorhandenem Rechner, all inclusive | KMU ohne IT-Abteilung, die loslegen wollen |
| Flat-Abo (Miete) | CHF 790/Monat inklusive Hardware, Einrichtung, Support, Modell-Updates | Der Standardfall: keine Investition, monatlich kündbar |
| Cloud-KI pro Team | 10 Personen ≈ CHF 250–400/Monat — pro Benutzer skalierend, ohne Hardware, mit Datenabfluss | Nicht sensible, gelegentliche Nutzung |
Als Faustregel: Ab etwa 5–10 täglichen Benutzern mit ernster Dokumentennutzung ist die lokale Variante über drei Jahre gerechnet meist günstiger als wachsende Cloud-Abos — und ab dem ersten Tag juristisch die sauberere Lösung. Genau deshalb rechnen wir bei GIGATOP mit Mietmodell statt Kauf: Die Technologie entwickelt sich schnell, das Risiko soll beim Anbieter liegen, nicht beim Kunden.
Lokale KI vs. ChatGPT & Copilot: der Vergleich
| Eigenschaft | Lokale KI | Cloud-KI (ChatGPT, Copilot) |
|---|---|---|
| Datenhaltung | Immer im Haus | Beim Anbieter, ggf. Ausland |
| Lizenzkosten | Keine (Open Weight) | Pro Benutzer/Monat, für immer |
| Offline-Betrieb | Ja, Netzausfall egal | Nein |
| Qualität bei eigenen Dokumenten | Sehr hoch (RAG auf Ihren Bestand) | Hoch, aber mit Upload-Pflicht |
| Qualität bei Weltwissen/Reasoning | Gut, mit Rückstand | Spitze |
| Anschaffungskosten | Hardware oder Abo | Keine |
| Vendor Lock-in | Keiner | Mittel bis hoch |
| Auf den Preis achten | Strom + Support | Skaliert linear mit der Benutzerzahl |
Datenschutz: revDSG, Berufsgeheimnis, Auftragsverarbeiter
Mit Cloud-KI wird der Anbieter zwingend Auftragsbearbeiter nach Art. 9 revDSG — Auftragsverarbeitungsprogramm, Weisungen, subauftragskette, ggf. Drittstaatsbekanntgabe mit Swiss-US-DPF-Prüfung. Alles lösbar, aber Dokumentationspflicht und Restrisiko bleiben im Betrieb.
Bei lokaler KI entfällt diese ganze Kette: Es gibt keinen Empfänger der Daten. Der Auftragsbearbeiter-Paragraph verschwindet aus dem Verzeichnis von Bearbeitungstätigkeiten. Für Branchen mit Berufsgeheimnis (Anwälte, Ärzte, Notare, Banken, Seelsorge) ist das oft das einzige gangbare Argument gegenüber Mandantschaft und Aufsichtsorganen.
In 4 Schritten zur eigenen KI
- Gespräch (30 Min): Welcher wiederkehrende Task kostet Sie am meisten Nerven? Wir ordnen ehrlich ein, ob sich das lokal lohnt.
- POC (optional, CHF 1'000): Wir bauen Ihren ersten Anwendungsfall als Nachweis — an Ihren echten Dokumenten. Bei Auftragserteilung voll angerechnet.
- Aufbau (1–2 Wochen): Hardware, Modelle und Agenten gehen bei Ihnen in Betrieb. Der Einstieg ins Abo enthält 3 kostenlose Eingewöhnungsmonate.
- Betrieb: Modell-Updates, Wartung, Support inklusive. Sie bezahlen erst ab der Abnahme — läuft der Use-Case nicht, bleibt es beim POC.
Häufige Fragen
Kann eine lokale KI ChatGPT ersetzen?
Für Hausaufgaben: ja. Die typischen Büroszenarien — Dokumente beantworten, Zusammenfassungen, Entwürfe aus eigenen Vorlagen, Durchsuchung des eigenen Bestands — leisten aktuelle lokale Modelle gleichwertig, bei strengeren Antworten, weil sie nur Ihre Quellen kennen. Für offene Weltfragen bleibt die Cloud überlegen.
Was ist mit den Modellen — brauche ich GPT-5?
Nein. Die besten offenen Modelle (Llama, Qwen, Gemma, Mistral) stehen als Download bereit; die Lizenz ist für kommerzielle Nutzung frei. Die Modellpflege — Updates, Tests, Feinschliff für Ihre Sprache — ist Teil des Abos.
Funktioniert lokale KI ohne Internet?
Ja, nach der Einrichtung vollständig. Updates brauchen Verbindung, der Betrieb nicht. Für Air-Gap-Umgebungen spielen wir Aktualisierungen physisch ein.
Wie schnell ist der Aufbau?
Hardware geliefert in 3–10 Tagen, Inbetriebnahme und erster Use-Case in 1–2 Wochen, siehe Ablauf oben.
Wollen Sie wissen, was lokal bei Ihnen geht?
30 Minuten, konkret, kostenlos. Wenn kein sinnvoller Fall dabei ist, sagen wir das.
Projekt besprechen