KI in der Behörde – ohne Cloud, ohne Datenabfluss
Cloud-KI ist für dienstliche Daten in vielen Verwaltungen tabu – zu Recht. Die Alternative heißt lokale KI: eigene Dokumente, Akten und Tickets per KI durchsuchen und befragen, während alle Daten im eigenen Netz bleiben.
Warum Cloud-KI in der Verwaltung meist ausscheidet
„Können wir nicht einfach ChatGPT fragen?" – Wer in einer Behörde arbeitet, kennt die Antwort: Dürfen wir nicht. Sobald Bürgerdaten, Personalunterlagen, interne Vermerke oder Ticketinhalte an einen Cloud-Dienst geschickt werden, stellen sich Fragen, die selten zufriedenstellend zu beantworten sind:
- Datenübermittlung an Dritte: Der Cloud-Anbieter verarbeitet die Eingaben – oft in Drittländern, mit allen bekannten Unsicherheiten bei der Rechtsgrundlage.
- Zweckbindung und Kontrolle: Was mit den übermittelten Inhalten geschieht (Protokollierung, Missbrauchserkennung, Modellverbesserung), lässt sich von außen kaum verlässlich prüfen.
- Interne Vorgaben: Dienstanweisungen, IT-Sicherheitsrichtlinien und getrennte Netze verbieten die Nutzung externer Dienste häufig ganz – unabhängig von der DSGVO.
Gleichzeitig ist der Bedarf real: In Tickets, Handbüchern, Protokollen und Verfügungen steckt jahrzehntelang gewachsenes Wissen, das mit klassischer Stichwortsuche kaum nutzbar ist.
Die Alternative: KI, die im Haus bleibt
Moderne Sprachmodelle laufen inzwischen auf normaler Büro- und Server-Hardware – eine teure Grafikkarte ist nicht nötig. Der SWX KI-Assistent nutzt das: ein kostenloses Windows-Programm, das eigene Dokumente und OTRS-Tickets lokal indexiert und Fragen dazu beantwortet – als vollwertiges RAG-System mit Quellenangabe zu jeder Antwort.
Lokal heißt dabei wörtlich: Verarbeitung, Speicherung und KI-Antwort passieren auf dem eigenen Rechner oder einem Server im eigenen Netz. Nach der Einrichtung braucht das System keine Internetverbindung – das Vollpaket bringt sämtliche KI-Modelle mit und eignet sich damit auch für abgeschottete Netze.
Entstanden ist die Software übrigens genau dort, wo sie eingesetzt wird: im IT-Servicedesk des öffentlichen Dienstes.
Checkliste: Was Datenschutz und IT-Sicherheit prüfen
Die Punkte, auf die es bei „KI im Haus" ankommt – und wie der SWX KI-Assistent sie beantwortet.
Keine Übermittlung an Dritte
Keine Cloud-Anbindung, keine Telemetrie, keine „Phone-Home"-Funktionen. Suche und Antwort laufen vollständig auf eigener Hardware.
Betrieb ohne Internet
Nach der Einrichtung läuft alles offline; das Vollpaket installiert sich komplett ohne Internetzugang – auch in getrennten Netzen.
Kein Training mit eigenen Daten
Das Sprachmodell wird durch die Nutzung nicht verändert. Dokumente liegen nur in der lokalen Datenbank und lassen sich jederzeit vollständig löschen.
Antworten mit Quellenangabe
Jede Antwort nennt die Fundstellen (z. B. Ticketnummern oder Dateinamen) – prüfbar statt „Blackbox".
Signierte Software
Die Programmdateien sind digital signiert (Authenticode); SHA256-Prüfsummen und unabhängige Scan-Berichte stehen offen auf der Downloadseite.
Im eigenen Netz teilbar
Wahlweise Einzelplatz oder kleiner Server im Verwaltungsnetz – die Zugriffe bleiben im Haus, die Schnittstelle lässt sich per Schlüssel absichern.
Häufige Fragen aus Behörden
Ist das DSGVO-konform?
Aus technischer Sicht entfällt der kritischste Punkt: Es findet keine Übermittlung personenbezogener Daten an Dritte statt – Verarbeitung und Speicherung laufen vollständig auf eigener Hardware. Die rechtliche Bewertung des konkreten Einsatzes (etwa welche Bestände eingelesen werden dürfen) bleibt wie bei jeder Fachanwendung Aufgabe der eigenen Datenschutzorganisation – dieser Text ist keine Rechtsberatung.
Brauchen wir einen Auftragsverarbeitungsvertrag?
Es gibt keinen externen Dienstleister, der Daten verarbeitet – also auch keinen Auftragsverarbeiter im Sinne von Art. 28 DSGVO. Die Software wird einmalig heruntergeladen und läuft danach autark im eigenen Netz.
Lernt die KI aus unseren Akten?
Nein. Das Modell wird nicht trainiert oder verändert. Es bekommt bei jeder Frage nur die passenden Textstellen vorgelegt und formuliert daraus die Antwort. Wird ein Bestand gelöscht, ist das Wissen daraus vollständig weg.
Was kostet das für eine Behörde?
Für kleine Organisationen (unter 100 Personen und unter 1 Mio. USD Jahresumsatz) ist die Nutzung kostenlos; größere benötigen eine Lizenz – Anfrage genügt. Details stehen auf der Produktseite.
Welche Hardware brauchen wir?
Ein normaler Windows-Rechner oder eine Server-VM genügt – empfohlen sind rund 8 CPU-Kerne und 16 GB RAM. Eine GPU ist optional und beschleunigt nur; der Referenzbetrieb läuft auf einer virtuellen Maschine ganz ohne Grafikkarte.
Ausprobieren
Der SWX KI-Assistent ist in wenigen Minuten installiert – ein Einrichtungs-Assistent führt durch die Inbetriebnahme, ein Testbestand eigener Dokumente genügt für den ersten Eindruck.