Darf ich ChatGPT mit Firmendaten füttern?
Die kurze Antwort: Sei vorsichtig. Wenn du Verträge, Personalakten, Angebote oder Kundenkorrespondenz in das öffentliche ChatGPT kippst, verlassen diese Daten dein Haus und landen auf Servern in den USA. Für personenbezogene Daten ist das datenschutzrechtlich heikel, und dein Betriebsrat oder dein Datenschutzbeauftragter wird dir das zu Recht um die Ohren hauen.
Die gute Nachricht: Du musst nicht zwischen „KI nutzen" und „Daten schützen" wählen. Du kannst beides haben, mit einem eigenen Firmen-GPT, das auf deinen Dokumenten arbeitet und dabei komplett in der EU bleibt. In diesem Artikel erkläre ich, was das genau ist, welche drei Wege dahin führen, wie sicher die wirklich sind und was sie kosten.
Was ein Firmen-GPT eigentlich ist
Ein Firmen-GPT ist kein neues, eigenes Sprachmodell, das du monatelang trainierst. Das wäre teuer und unnötig. Es ist ein bestehendes Sprachmodell, das über deine eigenen Dokumente Bescheid weiß. Die Technik dahinter heißt RAG, und das Prinzip ist einfach: Bevor das Modell antwortet, durchsucht das System deine Dokumente, zieht die passenden Stellen heraus und gibt sie dem Modell als Kontext mit. Die Antwort basiert dann auf deinen echten Unterlagen, nicht auf dem Allgemeinwissen aus dem Internet.
Der praktische Effekt: Dein Team fragt in normaler Sprache „Was steht in unserem Rahmenvertrag mit Lieferant X zur Kündigungsfrist?" und bekommt die Antwort mit Quellenangabe, statt zwanzig Minuten in einem Sharepoint zu wühlen. Wie RAG im Detail funktioniert, habe ich in Firmenwissen durchsuchbar machen mit RAG beschrieben. Für die Datenschutzfrage zählt vor allem eins: Wo läuft das Ganze, und wohin gehen deine Daten dabei.
Die drei Wege: öffentliche API, europäischer Anbieter, komplett selbst gehostet
Es gibt nicht die eine Lösung, sondern drei Stufen, die sich in Datenschutz, Aufwand und Kosten unterscheiden.
Weg eins: öffentliche US-API. Du baust dein Firmen-GPT auf der API von OpenAI oder Google. Technisch am einfachsten, aber deine Dokumente und Fragen laufen über US-Server. Mit Auftragsverarbeitungsvertrag und den richtigen Einstellungen lässt sich das für unkritische Daten vertreten, für sensible Unterlagen würde ich davon abraten.
Weg zwei: europäischer Anbieter. Du nutzt ein Modell wie Mistral aus Frankreich über EU-Endpunkte. Die Qualität ist auf Augenhöhe mit den US-Modellen, die Daten bleiben aber im europäischen Rechtsraum, werden nicht gespeichert und nicht zum Training verwendet. Für die meisten Mittelständler ist das der vernünftige Standard: sauber, bezahlbar, ohne eigenen Serverbetrieb.
Weg drei: komplett selbst gehostet. Das Modell läuft auf deiner eigenen Hardware oder in deiner eigenen Cloud. Kein Token verlässt jemals dein Haus. Das ist der Goldstandard für hochsensible Daten, kostet aber mehr an Hardware und Betrieb. Für die meisten Firmen ist das erst ab einer bestimmten Größe oder bei besonders strengen Anforderungen nötig.
Der Trick ist, nicht pauschal die teuerste Stufe zu wählen, sondern die, die zu deinen Daten passt. Oft ist Weg zwei genau richtig, und für die wirklich heiklen Dokumente ergänzt du gezielt Weg drei.
Wie sicher ist das wirklich?
Datenschutz bei KI hat zwei Baustellen, und du musst beide sehen.
Die erste ist der Weg der Daten zum Modell. Bei einem europäischen Anbieter oder self-hosted bleibt alles in der EU. Zusätzlich lässt sich ein Vorfilter vorschalten, der besonders sensible Muster wie Bankverbindungen oder Ausweisnummern maskiert, bevor überhaupt irgendein Modell sie zu sehen bekommt. Das Modell arbeitet dann mit dem Inhalt, ohne die kritischen Details zu kennen.
Die zweite Baustelle ist die Ablage. Deine Dokumente werden für die Suche in einer eigenen Datenbank vorbereitet. Diese Datenbank gehört dir, liegt auf deinem Server in Deutschland und ist genauso zugriffsgeschützt wie deine anderen Systeme. Wer welche Dokumente sehen darf, entscheidest du über Rechte, nicht das KI-Modell. So sieht ein Mitarbeiter aus dem Vertrieb nicht plötzlich Personalakten, nur weil er die richtige Frage stellt.
Sicher wird ein Firmen-GPT also nicht durch ein Versprechen, sondern durch Architektur: EU-Pfad zum Modell, eigene Datenbank mit Rechteverwaltung, Vorfilter für das Heikelste.
Ein Beispiel aus der Praxis
Damit das greifbar wird: Ich betreibe ein solches System für mein eigenes Wissensmanagement. Es verarbeitet Kurse, Videos, Artikel und Dokumente, macht sie durchsuchbar und lässt mich per Chat mit meinem gesammelten Wissen reden. Ich frage in normaler Sprache und bekomme Antworten aus meinen eigenen Unterlagen, mit Verweis auf die Quelle.
Unter der Haube läuft es genau nach dem eben beschriebenen Muster. Die Dokumente werden zerlegt und für die semantische Suche aufbereitet, die Suche findet die passenden Stellen, ein Sprachmodell formuliert die Antwort. Der KI-Teil nutzt europäische Modelle, die Datenbank liegt auf eigener Infrastruktur in Deutschland. Der Zugriff läuft wahlweise über eine Weboberfläche oder direkt aus dem Chat heraus, damit die Antwort da ist, wo ich ohnehin schon arbeite.
Was ich dabei gelernt habe: Der Nutzen entsteht nicht durch das schlaueste Modell, sondern durch saubere Vorbereitung der Daten. Ein Firmen-GPT ist nur so gut wie die Dokumente, die es durchsuchen darf, und die Struktur, in der sie liegen.
Was das kostet und wann sich was lohnt
Wie bei jedem KI-System gibt es zwei Kostenblöcke: das einmalige Aufsetzen und den laufenden Betrieb. Das Aufsetzen umfasst die Anbindung an deine Dokumentenquellen, die Aufbereitung für die Suche und die Rechteverwaltung. Der Betrieb ist bei europäischen Modellen erstaunlich günstig, weil die Suche und die Antworten pro Anfrage nur Bruchteile kosten. Wie sich diese zwei Blöcke generell verhalten, habe ich in Was kostet ein KI-Agent? durchgerechnet.
Es lohnt sich zuerst dort, wo dein Team regelmäßig Zeit mit Suchen verliert: in Verträgen, technischer Doku, alten Angeboten, Support-Wissen. Ein Handwerksbetrieb mit drei Ordnern spart wenig, ein Unternehmen mit tausenden Dokumenten und mehreren Standorten spart pro Woche viele Stunden. Die Faustregel ist dieselbe wie überall: Fang mit der einen Wissensinsel an, die am meisten schmerzt, und bau von dort aus weiter.
Wie funktioniert das technisch?
Jetzt wird es etwas technischer. Wer nur die Entscheidungslogik mitnehmen wollte, kann direkt zum Fazit springen.
Herzstück ist eine Vektordatenbank. Deine Dokumente werden in Abschnitte zerlegt, und jeder Abschnitt bekommt über ein Embedding-Modell einen mathematischen Fingerabdruck, der seine Bedeutung abbildet. Stellt jemand eine Frage, wird auch sie in so einen Fingerabdruck übersetzt, und die Datenbank findet die inhaltlich nächsten Abschnitte. Nicht per Stichwort, sondern per Bedeutung. Deshalb findet das System auch dann etwas, wenn die Frage andere Worte benutzt als das Dokument.
In meinem System läuft die Ablage auf PostgreSQL mit der Erweiterung pgvector, die Verarbeitung übernimmt ein eigener Dienst, der Dokumente einliest, aufbereitet und in die Datenbank schreibt. Für die Fingerabdrücke und die Antworten nutze ich europäische Modelle, sodass kein Inhalt in eine US-Cloud abfließt. Das Ganze ist bewusst modular: Suche, Aufbereitung und Sprachmodell sind getrennte Bausteine, die ich einzeln austauschen kann, wenn ein besseres Modell erscheint.
Die Infrastruktur läuft komplett auf Servern in Deutschland. Dokumente, Datenbank und Suche liegen vollständig in der EU. Für die KI-Aufgaben werden die Inhalte verschlüsselt an den europäischen Modell-Anbieter übermittelt, dort aber nicht gespeichert und nicht zum Training verwendet.
Fazit
Ein eigenes Firmen-GPT ist kein Hexenwerk und keine Frage von Millionenbudgets. Es ist ein bestehendes Sprachmodell, das über deine Dokumente Bescheid weiß, plus eine saubere Architektur, die deine Daten in der EU hält.
Die Datenschutzfrage entscheidet sich nicht am Modell, sondern am Weg der Daten. Mit einem europäischen Anbieter bleibst du sauber und bezahlbar, für das Heikelste hostest du selbst. So bekommst du den Komfort von ChatGPT auf deinen eigenen Unterlagen, ohne dass ein einziger Vertrag ungefragt über den Atlantik wandert.
Und wenn dir jemand ein Firmen-GPT verkauft, ohne über den Weg der Daten zu reden, dann frag genau da nach. Wo liegen meine Dokumente, wohin gehen sie bei jeder Anfrage, und wer darf was sehen. Die Antwort auf diese drei Fragen entscheidet, ob dein Firmen-GPT ein Werkzeug ist oder ein Datenschutzproblem mit Chatfenster.