Recht · Datenschutz
KI und Datenschutz: was „DSGVO-konform“ wirklich verlangt
Kein KI-Werkzeug ist von sich aus datenschutzkonform. Konformität ist kein Produktmerkmal, sondern ein Zustand – und der hängt an vier Dingen, die Sie selbst prüfen müssen. Hier steht, welche das sind, woran die meisten scheitern und welche Anbieter für europäische Verarbeitung stehen.
Stand: September 2026. Dieser Text ist eine inhaltliche Einordnung und keine Rechtsberatung.
Die vier Prüffragen vor jedem Werkzeug
- Gibt es einen Auftragsverarbeitungsvertrag? Wer personenbezogene Daten in Ihrem Auftrag verarbeitet, braucht einen AVV nach Art. 28 DSGVO. Ohne ihn ist der Einsatz nicht zulässig – egal wie gut das Werkzeug ist.
- Wo werden die Daten verarbeitet? Nicht wo der Anbieter sitzt, sondern wo die Eingaben landen. Und zwar zweimal gefragt: Wo werden sie gespeichert, und wo läuft die Verarbeitung? Das sind getrennte Zusagen, und manche Anbieter geben nur die erste.
- Trainiert der Anbieter mit Ihren Eingaben? Bei kostenlosen Tarifen ist das oft der Regelfall, bei Unternehmenstarifen meist vertraglich ausgeschlossen.
- Lassen sich Betroffenenrechte umsetzen? Auskunft, Berichtigung, Löschung. Wenn Sie nicht sagen können, wo die Daten einer Person überall stecken, können Sie auch nicht löschen.
Der häufigste Fehler: der kostenlose Tarif
Die typische Ausgangslage: Jemand im Team nutzt seit Monaten die Gratis-Version eines Assistenten und kopiert Kundendaten hinein. Das Problem ist nicht die KI – es ist der Tarif. Kostenlose Tarife bringen in aller Regel keinen Auftragsverarbeitungsvertrag mit, und ohne den ist die Verarbeitung personenbezogener Daten schlicht rechtswidrig. Die Unternehmenstarife der großen Anbieter enthalten einen AVV standardmäßig.
Das ist die günstigste Sofortmaßnahme überhaupt: nachsehen, wer im Betrieb welche Werkzeuge nutzt, und die kostenlosen Zugänge durch einen Unternehmenstarif ersetzen. Wie verbreitet das Problem ist und was die Tarife unterscheidet, steht auf ChatGPT für Unternehmen.
Zwei Risiken, die im AVV nicht stehen
Zugriff nach fremdem Recht. Anbieter mit US-Mutterkonzern unterliegen dem CLOUD Act – theoretisch auch dann, wenn die Daten physisch in Frankfurt liegen. Wer das ausschließen will, muss nicht nur auf den Serverstandort schauen, sondern auf die Muttergesellschaft und auf die darunterliegende Infrastruktur: Eine europäische Oberfläche kann auf der Cloud eines US-Konzerns laufen. Für die meisten Anwendungsfälle ist das ein überschaubares Restrisiko, für Kanzleien, Arztpraxen und regulierte Branchen ein Ausschlusskriterium.
Verfügbarkeit. Ein Modell kann kurzfristig wegfallen, ohne dass technisch etwas kaputtgeht: Exportkontrollen, behördliche Auflagen, geänderte Nutzungsbedingungen oder eine Abkündigung durch den Anbieter reichen. Solche Auflagen zielen häufig auf einen Teil der Nutzer, treffen in der Umsetzung aber alle – und oft ohne Vorlauf.
Bauen Sie nichts so, dass es stillsteht, wenn ein einzelnes Modell wegfällt. Austauschbare Modelle und ein zweiter Anbieter in der Hinterhand sind billiger als eine Woche Stillstand. Zwei Fragen vor der Entscheidung: Lässt sich das Modell hinter der Oberfläche wechseln, ohne alles neu zu bauen? Und was sieht der Vertrag für den Fall vor, dass ein Dienst endet?
Drei Wege zu datenschutzkonformer KI
- Europäischer Anbieter. Modell und Betrieb aus der EU, europäischer Vertragspartner, kein Drittlandtransfer und keine Standardvertragsklauseln nötig. Dafür je nach Fall Abstriche bei Funktionsumfang und Ökosystem.
- US-Modell über eine EU-Zwischenschicht. Etwa über europäische Rechenzentren großer Cloud-Anbieter, mit Trainingsausschluss und AVV. Praktisch verbreitet, aber das Restrisiko aus dem CLOUD Act bleibt, wenn der Betreiber der Infrastruktur einen US-Mutterkonzern hat.
- Selbst betreiben. Offene Modelle auf eigener oder gemieteter Hardware. Volle Kontrolle, dafür tragen Sie Betrieb und Wartung selbst. Mehr dazu unter KI-Server mieten und RAG-System.
Ein Zertifikat allein sagt wenig: Ein deutsches Rechenzentrum ohne Nachweise ist nicht besser als ein zertifiziertes im Ausland. Achten Sie auf ISO 27001, BSI C5 und SOC 2 Type II – in regulierten Branchen sind die ohnehin Voraussetzung. Und lassen Sie sich sagen, worauf sich ein Testat bezieht: Es gilt oft für bestimmte Produkte, nicht für das ganze Haus. Wer ohnehin prüft, ob im Unternehmen ein Datenschutzbeauftragter zu bestellen ist, findet die Kriterien und passende Anbieter unter Externer Datenschutzbeauftragter.
Anbieter im Überblick
Angaben laut den Websites der Anbieter. Links und Preisangaben zuletzt geprüft: 09/2026. Die Reihenfolge ist keine Rangfolge. Kein Anbieter bezahlt für seinen Eintrag, und wir erhalten derzeit auch keine Vergütung für vermittelte Anfragen. Beides kann sich ändern – bezahlte Platzierungen kennzeichnen wir dann unmittelbar am Eintrag als „Anzeige“, eine Vermittlungsvergütung weisen wir an dieser Stelle aus. Wie wir uns finanzieren, steht auf Transparenz.
Aleph Alpha
KI-Plattform · Sitz Heidelberg · eigenes Sprachmodell
Die Aleph Alpha GmbH aus Heidelberg (Speyerer Straße 14, 69115 Heidelberg, HRB 732804 Mannheim) bietet unter dem Namen PhariaAI eine Plattform an, die sie selbst als souveräne KI-Suite beschreibt: ein anpassbarer Baukasten, mit dem Organisationen KI-Anwendungen entwickeln, betreiben und im Haus verteilen. In den Kern bindet die Plattform nach eigener Darstellung führende offene und proprietäre Sprachmodelle ein, ergänzt um eigene Verfahren für Transparenz, Erklärbarkeit und fachliche Genauigkeit. Ein eigenes Modell gibt es ebenfalls, Pharia-1-LLM-7B.
Die Bausteine tragen eigene Namen: PhariaAssistant als Chat-Oberfläche zum Zusammenfassen, Auslesen und Übersetzen von Dokumenten, PhariaStudio als Entwicklungsumgebung zum Bauen, Prüfen und Feinabstimmen von Anwendungen, PhariaOS zur Verwaltung von Modellen, Infrastruktur und Zugriffsrechten sowie PhariaCatch zum Einsammeln von Fachwissen und Rückmeldungen. Die Installation in der eigenen Umgebung ist ausdrücklich vorgesehen – dafür veröffentlicht der Anbieter eine Installations- und Konfigurationsanleitung samt Helm-Chart für Kubernetes. Als Anwendungsfelder führt der Anbieter einen Regierungsassistenten für den öffentlichen Sektor, einen Assistenten für das Industrial Engineering und ein Gemeinschaftsunternehmen mit PwC Deutschland zur DORA-Konformität auf.
Datenhaltung: Betrieb im eigenen Haus, in einer Kubernetes-Cloud oder hybrid; ein SaaS-Angebot für PhariaAI lag bei der Prüfung nicht vor · Preis: bei der Prüfung nicht ermittelt
Mistral AI
Modelle und Plattform · Sitz Paris · Apache-2.0-Lizenz
Französischer Modellanbieter aus Paris. Zur Modellfamilie Mistral 3 gibt der Anbieter an, sie vollständig unter der Apache-2.0-Lizenz zu veröffentlichen – die drei kleineren Modelle ebenso wie das größte. Offene Gewichte heißt praktisch: Die Modelle lassen sich herunterladen und auf eigener Hardware betreiben, ohne Abrechnung pro Anfrage und ohne dass Eingaben das eigene Netz verlassen müssen.
Für die Plattform Studio nennt der Anbieter drei Betriebsarten: selbst gehostet, über einen Cloud-Anbieter eigener Wahl oder in der Cloud des Anbieters. Für die Unternehmensoberfläche Vibe nennt er den Betrieb im eigenen Haus, in einer privaten Cloud oder in der Anbieter-Cloud. Die Oberfläche lässt sich nach Anbieterangabe über Konnektoren und das Model Context Protocol an mehr als hundert Werkzeuge anbinden. Der spätere Wechsel vom gemieteten Dienst zum Eigenbetrieb ist damit möglich, ohne alles neu zu bauen.
Nach Anbieterangabe können je nach genutzter Funktion Daten vorübergehend an Unterauftragsverarbeiter außerhalb der EU gehen, abgesichert über Standardvertragsklauseln; bei Enterprise-Paketen lassen sich diese Funktionen auf Organisationsebene abschalten.
Datenhaltung: EU, US-Endpunkt ausdrücklich wählbar · Preis: Mistral Large 3 laut Anbieter 0,50 $ je Mio. Token Eingabe und 1,50 $ je Mio. Token Ausgabe
Langdock
Oberfläche für mehrere Modelle · Sitz Berlin · ISO 27001 und SOC 2 Type II
Setzt eine Ebene höher an: nicht das Modell, sondern die Oberfläche, mit der das Team arbeitet. Als Bausteine nennt der Anbieter Chat, Agenten, Workflows, Integrationen und eine Schnittstelle und bezeichnet die Plattform als modellunabhängig. Der Zugriff auf mehrere Modellanbieter läuft über eine gemeinsame Schnittstelle; eigene Modellschlüssel lassen sich für unterstützte Anbieter einbringen.
Zum Betrieb schreibt der Anbieter selbst: Die Standardvariante läuft über Microsoft Azure auf Servern innerhalb der EU. Anwendung und die meisten Modelle lassen sich vollständig in der EU betreiben, konfigurierbar. Für größere Organisationen nennt er zusätzlich eine dedizierte, von ihm betriebene Instanz sowie den Betrieb in der eigenen Cloud oder eine Installation im eigenen Haus über Kubernetes.
Weiter ausgewiesen werden Verschlüsselung mit AES-256 und TLS 1.2+, unabhängige Penetrationstests und eine veröffentlichte Liste der Unterauftragsverarbeiter. Kundendaten werden nach Anbieterangabe nicht zum Training von Modellen verwendet. Für die Verwaltung genannt werden Rechte auf Arbeitsbereichsebene, die 1:1-Spiegelung bestehender Zugriffsrechte aus den angebundenen Werkzeugen sowie abschaltbare Nutzungsstatistiken; ein Auftragsverarbeitungsvertrag steht im Trust Center bereit.
Datenhaltung: EU, Standardvariante über Microsoft Azure · Preis: Standard-Lizenz 25 € je Nutzer und Monat zzgl. MwSt., Mengenstaffeln ab 50 Lizenzen; Workflows ab einem bestimmten Umfang als gesondert berechnetes Modul; Enterprise auf Anfrage
IONOS
Cloud- und KI-Dienste · Sitz Montabaur · ISO 27001 und C5-Testat des BSI
Die IONOS SE aus Montabaur ist ein deutscher Hoster, der KI-Dienste auf eigener Infrastruktur anbietet – von GPU-Instanzen bis zu Cloud-Diensten, die sich mit bestehender Infrastruktur kombinieren lassen. Für den AI Model Hub nennt der Anbieter verwaltete Basismodelle, eine Vektordatenbank und Verfahren für erweiterte Abfragen über eine gemeinsame Schnittstelle. Ausgewiesen werden eine Zertifizierung nach ISO 27001 auf Basis des IT-Grundschutzes sowie ein C5-Testat des BSI.
Datenhaltung: der AI Model Hub ist nach Anbieterangabe in Deutschland gehostet, die Abfragen werden in europäischen Rechenzentren verarbeitet · Preis: laut Anbieter tokenbasierte Abrechnung nach Nutzung, ab 0,10 € je Million Eingabe-Token
Hetzner
Server und GPU-Hardware · Sitz Gunzenhausen · Root-Zugriff und IPMI
Die Hetzner Online GmbH aus Gunzenhausen ist ein deutscher Serveranbieter mit dedizierten GPU-Servern, auf denen sich offene Modelle im eigenen Zugriff betreiben lassen. Der Anbieter nennt zwei Reihen: eine auf KI-Inferenz ausgelegte und eine für KI-Training mit 96 GB Grafikspeicher. Zum Datenschutz schreibt er, Kundenstammdaten würden nicht an Drittländer übermittelt; die GPU-Server liefen in eigenen, nach DIN ISO/IEC 27001 zertifizierten Rechenzentren in Deutschland und Finnland. Das auf Inferenz ausgelegte Modell GEX45 ist nach Anbieterangabe in Helsinki verfügbar. Was der Eigenbetrieb praktisch bedeutet, steht auf KI-Server mieten.
Datenhaltung: Deutschland und Finnland · Preis: bei der Prüfung nicht ermittelt
Häufige Fragen
Ist ChatGPT DSGVO-konform?
Die Frage lässt sich nicht mit Ja oder Nein beantworten, weil es aufs Tarifmodell ankommt. Unternehmenstarife bringen einen AVV mit, kostenlose Zugänge nicht. Hinzu kommt der Verarbeitungsort, und der ist nicht in jedem Geschäftstarif wählbar. Wer europäische Verarbeitung braucht, muss genau hinsehen, welcher Tarif sie überhaupt anbietet. Mehr dazu auf ChatGPT für Unternehmen.
Reicht ein Rechenzentrum in Frankfurt?
Für die meisten Fälle ja. Solange die Daten die EU nicht verlassen, liegt keine Übermittlung in ein Drittland vor, und Kapitel V der DSGVO mit Standardvertragsklauseln und Transfer-Folgenabschätzung kommt gar nicht erst zur Anwendung. Das Restrisiko aus dem CLOUD Act bleibt aber bestehen, wenn der Anbieter oder der Betreiber der darunterliegenden Cloud einen US-Mutterkonzern hat. Für Kanzleien, Praxen und regulierte Branchen ist das oft der Punkt, an dem europäische Anbieter den Zuschlag bekommen. Läuft das Modell auf eigener Hardware, stellt sich die Frage anders – mehr dazu unter KI lokal betreiben: was sich am Datenfluss ändert.
Brauchen wir eine Datenschutz-Folgenabschätzung?
Nicht immer, aber häufiger als gedacht – etwa bei umfangreicher Verarbeitung besonderer Kategorien von Daten oder bei systematischer Bewertung von Personen. Ein KI-Assistent für interne Textentwürfe braucht sie meist nicht, eine KI-gestützte Bewerbervorauswahl sehr wohl. Diese Einschätzung gehört zu den Fragen, für die sich eine Beratung rechnet.
Was ist der schnellste erste Schritt?
Herausfinden, welche KI-Werkzeuge im Betrieb bereits genutzt werden – meist sind es mehr als bekannt. Danach die kostenlosen Zugänge durch Unternehmenstarife mit AVV ersetzen und eine kurze interne Richtlinie schreiben, was hineingegeben werden darf und was nicht. Damit ist der größte Teil des Risikos weg, bevor Geld für Technik fließt. Was Sie seit dem 2. August 2026 offenlegen oder kennzeichnen müssen, steht auf KI-Kennzeichnungspflicht. Für KI-Systeme, die schon vor diesem Tag in Verkehr gebracht wurden, gilt die maschinenlesbare Kennzeichnung nach Artikel 50 Absatz 2 erst ab dem 2. Dezember 2026.
Passenden Anbieter anfragen
Sagen Sie uns kurz, welche KI-Werkzeuge bei Ihnen im Einsatz sind. Wir sehen uns Ihre Anfrage an und geben sie an die Anbieter aus dem Verzeichnis weiter, die fachlich dazu passen – es können sich also mehrere bei Ihnen melden. Kostenlos und unverbindlich.
Vielen Dank für deine Antwort. ✨
Wie wir mit Ihren Daten umgehen, steht in unserer Datenschutzerklärung.
Weitere Themen: KI-Kennzeichnungspflicht · KI-Server mieten · KI-Beratung · ChatGPT für Unternehmen · Externer Datenschutzbeauftragter · Was ein KI-Agent kann und darf · Datenschutzschulung für Mitarbeiter · KI-Vertragsprüfung · Voicebot · E-Mail-Automatisierung