Cubicle Whitepaper · Ausgabe Mai 2026

DSGVO + KI:
Wann brauche ich On-Premise?

Ein Entscheidungs-Leitfaden für deutsche Kanzleien, Steuerberater und Mittelstand. Mit Risiko-Matrix, 3-Jahres-Kostenrechnung und Checkliste.

Seiten~ 12 Seiten Lesezeit
StandMai 2026
ZielgruppeGeschäftsführung, IT-Verantwortliche, DSB
FormatHTML & Druck (Strg+P)

Kapitel 1Executive Summary

Generative KI — ChatGPT, Claude, Copilot — revolutioniert die Arbeit in Kanzleien, Steuerberatungen und Mittelstand. Aber: die DSGVO macht keinen Unterschied zwischen menschlicher und maschineller Datenverarbeitung. Wer einen Mandanten-Schriftsatz in ChatGPT pastet, hat eine Auftragsdatenverarbeitung in den USA durchgeführt — mit allen Konsequenzen.

Dieses Whitepaper beantwortet die Kernfrage, die Geschäftsführer und Datenschutzbeauftragte sich heute stellen müssen: Reicht eine Cloud-KI — oder brauchen wir zwingend eine On-Premise-Lösung?

Die Antwort in einem Satz Wer mit besonderen Kategorien personenbezogener Daten (Art. 9 DSGVO), Berufsgeheimnissen (§ 203 StGB) oder unter besonderen Aufsichtspflichten (BaFin, IT-SiG, KRITIS) arbeitet, sollte On-Premise ernsthaft prüfen. Für alle anderen reicht eine sorgfältig ausgewählte DSGVO-konforme Cloud-Lösung in Deutschland.

Konkret klärt dieses Whitepaper:

  • Welche vier Hosting-Modelle es für KI-Daten gibt und wann welches passt
  • Welche sieben Stolperfallen bei DSGVO-Audits regelmäßig auftauchen
  • Was eine On-Premise-KI über drei Jahre realistisch kostet (mit Beispielrechnung)
  • Welche Branchen und Fallkonstellationen On-Premise rechtfertigen
  • Wie eine Checkliste aussieht, mit der Sie selbst entscheiden können

Kapitel 2Warum DSGVO bei KI besonders heikel ist

2.1 KI ist eine Auftragsdatenverarbeitung — immer

Wenn Sie eine Mandanten-E-Mail in ChatGPT eingeben, übermitteln Sie personenbezogene Daten an OpenAI Ireland Ltd. (Sitz: Dublin) — und je nach Modell auch an OpenAI L.L.C. in den USA. Das ist nicht „mal eben schnell“ — das ist eine Auftragsdatenverarbeitung im Sinne von Art. 28 DSGVO. Sie brauchen:

  • einen Auftragsverarbeitungsvertrag (AVV) mit OpenAI
  • eine Rechtsgrundlage (meist Art. 6 Abs. 1 lit. b oder f DSGVO)
  • technische und organisatorische Maßnahmen (Art. 32)
  • einen Eintrag im Verzeichnis von Verarbeitungstätigkeiten (Art. 30)
  • bei Drittlandsübermittlung: Standardvertragsklauseln + Transfer Impact Assessment (Art. 46)
Häufiger Irrtum „Wir haben anonymisiert.“ In über 80 % der Fälle, in denen wir Mandate analysiert haben, war die „Anonymisierung“ rechtlich keine. Aktenzeichen, Sachverhaltsbeschreibungen und Kombinationen aus Datum + Ort lassen Mandanten in fast allen Fällen re-identifizieren. Maßstab ist Erwägungsgrund 26 DSGVO: Anonymisierung muss endgültig und mit verhältnismäßigem Aufwand nicht umkehrbar sein.

2.2 Schrems II ist nicht weg — nur kaschiert

Mit dem EU-US-Data-Privacy-Framework (DPF) seit Juli 2023 ist die Datenübermittlung in die USA wieder einfacher geworden. ABER: das Framework wird von Datenschutz-Aktivisten erneut angegriffen, und ein neues „Schrems III“-Urteil ist nur eine Frage der Zeit. Wer heute auf US-Cloud baut, baut auf rechtlich heiklem Boden.

2.3 Berufsgeheimnis schlägt DSGVO

Für Rechtsanwälte (§ 43a BRAO, § 203 StGB), Steuerberater (§ 57 StBerG), Notare (§ 18 BNotO) und Ärzte (§ 203 StGB) gelten schärfere Regeln als die DSGVO. Hier reicht oft eine Cloud-Lösung mit AVV nicht aus — das Mandantengeheimnis ist gesetzlich höher geschützt als nur durch eine Rechtsgrundlage:

Ein Rechtsanwalt darf einem Cloud-Anbieter nur dann Mandanten-Daten anvertrauen, wenn dieser entweder selbst dem Berufsgeheimnis unterliegt (§ 203 Abs. 3 StGB) oder ausdrücklich als „Gehilfe“ in den anwaltlichen Verschwiegenheitskreis einbezogen ist. Bei US-Cloud-Anbietern ist beides regelmäßig nicht erfüllbar.

Kapitel 3Die vier Hosting-Modelle für KI-Daten

Bevor wir entscheiden können, was passt, müssen wir die Modelle klar trennen:

Modell A: Public Cloud (USA)

Sie nutzen ChatGPT, Microsoft Copilot oder Anthropic Claude direkt — ohne deutsche Zwischenschicht. Daten gehen an US-Server (auch wenn Microsoft EU-Tenants anbietet — die Trainings- und Tracing-Daten landen oft trotzdem in den USA).

DSGVO-Status: Theoretisch über DPF möglich, praktisch riskant. Mandantengeheimnis-konform: nein.

Modell B: Public Cloud (EU-zertifiziert)

Cloud-Lösungen mit EU-Hosting (z.B. Aleph Alpha in Heidelberg, Mistral in Paris, Azure-OpenAI in Frankfurt). Daten bleiben in der EU, AVV vorhanden, oft mit deutschem Vertragsrecht.

DSGVO-Status: Konform. Mandantengeheimnis: knapp ok — aber nur wenn der Anbieter selbst dem Berufsgeheimnis-äquivalenten Geheimnisschutz unterliegt (deutscher Rechenzentrumsbetreiber, ggf. mit Geheimhaltungsklausel).

Modell C: Private Cloud (Dedizierte Instanz)

Eine deutsche Cloud-Lösung mit dedizierter Instanz für Sie — nicht geteilt mit anderen Kunden. Logisch isoliert, eigene Datenbank, eigene Backups. Der Anbieter hat aber weiterhin technischen Zugriff.

DSGVO-Status: Sehr gut. Mandantengeheimnis: gut, sofern Anbieter sich vertraglich auf § 203 StGB verpflichtet.

Modell D: On-Premise (Eigener Server)

Die KI-Plattform läuft auf Ihrer eigenen Hardware (oder bei einem Hoster Ihres Vertrauens, aber unter Ihrer alleinigen Kontrolle). Niemand sonst — auch nicht der Software-Anbieter — hat Zugriff auf die produktiven Daten.

DSGVO-Status: Maximal. Mandantengeheimnis: maximal. Subverarbeiter-Liste: leer.

Wichtig: Hybride sind möglich Modell D heißt nicht zwingend „wir bauen alles selbst“. Die KI-Plattform kann auf eigenem Server laufen, während externe Komponenten (z.B. das Sprachmodell als API-Service) extern bleiben — solange die Mandanten-Daten selbst nie das Haus verlassen. Genau dieses Hybridmodell verfolgt Cubicle Inhouse (siehe Kapitel 9).

Kapitel 4Entscheidungs-Matrix: Wann reicht Cloud, wann zwingend On-Premise?

Vier Dimensionen sind entscheidend. Je mehr Kriterien rot/orange, desto eher On-Premise.

Kriterium Cloud (DE) Private Cloud On-Premise
Mandantengeheimnis (§ 203 StGB)KnappGutMaximal
Besondere Daten (Art. 9 DSGVO: Gesundheit, Religion, ...)RiskantKonformKonform
BaFin / IT-SiG / KRITIS-PflichtenNicht ausreichendMit VorbehaltKonform
Air-Gap / kein Internet-ZugriffUnmöglichUnmöglichMöglich
Komplex-Audit (Bafin, BSI, Wirtschaftsprüfer)AufwendigMittelEinfach
Einmal-InvestitionNullNullMittel
Monatliche BetriebskostenNiedrig-MittelMittel-HochMittel-Hoch
Setup-AufwandMinutenStunden1-2 Tage
Geeignet fürKleine Kanzleien, Agenturen, allg. MittelstandMittelgroße Kanzleien, StB-Sozietäten, größere UnternehmenGroßkanzleien, Banken, Versicherer, KRITIS

Die Daumenregel

  • Sie haben primär Verträge und Schriftsätze im Wirtschaftsrecht / Steuerrecht / IT-Recht? → DSGVO-konforme Cloud (DE) reicht meistens.
  • Sie haben hauptsächlich Strafrecht, Familienrecht, Arbeitsrecht mit besonderen Daten? → Private Cloud oder Inhouse.
  • Sie beraten Banken, Versicherer oder kritische Infrastruktur? → Inhouse ist quasi Pflicht.
  • Sie sind Steuerberater mit großen Mandanten oder Wirtschaftsprüfer? → Private Cloud reicht oft, Inhouse erhöht die Mandanten-Akquise-Chance bei DAX-Unternehmen.

Kapitel 5Sieben typische DSGVO-Stolperfallen bei KI-Projekten

Aus über 50 KI-Implementierungs-Audits in deutschen Kanzleien und Mittelstand-Unternehmen sehen wir immer wieder dieselben sieben Fehler. Prüfen Sie ehrlich: Welche dieser Fallen haben Sie aktuell?

1. Personalisierte Prompts ohne Anonymisierung

Sachbearbeiter*innen pasten Mandanten-Schriftsätze 1:1 in ChatGPT. Auch wenn der Mandantenname nicht direkt drinsteht: Akten-Z, Geburtsdatum, Wohnort, Arbeitgeber + Datum lassen die Person eindeutig identifizieren. Re-Identifikations-Risiko = Personenbezug = DSGVO.

2. Schatten-IT

Die Geschäftsführung hat „ChatGPT verboten“. Die Sachbearbeitung nutzt ChatGPT trotzdem — über die private E-Mail-Adresse. Niemand weiß, was wo abfließt. Beim Audit wird's peinlich.

3. AVV existiert nicht oder ist veraltet

Sie haben einen ChatGPT-Plus-Account aus 2023. Damals gab es noch keinen DPF, keinen AVV, keinen Sub-Verarbeiter-Liste. Trotzdem wird das Tool produktiv eingesetzt. Beim ersten Datenschutzvorfall: Bußgeld nach Art. 83 DSGVO (bis 4 % Jahresumsatz).

4. Training-Daten-Klausel übersehen

Viele KI-Anbieter trainieren ihre Modelle mit den Anfragen — standardmäßig. Sie müssen explizit widerrufen (OpenAI hat das mittlerweile geändert, aber nicht alle). Wenn Sie nicht widerrufen haben, fließen Mandantendaten ins Training. Pre-trained-Modell = öffentlich abrufbar.

5. Kein Verzeichnis von Verarbeitungstätigkeiten

Ein KI-Tool ist nach Art. 30 DSGVO ein eigenständiger Verarbeitungsvorgang, der ins VVT eingetragen werden muss. In über 60 % unserer Audits fehlt der Eintrag komplett.

6. Mandanten nicht informiert

Wenn Mandantendaten in eine KI fließen, ist das eine eigenständige Verarbeitung, über die der Mandant informiert werden muss (Art. 13 DSGVO). Eine Standardklausel „Wir nutzen moderne IT-Systeme“ reicht nicht.

7. Keine TIA bei US-Anbietern

Auch unter dem Data Privacy Framework müssen Sie ein Transfer Impact Assessment durchführen (BfDI-Hinweis 2024). In den meisten Mandaten fehlt es. Bei einem Schrems-III-Urteil sind Sie sofort haftbar.

Was wir in der Praxis sehen Im Schnitt erfüllen Kanzleien mit Cloud-KI nur 2-3 der 7 DSGVO-Anforderungen vollständig. Die anderen 4-5 sind „ausgegraut“ — man weiß, es fehlt, schiebt es aber auf. Beim ersten Beschwerdebrief eines Mandanten oder einer Aufsichtsbehörde wird daraus ein Problem.

Kapitel 63-Jahres-Kostenrechnung: Cloud vs. On-Premise

Beispielfall: Kanzlei mit 12 Anwält*innen, KI-Nutzung produktiv (ca. 800 Anfragen pro Anwalt/Monat = ca. 10.000 Anfragen pro Monat insgesamt).

Cloud-Modell (Cubicle Pro)

8.964 €3 Jahre Gesamt
  • 249 €/Monat × 36 Monate
  • Keine Setup-Kosten
  • Inkl. 10k Queries + 250k Tokens/Mo
  • Inkl. Updates + Maintenance
  • Cloud DE, AVV inkludiert

On-Premise (Cubicle Inhouse Mittel)

18.064 €3 Jahre Gesamt
  • 1.900 € Setup einmalig
  • 449 €/Monat × 36 Monate
  • Server-Hardware: nicht enthalten *
  • Inkl. Updates + Maintenance
  • Eigener Server, 100 % Datenhoheit

* Beispiel-Server bei einem deutschen Hoster: 100-200 €/Monat = 3.600-7.200 € über 3 Jahre. Wer einen bestehenden Server nutzt oder Hardware abgeschrieben hat: Mehrkosten gering. Wer einen dedizierten Server bei uns mit-mietet: bereits enthalten.

Was der Aufpreis tatsächlich bringt

  • Compliance-Argument bei Audit: „Wir hosten On-Premise“ beendet 80 % der DSGVO-Diskussion bei Mandanten oder Behörden in einem Satz.
  • Akquise-Argument: Mandate von DAX-Unternehmen, Banken oder Versicherern kommen oft nur, wenn Sie On-Premise belegen können.
  • Vertraulichkeit: Bei besonders sensiblen Mandaten (M&A, Strafverfahren, Steuerstrafsachen) ist On-Premise ein Vertrauensargument, das Mandanten honorieren.
  • Risiko-Minimierung: Bei einem „Schrems-III“-Urteil oder einer Schlagzeile zu einem Cloud-Datenleck sind Sie nicht betroffen.

Der Mehrpreis (1.900 € einmalig + 200 € Monatsdifferenz) ist bei der typischen Kanzlei das, was Sie als Mandant-Risikoabsicherung im Vergleich zu einer Versicherung sehen können.

Kapitel 7Drei reale Szenarien aus der Praxis

Anonymisierte Fälle aus unserer Beratung, in denen die Entscheidung Cloud vs. On-Premise klar getroffen werden konnte.

Szenario 1: Wirtschaftskanzlei mit M&A-Schwerpunkt

25 Anwälte · vorwiegend Transaktionsberatung, NDA-pflichtige Mandate

Die Kanzlei wollte KI-gestützte Vertragsanalyse einführen. Ihr DSB warnte: Bei NDA-pflichtigen Mandaten ist jede externe Datenverarbeitung problematisch. Die Geschäftsführung entschied sich für eine On-Premise-Lösung — auch wegen einer aktuellen Mandant-Anfrage eines DAX-30-Vorstands, der explizit nach On-Premise-Compliance fragte.

Entscheidung: On-Premise (Inhouse Mittel)

Szenario 2: 3-Anwalt-Kanzlei für Erbrecht und Vorsorge

3 Anwälte · vorwiegend Erbsachen, Patientenverfügung, Testamente

Die Kanzlei wollte mit KI Brief-Vorlagen, Erstmandate und Mandanten-Kommunikation effizienter machen. Mandate sind sensibel (Gesundheits-Daten), aber nicht im Volumen kritisch (ca. 200 KI-Anfragen pro Anwalt/Monat). Eine deutsche Cloud-Lösung mit AVV und vertraglicher Geheimhaltungsklausel reichte aus. On-Premise hätte das Budget gesprengt.

Entscheidung: Cloud (DE, dediziert)

Szenario 3: Mittelständische Steuerberatung mit Bank-Mandanten

8 Steuerberater · gemischtes Portfolio, ca. 30 % Bank-Mandanten

Die Bank-Mandanten verlangten BaFin-konforme Datenverarbeitung. Die übrigen Mandate waren Standard. Lösung: eine Hybrid-Strategie — die Hauptkanzlei nutzt eine Private-Cloud-Lösung (Cubicle Pro), für die Bank-Mandanten gibt's eine separate Inhouse-Instanz. So bleibt der Aufwand begrenzt, das Compliance-Argument bleibt scharf.

Entscheidung: Hybrid (Cloud Pro + Inhouse für Banken)

Kapitel 8Checkliste: Sind Sie bereit für On-Premise?

Wenn Sie 4 oder mehr Punkte ankreuzen können, ist On-Premise sehr wahrscheinlich das richtige Modell. Bei 6 oder mehr ist es quasi Pflicht.

  • Wir beraten regelmäßig Banken, Versicherer oder kritische Infrastruktur.
  • Mehr als 30 % unserer Mandate fallen unter besondere Kategorien (Art. 9 DSGVO).
  • Wir haben Mandate mit ausdrücklicher NDA, die jede Cloud-Verarbeitung verbietet.
  • Unsere Mandantenliste enthält Konzerne mit eigener On-Premise-Pflicht (DAX, MDAX, regulierte Branchen).
  • Wir wollen aktiv mit „On-Premise-KI“ akquirieren und differenzieren uns vom Wettbewerb.
  • Wir haben einen IT-Verantwortlichen oder externen Dienstleister, der die Server-Wartung übernehmen kann (oder wir lassen es voll-managed).
  • Unser DSB hat in den letzten 2 Jahren mindestens einmal ein Cloud-KI-Tool als „riskant“ eingestuft.
  • Wir können oder wollen 990-2.900 € Setup-Investition + 199-699 €/Monat einplanen.
  • Eine Schrems-III-Entscheidung würde uns — egal wann sie kommt — im Tagesgeschäft hart treffen.
  • Wir wollen über die nächsten 3-5 Jahre rechtssicher bleiben, ohne ständige Anbieter-Wechsel.
Faustregel Wenn der Mehrpreis von ca. 50-100 € pro Anwalt/Monat im Vergleich zur Cubicle AI (gehostet) (bei einer Großkanzlei: vernachlässigbar; bei kleinen Kanzleien: spürbar) nicht das Hauptargument gegen On-Premise ist, sondern Compliance + Mandanten-Vertrauen, dann ist On-Premise wahrscheinlich richtig.

Kapitel 9Über Cubicle Inhouse

Cubicle Inhouse ist die Inhouse-Variante der Cubicle-KI-Plattform — speziell entwickelt für deutsche Kanzleien, Steuerberatungen und Mittelstand, die maximale Datenhoheit benötigen.

Was Sie bekommen

  • Eigene Cubicle-Instanz auf Ihrem Server (eigene Domain, eigenes Branding, eigene Daten)
  • Cubicle API mit Zugriff auf 116.000+ kuratierte deutsche Rechts-Quellen (Gesetze, BGH/BAG/BFH-Urteile, BMF-Schreiben, Tarifverträge)
  • AI Connect mit Modellauswahl Claude, GPT-4o oder Mistral — alle EU-gehostet

Was Sie nicht bekommen

Keinen US-Datenabfluss. Keine Trainings-Pipelines, die mit Ihren Daten gefüttert werden. Keine versteckten Sub-Verarbeiter. Keinen Lock-in — bei Vertragsende läuft die Software auf Ihrem Server in einem Read-Only-Modus weiter.

Was es kostet

1.900 € Setup einmalig + 449 € / Monat. Alles inklusive: Installation, Branding, Maintenance, Updates, Cubicle API (30k Queries/Mo), KI-Modelle (750k Tokens/Mo), E-Mail + Telefon-Support (4 h).

Unbegrenzte Nutzer und Workspaces — die einzigen Kapazitätsgrenzen sind Ihre Server-Hardware. Add-ons (mehr Tokens, 24/7-Support, Audit-Log, Source-Code-Escrow) flexibel dazubuchbar.

Setup in 1-2 Werktagen

Wir installieren auf Ihrem Server via SSH, richten Branding, TLS und Backups ein, schulen Ihr Team in 2 Stunden. Anschließend können Sie produktiv arbeiten — Updates kommen von uns, Sie konzentrieren sich auf Mandanten.

30-Minuten-Beratung kostenlos Wir hören uns Ihr Setup an, schauen uns Ihre Compliance-Anforderungen an und sagen ehrlich, welches Paket passt — oder ob Cubicle AI ausreichend für Sie ist. Kein Verkaufsdruck, keine Verpflichtung. Termin per E-Mail an inhouse@cubicle.legal.

Bereit für den nächsten Schritt?

Sie haben das Whitepaper gelesen und wissen jetzt, was Sie brauchen. Lassen Sie uns kurz darüber sprechen, welche Lösung zu Ihrer Kanzlei passt.