Infrastruktur · GPU-Server
KI-Server mieten
Wer KI-Modelle im eigenen Haus betreiben will, braucht Rechenleistung mit Grafikprozessoren. Die Frage ist nur: Cloud-Dienst nutzen, Server mieten oder gleich kaufen? Hier findest du klare Faustregeln, echte Preise und deutsche Anbieter.
Die drei Wege – und wann sich welcher lohnt
- Cloud-Dienst nutzen (API). Du schickst Anfragen an einen fremden Anbieter und zahlst pro Nutzung. Kein eigener Server, kein Aufwand – aber deine Daten verlassen das Haus.
- Server mieten. Eigene Maschine in einem deutschen Rechenzentrum, auf der dein Modell läuft. Fester Monatsbetrag, volle Kontrolle über die Daten, keine große Anfangsinvestition. Für die meisten der sinnvolle Einstieg.
- Server kaufen. Eigene Hardware im eigenen Haus. Hohe Anfangsinvestition, danach kaum laufende Kosten.
Die Faustregel
In der Branche kursiert ein einfacher Richtwert: Ab etwa 100 Stunden GPU-Nutzung im Monat oder ab rund 3.000 € Cloud-Kosten monatlich wird eigene Hardware wirtschaftlich interessant. Darunter ist Mieten meist günstiger und flexibler.
Unabhängig von der Rechnung gibt es drei Gründe, die auch bei geringer Auslastung für eigene oder gemietete Hardware sprechen: strenge Datenschutzanforderungen, Antwortzeiten in Echtzeit und Projekte über mehrere Jahre.
Was es kostet
- Einstieg (ca. 20 GB Grafikspeicher): rund 180 bis 250 € im Monat bei deutschen Anbietern. Reicht für kleinere Sprachmodelle und typische Anwendungen im Mittelstand.
- Leistungsstarke Karten (H100): ab etwa 600 € im Monat zur Miete.
- Kauf: Eine Einstiegs-Konfiguration liegt im niedrigen fünfstelligen Bereich, große Systeme deutlich darüber. Dazu kommen Strom, Wartung und Support.
Der ehrliche Rat: Fang gemietet an. Nach einem halben Jahr weißt du aus echten Zahlen, ob sich ein Kauf lohnt – statt vorher eine fünfstellige Summe auf eine Vermutung zu setzen.
Preisangaben aus öffentlichen Anbieterinformationen, Stand Juli 2026. GPU-Preise bewegen sich schnell – prüfe die aktuellen Angebote.
Ein weit verbreiteter Irrtum
„Eigener Server heißt, ich brauche keinen Datenschutzvertrag mehr“ – das stimmt so nicht. Auch bei gemieteter Infrastruktur brauchst du einen Auftragsverarbeitungsvertrag, sobald der Anbieter technischen Zugang zu den Daten hat. Erst bei Hardware im eigenen Haus entfällt das.
Der große Unterschied bleibt trotzdem: Bei einem deutschen Rechenzentrum gibt es keinen Drittlandtransfer und keine offene Frage, wer sonst noch zugreifen könnte.
Anbieter im Überblick
Angaben laut den Websites der Anbieter, Stand Juli 2026. Die Reihenfolge ist keine Rangfolge. Kein Anbieter bezahlt für seinen Eintrag, und wir erhalten derzeit auch keine Vergütung für vermittelte Anfragen. Beides kann sich ändern – bezahlte Platzierungen kennzeichnen wir dann unmittelbar am Eintrag als „Anzeige“, eine Vermittlungsvergütung weisen wir an dieser Stelle aus. Wie wir uns finanzieren, steht auf Transparenz.
Hetzner
Deutschland · günstigster Einstieg
Dedizierte GPU-Server ab dem unteren dreistelligen Monatsbereich – der übliche Startpunkt für eigene KI-Modelle im Mittelstand. Kein Managed-Service: Einrichtung und Pflege liegen bei dir oder deinem Dienstleister.
Verdacloud
Falkenstein & Nürnberg · Managed · Festpreise
Fertig eingerichtete KI-Server für lokale Sprachmodelle und Wissensdatenbanken – bis 96 GB Grafikspeicher. Feste Preise inklusive Verwaltung, Überwachung und Support, mit vollem Zugriff auf den Server.
centron
Deutschland · ISO 27001 · BSI C5
GPU-Instanzen nach Verbrauch, ohne Mindestlaufzeit, mit 200 € Startguthaben. Die Zertifizierungen (ISO 27001, BSI-C5-Testat) sind vor allem für regulierte Branchen relevant.
IONOS
Deutschland · minutengenaue Abrechnung
GPU-Server ohne Mindestlaufzeit, minutengenau abgerechnet – löschst du den Server, endet die Abrechnung sofort. Praktisch für Tests und schwankende Auslastung.
wz-it
Deutschland · fertig eingerichtet
Liefert Server, auf denen die Software zum Betrieb offener Sprachmodelle bereits eingerichtet ist – samt Installation, Updates, Überwachung und Sicherungen. Getestet mit den gängigen offenen Modellen.
Pexon Consulting
Miete oder Kauf · mit Beratung
Für den Fall, dass eigene Hardware in Frage kommt: liefert Server samt Einrichtung, Schulung und Support – oder vermietet leistungsstarke Karten ab etwa 600 € monatlich. Rechnet die Wirtschaftlichkeit offen vor.
Häufige Fragen
Welche Größe brauche ich?
Entscheidend ist der Grafikspeicher (VRAM), weil das Modell hineinpassen muss. Als grobe Orientierung: 20 GB reichen für kleinere Sprachmodelle, wie sie für Wissensdatenbanken und Dokumentensuche im Mittelstand üblich sind. Größere Modelle brauchen entsprechend mehr.
Kann ich das selbst betreiben?
Ein reiner Server kommt ohne Software. Wenn niemand im Haus damit vertraut ist, nimm einen Anbieter, der ihn fertig eingerichtet übergibt und pflegt – oder beauftrage einen Dienstleister. Der günstigere Server nützt nichts, wenn er ungenutzt läuft.
Ist ein eigener Server automatisch sicherer?
Nein. Er ist datenschutzrechtlich einfacher, weil keine Daten in Drittländer fließen. Sicherheit im Sinne von Angriffsschutz musst du aber selbst herstellen – Updates, Zugriffsrechte, Sicherungen. Ein schlecht gepflegter eigener Server ist unsicherer als eine gut betriebene Cloud.
Lohnt sich das für kleine Unternehmen?
Meist nicht über die reine Kostenrechnung – ein paar hundert Euro im Monat sind mehr als die üblichen Cloud-Kosten kleiner Betriebe. Es lohnt sich, wenn Datenschutz der Treiber ist: bei Mandanten- oder Patientendaten etwa, wo externe Verarbeitung ohnehin schwierig wäre.
Passenden Anbieter anfragen
Sag uns kurz, was auf dem Server laufen soll. Deine Anfrage geht automatisch an alle Anbieter aus dem Verzeichnis, die zu deiner Beschreibung passen – es können sich also mehrere bei dir melden. Kostenlos und unverbindlich.
Wie wir mit deinen Daten umgehen, steht in unserer Datenschutzerklärung.
Weitere Themen: ChatGPT für Unternehmen · n8n Agentur · KI-Beratung
PontoIt 