Wissen · RAG
RAG-System: Firmenwissen für KI nutzbar machen
Ein Sprachmodell kennt deine Preisliste nicht, dein Handbuch nicht und eure internen Abläufe schon gar nicht. RAG löst genau das: Die KI schaut vor jeder Antwort in deinen eigenen Dokumenten nach. Hier erfährst du, wie das funktioniert, was es kostet und wer es baut.
Was RAG bedeutet – ohne Fachchinesisch
RAG steht für „Retrieval-Augmented Generation“ – sinngemäß: erst nachschlagen, dann antworten. Stell dir einen neuen Mitarbeiter vor, der zwar gut formulieren kann, aber eure Firma nicht kennt. Gibst du ihm einen Aktenschrank und die Regel „schau erst nach, bevor du antwortest“, wird er brauchbar. Genau das macht RAG.
- 1. Dokumente aufbereiten. Handbücher, Preislisten, Verträge, FAQ und Protokolle werden in kleine Abschnitte zerlegt.
- 2. Durchsuchbar ablegen. Die Abschnitte kommen in eine Vektordatenbank – eine Ablage, die nach Bedeutung sucht statt nach exakten Wörtern. Sie findet die Urlaubsregelung auch, wenn jemand „Wie viele freie Tage habe ich?“ fragt.
- 3. Nachschlagen bei jeder Frage. Kommt eine Frage, werden zuerst die passenden Abschnitte geholt.
- 4. Antworten lassen. Das Sprachmodell formuliert die Antwort ausschließlich auf Basis dieser Abschnitte – und nennt idealerweise die Quelle.
Der eigentliche Vorteil
Weil die Antwort aus deinen Dokumenten stammt, ist sie überprüfbar. Ein gutes System nennt die Quelle mit – „Seite 14 der Betriebsvereinbarung“. Und wenn nichts Passendes gefunden wird, sagt es das, statt sich etwas auszudenken.
Zweiter Vorteil: Aktualisieren heißt Dokument austauschen. Kein neues Training, keine Wartezeit – die neue Preisliste rein, und ab der nächsten Frage gilt sie.
Wofür Unternehmen RAG einsetzen
- Internes Wissen zugänglich machen – statt drei Kollegen zu fragen, wo die Regelung steht
- Kundenanfragen beantworten – als Grundlage für Chatbots und Support-Automatisierung
- Einarbeitung neuer Mitarbeitender – Fragen stellen statt Ordner durchblättern
- Technische Dokumentation durchsuchen – besonders bei umfangreichen Handbüchern
Woran RAG-Projekte scheitern
Fast nie an der Technik – fast immer an den Dokumenten. Wenn drei Versionen desselben Handbuchs kursieren, liefert das System drei widersprüchliche Antworten. Wenn Wissen nur in Köpfen steckt, kann es nichts nachschlagen.
Zwei weitere Stolperfallen:
- Berechtigungen. Ohne Abbildung der Zugriffsrechte sieht am Ende jeder die Gehaltsliste. Das muss von Anfang an mitgedacht werden.
- Pflege. Ein RAG-System ist kein Projekt, sondern ein Zustand. Veraltete Dokumente drin lassen heißt veraltete Antworten – nur klingen sie überzeugend.
Vier Wege zum eigenen RAG-System
- Fertige Plattform. Dokumente hochladen, fertig. Schnell, aber die Daten liegen beim Anbieter.
- Mit n8n selbst bauen. Wenn ohnehin automatisiert wird, lässt sich RAG dort abbilden.
- Open Source selbst betreiben. Auf eigenem oder gemietetem Server – volle Datenkontrolle, dafür Einrichtungsaufwand.
- Von einer Agentur bauen lassen. Sinnvoll bei vielen Quellsystemen und feinen Berechtigungen.
Anbieter im Überblick
Angaben laut den Websites der Anbieter, Stand Juli 2026. Die Reihenfolge ist keine Rangfolge. Kein Anbieter bezahlt für seinen Eintrag, und wir erhalten derzeit auch keine Vergütung für vermittelte Anfragen. Beides kann sich ändern – bezahlte Platzierungen kennzeichnen wir dann unmittelbar am Eintrag als „Anzeige“, eine Vermittlungsvergütung weisen wir an dieser Stelle aus. Wie wir uns finanzieren, steht auf Transparenz.
Verdacloud
Server in Deutschland · Festpreis-Pakete
Bietet unter dem Namen Secure Cloud RAG fertige Pakete an: Dokumente aus PDF, Word, Excel, PowerPoint, HTML, Markdown, CSV und Text werden indexiert, Confluence, SharePoint und Notion lassen sich anbinden. Der Betrieb läuft auf dedizierten Servern in deutschen ISO-27001-Rechenzentren; bei Vertragsende werden alle Daten gelöscht. Der Anbieter veröffentlicht seine Preise: „RAG Starter“ mit bis zu 250 Dokumenten, 5 Nutzern und 3 Datenquellen kostet 790 € im Monat bei 2.490 € Einrichtung, „RAG Professional“ mit bis zu 1.000 Dokumenten und 10 Nutzern 1.490 € im Monat bei 4.990 € Einrichtung; eine Enterprise-Stufe rechnet der Anbieter individuell ab. Vertragslaufzeit 12 Monate, alle Angaben netto. Verdacloud ist eine Marke der Gnann Verwaltung GmbH.
Flowise
Open Core (Apache 2.0) · selbst betreiben
Visueller Baukasten für RAG-Abläufe und KI-Agenten: Bausteine werden auf einer Oberfläche verbunden, jeder fertige Ablauf steht anschließend als Schnittstelle bereit. Läuft auf dem eigenen Server, per npm oder Docker; daneben gibt es einen gehosteten Dienst. Wichtig für Unternehmen: Die Community-Edition steht unter Apache 2.0, laut Lizenzdatei des Projekts sind Anmeldung per SSO (SAML/OIDC) und rollenbasierte Rechte jedoch der kommerziell lizenzierten Enterprise-Edition vorbehalten. Wer Berechtigungen abbilden muss, sollte das vor der Entscheidung prüfen.
Groenewold IT Solutions
Agentur · EU-Hosting oder On-Premise
Agentur aus Leer in Ostfriesland, die RAG-Systeme als Projekt umsetzt: Dokumente aus SharePoint, Confluence, Jira, Dateiservern und E-Mail-Systemen werden indexiert, Antworten kommen mit Quellenbeleg, die Berechtigungen stammen aus dem Verzeichnisdienst des Unternehmens (etwa Microsoft Entra ID), dazu Audit-Logs. Betrieb wahlweise als EU-Hosting oder On-Premise; auf Kundendaten wird nicht trainiert. Für den Piloten nennt der Anbieter eine Zahl: Rund 1.000 indexierte Dokumente mit üblicher Systemanbindung beginnen bei etwa 15.000 € einmalig zzgl. MwSt., testbar nach vier bis sechs Wochen. Hosting, Betrieb, Support und nutzungsabhängige Kosten für das Sprachmodell kommen hinzu.
innFactory
Eigener Cloud-Bereich · Preise veröffentlicht
Das Produkt CompanyGPT wird im Microsoft-Azure-Bereich des Kunden eingerichtet, alternativ auf der deutschen Cloud STACKIT; der Anbieter betreibt es ausdrücklich nicht als eigenen Dienst. Die Software steht auf Open-Source-Basis ohne Lizenzgebühr, Infrastruktur und Modellnutzung laufen direkt über das Cloud-Konto des Unternehmens. Anbindung an SharePoint samt Übernahme der dortigen Berechtigungen, Anmeldung über Microsoft Entra ID, Rollen- und Rechtemanagement mit vollständigen Audit-Logs. Der Anbieter veröffentlicht seine Preise: 14.990 € einmalig für Inbetriebnahme, Schulung und KI-Compliance, dazu ein optionaler Wartungsvertrag für 399 € im Monat; beide Beträge gelten unabhängig von der Nutzerzahl, alle Angaben zzgl. USt. Zu beachten: Die RAG-Erweiterung companyRAG ist Bestandteil des Wartungsvertrags und steht ohne ihn nicht zur Verfügung. Anbieter ist die innFactory AI Consulting GmbH aus Rosenheim.
KI-Beratung Deutschland
Düsseldorf · Preisseite veröffentlicht
Baut Wissensassistenten und Unternehmens-GPTs mit kontrolliertem Zugriff auf freigegebene Dokumente; die Lösungen laufen nach eigenen Angaben DSGVO-konform auf deutschen Servern. Der Anbieter veröffentlicht eine Preisseite – dort beginnt ein Unternehmens-GPT bei rund 6.500 € einmalig zuzüglich laufender Kosten ab etwa 350 € im Monat; größere Stufen mit mehr indexierten Dokumenten, Teams-Anbindung oder SLA sind mit rund 12.000 € beziehungsweise 24.000 € einmalig ausgewiesen. Hosting, Modelle und Support rechnet der Anbieter separat ab. Alle Angaben netto.
Häufige Fragen
Muss ich dafür ein eigenes Modell trainieren?
Nein – und das ist der Punkt. RAG kommt ohne Training aus. Genau deshalb ist es für die meisten Unternehmen der praktikable Weg: günstiger, schneller und jederzeit aktualisierbar.
Erfindet die KI dann nichts mehr?
Deutlich seltener, aber nicht nie. Deshalb gehören Quellenangaben dazu, damit sich jede Antwort nachprüfen lässt. Bei rechtlich heiklen Auskünften sollte immer ein Mensch drauf schauen.
Was kostet ein RAG-System?
Eine Pauschalzahl gibt es nicht. Die Kosten setzen sich in der Regel aus vier Blöcken zusammen: einmalige Einrichtung, laufende Kosten für Hosting oder einen gemieteten Server, nutzungsabhängige Kosten für das Sprachmodell und der Aufwand für die Pflege der Dokumente. Wie hoch die einzelnen Blöcke ausfallen, hängt vor allem von der Zahl der angebundenen Quellsysteme, der Dokumentenmenge und den Anforderungen an die Berechtigungen ab. Ein Teil der oben gelisteten Anbieter veröffentlicht konkrete Preise auf der eigenen Website – diese Angaben stehen jeweils im Eintrag.
Wie fange ich klein an?
Mit einem klar abgegrenzten Dokumentenbestand, der für alle sichtbar sein darf – etwa die Produktdokumentation oder eine FAQ-Sammlung. Damit umgehst du die Berechtigungsfrage im ersten Schritt und siehst schnell, ob die Antwortqualität überzeugt.
Umsetzung anfragen
Sag uns kurz, welche Dokumente durchsucht werden sollen. Wir sehen uns deine Anfrage an und leiten sie an die passenden Anbieter aus dem Verzeichnis weiter. Kostenlos und unverbindlich.
Wie wir mit deinen Daten umgehen, steht in unserer Datenschutzerklärung.
Weitere Themen: Vektordatenbank · KI-Server mieten · ChatGPT für Unternehmen
PontoIt 