Was ist „RAG as a Service“?
RAG as a Service (RAGaaS) ist ein Managed-Service-Angebot, das die Infrastruktur hinter Retrieval-Augmented Generation (RAG) bereitstellt. RAG verankert ein KI-Modell im unternehmenseigenen Wissen, sodass die Antworten auf aktuellen, relevanten Unternehmensdaten basieren. Bei RAGaaS übernimmt ein Anbieter die Erfassung, Speicherung und den Abruf der Daten, während die Teams ihre Inhalte einbinden und darauf aufbauend Anwendungen entwickeln.
Die meisten RAGaaS-Angebote haben einen gemeinsamen Kern: die Erfassung von Dokumenten, deren Einbettung und Speicherung als Vektoren, eine Abrufebene sowie eine Schnittstelle zur Weitergabe des abgerufenen Kontexts an ein Sprachmodell. Über diesen Kern hinaus unterscheiden sich die Angebote hinsichtlich der unterstützten Datentypen, der Abruftechniken und des Automatisierungsgrades.
Amazon Bedrock Knowledge Bases ist ein Beispiel für RAGaaS. Dabei handelt es sich um einen Managed Service, bei dem AWS die Datenerfassung, Speicherung, Einbettung, Neurangfolge, Abrufoptimierung und Skalierung übernimmt.
Wie funktioniert „RAG as a Service“?
RAGaaS umfasst dieselben Schritte wie jedes andere RAG-System. Inhalte werden eingelesen, in Abschnitte unterteilt, in Embeddings umgewandelt und in einem Vektorindex gespeichert. Wenn ein Nutzer eine Frage stellt, durchsucht der Dienst den Index nach den relevantesten Passagen und gibt diese als Kontext zurück, den das Modell für seine Antwort verwenden kann.
Der Anbieter verwaltet die Skalierung, Indizierung und Abrufleistung über eine API. Entwickler senden Dokumente ein und rufen Wissen ab, und der Dienst übernimmt die dazwischenliegende Verarbeitung.
Welche Funktionen bietet eine RAGaaS-Plattform?
Zu den gängigen Funktionen gehören:
- Verwaltete Erfassung von Dokumenten, Bildern und anderen Dateitypen
- Automatisierte Chunking- und Embedding-Generierung
- Verwaltete Vektorspeicherung und Indizierung
- Semantische Suche und Neureihenfolge zur Verbesserung der Suchqualität
- Intelligente Segmentierung, die Dokumente für eine genauere Suche aufbereitet
- Zugriffskontrollen und Überwachung für den Einsatz in Unternehmen
Auch die Datenkonnektivität spielt eine wichtige Rolle. Unternehmenswissen ist über Anwendungen, Datenbanken, Dateisysteme und APIs verteilt, weshalb die Einbindung dieser Inhalte in die Wissensdatenbank ein wesentlicher Bestandteil jeder RAGaaS-Konfiguration ist.
Warum ist RAGaaS wichtig?
Der Aufbau eines RAG-Systems im eigenen Haus bedeutet, Datenpipelines, Dokumentenverarbeitung, Vektorspeicher und die Infrastruktur für den Datenabruf einzurichten und zu warten. Das ist ein erheblicher Aufwand, bevor sich überhaupt ein geschäftlicher Nutzen zeigt. RAGaaS verkürzt den Weg von den Rohdaten zu KI-gestützten Antworten, sodass sich die Teams auf Anwendungen und Anwendungsfälle konzentrieren können.
RAGaaS verlagert diese Ebenen in einen Managed Service. Bei Amazon Bedrock Knowledge Bases übernimmt AWS beispielsweise die Erfassung, Speicherung, Einbettung, Neurangfolge, Abrufoptimierung und Skalierung. Das Team behält die Kontrolle über die Datenquellen und die Anwendung, während der Anbieter sich um die zugrunde liegende Abrufinfrastruktur kümmert. Der Kompromiss besteht darin, dass weniger Anpassungen auf niedrigerer Ebene möglich sind – im Gegenzug dafür sind die Einrichtung schneller und der Betriebsaufwand geringer.
RAGaaS vs. herkömmliches RAG: Worin besteht der Unterschied?
Beim traditionellen RAG muss jede Ebene selbst aufgebaut und betrieben werden: Inhalte erfassen, für den Abruf aufbereiten, speichern, relevante Kontextinformationen abrufen und diese an ein Modell weiterleiten. Das Team ist für die Infrastruktur, die Feinabstimmung und die Skalierung verantwortlich.
RAGaaS verlagert diese Ebenen in einen Managed Service. Das Team behält die Kontrolle über die Datenquellen und die Anwendung, während der Anbieter die zugrunde liegende Abfrageinfrastruktur übernimmt. Der Kompromiss besteht darin, dass weniger Anpassungen auf niedrigerer Ebene möglich sind, dafür aber die Einrichtung schneller erfolgt und der Betriebsaufwand geringer ist.
Häufig gestellte Fragen (FAQ)
RAGaaS steht für „Retrieval-Augmented Generation as a Service“. Der Begriff bezeichnet einen Managed Service, der die hinter RAG stehende Abrufinfrastruktur betreibt.
Sprachmodelle wissen nur das, worauf sie trainiert wurden. RAGaaS verschafft ihnen Zugang zu aktuellen, unternehmensspezifischen Informationen und macht den Aufbau und die Wartung einer internen Infrastruktur für die Datenerfassung, -speicherung und -abfrage überflüssig.
Nein. Durch das Fine-Tuning wird das Verhalten eines Modells verändert, während RAG das Modell zum Zeitpunkt der Abfrage mit Fakten versorgt. Viele Teams nutzen RAG für Wissen, das sich häufig ändert, und Fine-Tuning für den Stil oder spezielle Aufgaben.
Die meisten Dienste unterstützen Dokumente wie PDFs, Word-Dateien und Webseiten. Einige verarbeiten auch Bilder und andere Multimedia-Inhalte. Strukturierte Daten aus Datenbanken und Anwendungen müssen in der Regel vor der Erfassung extrahiert und aufbereitet werden.
Das Modell gibt Antworten anhand von Passagen aus den abgerufenen Quellen, sodass die Antworten auf tatsächlichen Inhalten basieren. Viele Dienste liefern zudem Quellenangaben, anhand derer Nutzer überprüfen können, woher eine Antwort stammt.
Die Sicherheit hängt vom Anbieter ab. Achten Sie auf Verschlüsselung während der Übertragung und im Ruhezustand, Zugriffskontrollen, die bestehende Berechtigungen berücksichtigen, Optionen zur Datenspeicherung sowie klare Richtlinien dazu, ob Ihre Inhalte für das Modelltraining verwendet werden.
Eine hauseigene RAG-Lösung ist sinnvoll, wenn ein Team die volle Kontrolle über die Chunking-Verfahren, die Einbettungsmodelle oder die Abruflogik benötigt oder strenge Anforderungen daran stellt, wo die Daten verarbeitet werden dürfen. Teams, bei denen diese Anforderungen nicht bestehen, gelangen mit einem Managed Service oft schneller in die Produktionsphase.
Mit „Agentic RAG“ kann ein KI-Agent seine Informationsgewinnung selbst planen. Dabei wird eine komplexe Frage in Teilabfragen zerlegt, die Informationen werden schrittweise abgerufen und die Ergebnisse zu einer einzigen Antwort zusammengefasst. Amazon Bedrock Knowledge Bases unterstützt dies durch seine Funktion zur agentenbasierten Informationsgewinnung.
