Chatbots & Wissen
RAG
Retrieval-Augmented Generation (RAG) ist eine Technik, die Sprachmodelle mit externen Unternehmensdaten verbindet, um Antworten präzise auf belegbare Fakten zu stützen.
Erklärung
Große Sprachmodelle verfügen zwar über ein enormes Allgemeinwissen, kennen jedoch weder interne Unternehmensunterlagen noch tagesaktuelle Informationen. RAG löst dieses Problem durch eine clevere Zweiteilung: Statt sich rein auf das Vorwissen des Modells zu verlassen, wird bei jeder Nutzeranfrage zunächst eine gezielte Suche in einer internen Dokumentensammlung durchgeführt.
Der Ablauf gliedert sich in drei Schritte: Zuerst sucht das System relevante Abschnitte in den hinterlegten Firmenunterlagen (Retrieval). Anschließend werden diese Textstellen zusammen mit der Frage an das Sprachmodell übergeben (Augmentation). Erst dann formuliert das Modell die finale Antwort auf Basis dieses gelieferten Materials (Generation). Das Verfahren lässt sich mit einer Prüfung mit offenem Schulbuch vergleichen: Das Modell muss Fakten nicht auswendig wissen, sondern fasst gefundene Passagen strukturiert zusammen.
Die Qualität des Gesamtsystems steht und fällt mit der Genauigkeit der Suchkomponente. Werden unpassende Textbausteine an das Modell geliefert, kann auch die generierte Antwort das Problem nicht lösen.
In der Praxis
In mittelständischen Betrieben macht RAG seitenlange Handbücher, Garantiebedingungen und interne Leitfäden sekundenschnell abfragbar. Über unsere Lösungen für präzise Wissensassistenten und RAG-Systeme binden wir Ihre Dokumente so an, dass jede Aussage mit einem direkten Quellennachweis versehen wird.