Mit einer echten Suchaufgabe anfangen
„Wo liegt das Formular für Reisekosten?“ lässt sich häufig mit einer guten Suche und einer klaren Ablage beantworten. „Welche Regel gilt für eine Reise mit privatem Anschlussaufenthalt?“ verlangt möglicherweise das Zusammenführen mehrerer Abschnitte. Dafür kann eine Antwort mit Fundstellen hilfreich sein.
Schreiben Sie einige typische Fragen auf, bevor Sie ein System auswählen. Notieren Sie, ob Nutzer nur ein Dokument benötigen oder eine Erklärung aus mehreren Quellen. So wird sichtbar, welcher Teil der Arbeit überhaupt durch eine generierte Antwort leichter würde.
Was RAG technisch ergänzt
RAG steht für Retrieval-Augmented Generation. Dabei erhält ein Sprachmodell passende Inhalte aus einer Suche als Grundlage für seine Antwort. Microsoft beschreibt diese Verbindung in seiner RAG-Übersicht.
Das Ergebnis hängt an zwei Stellen: Die Suche muss geeignete Inhalte finden, und die Antwort muss diese korrekt wiedergeben. Ein besser formulierender Chatbot hilft wenig, wenn die relevante aktuelle Richtlinie gar nicht im Suchbestand liegt.
Wie eine Suche ähnliche Formulierungen findet, erläutert der Beitrag Embeddings einfach erklärt. Das hilft bei der Einordnung, warum eine thematisch ähnliche Fundstelle noch keine passende Antwort garantieren muss.
Wann eine bessere Ablage zuerst hilft
Wenn fünf widersprüchliche Fassungen desselben Merkblatts vorhanden sind, braucht das Unternehmen zunächst eine gültige Fassung und eine Zuständigkeit. RAG kann diesen Konflikt sichtbar machen, aber nicht eigenmächtig entscheiden, welche Regel gelten soll.
Auch fehlendes Wissen lässt sich nicht durch eine Suchoberfläche ersetzen. Wenn die Ausnahme nur einer erfahrenen Kollegin bekannt ist, muss sie zunächst dokumentiert werden. Für wenige oft gesuchte Dokumente kann eine gepflegte Linkliste bereits ausreichen.
Ein Vergleich ohne große Einführung
Wählen Sie einen begrenzten Dokumentenbestand und beantworten Sie dieselben Fragen mit der bisherigen Suche und einem RAG-Test. Erfassen Sie Zeit bis zur brauchbaren Antwort, Richtigkeit und nötige Rückfragen. Prüfen Sie besonders Fragen, auf die der Bestand keine Antwort enthält.
Ein guter Test zeigt außerdem die Fundstelle direkt an. Die prüfende Person sollte nicht blind auf den Antworttext vertrauen müssen. Unklare oder widersprüchliche Informationen gehören sichtbar in die Ausgabe.
Die Entscheidung an der Nutzung festmachen
RAG verursacht neben der Einrichtung laufende Arbeit für Aktualisierung, Berechtigungen und Qualitätsprüfung. Diese Arbeit sollte zum erwarteten Nutzen passen. Wenn Nutzer nur einmal im Monat ein bekanntes Formular suchen, ist eine zusätzliche Antwortgenerierung möglicherweise unnötig.
Wenn dagegen regelmäßig dieselben fachlichen Rückfragen entstehen und verlässliche Unterlagen vorhanden sind, kann ein begrenzter Wissensassistent sinnvoll sein. Beginnen Sie mit diesem Bereich und messen Sie, ob tatsächlich weniger Such- und Rückfragearbeit anfällt.
Quellen und weiterführende Grundlagen
Über den Autor
Julian Süllner hat Provehor gegründet und führt das Unternehmen als Geschäftsführer. Er verantwortet Produktentwicklung, Kundenprojekte und die Ratgeber auf dieser Website.