Datenschutz · Wissens-RAG

RAG und Datenschutz: Was beim Aufbau eines Wissens-RAG datenschutzrechtlich zu klären ist

Ein Wissens-RAG verarbeitet oft genau die Dokumente, die in einem Unternehmen am sensibelsten sind: interne Protokolle, Kundenkorrespondenz, Personalvermerke, Konstruktionsunterlagen. Bevor ein solches System aufgesetzt wird, lohnt sich ein nüchterner Blick auf die datenschutzrechtlichen Fragen, die dabei entstehen, unabhängig davon, welcher Anbieter das System baut.

RAG ist kein Training, sondern Abruf, das ändert die Betrachtung

Bei Retrieval-Augmented Generation fließen die eigenen Dokumente nicht in das Training eines Sprachmodells ein. Stattdessen werden sie durchsuchbar gemacht, meist über eine Vektordatenbank, und bei einer Anfrage werden die passenden Ausschnitte an das Sprachmodell übergeben, das daraus eine Antwort formuliert. Datenschutzrechtlich ist das ein Vorteil gegenüber einem Fine-Tuning: Die Dokumente werden nicht dauerhaft in den Modellgewichten verankert, sondern bleiben als eigener, abgrenzbarer Datenbestand erhalten und lassen sich gezielt einsehen, korrigieren oder löschen. Das entbindet aber nicht von der Pflicht, jeden Verarbeitungsschritt sauber einzuordnen.

Wer ist verantwortlich? Auftragsverarbeitung nach Art. 28 DSGVO

Wird ein Wissens-RAG von einem externen Anbieter aufgebaut oder betrieben, ist in aller Regel eine Auftragsverarbeitung im Sinne von Art. 28 DSGVO gegeben: Das Unternehmen bleibt datenschutzrechtlich Verantwortlicher, der Anbieter verarbeitet die Dokumente ausschließlich nach dessen Weisung. Das setzt einen Auftragsverarbeitungsvertrag (AVV) voraus, der unter anderem regelt, wo die Daten liegen, wer Zugriff hat, welche technischen und organisatorischen Maßnahmen nach Art. 32 DSGVO gelten und was im Fall einer Kündigung mit dem Datenbestand geschieht. Läuft das System vollständig im eigenen Haus, verschiebt sich die Frage: Dann ist vor allem zu klären, wer intern auf welche Inhalte zugreifen darf und wie diese Zugriffsrechte technisch durchgesetzt werden.

Zweckbindung und Datenminimierung im Wissensbestand

Ein Wissens-RAG wird oft mit möglichst vielen vorhandenen Dokumenten befüllt, weil mehr Kontext auf den ersten Blick bessere Antworten verspricht. Datenschutzrechtlich ist das nicht automatisch unproblematisch: Personenbezogene Daten, die in Protokollen, E-Mails oder Personalunterlagen stecken, dürfen nur so weit in den Wissensbestand aufgenommen werden, wie es der Zweck des Systems tatsächlich erfordert. In der Praxis heißt das, den Dokumentenbestand vor der Aufnahme zu sichten, offensichtlich zweckfremde personenbezogene Angaben herauszufiltern oder zu schwärzen und den Bestand regelmäßig daraufhin zu prüfen, ob er noch aktuell und erforderlich ist.

Betroffenenrechte in einer Vektordatenbank sind kein Nebenschauplatz

Wenn ein Dokument personenbezogene Daten enthält, gelten die üblichen Betroffenenrechte auch dann, wenn dieses Dokument in Textabschnitte zerlegt und als Vektor gespeichert wurde. Auskunfts- und Löschbegehren müssen technisch nachvollzogen werden können: Welche Chunks stammen aus welchem Ausgangsdokument, und wie wird sichergestellt, dass eine gelöschte Quelle auch aus dem Index und aus etwaigen Zwischenspeichern verschwindet. Wer diese Zuordnung nicht von Anfang an mitdenkt, steht bei einer konkreten Anfrage vor einer aufwendigen Nachrecherche. Ein sauber aufgesetztes System hält diese Rückverfolgbarkeit von Beginn an vor.

Die eigentliche Weiche: welches Sprachmodell die Antwort erzeugt

Der datenschutzrechtlich empfindlichste Schritt ist oft nicht die Vektordatenbank, sondern die Übergabe der gefundenen Textausschnitte an das Sprachmodell, das daraus eine Antwort formuliert. Läuft dieses Modell bei einem Anbieter außerhalb der EU, stellt sich die Frage einer Drittlandübermittlung nach Art. 44 ff. DSGVO, mit den entsprechenden Nachweisen und Garantien. Läuft das Antwort-Modell dagegen lokal im Haus des Kunden oder bei einem Anbieter mit Sitz und Verarbeitung in der EU, entfällt dieses Thema weitgehend. Das ist der Kern dessen, was ein souveränes Wissens-RAG von vielen Cloud-Angeboten unterscheidet: nicht die Suche selbst, sondern die Frage, wohin die gefundenen Inhalte zur Beantwortung geschickt werden.

Ein Thema, das auch die Aufsicht inzwischen beschäftigt

RAG-Systeme sind kein rein technisches Nischenthema mehr geblieben. Auch deutsche Datenschutzaufsichtsbehörden befassen sich mittlerweile mit den datenschutzrechtlichen Besonderheiten von KI-Systemen mit Retrieval-Augmented Generation. Das unterstreicht, dass die oben genannten Fragen, Verantwortlichkeit, Zweckbindung, Betroffenenrechte und Drittlandbezug, keine theoretische Übung sind, sondern beim Aufbau eines Wissens-RAG von Anfang an mitgedacht werden sollten, statt sie nachträglich zu klären.

Wie Provehor das in der Praxis löst

Provehor baut Wissens-RAGs, die vollständig im Haus des Kunden oder in einer dedizierten, vertraglich klar geregelten Umgebung laufen. Dazu gehören ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, eine Sichtung des Dokumentenbestands vor der Aufnahme in die Wissensbasis, eine dokumentierte Zuordnung von Textabschnitten zu Ausgangsdokumenten für Auskunfts- und Löschbegehren und ein frei wählbares Antwort-Modell, lokal oder als EU-Cloud-Modell, damit eine Drittlandübermittlung erst gar nicht zum Thema wird.