Vektordatenbank.

Grundlage ist das Embedding: Ein Modell übersetzt jeden Textabschnitt in eine lange Zahlenreihe, deren Position im Raum die Bedeutung abbildet. Inhaltlich verwandte Abschnitte landen nahe beieinander, unabhängig von der gewählten Formulierung. Die Datenbank misst dann den Abstand zwischen dem Vektor der Anfrage und den gespeicherten Vektoren. Weil ein Vergleich mit jedem einzelnen Eintrag zu langsam wäre, arbeiten Vektordatenbanken mit Näherungsverfahren wie HNSW: Sie liefern nicht garantiert die exakt ähnlichsten Treffer, dafür aber sehr schnell praktisch immer die richtigen — ein bewusst eingegangener Tausch von Genauigkeit gegen Geschwindigkeit.

Im Betrieb entscheiden drei Details über die Qualität. Erstens die Zerlegung: Zu grosse Abschnitte verwässern die Bedeutung, zu kleine verlieren den Zusammenhang; brauchbar sind meist Abschnitte entlang der inhaltlichen Struktur mit etwas Überlappung. Zweitens die Metadaten. Jeder Abschnitt sollte Sprache, Datum, Quelle und Berechtigung mitführen, damit vor der Ähnlichkeitssuche gefiltert werden kann. Drittens die Kombination mit klassischer Stichwortsuche, denn reine Bedeutungssuche findet Artikelnummern, Eigennamen und Aktenzeichen schlecht. Diese hybride Suche mit anschliessendem Nachsortieren der besten Treffer ist heute der übliche Aufbau.

Eine eigene Vektordatenbank ist seltener nötig, als die Aufmerksamkeit für das Thema vermuten lässt. Bis in den Bereich einiger hunderttausend Abschnitte genügt oft eine bestehende relationale Datenbank mit Vektor-Erweiterung, was Betrieb und Datenschutz vereinfacht, weil keine zusätzliche Infrastruktur dazukommt. Spezialisierte Systeme lohnen sich bei sehr grossen Beständen, vielen gleichzeitigen Abfragen oder strikter Mandantentrennung. Die eigentliche Arbeit liegt ohnehin woanders: bei der Aktualität der Inhalte, der sauberen Zerlegung und der Frage, wer welche Abschnitte überhaupt sehen darf.

Ein Anwendungsfall aus einem mittelgrossen Betrieb: Eine interne Wissenssuche soll dreitausend Dokumente aus Projekten, Verträgen und Handbüchern durchsuchbar machen. Entscheidend ist hier die Reihenfolge — zuerst wird nach Berechtigung und Aktualität gefiltert, erst danach nach Ähnlichkeit gesucht, sonst zitiert die Antwort fröhlich einen Vertrag, den die fragende Person nie hätte sehen dürfen. Ergänzend läuft die Stichwortsuche mit, damit Projektnummern zuverlässig treffen. Und es braucht eine Regel für veraltete Dokumente: Was nicht mehr gilt, muss aus dem Bestand entfernt werden, sonst wird es überzeugend zitiert.