Was ist eine Vektordatenbank?

So läuft eine Ähnlichkeitssuche ab

Eine Vektordatenbank sucht nicht nach Wörtern, sondern nach Bedeutung. Damit das funktioniert, durchläuft jeder Inhalt dieselben Schritte, und jede Anfrage wird auf dieselbe Weise umgerechnet:

1. 1

   Zerlegen

   Lange Dokumente werden in Abschnitte geteilt, sogenannte Chunks, damit ein Treffer auf eine konkrete Stelle zeigt und nicht auf ein ganzes Handbuch.

2. 2

   Einbetten

   Ein Embedding-Modell rechnet jeden Abschnitt in eine Liste von einigen hundert bis einigen tausend Zahlen um, die seine Bedeutung als Punkt im Raum beschreibt.

3. 3

   Speichern

   Die Datenbank legt den Vektor zusammen mit Metadaten ab, etwa Quelle, Stand, Abteilung und Berechtigung.

4. 4

   Anfrage umrechnen

   Die Frage wird mit demselben Modell in einen Vektor übersetzt, sonst sind die Zahlen nicht vergleichbar.

5. 5

   Nächste Nachbarn suchen

   Über einen Index findet die Datenbank die Vektoren mit dem geringsten Abstand zur Anfrage und wendet dabei die Metadatenfilter an.

6. 6

   Treffer weitergeben

   Die passenden Abschnitte gehen an die Anwendung zurück, bei Retrieval Augmented Generation an ein Sprachmodell, das daraus die Antwort formuliert.

Praktisch heißt das: Wer nach dem Urlaubsantrag sucht, findet auch das Dokument, in dem nur von Ferien und Freistellung die Rede ist. Eine reine Stichwortsuche geht in diesem Fall leer aus.

Abstandsmaße: woran die Datenbank Ähnlichkeit misst

Ähnlich heißt in einer Vektordatenbank: nah beieinander. Wie die Nähe gemessen wird, legst du beim Anlegen einer Sammlung oder eines Index fest. Drei Maße sind üblich:

Sind die Vektoren auf die Länge eins normiert, liefern alle drei Maße dieselbe Rangfolge. Welches Maß passt, gibt meist das Embedding-Modell in seiner Dokumentation vor, und daran solltest du dich halten.

Index und Hybrid Search

Jeden Vektor mit jedem zu vergleichen ist bei großen Beständen zu langsam. Deshalb arbeiten die Systeme mit Näherungsverfahren für die Suche nach nächsten Nachbarn, englisch Approximate Nearest Neighbor. Verbreitet sind HNSW, ein mehrschichtiger Graph, über den die Suche in wenigen Sprüngen zum Ziel kommt, und IVF, das den Raum in Cluster teilt und nur die nächstgelegenen durchsucht. Der Preis dafür ist, dass gelegentlich ein passender Treffer durchrutscht, und wie oft das passiert, steuerst du über die Indexparameter.

In der Umsetzung gewinnt fast immer die Kombination: Stichwortsuche für Produktnummern, Namen und Fehlercodes, Vektorsuche für die Bedeutung, beides zusammengeführt. Diese Hybrid Search bieten viele Systeme inzwischen eingebaut an. Dazu kommen Metadatenfilter, mit denen Mandant, Abteilung und Berechtigung schon in der Suche selbst wirken statt erst danach.

Eigenes System oder Erweiterung der vorhandenen Datenbank

Eine Vektordatenbank muss kein neues Produkt sein. Viele Datenbanken und Suchmaschinen beherrschen die Vektorsuche inzwischen selbst, und die Wahl hängt vor allem davon ab, wo deine Daten heute liegen:

Für Prototypen reicht oft eine eingebettete Bibliothek wie Chroma, die ohne eigenen Server läuft. Ein spezialisiertes System lohnt sich, wenn Menge, Antwortzeiten oder Filterlogik die vorhandene Lösung überfordern, und nicht schon deshalb, weil ein KI-Projekt beginnt.