Speicher für Embeddings

Was ist eine Vektordatenbank?

Vector Database

Eine Vektordatenbank speichert Texte, Bilder oder Audio als Zahlenvektoren und findet zu einer Anfrage die inhaltlich ähnlichsten Einträge. Anders als eine klassische Datenbank prüft sie dabei nicht auf exakte Übereinstimmung von Werten, sondern sucht nach Nähe im Vektorraum.

Sobald ein Assistent Fragen zu deinen eigenen Handbüchern und Verträgen beantworten soll, braucht er einen Speicher, der nach Bedeutung sucht statt nach Stichwort.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt

Gehört zu: Retrieval Augmented Generation
Speichert: Embeddings, also Zahlenvektoren
Typisch bei: Suche in eigenen Dokumenten und Handbüchern
Verwechselt mit: Volltextsuche

Ähnlichkeit statt exakter Übereinstimmung

Jeder Eintrag bekommt über ein Embedding-Modell eine Liste von Zahlen, die seine Bedeutung als Punkt in einem hochdimensionalen Raum beschreibt. Bei einer Anfrage wird dieselbe Umrechnung auf die Frage angewendet, danach sucht die Datenbank die nächstgelegenen Punkte, meist über den Kosinusabstand.

Praktisch heißt das: Wer nach dem Urlaubsantrag sucht, findet auch das Dokument, in dem nur von Ferien und Freistellung die Rede ist. Genau dafür lohnt sich der Aufwand, denn eine reine Stichwortsuche geht in diesem Fall leer aus.

Index und Hybrid Search

Jeden Vektor mit jedem zu vergleichen ist bei großen Beständen zu langsam. Deshalb arbeiten die Systeme mit Näherungsverfahren wie HNSW oder IVF, die nur einen Teil des Raums absuchen. Der Preis dafür ist, dass gelegentlich ein passender Treffer durchrutscht, und wie oft das passiert, steuerst du über die Indexparameter.

In der Umsetzung gewinnt fast immer die Kombination: Stichwortsuche für Produktnummern, Namen und Fehlercodes, Vektorsuche für die Bedeutung, beides zusammengeführt. Dazu kommen Metadatenfilter, mit denen Mandant, Abteilung und Berechtigung schon in der Suche selbst wirken.

Typische Fehler beim Aufbau

Der Klassiker ist der stille Modellwechsel. Vektoren aus zwei verschiedenen Embedding-Modellen sind nicht vergleichbar, ein Wechsel bedeutet also, den kompletten Bestand neu zu berechnen. Wer das nicht eingeplant hat, steht mit einem Index da, der plötzlich Unsinn liefert.

Der zweite Klassiker ist das Filtern zur falschen Zeit. Wer erst die zwanzig ähnlichsten Treffer holt und dann nach Berechtigung filtert, bekommt am Ende drei Ergebnisse oder gar keins. Der Filter gehört in die Suche hinein, und ob deine Datenbank das kann, solltest du vor der Auswahl prüfen.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt

Nicht verwechseln

Vektordatenbank und was oft damit gleichgesetzt wird

Vektordatenbank gegen Embedding

Das Embedding ist der Vektor selbst, erzeugt von einem eigenen Modell. Die Vektordatenbank erzeugt ihn nicht, sie speichert ihn und macht ihn schnell durchsuchbar.

Vektordatenbank gegen Volltextsuche

Eine Volltextsuche vergleicht Wörter und Wortstämme und ist bei Nummern, Namen und exakten Formulierungen überlegen. Die Vektorsuche vergleicht Bedeutung und findet auch andere Formulierungen desselben Sachverhalts.

Vektordatenbank gegen Graphdatenbank

Eine Graphdatenbank bildet Beziehungen zwischen Objekten ab und beantwortet Fragen nach Wegen und Verknüpfungen. Ähnlichkeit spielt dort keine Rolle, dafür Struktur.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt

In der Praxis

Die Qualität entsteht vor der Datenbank, nicht in ihr

Fast jedes enttäuschende Ergebnis lässt sich auf die Zerlegung der Dokumente zurückführen. Wird ein Handbuch stur nach Zeichenzahl geschnitten, reißt der Schnitt Tabellen auseinander und trennt eine Überschrift von der Regel, die darunter steht. Der gefundene Abschnitt sieht dann passend aus und enthält trotzdem nicht die Aussage, nach der jemand gesucht hat.

Der zweite Klassiker sind Rechte. Die Datenbank kennt zunächst nur Vektoren und nicht die Frage, wer ein Dokument sehen darf. Ohne Metadaten je Abschnitt und ohne Filter bei der Abfrage beantwortet der Assistent Fragen aus Personalunterlagen genauso bereitwillig wie aus dem öffentlichen Wiki.

Und der Index veraltet still. Wenn niemand geregelt hat, was beim Löschen oder Ändern eines Dokuments passiert, bleiben alte Abschnitte liegen und werden weiter ausgeliefert. Ein Feld mit Quelle und Stand je Eintrag kostet wenig und macht genau solche Fälle sichtbar.

Vektordatenbank lernen

Wie ein solches System vom Embedding bis zur Abfrage zusammengesetzt wird, bauen die Schulungen zu Architektur und Aufbau von KI-Systemen Schritt für Schritt auf.

Was oben auf der Suche aufsetzt, von der Antwortgenerierung bis zur Bewertung, gehört in die Kurse zum Aufbau von Anwendungen rund um Sprachmodelle .

Kurse, die Vektordatenbank behandeln

Häufige Fragen

Brauche ich wirklich ein eigenes System dafür?

Nicht unbedingt. Für überschaubare Bestände reicht oft eine Erweiterung der vorhandenen Datenbank oder der bestehenden Suchmaschine. Ein spezialisiertes System lohnt sich, wenn Menge, Antwortzeiten oder Filterlogik die vorhandene Lösung überfordern.

Was passiert, wenn ich das Embedding-Modell wechsle?

Dann musst du alle gespeicherten Vektoren neu berechnen. Alte und neue Vektoren liegen in unterschiedlichen Räumen, ein gemischter Index liefert Treffer, die nichts mit der Anfrage zu tun haben.

Wie bekomme ich Zugriffsrechte in die Suche?

Über Metadaten am Eintrag, etwa Abteilung oder Dokumentklasse, die schon während der Suche als Filter wirken. Ein Nachfiltern der fertigen Trefferliste kostet dagegen Treffer: Von zwanzig Kandidaten bleibt nach der Rechteprüfung oft nur eine Handvoll übrig, und das passendste erlaubte Dokument stand vielleicht auf Platz fünfzig.

Persönlich für dich da