Die erste Frage beim RAG-Aufbau lautet meist, welche Vektordatenbank es sein soll. Für die meisten Unternehmen ist die Antwort langweiliger als erwartet.
01. pgvector genügt vermutlich
Wenn Sie ohnehin PostgreSQL betreiben, deckt pgvector die meisten Unternehmensszenarien bequem ab und verkraftet zweistellige Millionenzahlen an Vektoren. Sie behalten Sicherung und Rechtevergabe und betreiben kein zusätzliches System.
02. Die verwaltete Option
Wollen Sie keinen Betriebsaufwand, gibt es verwaltete Dienste; Einrichtung und Skalierung sind nicht Ihre Aufgabe. Dafür liegen die Daten außerhalb und die Kosten wachsen mit dem Volumen.
03. Sehr großer Maßstab
Brauchen Sie Milliarden Vektoren in eigener Infrastruktur, wechselt man zu dafür gebauten Systemen. In dieses Band fallen weit weniger Unternehmen, als annehmen es zu tun.
04. Die Suchmaschinen-Alternative
Haben Sie bereits eine Unternehmenssuche, unterstützen die meisten inzwischen auch Vektorsuche. Auf der bestehenden Investition aufzubauen, ohne eine Komponente hinzuzufügen, ist oft der reibungsärmste Weg.
05. Was die Qualität wirklich bestimmt
Die Datenbankwahl gehört nicht zu den drei wichtigsten Faktoren der RAG-Qualität. Abschnittsbildung, Einbettungsmodell und Suchentwurf wiegen deutlich schwerer. Hier Wochen zu investieren zielt an der falschen Stelle.
06. Austauschbar halten
Kapseln Sie die Suchschicht von der Anwendung ab. Dann bedeutet ein Wechsel bei wachsendem Volumen keine Neuentwicklung der Anwendung.