Chroma

Chroma ist quelloffene Suchinfrastruktur für Vektorsuche, Volltext, Regex und Metadatenfilter. Du kannst sie lokal als Library nutzen oder Chroma Cloud als gemanagten Dienst einsetzen. Für einen lokalen Start brauchst du kein Chroma-Konto und keinen Chroma-API-Key; ein eigenes Embedding-Modell bleibt deine Aufgabe.

Was es kann

• Embeddings speichern und nach Bedeutung durchsuchen, direkt eingebettet in deine Python- oder TypeScript-App. Eine Zeile import, schon hast du eine Vektor-DB.
• Mehrere Suchtypen nebeneinander: Vektorsuche, Volltext, Regex und Metadaten-Filter. Du kombinierst Bedeutung mit harten Kriterien wie Datum oder Quelle.
• Lokal entwickeln, später unverändert als Chroma Cloud betreiben. Derselbe Code, kein Tool-Wechsel beim Schritt vom Prototyp in den Betrieb.

Wann's was bringt, und wann nicht

Stark immer dann, wenn du schnell ins Bauen kommen willst. Chroma ist leicht, du brauchst keine Infrastruktur, und für ein Seminarprojekt oder den ersten RAG-Prototyp ist genau das Gold wert. Die Hürde von Idee zu laufendem Code ist niedriger als bei allen anderen hier.

Der Preis dafür: weniger Features als die schwereren Systeme. Eine echte Modellanbindung direkt in der DB hat Chroma nicht, die Embeddings musst du selbst anliefern. Bei richtig großen Datenmengen mit feinen Filtern und erweitertem Feature-Set spielt Qdrant seine Stärken aus. Und sobald du self-hostest, kümmerst du dich selbst um Betrieb und Skalierung. Ganz ehrlich: für ein kleines Studi-Projekt ohne echten Datenberg ist eine Vektordatenbank oft eh Overkill, da reicht ein simpler Ansatz.

Alternativen

• Qdrant — wenn du hohe Performance bei großen Datenmengen und feine Filter brauchst.

Beispiel-Workflow

Eine RAG-App entsteht selten mit einem Tool. Chroma sitzt als Gedächtnis in der Mitte:

1. Dokumente vektorisieren, mit einem Embedding-Modell von Hugging Face. Chroma bringt selbst keins mit.
2. Die Vektoren landen in einer lokal eingebetteten Chroma-Instanz. Eine LangChain-Pipeline kümmert sich ums Retrieval und reicht die Treffer ans Modell weiter.
3. Den fertigen LangGraph-Agenten testest du erst komplett offline gegen die lokale Instanz. Läuft alles, ziehst du bei Bedarf in die Chroma Cloud um, derselbe Code.

Pricing

Open Source und lokale Nutzung stehen unter Apache-2.0 und sind kostenlos. Chroma Cloud ist nutzungsbasiert: Starter kostet 0 $/Monat plus Verbrauch und enthält 5 $ Free Credits, Team kostet 250 $/Monat plus Verbrauch und enthält 100 $ Guthaben, Enterprise ist individuell. Abgerechnet wird nach Schreiben, Storage, Queries und Netzwerk. Ein Studi-Programm war auf der geprüften Preisseite nicht ausgewiesen.

Passt zu dir, wenn du mit etwas Programmiererfahrung deine erste RAG- oder Semantic-Search-App baust und ohne Setup-Aufwand und ohne Anbieterbindung loslegen willst.