Together AI

Together AI

Together AI ist die Plattform für alle, die mit offenen Modellen arbeiten wollen, ohne sich an eine große Cloud zu binden. Llama, Qwen, DeepSeek, Mistral und Co. laufen hier über eine API, schnell und ziemlich günstig. Und es bleibt nicht beim Ausführen: du kannst ein offenes Modell mit deinen eigenen Daten fine-tunen und die angepasste Version direkt als Endpoint deployen. Inferenz, Fine-Tuning, GPUs, alles an einem Ort.

Was es kann

• Offene Modelle über eine API ansprechen, ohne eigene Hardware. Llama 3.3, Qwen, DeepSeek, Mistral, dazu Image- und Audio-Modelle.
• Ein Modell mit deinen Daten fine-tunen, per LoRA oder Full Fine-Tuning, und die angepasste Version als ansprechbaren Endpoint bereitstellen.
• Dedizierte GPUs oder ganze Cluster mieten, wenn ein eigener Trainingslauf oder konstante Last ansteht. Stundenweise abgerechnet, kein langer Commit nötig.

Wann's was bringt, und wann nicht

Stark, wenn du bewusst auf offene Modelle setzt und die Kontrolle behalten willst. Du bist nicht an einen geschlossenen Anbieter gebunden, die Token-Preise liegen meist klar unter dem, was die großen Closed-Source-Modelle kosten, und Fine-Tuning plus Deployment hängen an derselben Plattform. Für ein Projekt, das ein eigenes, auf deine Daten angepasstes Modell braucht, ist das ein echter Vorteil.

Der Haken: das setzt Programmiererfahrung voraus. Du arbeitest mit API-Keys, Endpoints und beim Fine-Tuning auch mit dem Modell selbst. Geht's dir nur um maximales Tempo bei ein paar Modellen, ist GroqCloud darauf spezialisiert. Und für ein kleines Studi-Projekt, das einfach ein Modell antippen will, ist ein direkter API-Zugang oft genug, ohne dass du je ans Fine-Tuning denken musst.

Alternativen

• GroqCloud — wenn nur das Tempo zählt und du wenige Modelle so schnell wie möglich brauchst.
• Replicate — wenn du nur ein fertiges Modell per API ausführen willst, ohne Fine-Tuning-Apparat.
• Hugging Face — zum Suchen und Teilen offener Modelle, bevor du sie irgendwo laufen lässt.

Beispiel-Workflow

Together ist selten der ganze Stack, eher das Modell-Backend für offene Modelle. Ein typischer Weg:

1. Auf Hugging Face suchst du dir ein passendes offenes Modell raus.
2. Über Together führst du es als API aus, oder du fine-tunst es vorher mit deinen eigenen Daten und deployst die angepasste Version als Endpoint.
3. Die Anbindung schreibst du in Cursor und prüfst die Antworten. Wird's ein mehrstufiger Agent, baust du den Ablauf in LangGraph und lässt jeden Knoten über deinen Together-Endpoint laufen.

Pricing

Pay-per-use, und du zahlst pro Dimension getrennt: Token bei Text-Modellen, Stunden bei GPUs. Die Token-Preise sind niedrig, Llama 3.3 70B liegt grob bei 1 $ pro Million Token rein wie raus, kleinere Modelle noch deutlich darunter. Fine-Tuning wird ebenfalls pro Token abgerechnet, LoRA ab rund 0,50 $ pro Million bei kleinen Modellen. Dedizierte GPUs gibt's stundenweise, eine H100 liegt bei etwa 6 $ die Stunde. Ein zugesichertes Free-Programm oder eigenes Studi-Angebot habe ich nicht gefunden, anlegen und nach Verbrauch zahlen ist der Einstieg. Aktuelle Zahlen stehen auf der Pricing-Seite, die ändern sich öfter.

Passt zu dir, wenn du mit Programmiererfahrung auf offene Modelle setzt und sie ausführen, fine-tunen und deployen willst, ohne dich an eine große Cloud zu hängen.