Replicate

Replicate

Replicate führt fertige KI-Modelle als API aus, du musst nichts hosten. Bild-, Video-, Audio- oder Text-Modelle stehen im Katalog bereit, du schickst einen API-Call und kriegst das Ergebnis zurück. Abgerechnet wird pro Lauf oder pro Sekunde Rechenzeit. Der Reiz: tausende Open-Source-Modelle, die jemand schon für dich verpackt hat, plus die Option, dein eigenes über Cog dazuzupacken.

Was es kann

• Fertige Modelle aus dem Katalog mit ein paar Zeilen Code aufrufen, von FLUX für Bilder über Video-Modelle bis zu offenen LLMs. Kein Server, keine GPU, keine Treiber.
• Ein Modell mit eigenen Daten fine-tunen und die angepasste Version als eigenen Endpoint betreiben.
• Dein eigenes Modell mit Cog verpacken und deployen. Cog kümmert sich um Docker, GPU-Setup und die API drumherum, Replicate skaliert es je nach Last hoch und runter.

Wann's was bringt, und wann nicht

Stark, wenn du ein Modell in dein Projekt einbauen willst und keine Lust auf Infra hast. Du klickst dir im Katalog ein Modell aus, kopierst den Call und hast in fünf Minuten Bilder generiert oder Audio transkribiert. Genau dafür ist Replicate gebaut: Modell rein, Ergebnis raus, du zahlst nur die Läufe.

Der Haken sitzt beim Pricing. Public Models zahlst du pro Lauf, das ist günstig und ehrlich. Sobald du aber ein eigenes oder fine-getuntes Modell deployst, läuft die Uhr auch im Leerlauf, weil dein Container warm gehalten wird. Ein vergessener Endpoint kann da still Geld fressen. Und es bleibt ein Programmierer-Werkzeug. Ohne Code kommst du nicht weit.

Wenn du eigenen Python-Code mit GPU fahren willst statt nur ein Modell anzutippen, nimm Modal, da schreibst du die Funktion selbst. Brauchst du offene Chat-Modelle mit einer OpenAI-kompatiblen API, ist Together AI direkter. Und soll das Modell lokal auf deiner Maschine laufen, ohne Cloud-Kosten, dann ist Ollama der Weg.

Alternativen

• Modal — wenn du eigenen Code mit GPU laufen lässt, nicht nur ein fertiges Modell aufrufst.
• Together AI — offene LLMs als gehosteter Chat-Endpoint mit OpenAI-kompatibler API.
• Hugging Face — zum Suchen und Teilen von Modellen, bevor du eins über Replicate ausführst.
• Ollama — wenn das Modell lokal auf deinem Rechner laufen soll statt in der Cloud.

Beispiel-Workflow

Replicate ist meist nicht die ganze App, sondern der Modell-Teil dahinter. Ein typisches Setup:

1. Auf Hugging Face das passende Modell finden. Viele liegen schon fertig verpackt auf Replicate, sonst packst du es selbst mit Cog.
2. Den API-Call in Cursor in dein Projekt schreiben und gegen das echte Modell testen, bis Ein- und Ausgabe sitzen.
3. Das Frontend über das Vercel AI SDK anbinden, damit deine App die Replicate-Modelle direkt anspricht.

Pricing

Pay-as-you-go, kein Free-Abo, aber auch keine monatliche Grundgebühr. Du zahlst nur, was du nutzt. Public Models laufen pro Output, etwa rund 0,04 $ pro FLUX-1.1-Pro-Bild oder ein paar Cent pro Sekunde Video, LLMs nach Tokens. Eigene und fine-getunte Modelle zahlst du nach GPU-Sekunde, je nach Karte: T4 rund 0,000225 $/s (0,81 $/h), A100 (80 GB) rund 0,0014 $/s (5,04 $/h), H100 rund 0,001525 $/s (5,49 $/h). Wichtig: bei privaten Deployments läuft die Abrechnung auch im Idle weiter, nicht nur während der aktiven Verarbeitung. Ein Studi-Programm gibt's nicht. Aktuelle Zahlen stehen auf replicate.com/pricing, die ändern sich.

Passt zu dir, wenn du mit etwas Programmiererfahrung ein fertiges Modell in dein Projekt holen willst, ohne selbst GPUs zu betreiben.