Modal

Modal

Modal ist Serverless-Compute für Python. Du schreibst deinen Code, dekorierst eine Funktion, und Modal führt sie in der Cloud aus, mit GPU wenn du willst. Kein Server, kein Docker-Setup, keine Kubernetes-Yaml. Die Funktion fährt hoch wenn sie gebraucht wird und wieder runter wenn sie fertig ist. Gedacht ist das für Leute, die eigenen ML- oder Datencode laufen lassen wollen und nicht nur ein fertiges Modell anklicken.

Was es kann

• Eine Python-Funktion mit GPU laufen lassen, ohne eine Maschine zu mieten oder zu konfigurieren. Du sagst "gib mir eine A100", Modal kümmert sich um den Rest.
• Batch-Jobs und Trainingsläufe parallelisieren: dieselbe Funktion fächert über hunderte Container auf, jeder bekommt ein Stück der Arbeit.
• Fremden oder ungeprüften Code abgeschottet ausführen, statt ihn auf deiner eigenen Maschine laufen zu lassen.
• Die ganze Infra in Python beschreiben: Abhängigkeiten, Hardware, Secrets, Zeitpläne stehen im selben Code wie deine Logik. Lokal entwickeln, dann hochskalieren.

Wann's was bringt, und wann nicht

Stark, wenn du eigenen Python-Code mit echter Rechenleistung verheiraten willst und keine Lust auf Infra-Gefummel hast. Ein Fine-Tuning anstoßen, ein Dataset durch ein Modell jagen, einen Cron-Job mit GPU, das ist Modals Heimspiel. Du zahlst nur die Sekunden, in denen wirklich gerechnet wird, und musst nichts dauerhaft laufen lassen.

Der Haken: das ist ein Programmierer-Werkzeug. Ohne Python kommst du nicht weit, und wenn du nur ein fertiges Modell über eine API ansprechen willst, ist Modal Overkill. Dafür nimmst du Replicate oder Together AI, da klickst du ein Modell an statt eine Funktion zu schreiben. Und bei GPU-Last solltest du den Verbrauch im Auge behalten, per-Second klingt günstig, ein langes Training summiert sich trotzdem.

Alternativen

• Replicate — wenn du ein Modell als fertige API willst, ohne eigenen Code drumherum.
• Together AI — offene Modelle als gehosteter Inference-Endpoint, fertig zum Anfragen.
• Railway — wenn du eine normale Web-App deployst und kein GPU-Compute brauchst.
• Hugging Face — zum Finden und Teilen von Modellen, bevor dein Code sie verarbeitet.

Beispiel-Workflow

Modal ist selten die ganze App, eher der schwere Motor dahinter. Ein typisches Setup:

1. Ein Modell von Hugging Face ziehen und in eine Modal-Funktion packen, die es mit GPU lädt.
2. Deine Daten in Batches durch die Funktion schicken. Modal fächert das über viele Container auf, jeder rechnet ein Stück.
3. Das Frontend liegt auf Vercel, drückt per API-Call den Job bei Modal an und zeigt das Ergebnis an, wenn es zurückkommt.

Pricing

Pay-per-use, abgerechnet pro Sekunde. Der Starter-Plan ist kostenlos und kommt mit 30 $ Gratis-Credits pro Monat, danach zahlst du nur die genutzte Compute. GPU-Sekunden hängen an der Karte: T4 rund 0,00016 $/s, A100 (80 GB) rund 0,0007 $/s, H100 rund 0,0011 $/s, CPU und RAM werden separat pro Sekunde berechnet. Der Team-Plan liegt bei 250 $/Monat plus Compute. Für Studis interessant: Modal hat ein Academic-Programm mit bis zu 10.000 $ Compute-Credits für Studierende, Labs und Forschende. Aktuelle Zahlen stehen auf der Pricing-Seite, die kann sich ändern.

Passt zu dir, wenn du Python kannst und eigenen ML- oder Datencode mit GPU laufen lassen willst, ohne selbst Server zu betreiben.