Cedana

Über das Unternehmen

Cedana (YC S23) bringt die Orchestrierungsfähigkeiten von Hyperscalern und Frontier-Labs in KI-Workflows. Kern ist die Live-Migration von CPU- und GPU-Workloads. Das spart bis zu 80 % der Kosten, beschleunigt die Time to First Token um das Zwei- bis Zehnfache und hält Trainingsjobs zustandserhaltend am Laufen – selbst bei katastrophalen GPU-Ausfällen. Unsere Lösung ist in K8s integriert und unterstützt Kueue und Slurm für verteilte Trainingsjobs sowie KServe für Inferenz.

OpenAI, Meta und Microsoft haben solche Fähigkeiten intern in verschiedenen Varianten – wir machen sie für alle verfügbar.

Unsere Vision: Cloud-Rechenleistung zu einer in Echtzeit handelbaren Ware zu machen.

https://www.cedana.ai

Themen