Cedana

Om virksomheden

Cedana (YC S23) giver AI-workflows samme orkestreringsmuligheder som hyperscalere og frontier-laboratorier. Kernen er live-migrering af workloads på CPU'er og GPU'er. Det giver besparelser på op til 80 %, gør time to first token 2-10 gange hurtigere og sikrer, at træningsjob bevarer deres tilstand selv gennem katastrofale GPU-nedbrud. Løsningen er integreret i K8s og understøtter Kueue og Slurm til distribuerede træningsjob samt Kserve til inferens.

OpenAI, Meta og Microsoft har varianter af disse funktioner internt, og vi gør dem tilgængelige for alle.

Vores vision er at gøre cloud-computing til en realtidshandlet råvare med arbitrage.

https://www.cedana.ai

Emner