Cedana

Informazioni

Cedana (YC S23) porta nei workflow AI le capacità di orchestrazione degli hyperscaler e dei laboratori di frontiera. Il suo punto di forza è la live migration dei carichi di lavoro su CPU e GPU, che fa risparmiare fino all'80% dei costi, accelera di 2-10 volte il time to first token e garantisce l'affidabilità stateful dei job di training anche in caso di guasti catastrofici delle GPU. La soluzione è integrata in K8s e supporta Kueue e Slurm per i job di training distribuiti e Kserve per l'inferenza.

OpenAI, Meta e Microsoft hanno al loro interno varianti di queste funzionalità: noi le rendiamo accessibili a tutti.

La nostra visione è trasformare il calcolo in cloud in una commodity scambiata in tempo reale, con logiche di arbitraggio.

https://www.cedana.ai

Temi