Cedana
IA rápida, fiável e reproduzível com migração em direto de GPU
Sobre
A Cedana (YC S23) traz para os fluxos de IA as capacidades de orquestração dos hyperscalers e dos laboratórios de ponta. O núcleo é a migração em direto de cargas de trabalho em CPU e GPU, que permite poupar até 80% nos custos, acelera 2 a 10 vezes o tempo até ao primeiro token e garante a fiabilidade, com estado, dos treinos mesmo perante falhas catastróficas de GPU. Integrámos a solução no K8s e suportamos o Kueue e o Slurm para treino distribuído e o Kserve para servir inferência.
A OpenAI, a Meta e a Microsoft têm versões destas capacidades internamente; nós estamos a levá-las a toda a gente.
A nossa visão é transformar a computação na cloud numa mercadoria transacionada em tempo real, com arbitragem.
https://www.cedana.ai
Temas
- Localização
- Nova York, NY, Estados Unidos
- Equipe
- 5 funcionários
- Turma da YC
- Summer 2023
- Status
- Ativa
- Estágio
- Estágio inicial
